“10억불 피해·50명 사상 아니면 놔둬라”…앤트로픽, 미 AI 규제안 제안

광고

앤트로픽이 10억달러(약 1조3000억원)를 초과하는 재산 피해나 50명이 넘는 사상자가 발생할 수 있는 위험이 임박한 경우에만 정부가 인공지능(AI) 모델의 출시나 사용을 차단할 수 있도록 하는 내용의 법안 초안을 미 의회에 제안했다는 보도가 나왔다.

미 정치 전문매체 폴리티코는 16일(현지시각) 관련 논의에 정통한 세 명의 소식통을 인용해 앤트로픽이 이런 내용을 담은 최첨단(프런티어) 인공지능 안전 규제 법안을 의원들에게 제안했다고 전했다.

광고

법안에 따르면, 미 정부는 인공지능이 10억달러를 초과하는 피해나 50명 넘는 사람을 사망 또는 중상에 이르게 할 수 있는 예측 가능하면서도 임박한 위험을 초래하는 경우에만 해당 모델의 출시나 사용을 막을 수 있다. 또 이러한 위험은 △생물학 무기 제작·공개 △개발자의 통제를 벗어난 행위 △사이버 공격에서 비롯한 경우로 한정된다.

이 기준대로라면 지난 7월 이후 드러난 오픈에이아이(AI)와 앤트로픽의 인공지능 비서(에이전트) 보안 사고는 피해 규모와 위험 요건을 충족하지 못해 규제 대상에서 제외될 가능성이 크다.

광고

광고

법안에는 상무부에 등록한 독립 평가기관이 인공지능 개발 연구소와 최첨단 모델을 정기적으로 평가하도록 하는 내용도 담겼다. 평가기관이 특정 기업의 모델에 ‘명시된 임박한 위험’(imminent enumerated risk)이 있다고 판단하면, 평가 종료 뒤 72시간 안에 상무부에 보고해야 한다.

상무부는 위험을 초래할 수 있는 모델의 출시를 중단해 달라고 법원에 요청할 수 있다. 반면 상무부를 제외한 다른 연방 부처나 기관, 공직자는 인공지능 모델의 개발·배포·내부 사용을 중단시킬 수 없도록 하는 내용도 명시됐다.

광고

아울러 법안은 위험 공시와 제3자 평가, 중대 사고 보고 등을 규정한 일부 주의 인공지능 안전 규제 효력을 제한하는 내용도 담고 있다. 그동안 테크업계는 주마다 서로 다른 인공지능 규제가 기업의 법 준수를 어렵게 한다며 연방정부 차원의 단일 규제 체계를 마련해야 한다고 요구해 왔다.

앤트로픽 대변인은 “이 법안은 지난 6월부터 연방 및 주 의원들에게 촉구해 온 앤트로픽의 ‘첨단 인공지능 프레임워크’에 명시된 제안들을 담고 있다”며 “의회가 조속히 처리해야 할 합리적인 정책들”이라고 밝혔다.

한편, 앤트로픽 공동창업자인 잭 클라크 공공이익 담당 총괄은 17일(현지시각) 태국 방콕에서 열린 국제통화기금(IMF)·세계은행 연례총회에서 인공지능 기술 발전이 지속하면 미국의 국내총생산(GDP)이 2030년까지 약 50% 늘어난 44조달러(약 5경8800조원)에 달할 것이란 전망을 내놓았다.