앤트로픽, 독립 안전평가기관에 액센추어 지정…직원수준 접근권

이미지 확대

(샌프란시스코=연합뉴스) 권영전 특파원 = 앤트로픽이 다리오 아모데이 최고경영자(CEO)가 필요성을 강조한 상주 독립 안전 평가기관을 지정했다.

앤트로픽은 회사 내에 상주하며 AI 안전성을 평가할 외부 기관으로 자문 업체 액센추어를 지정했다고 18일(현지시간) 발표했다.

이에 따라 액센추어의 AI 전문 사업부 '패큘티' 소속 평가단은 앤트로픽 임직원과 유사한 수준의 시스템 접근권을 부여받아 개발 중인 모델에 대한 적대적 공격 등 시험을 수행하고, AI 안전성을 감시하게 된다.

양사는 이와 같은 안전 역량 구축을 위해 향후 5년간 각각 최소 10억 달러(약 1조3천900억원)를 투입할 계획이다.

앤트로픽은 아직 평가자들이 접근할 수 있어야 하는 정보의 범위나 보고 방식 등에 대한 기준도 없고, 평가를 위한 자금 조달과 관련한 체계도 확립되지 않았다고 털어놨다.

앤트로픽은 장기적으로 AI 안전 평가를 위한 자금이 업계 공동의 기금이나 정부 예산으로 조달돼야 한다고 생각한다면서도, AI 안전 평가의 중요성과 시급성을 고려해 이번 액센추어의 작업에는 직접 자금을 지원할 방침이라고 밝혔다.

이번 파트너십은 비독점 계약으로 진행된다. 이에 따라 앤트로픽은 몇 주 내에 다른 평가기관과의 협력도 발표할 예정이며, 액센추어도 마찬가지로 다른 AI 개발사와 협력할 수 있다.

앤트로픽은 비영리 기관인 '모델 평가·위협 연구소'(METR) 등과도 협의를 진행하고 있다.

앤트로픽은 "독립 상주 평가자가 있다고 해서 우리 책임이 줄어드는 것은 아니다"라며 "모델 안전성에 대한 책임은 여전히 우리에게 있다"고 강조했다.

독립 상주 평가자는 그와 같은 자사의 책임을 검증할 수 있게 만드는 데 도움을 줄 뿐이라고 설명했다.

앞서 아모데이 CEO는 AI 개발 속도 조절을 주장하며 외부 독립 평가자가 AI 기업의 최첨단 모델을 감시하도록 하자는 아이디어를 냈다.

AI 독립평가 수행기관들의 모임인 'AI 평가자 포럼'(AI Evaluator Forum) 컨소시엄은 'AI 대부'로 불리는 노벨 물리학상 수상자 제프리 힌턴 토론토대 명예교수를 비롯해 100여 명의 학계 등 전문가들이 서명한 서한을 이날 공개해 상주 독립 평가자의 필요성을 강조한 바 있다.

comma@yna.co.kr

제보는 카카오톡 okjebo <저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지> 2026년09월19일 08시59분 송고