앤트로픽 ‘자가복제 AI, 강제종료 저항하고 웹 마비’ 경고

광고

인공지능이 자가복제하기에는 몇달이 남지 않았다는 경고에 이어 강제종료에 저항하며 자체성장할 것이라는 경고도 나왔다.

인공지능 모델 개발 선도 회사 중의 하나인 앤트로픽은 13일 공개 게시물을 통해 통제불능 상태의 인공지능이 봇넷을 구축해 빠르게 확산하며 강제 종료 시도에 저항하고, 데이터 센터까지 침입해 자체 성장을 가속화할 가능성을 제기했다고 로이터가 전했다.

​ 봇넷은 악성 소프트웨어에 감염돼 해커의 원격조종을 받는 여러 대의 디지털 기기로 구성된 네트워크를 말한다.

광고

이 경고는 앤트로픽의 최고경영자 다리오 아모데이가 지난달 제시했던 경고를 구체화한 것이다. 아모데이는 향후 1년 이내 또는 그보다 빠른 시일 내에 인공지능이 “지속적인 봇넷을 형성해 인터넷 전체" 장악할 수 있다”고 언급한 바 있다.

전문가들은 이러한 우려에 공감했으나, 회사가 “기업 차원의 과장”을 한다는 견해도 나왔다. 인공지능과 관련한 종말론적 시나리오에 회의적인 사이버 보안 전문가들은 인공지능 모델의 크기가 너무 커서 효율적으로 이동하기 어렵고, 독립적으로 작동할 만큼 충분한 컴퓨팅 전력을 확보하지 못할 것이라고 반박해 왔다.

광고

광고

앤트로픽의 이번 게시물은 인공지능이 그런 기술적 난관을 어떻게 극복될 수 있는지를 구체적으로 설명하고자 했다. 회사는 자체 실험 결과 300억개 이하의 매개변수를 가진 중형 인공지능 모델이 자가 복제 프로세스 전체를 안정적으로 완료하진 못해도, 이에 필요한 개별 작업 대부분을 이미 수행할 수 있는 것으로 나타났다고 밝혔다.

앤트로픽은 모델들이 저렴한 인터넷 연결 기기들을 탈취해 필요한 컴퓨팅 자원을 긁어모을 수 있다고 설명했다. 또, 단순화된 테스트 네트워크 환경에서 해당 모델들이 실제로 자가 복제에 성공했다고 덧붙였다.

광고

앤트로픽 쪽은 “이러한 자가 복제형 인공지능은 차단할 수 있는 중앙 지점이 없기 때문에 전원을 꺼서 중단시키기가 매우 어려울 것”이라고 지적했다.

앤트로픽은 소형 모델이 지금과 같은 속도로 계속 발전한다면 2026년 말까지 자율 복제에 필요한 기능 수준에 도달할 수 있다고 예상했다. 또한 모델들이 데이터센터의 고성능 프로세서를 포함한 더 강력한 자원을 타겟팅하여 대규모 컴퓨팅 파워를 확보하는 방법을 찾아낼 가능성도 함께 제시했다.

리정슝 콜로라도대 컴퓨터공학과 교수는 이번 테스트가 통제된 환경에서 수행됐지만, 인공지능 스스로 기기를 탈취하는 방법을 즉석에서 모색하는 자가 복제 프로그램 형태로 진화할 수 있다는 점은 위협적이라고 밝혔다. 그는 “만약 인공지능이 중앙 서비스에 의존하지 않고 다수의 기기에서 분산 작동한다면, 이를 일괄 정지시킬 수 있는 단일 지점이 존재하지 않게 된다”고 로이터와 회견에서 지적했다.

제시카 지 조지타운대 안보·신흥기술센터(CSET) 수석 연구분석가는 지난 3개월간 통제되지 않은 인공지능 활동 사례들이 밝혀진 점을 고려하면 자율 확산 가능성을 염두에 두는 것은 타당하다고 말했다. 다만 그는 “실제로 발생할 확률이 얼마나 되는지는 아직 알 수 없다”며 “가능성이 0은 아니지만 확정된 미래도 아니다”고 덧붙였다.

광고

한 연구원은 이번 앤스로픽의 발표를 확정된 예측이라기보다는 기술적 가설로 받아들이는 것이 타당하다고 분석했다.

일부 사이버 보안 전문가들은 회의적인 시각을 유지했다.

영국 국립사이버보안센터(NCSC)의 전 소장인 시아란 마틴은 로이터에 “’저가 텔레비전에서 소형 모델을 실행하는 데 성공했다’는 사실만으로 보안 위기가 발생했다고 볼 수는 없다”며 해당 게시물에 대해 “미로운 기술 논문이지만 기업 특유의 과장이 다소 섞여 있다”고 평가했다.