텐센트 AI 책임자 경고 “AI가 머지않아 생물학 완전 장악”

인공지능(AI)이 머지않아 생물학 분야를 통달해 인류에게 이점과 더불어 심각한 위험을 안겨줄 것이라는 경고가 나왔다. AI가 신약 및 새로운 치료법 발견을 가속할 수 있지만, 생물학 무기 제조나 새로운 팬데믹을 촉발할 위험도 있다는 것이다.

8일(현지시간) 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 텐센트 홀딩스의 수석 AI 과학자이자 전 오픈AI 연구원 빈스 야오 슌위는 최근 한 과학 심포지엄에서 “AI의 사이버 능력과 생물학적 능력이 실제로 피해를 줄 수 있는 임계점에 도달할 것”이라고 말했다. 그는 이어 “모든 중국 기업이나 오픈소스 AI 기업들은 이러한 보안 및 안전 문제에 대해 매우 책임감 있고 진지한 태도를 가져야 한다”고 강조했다.

이 같은 경고는 텐센트가 과학 연구를 자동화하는 AI의 잠재력을 탐구하는 시점에 나왔다. 텐센트는 최근 플래그십 모델인 ‘Hy4’를 출시했다. AI 벤치마킹 기관인 아티피셜 어낼리시스에 따르면 이 모델은 중국 내에서 개발된 모델 중 두 번째로 우수한 성능을 기록했다.

야오 과학자는 복잡한 실험을 처음부터 끝까지 수행하기 위해 AI를 활용하는 ‘자율 과학 연구소’ 운영 계획을 설명했다. 그는 “모든 기술적 변화는 시간문제일 뿐 결국 해결될 수 있다고 생각한다”며 “더 큰 과제는 사회적, 조직적 차원의 문제”라고 했다.

생물학은 글로벌 사이버 보안에 큰 파장을 일으킨 코딩에 이어 AI의 다음 주요 개척지가 될 것으로 전문가들은 보고 있다.

텐센트는 Hy4의 사이버 방어 능력은 유지하되 사이버 해킹 능력은 제거했다고 밝혔다. 또한 기초적인 생물학 지식을 실행 가능한 프로토콜로 전환하는 역량이 아직 부족하기 때문에 Hy4의 생물학적 능력은 고위험 임계치에 훨씬 못 미치는 수준이라고 덧붙였다.

그럼에도 불구하고 야오 과학자는 중국과 미국 모델 간의 격차가 크지 않다는 점을 언급하며 업계 전반에 주의를 촉구했다. 그는 AI의 생물학적 능력이 사이버 능력보다 관리하기 더 복잡할 수 있다고 경고했다.

핵심 쟁점 중 하나는 중국의 오픈소스 접근 방식이 오픈AI나 앤스로픽처럼 폐쇄형 접근 방식보다 AI 보안 측면에서 더 나은지 여부다. 앤스로픽 등 미국 기업들은 중대한 사회적 피해를 방지하기 위해 최첨단 AI 모델을 철저히 폐쇄형으로 유지해야 한다는 주장을 펼쳐왔다. 반면 야오 과학자는 중국의 오픈소스 방식 역시 방어력을 강화하는 데 도움이 될 수 있다고 반박했다.

오픈형·폐쇄형에 대한 입장 차이는 남아있지만, 최첨단 AI 위험성에 대한 우려는 합치되어가는 모습이다. 지난주 텐센트, 화웨이, 알리바바 등 중국 빅테크 기업들은 세계인터넷대회(WIC)에서 발표된 최첨단 AI 안전 보고서 작성에 참여했다. 해당 보고서는 병원체 설계와 같은 작업에서 AI 시스템의 역량이 향상되면서 “주요 공중 보건 위험을 잠재적으로 초래하고 있다”고 지적했다.

텐센트는 사이버 및 생물학적 안전성 평가를 상세히 담은 ‘종합 시스템 카드’와 함께 Hy4의 가중치(핵심 매개변수)를 공개할 것이라고 약속했다.

중국 정부 역시 최첨단 AI 위험에 대한 조사를 강화하고 있다. 지난달 리치장 중국 군축대사는 유엔(UN)에서 AI와 생물·화학 기술의 융합이 심화되면서 “테러 공격의 진입 장벽을 낮추고 있다”고 경고했다. 이달 아시아태평양경제협력체(APEC) 정상회의에서 진행될 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 회담에서도 AI 문제가 주요 의제로 다뤄질 것으로 보인다.

• Q. AI 생물학 기술 확산의 국제적 파급 효과는?
• Q. AI 기반 생물학 연구 경쟁이 심화되는 배경은?

에디터 픽 추천기사

• 급락장에 퇴직연금도 안전자산으로…투자형 비중 3년 만에 감소

• 3분기 60세 이상 상용근로자 17만명 '쑥' … 청년층은 뒷걸음

• 2029년부터 코인 손해·이익 합산해 과세

• “고객님, 원가 너무 올라서” 하며 가격 올리더니 … 재료값 떨어져도 그대로?

• 세금 더 내도 손주에게 … 미성년에 물려준 부동산, 1.4조 육박

나만의 AI 비서

핵심요약 쏙

AI 요약은 OpenAI의 최신 기술을 활용해 핵심 내용을 빠르고 정확하게 제공합니다.
전체 맥락을 이해하려면 기사 본문을 함께 확인하는 것이 좋습니다

인공지능(AI)의 발전이 생물학 분야에 이점을 가져올 것으로 기대되지만, 생물학 무기 제작이나 팬데믹 촉발과 같은 심각한 위험도 내포하고 있다는 경고가 제기됐다.

텐센트의 수석 AI 과학자 빈스 야오 슌위는 AI의 생물학적 능력이 사이버 능력보다 더 복잡하게 관리될 수 있음을 강조하며, 중국과 미국 간의 AI 모델 간 격차가 크지 않다고 언급했다.

중국 정부는 AI와 생물·화학 기술의 융합으로 인한 테러 위험 증가를 우려하며 조사와 논의를 강화하고 있다.