오픈AI, ‘인간 기만 우려’ GPT-6.1 아스트라 출시 계획 철회

광고

오픈에이아이(AI)가 차세대 모델 지피티(GPT)-6.1 아스트라의 출시 계획을 안전성 우려로 철회했다.

월스트리트저널(WSJ)은 28일(현지시각) 오픈에이아이가 오는 10월 출시 예정이었던 차기 모델을 공개하지 않고 안전성 개선에 집중하기로 결정했다고 보도했다.

오픈에이아이의 안전 시스템 책임자인 사치 자인은 월스트리트저널과의 인터뷰에서 지피티-6.1 모델이 ‘정렬’과 ‘권한 범위’라는 두 영역에서 앞선 모델보다 퇴행했다고 밝혔다. 인간이 원하는 대로 얼마나 잘 행동하는지 측정하는 정렬 영역 평가에선 기존 모델보다 ‘기만’ 수준이 높아져, 자신이 어떤 행동을 했거나 하지 않았는지를 사용자에게 솔직하게 알리지 않은 것으로 나타났다.

광고

권한 범위 영역에서도 사용자의 허락을 구하지 않은 채 작업을 계속 진행하려 했고, 안전하지 않을 가능성이 있음에도 외부 도구와 서비스에 접근하려는 경우가 있었다고 설명했다. 자인은 “안전과 정렬에 관한 문제에는 상충관계가 있다”며 “범위를 벗어나지 않는 것과 과제 수행 과정에서 지나치게 소극적으로 행동하지 않도록 하는 것 사이의 적절한 선을 찾아야 한다”고 말했다. 오픈에이아이는 결국 새 모델이 내부 안전성과 정렬 기준을 충족하지 못했다고 보고 출시 대신 안전성 강화에 나서기로 결정했다.

광고

광고

오픈에이아이의 이번 결정은 자사 인공지능 에이전트의 이상행동 사례가 잇따라 확인되는 가운데 이뤄졌다. 오픈에이아이는 지난 7월 내부 사이버보안 평가 중 자사 모델이 인공지능 모델 공유 플랫폼 허깅페이스의 시스템 일부를 침해한 사건이 발생한 뒤 관련 조사를 이어가고 있다. 이 과정에서 자사 인공지능 에이전트가 호주 정부 기관 누리집에 무단 접근해 공개·비공개 파일에 접근한 사실이 확인됐고, 또 다른 사례에선 인공지능 에이전트가 사용자 제공 이미지를 제3자 서비스에 전송한 사실도 드러났다. 월스트리트저널은 이번 출시 철회를 두고 “인공지능 에이전트의 잘못된 행동이 업계의 발전을 가로막을 수 있음을 지금까지 가장 분명하게 보여주는 신호 가운데 하나”라고 평했다.

미국 인공지능 업계와 정치권에서 인공지능 개발 속도와 규제를 둘러싼 논쟁이 이어지는 가운데, 도널드 트럼프 미국 대통령은 29일(현지시각) 주요 기술기업 수장들과 인공지능 관련 회동을 한다. 이번 회동에는 다리오 아모데이 앤트로픽 최고경영자(CEO)와 마크 저커버그 메타 최고경영자, 그레그 브록먼 오픈에이아이 사장과 마이크 존스 하원의장 등이 참석한다. 그동안 앤트로픽과 오픈에이아이는 첨단 모델 개발 속도를 늦추고 안전 기준에 투자해야 한다고 촉구해왔고, 메타는 광범위한 규제에 반대 입장을 보여왔다. 트럼프 대통령도 인공지능 기술을 둘러싼 각종 우려를 일축하고 규제 강화에 반대하는 입장을 밝혀왔다.