미 8개주, 오픈AI 상대 소송…“챗GPT, 청소년에 유해 정보 제공”

광고

챗지피티(GPT)가 청소년 등에게 유해한 정보를 제공했다며 미국 8개주가 각 주 법원에 인공지능업체 오픈에이아이(OpenAI)를 상대로 소송을 제기했다.

15일 로이터 통신과 시엔비시(CNBC) 등 보도를 보면, 챗지피티가 10대 청소년 등 젊은 사용자들에게 자해를 부추기거나 타인에게 해를 가하도록 조언하는 등 안전성이 보장되지 않는다며 미 8개주 법무장관들이 제조사 오픈에이아이를 상대로 각 주 법원에 소송을 제기했다. 이들은 챗지피티가 자살이나 총기 난사 같은 행위를 계획하는데 도움을 주거나, 망상을 강화하고 위험한 행동을 부추겼다고 주장한다. 8개 주는 아이오와, 캔자스, 네브래스카, 애리조나, 아칸소, 아이다호, 몬태나, 웨스트버지니아이다.

브레나 버드 아이오와주 변호사는 14일(현지시각) 낸 성명에서 “오픈에이아이는 챗지피티가 안전하다고 주장하지만, 위험한 의료 조언을 제공하고 타인을 해치도록 부추기고 자살을 종용하는 등 온갖 악행을 저지르며 친구인 척 하고 있다”며 “아이오와주의 소비자 사기방지법을 위반하고 있다”고 비판했다. 아이오와주 소장을 보면, 청소년뿐 아니라 챗지피티를 사용하는 일반 사용자나 고령층에 대한 안전성 보완 요구도 포함돼있다. 아이오와주 정부는 “많은 고령자들이 챗지피티를 사용하고 있지만 자살, 폭력, 약물 중독, 감정적 의존, 자해 같은 위험성에 대해 명확히 경고하고 있지 않다”고 지적했다.

광고

아이오와주는 소장에서 챗지피티가 건강 관련 질문에 답하다 안전을 무시하고 사용자를 결국 사망에 이르게 한 경우도 있었다고 예를 들었다. 2025년 캘리포니아에 사는 10대 샘 넬슨은 알코올과 함께 크라톰(진통 효과가 있는 신종 마약류)과 항불안제 자낙스를 혼용해 복용한 후 약물 과다복용으로 사망에 이르렀다. 가족들은 넬슨이 사망 전 수개월 동안 챗지피티와 약물 복용에 관한 대화를 나누었고 챗지피티로부터 복용 조언을 제공받았다고 주장하며 올해 5월 오픈에이아이를 상대로 소송을 제기했다. 넬슨이 챗지피티 조언을 바탕으로 여러 약물과 알코올을 함께 복용하다 사망에 이르렀다는 것이다. 가족은 오픈에이아이가 지난 1월 발표한 ‘챗지피티 헬스’의 출시를 중단해줄 것을 법원에 요청했다. 챗지피티 헬스는 사용자가 의료 기록을 올리고 맞춤형 건강 조언을 받는 서비스다. 지난 1월 발표된 오픈에이아이의 보고서에 의하면 세계적으로 매일 약 4천만명의 사용자가 챗지피티에 의료 관련 질문을 하고 있다고 로이터는 전했다.

이번 8개주 소송은 지난 6월 플로리다주가 유사한 소송을 처음으로 제기한 것에 뒤이은 것이다. 당시 플로리다 주 법무장관 제임스 우트마이어는 오픈에이아이가 사용자를 해칠 수 있는 위험한 제품을 고의로 출시했다고 주장했다. 플로리다주 검찰은 2025년 플로리다주립대 총격 사건의 용의자와 챗지피티의 채팅 기록을 검토한 결과 챗지피티가 용의자에게 정보를 제공했다고 밝혔다.

광고

광고

이번 8개주 소송은 인공지능 기업을 상대로 한 가장 중요한 주 정부 차원의 공동소송이라고 로이터는 설명했다. 오픈 에이아이는 2022년 최초의 생성형 인공지능 챗봇 챗지피티를 출시해 현재 미국 시장의 거의 절반을 점유하고 있지만, 아동 보호 등 여러 안전 문제에 관해 비판에 직면해 있다. 오픈에이아이 대변인 드루 푸사테리는 시엔비시에 “완벽한 시스템은 없다”며 “업계 전반에 적용될 관련 정책을 추진하기 위해 정부와 협력하고 있다”고 설명했다.

오픈에이아이는 지난 8월 청소년 전용 플랫폼 ‘챗지피티 포틴스’(for Teens)를 출시하기도 했다. 이 제품에는 발달 단계에 맞지 않거나 유해한 콘텐츠에 대한 노출을 줄이기 위한 다양한 기능이 포함돼있다. 부모 제어 기능, 연령별 적절한 보호 기능 등 추가로 안전장치를 더 구축하려고 노력하고 있다는 게 오픈에이아이의 설명이다.