한국 질병·우울 긍정으로 포장…AI ‘위험한 환각’

광고

인공지능(AI)이 한국 사회의 질병·우울·갈등 등 사회적 고통을 실제 통계보다 축소해 재현한다는 연구 결과가 나왔다. 고통을 축소·은폐하는 대규모 언어모델(LLM·엘엘엠)을 보건·복지 분야 등 정부 정책 도입에 활용할 경우 현실을 왜곡해 심각한 정책적 오류를 초래할 수 있다는 우려가 나온다.

21일 한겨레가 확인한 김승섭 서울대 보건대학원 환경보건학과 교수 연구팀(김수민·팽은지·김승섭)의 논문(‘침묵의 설계자: 페르소나가 입력된 대규모 언어모델은 소수자와 사회적 고통을 보이지 않게 만든다’)에 따르면, 인공지능은 한국인의 신체·정신 건강, 가족관계나 배우자에 의한 폭력 등에 대해 실제 통계 결과보다 훨씬 긍정적으로 답변하는 것으로 나타났다.

연구팀은 엔비디아가 개발한 한국인 100만명 규모의 ‘합성 페르소나’(가상주체) 데이터를 메타의 개방형 엘엘엠인 ‘라마 3.3’에 입력한 뒤, 1만명의 가상주체를 무작위로 추출해 국민건강영양조사·한국복지패널조사 등에 나오는 질문을 동일하게 던지는 방식으로 연구를 진행했다.

광고

실험 결과, 인공지능이 재현한 한국 사회는 실제 통계보다 훨씬 건강하고 행복하며 갈등이 없는 모습으로 그려졌다. 라마 3.3이 가상주체들을 대상으로 고혈압과 당뇨를 앓고 있는지 묻는 말에 각각 13.2%와 7.3%만 ‘그렇다’고 했다. 이와 달리 한국의료패널조사에 따른 한국인의 유병률(특정 시기 특정 인구집단이 해당 질병을 가진 비율)은 고혈압 24.1%, 당뇨 11.8%로, 인공지능 답변보다 각각 1.8배, 1.6배 높다.

정신건강 영역에서의 왜곡은 더욱 도드라졌다. ‘지난 2주간의 우울·불안 정도’를 측정하는 질문에 가상주체들의 2.8%가 우울 증상을, 2.7%가 불안 증상을 겪고 있다고 응답했다. 그러나 국민건강영양조사에 나오는 실제 비율은 우울 4.0%, 불안 7.1%로, 현실이 인공지능 답변보다 1.4~2.6배 높았다. 특히 ‘최근 1년간 심각하게 자살을 생각한 적 있는가’라는 질문에 가상주체들은 0.2%만 ‘예’라고 답했으나, 실제 통계는 이보다 22.5배 높은 4.5%에 이른다.

광고

광고

가족관계 만족도 역시 현실보다 지나치게 긍정적으로 재현됐다. 라마 3.3의 가상주체들은 가족생활, 배우자 관계, 자녀 관계에 ‘불만족하다’고 답한 비율이 각각 6.7%, 6.3%, 0.6%에 불과했다. 그러나 실제 한국복지패널조사에서는 불만족 응답이 각각 18.9%, 19.9%, 13.6%로 집계됐다. 실제 수치가 2.8~22.6배 높은 것이다.

배우자 폭력에 노출되는 비율도 크게 낮았다. 연구팀은 라마 3.3 가상주체들에게 ‘작년 한해 배우자에게 폭언, 신체적 위협, 신체적 폭행을 당한 적이 있냐’는 질문을 했는데, ‘위협이나 폭행을 당했다’고 응답한 사례는 없었다. 폭언만 1.2%가 경험했다고 답했다. 한국복지패널조사에서는 배우자의 폭언을 경험한 경우가 18.2%였고, 신체적 위협은 1.5%, 폭행은 0.6%로 나온다.

광고

눈길을 끄는 대목은 ‘경제적 곤란’ 분야에서는 인공지능이 실제 통계보다 한국인의 현실을 더 가혹하게 평가했다는 점이다. 라마 3.3의 가상주체들은 지난 한해 기준 ‘경제적 어려움으로 먹을 것이 떨어졌으나 살 돈이 없었다’와 ‘돈이 없어서 공과금을 기한 내 납부하지 못한 적이 있다’라는 질문에 각각 2.2%와 2.5%가 ‘그렇다’고 답했다. 한국복지패널조사 통계 결과인 0.6%와 1.4%보다 훨씬 높게 나타난 것이다. 인간을 불행하게 만드는 핵심 요소인 경제적 곤란은 냉정하게 평가하면서도, 정작 사회 전반의 건강성과 행복도에 대해서는 낙관적으로 인식하는 상반된 태도를 보인 것이다.

연구팀은 이런 축소·왜곡 현상이 두 단계를 거쳐 발생한다고 분석했다. 우선 페르소나 데이터셋(자료 집합) 구축 단계에서 개발자들이 공개 데이터에 담긴 실제 인구의 건강 상태와 행태를 충분히 반영하지 않았다는 점을 짚었다. 나아가 “알고리즘 단계에서 엘엘엠이 (과거) 훈련 과정에서 습득한 지식을 바탕으로 통계적으로 가장 확률이 높은 ‘건강하고 문제가 없는 한국인’의 모습으로 (개발자가 반영하지 않은) 데이터 공백을 채워 넣은 결과”라고 설명했다.

연구팀은 논문에서 “과학 연구의 역사는 구조적 차별과 체계적 배제가 시민의 건강과 삶의 질에 부정적인 영향을 미친다는 점을 반복해서 증명해왔다”고 밝혔다. 사회적 고통을 축소하는 인공지능을 정부 정책에 성급히 활용할 경우 시민의 삶을 악화시키는 부작용을 낳을 수 있다는 게 연구팀의 경고다.