“AI 조언 따라 퇴사에 이별도”…‘AI 이용 가이드라인’ 나왔다

광고

챗지피티 등 생성형 인공지능(AI) 이용자 10명 중 7명이 AI를 일상 대화와 심리상담 등 정서적 목적으로 이용하는 것으로 나타났다. 정부는 인공지능 과의존을 예방하고 부작용을 최소화하기 위한 ‘AI 이용 가이드라인’을 내놨다.

8일 한국보건사회연구원이 지난 8월25일∼9월4일 생성형 인공지능 이용자 1019명(15~79살)을 대상으로 진행한 설문조사 결과를 보면, 응답자의 81.3%는 과제·업무, 정보 검색, 지식 습득 등의 목적으로 생성형 인공지능을 처음 접하고 이용했다. 응답자의 68.8%는 일상 대화, 감정적 교감∙위로, 정신건강·심리상담 등 정서적 목적으로도 이용한다고 응답했다. 10명 중 7명이 정보 검색 외에도 고민 상담 등 대화 상대로 생성형 인공지능을 이용하고 있는 것이다. 특히 15∼18살 청소년의 경우 심리 상담 등 정서적 목적으로 생성형 인공지능을 사용한다는 응답자가 69.2%로 전체 응답자(68.8%)보다 0.4%포인트 높았다.

생성형 AI의 답변이나 조언으로 도움을 받거나 문제를 해결한 경험이 있는 응답자는 79.9%였다. AI와 대화를 중단하기 어려운 경험을 한 사람은 16.3%로 나타났다. 이용 조절의 어려움을 느끼는 경우로는 ‘현실의 일에 집중하려 해도 대화를 계속 이어가게 된다’(16.3%), ‘대화 시간을 조절하지 못해 수면이나 일상생활에 방해를 받은 적이 있다’(9.8%)는 응답이 많았다. ‘AI의 조언을 바탕으로 퇴사·이별 등 중요한 결정을 내린 적이 있다’는 응답자도 10.6%였다.

광고

보건복지부와 대한신경정신의학회는 생성형 AI 이용에 따른 정신건강의 부정적 영향을 최소화하고 안전한 활용을 지원하기 위해 ‘인공지능 이용 가이드라인’을 내놨다. 모든 연령대 이용자를 위한 가이드라인과 아동·청소년의 이용 특성을 고려해 아동·청소년과 보호자를 위한 가이드라인 2종을 마련했다.

모든 연령대 이용자를 위한 가이드라인의 핵심 메시지는 ‘마음 이야기를 시작하기 전에 미리 살피고 미리 정하라는 것’이다. 가이드라인은 생성형 인공지능의 서비스 목적·대상·효과의 근거와 개인정보 처리방식을 확인할 것, 이름·연락처·주소 등 개인정보와 진단서·처방전·검사결과지 등 민감한 자료는 입력하지 말 것을 안내하고 있다. 또한 대화의 범위와 종료 시점을 미리 정할 것도 안내한다.

광고

광고

가이드라인은 ‘내 상태에 대한 AI의 말을 결론으로 삼지 말 것’도 권고한다. 보건사회연구원 설문조사를 보면 AI의 답변을 의학적 진단처럼 받아들인 경험이 14.6%, AI가 사실이 아니거나 해로운 조언을 확신에 찬 어조로 답해 전문가로 착각한 경험이 16.5%로 나타났다. 이에 가이드라인은 AI의 정신건강 진단이나 위험도 평가를 확정적인 의학적 판단으로 받아들이지 말고 다른 가능성과 관점을 함께 확인하도록 권고했다. 복지부는 내년에는 중증정신질환자를 포함한 고위험군의 특성을 고려한 맞춤형 가이드라인을 마련할 계획이다.