“AI 이미지 보면 가짜 기억, 잘못된 확신 커진다”

스마트폰 화면에 주요 인공지능(AI) 기반 앱과 대규모언어모델(LLM), 챗봇, 생성형 AI 등의 아이콘이 표시돼 있다. 화면에는 (왼쪽 위부터) 프로톤AG의 루모, 메타AI, 미스트랄의 바이브, xAI의 그록, 마이크로소프트의 코파일럿, 구글의 제미나이, 앤트로픽의 클로드, 퍼플렉시티, 딥시크, 오픈AI의 챗GPT, 구글의 노트북LM, 생성형 AI 음악 앱 수노의 로고가 보인다. AFP연합뉴스

인공지능(AI)이 사람들의 기억을 왜곡해 실제로 일어나지 않은 일이 일어났다고 확신하도록 만들 수 있다는 연구 결과들이 나오고 있다.

워싱턴포스트(WP)는 15일(현지시간) AI에 대한 의존이 인간의 인지 능력에 악영향을 미칠 가능성을 보여주는 여러 연구 결과를 소개했다.

WP는 이런 위험을 보여주는 연구로 미국 매사추세츠공과대(MIT) 미디어랩의 패티 마스 교수 연구팀이 200명을 상대로 한 실험을 소개했다.

연구진은 결혼식, 도시 거리, 경주 등을 찍은 사진 24장을 실험 참가자들에게 보여줬다. 이어 잠시 휴식 시간을 가진 뒤 일부 참가자에게는 원래 사진들을 그대로 다시 보여줬고, 다른 참가자들에게는 AI로 수정한 사진들을 제시했다. 사진 속 인물의 표정을 바꾸거나, 원래 사진에 없던 군인을 삽입하거나, 기후변화 징후를 추가하는 등 다양한 방식으로 사진을 수정했다.

이후 실시한 기억력 검사에서 AI로 수정한 이미지를 본 참가자들 사이에서 잘못된 기억이 크게 늘어난 것으로 나타났다. AI로 수정한 이미지를 본 참가자들은 잘못된 기억에 대한 확신도 더 강했다.

의사 등 전문직 종사자들이 AI에 지나치게 의존하면서 AI의 도움을 받지 못하면 업무를 제대로 수행하기 어려워질 수 있다는 것을 보여주는 연구도 있다.

2025년 의학 학술지 ‘랜싯 소화기학·간장학’에 실린 연구에서 연구진은 폴란드의 내시경센터 4곳에 근무하는 숙련된 의사 19명이 AI의 도움 없이 시행한 대장내시경 검사 1443건을 분석했다. 그 결과 의사들이 AI를 일상적으로 사용하기 시작한 이후 AI의 도움 없이 스스로 전암성 병변을 발견하는 능력이 낮아진 것으로 나타났다.

분석 대상 검사 중 795건은 AI 도입 전, 648건은 AI 도입 후에 실시됐다. AI 도입 전후로 의사들이 AI의 도움 없이 선종을 발견하는 비율은 28.4%에서 22.4%로 낮아져 약 21% 감소했다.

펜실베이니아대 박사후연구원인 스티븐 쇼는 이런 결과에 대해 “그들은 그 정신적 근육을 예전과 같은 방식으로 쓰지 않고 있다”며 “쓰지 않으면 잃게 된다”고 분석했다. 쇼는 특히 어린이들의 경우 인지 능력이 충분히 발달하기 전에 사고 활동을 외부에 맡겨버릴 수도 있다며 “핵심적이거나 기초적인 비판적 사고 능력을 전혀 기르지 못할 수도 있다”고 우려했다.

다만 WP는 이런 연구 결과들이 일상적인 AI 사용이 필연적으로 인지 기능 저하나 영구적인 기억력 상실을 일으킨다는 점을 입증하는 것은 아니라고 짚었다.