스웨덴 AI 전문가 “AI 챗봇에 묻는 대통령들… 의회와 장관은 뒀다 뭐 하나”

대통령이 AI 챗봇에 국정을 물어도 될까. 버지니아 디그넘 스웨덴 우메오대 교수는 지난달 26일 WEEKLY BIZ와 화상 인터뷰에서 “챗봇에게 ‘세컨드 오피니언(다른 시각의 의견)’을 구할 수는 없다”며 “바로 그 세컨드 오피니언을 얻으려고 의회가 있고 장관이 있는 것”이라고 했다.

시사 주간지 타임에 따르면 도널드 트럼프 미국 대통령은 지난해 12월 AI 챗봇 그록에 ‘니콜라스 마두로 대통령을 체포하면 베네수엘라 국민이 어떻게 반응할지’를 물었다. 미군은 다음 달 실제로 마두로를 체포했다. 이재명 대통령은 지난달 21일 X에 공소청장·중수청장의 국무회의 배석 논란에 대한 구글 제미나이의 답변을 올렸다. 디그넘 교수는 “의견의 다원성을 보장하고 모든 주장이 여러 이해관계에 의해 검증되도록 민주적 제도를 만든 것”이라며 “이를 무시하고 챗봇으로 간다면 민주주의를 위해 쌓아온 제도를 약화시키는 셈”이라고 했다.

디그넘 교수는 우메오대 ‘책임 있는 AI(Responsible AI)’ 교수이자 이 대학 AI 정책연구소 소장이다. 유엔 AI 고위급 자문기구 위원으로 활동했고, 스웨덴 발렌베리 재단의 AI 정책 수석 자문역을 맡고 있다. 2020년 스웨덴 왕립공학한림원(IVA) 회원으로 선출됐다. 스웨덴 방송 TV4는 그를 이 유엔 기구의 ‘유일한 스웨덴 위원’으로 소개했고, 경제 매체 레알티드는 ‘유럽에서 AI 윤리 분야의 가장 영향력 있는 목소리 중 하나’라고 평가했다. 지난해 울프 크리스테르손 스웨덴 총리가 챗GPT를 자주 쓴다고 밝혔을 때는 현지 일간지에 “우리는 챗GPT에 투표하지 않았다”고 비판했다.

“챗봇의 답은 그 뒤에 있는 기업의 의견”

-국가 정상이 군사 작전이나 정치적 결정을 두고 챗봇에 묻는다면 무엇이 가장 걱정되나.

“크게 두 가지 문제가 있다. 첫째, 챗봇은 중립적이지 않다. 특정 기업이 만들었고, 챗봇이 내놓는 답은 그 기업이 통제할 수 있다. 같은 질문을 챗GPT와 그록에 던지면 서로 다른 답이 나오는 이유다. 우리는 챗봇의 의견이 아니라 그 뒤에 있는 기업의 의견을 듣는 셈이다. 둘째, 챗봇 대부분은 사용자에게 동의하고 사용자를 기쁘게 하도록, 즉 아첨하도록 만들어졌다. 그 주제에서 가장 중요한 내용이 아니라 사용자가 듣고 싶어 할 것이라고 여기는 말을 한다.”

-이 대통령은 자신의 입장을 뒷받침하는 제미나이의 답변을 공개했다.

“정치인이 챗봇에 물으려면 적어도 두어 개의 챗봇에, 그것도 서로 다른 프롬프트(명령어)로 물어야 한다. 내 의견에 동의해 달라는 프롬프트와 반대해 달라는 프롬프트를 모두 써보는 식이다. 다만 어떤 주장의 헌법적 타당성을 확인하는 문제라면 정부 안에도, 나라 안에도 전문가가 있다. 전문가에게 묻지 않고 외부 챗봇을 찾는 건 좀 이상한 일이다.”

“미국 제도에 익숙한 챗봇, 한국 전문가가 검증해야”

-유용한 ‘세컨드 오피니언’과 정치적 판단을 AI에 떠넘기는 것 사이의 선은 어디인가.

“둘 다 적절한 민주적 사용이 아니다. 의회와 장관, 여러 민주적 제도가 있는 이유가 바로 세컨드 오피니언을 얻기 위해서다. 그것은 그 나라의 기준과 가치, 규칙에 근거한 의견이다. 챗봇은 그 틀 밖에 있다. 번역이나 요약 같은 용도는 덜 문제가 되지만, 그 경우에도 결과물은 전문가가 검증해야 한다.”

-왜 요약이나 번역까지 검증해야 하나.

“챗봇은 미국의 정치 과정과 민주적 제도에 훨씬 더 많은 영향을 받았을 가능성이 크다. 이는 한국의 제도와 완전히 다를 수 있다. 요약이든 번역이든, 그 주제와 한국의 정치 구조를 아는 전문가가 확인해야 한다.”

“‘챗봇이 조언해서 결정했다’는 허용될 수 없다”

-자국산 ‘소버린 AI’를 쓰면 위험이 줄어드나.

“소버린 AI를 개발한다고 더 나은 품질이 보장되지는 않는다. 달라지는 건 시스템을 만드는 방식에 대한 통제권이고, 많은 경우 데이터를 자국 데이터센터에 둘 수 있다는 점이다. 한국어로 만들면 아마 챗GPT나 제미나이보다 한국어에는 더 능숙하겠지만, 답변의 품질이 반드시 달라지는 건 아니다.”

-고위 공직자의 챗봇 사용과 관련해 한국 정부가 가장 먼저 세워야 할 원칙은.

“먼저, 절대 챗봇만 써서는 안 된다. 의견을 모으려면 사람에게도 물어야 하고, 챗봇을 쓴다면 둘 이상을 써야 한다. 그리고 ‘챗봇이 조언했기 때문에 이렇게 결정한다’고 말하는 건 허용될 수 없는 정당화다. 챗봇과 상의하더라도 결국 확인은 챗봇이 아니라 전문가와 사람들에게서 받아야 한다.”