김승섭 교수 “편향적 ‘인류 학습’…AI 교정은 불가능”

광고

인공지능(AI)이 소수자와 사회적 고통을 지우는 현상을 연구한 김승섭 서울대 보건대학원 환경보건학과 교수는 “대규모 언어모델(LLM·엘엘엠)은 과거 인류가 생산한 언어를 통해 그 언어에 내재한 위계와 편견 역시 함께 학습했다”며 “오늘날 사용하고 있는 엘엘엠의 한계를 분명히 인식해야 한다”고 강조했다. 인공지능이 연산이나 공학적 문제 해결에는 탁월하지만, 사회적 문제에는 오히려 불평등을 심화하는 답을 내놓을 수 있다는 지적이다. 다음은 김 교수와의 일문일답.

―인공지능의 한계를 교정할 방법은?

“엘엘엠은 학습한 자료를 바탕으로 문맥을 감안해 가장 등장 확률이 높은 말을 골라 답변을 구성한다. 그런데 지난 수천 년간 인류가 생산해 온 자료에는 주류 기득권의 관점이 배어 있다. 엘엘엠은 그 거대한 편향도 함께 학습했다. 그 편향을 바이러스 제거하듯 걷어낼 수 있다고 생각하는 건 인간의 오만일 수 있다.”

광고

―차별하지 않도록 훈련하면 되지 않나?

“많은 빅테크 기업에서 자신이 개발한 모델이 소수자를 차별하지 않게 하도록 노력해왔다. 실제 노골적인 차별은 현저히 줄었다. 그러나 문제는 간단치 않다. 2024년 네이처에 실린 논문을 보면, 엘엘엠에 아프리카계 미국인에 대해 물으면 긍정적으로 답하지만, 이들이 흔히 쓰는 영어 문장을 발화자 정보 없이 제시하면 글을 쓴 사람을 게으르다거나 멍청하다고 평가했다. 편견은 교정된 것이 아니라 숨겨졌고, 차별은 더 은밀해졌다."

광고

광고

―엘엘엠을 사용하면서 차별이라고 느끼는 경우가 많지 않았던 것 같다

“1대1로 대화를 할 때는 차별을 느끼지 못할 수 있다. 하지만 만개의 개체를 대표성 있게 추렸는데 이중에 장애인이나 성소수자가 하나도 없다면 그건 구조적 차별이 존재할 가능성을 크게 높인다. 엘엘엠이 소수자가 없는 사회를 기본값으로 해서 수많은 답변을 내놓고 있는 것이기 때문이다. 그리고 그 답변에 사용자들도 영향을 받을 수밖에 없다.”

광고

―인공지능 발전을 제어해야 하나?

"기술 발전은 달리는 기차와 같아서 후퇴하지 않는다. 미래 세대는 인공지능을 전기처럼 당연하게 사용할 것이고, 과거로 돌아가는 길은 현실적으로 존재하지 않는다. 문제는 멈출 것인가가 아니라 어떤 규범으로 쓸 것인가다. 인공지능이 당장 인류 자체를 위협하지는 않을 것이라고 생각한다. 대신 오랜 기간 불평등으로 작용할 것이다. 그래서 지금 중요한 것은 ‘인공지능은 재앙이다’라고 이야기하는 것이 아니라 우리가 어떤 위험을 안고 있는지를 제대로 파악하는 것이다. 그리고 그 위험을 줄이기 위해서 어떤 노력과 합의를 만들 것 인지라고 생각한다.”

―가장 경계해야 할 점은?

“엘엘엠은 알고리즘의 작동 방식상 악의 없이도 소수자의 존재를 지우고 그들의 삶을 납작하게 만들기 쉽다. 특정 영역에서 놀라울 만큼 거대한 역량을 가진 이 모델들이 다른 영역에서는 불평등을 증폭시킬 수 있다는 점을 기억해야 한다. 적어도 지금의 엘엘엠을, 한정된 자원을 배분하고 인구집단을 대상으로 정책을 기획하고 평가하는 정부나 공공부문에서 그대로 사용해서는 안 된다. 인공지능이 바꿀 미래를 공학자와 개발자에게만 맡겨 둬서는 안 된다. 어떤 규범으로 인공지능이 그리는 미래를 대할 것인지 우리 모두가 지금부터 고민해야 한다.”