“무지개 출력 안 되게 알고리즘 손봐야 했다”…소수자 외면하는 AI업계

광고

국내 인공지능(AI) 업계에서 일하는 트랜스젠더 다다(활동명)는 이미지 자동 생성 서비스를 개발하며 ‘무지개’ 형상이 출력되는 것을 막는 작업을 해야 했다. 알록달록한 무지개는 성소수자를 상징하는 대표적 기호다. 고객사는 인공지능이 성소수자를 연상시키는 이미지를 생성해내는 것에 부담을 느꼈다.

다다씨는 고객사에 악의가 있었던 건 아니라고 생각한다. 특정 정당을 떠올리게 하는 이미지를 꺼리는 것과 비슷한 이유라고 여겼다. 하지만 이런 배제가 반복될 때 나타나는 결과는 결국 ‘차별’이라는 사실을 다다는 잘 안다. 그는 19일 “대학에서는 알고리즘 차별을 공부했지만, 정작 현업에서는 ‘어떻게 하면 비즈니스 목표에 맞출지 고민을 할 수밖에 없다”며 “실제 알고리즘을 설계할 때 차별 문제는 거의 고려되지 않는다”고 털어놨다.

다다는 자신이 개발에 참여한 인공지능에 ‘귀여운 이미지’를 요청했을 때 대부분 여자아이가 출력되는 모습도 목격했다. 그러나 이 역시 따로 문제 삼지 않았다. “입력 데이터에 차별적 요소가 포함된 거 같은데 개발자 입장에서는 편향 제거보다 ‘귀여운 이미지’ 생성이 더 중요했다”며 “차별을 없애려면 추가적인 노력이 들고 자원이 소모된다”는 게 그의 설명이다.

광고

인공지능은 입력값과 설계 방식에 따라 전혀 다른 결괏값을 내놓는다. 하지만 빅테크 기업들은 그 내부 기준을 공개하지 않는 이른바 ‘블랙박스’ 형태를 유지한다. 다다는 “빅테크 기업은 답변에 따라 보상과 페널티를 주는 방식으로 인공지능을 학습시키지만 그 기준은 공개되지 않는다”며 “인공지능이 일상 깊숙이 들어왔음에도 어떤 기준으로 옳고 그름이 결정되는지조차 알지 못한다”고 지적했다.

소수자의 인공지능 접근성이 제대로 보장되지 않는다는 점도 우려스러운 대목이다. 국내 빅테크 기업에 근무하는 시각장애인 ㄱ(40대)씨는 “최근 인공지능이 생성한 코드의 웹 접근성 문제가 논란이 되고 있다. 국외 연구 등을 보면 바이브 코딩(인공지능에 지시해 프로그램을 만드는 방식)으로 제작된 웹사이트와 애플리케이션 상당수가 장애인 접근성 기준을 준수하지 못하고 있다”고 말했다. 이어 “소수자가 배제된 데이터를 학습한 인공지능이 그 내용을 바탕으로 다시 접근성이 떨어지는 코드를 만들어내는 악순환이 이어지고 있다”며 “소수자의 존재를 반영하는 데이터를 학습시키는 등의 고민이 시급한데, 그런 시도도 제대로 이뤄지지 않고 있다”고 짚었다.

광고

광고

인공지능의 거센 물결은 역설적으로 소수자에겐 희망이기보다는 장벽에 가깝다. ㄱ씨 역시 다가올 미래를 걱정했다. “예전에는 특정 웹사이트나 앱을 이용하지 못하더라도 대안이 있었지만, 요즘은 인공지능을 활용하지 못하면 흐름을 따라갈 방법이 없다”며 “이대로 인공지능의 장애인 접근성이 계속 뒤처진다면 당사자는 이전에는 겪어보지 못한 심각한 배제를 경험하게 될 것”이라고 우려했다.

다다는 인공지능을 ‘납’에 비유했다. 가공이 쉽고 부식에 강한 납은 산업혁명 당시 도시 배관부터 페인트까지 광범위하게 쓰였지만, 그 결과 수많은 이들을 납 중독의 병마로 몰아넣었다. 다다는 말했다. “무언가 잘못되고 있다는 느낌이 든다. 그런데 문제의 실체가 좀처럼 손에 잡히지 않는다. 더 많은 사람이 함께 머리를 맞대고 인공지능이 가진 그늘과 문제를 고민할 수 있는 계기가 마련되길 바란다.”