“AI 위험 본질은 소유·권력의 초집중”…‘민주적 AI’로 전환할 때 [아시아미래포럼]

한겨레가 주최하는 제17회 아시아미래포럼이 28일 오전 8시15분부터 대한상공회의소 국제회의장에서 열린다. 주제는 ‘격변의 시대, 리딩국가로 가는 길’. 국제 질서 변동과 인공지능(AI) 전환이 겹치는 격변 속에서 공동체 공존을 위한 한국의 길을 모색한다. 포럼에 앞서 주요 연사 인터뷰와 기고를 잇달아 싣는다. 편집자 주

광고

빅테크 기업이 주도하는 ‘인공지능(AI) 질서’의 위험이 커지면서, 국내외에서 ‘민주적 AI’가 하나의 대안으로 떠오르고 있다. 데이터와 플랫폼을 누가 소유하고 어떤 목적으로 쓸지, 공공이 기여한 인공지능 인프라를 어떻게 활용할지, 인공지능이 어떤 기준으로 작동할지 등을 공동체가 함께 결정하는 구조로 바뀌어야 한다는 흐름이다. 기술 변화에 가장 영향을 받는 주체들이 소수 기술 권력이 독점한 ‘AI 결정구조’에 깊이 개입해야 위험과 위협을 제어할 수 있다는 것이다.

국가인공지능전략위원회 AI민주주의 분과위원인 권오현 사회적협동조합 빠띠 대표는 민주적 AI로의 전환이 시급하다고 주장하는 국내 대표적 인사다. 그는 최근 한겨레와의 인터뷰에서 “AI의 영향을 받는 사람과 AI를 소유하고 결정하는 사람이 갈라져 있다”며 “AI 위험의 본질은 소유와 권력이 (일부에) 초집중된다는 점에 있다”고 짚었다. 그는 AI가 청년 노동 문제에 가하는 충격도 ‘민주적 AI’가 낮출 수 있다면서, “한국이 노릴 것은 속도와 규모로 세계 1~3등을 다투는 것이 아니라, AI를 시민이 함께 갖고 함께 정하는 민주적 AI로 앞서는 일”이라고 강조했다. 권 대표는 제17회 아시아미래포럼 오후 세션에서 ‘민주적 AI : 시민은 어떻게 주권자가 되는가’ 주제로 기조 발제를 한다.

— 최근 AI 위험(실존적 위협)을 경고하는 목소리가 늘고 있다. 빅테크 중심의 AI 질서를 어떻게 보는가?

광고

“AI의 실존적 위험을 경고하는 목소리에 귀 기울일 이유가 충분하다. 다만 나는 위험의 핵심은 초지능이 아니라 소유와 권력의 초집중에 있다고 보고 있다. 지금 AI의 모델과 컴퓨팅 자원, 데이터는 소수의 기업이 소유하고, 무엇을 만들고 어떻게 쓰고 언제 멈출지도 그들이 정한다. AI의 영향을 받는 사람과 AI를 소유하고 결정하는 사람이 갈라져 있다. 데이터와 자원은 우리 모두의 삶과 노동 그리고 지구에서 나오는데, 그것을 다루는 권한과 거기서 나온 자산은 소수 기업의 것이 된다.

AI까지 이어진 디지털 전환 수십 년을 압축해 보면 같은 일이 되풀이됐다. 디지털 기술이 가져온 개방은 신뢰로도 취약함으로도, 연결은 협력으로도 혐오로도, 축적은 호혜로도 격차로도, 자동화는 해방으로도 추방으로도 이어질 수 있었다. 테크 기업들은 좋은 쪽을 약속했고, 세상은 더 어려워졌다. 인터넷이 열어 준 광장이 시민의 목소리를 키우는 사이, 검색과 소셜미디어는 여론의 길목을, 플랫폼은 일감과 거래의 길목을 차지했다. 이제는 더 근본적인 우려가 커진다. 정치에는 유권자가, 생산에는 노동자가, 시장에는 소비자가 필요했기에, 지금까지는 (상대에 대한) 이 의존이 시민에게 협상력을 주었다. AI는 그 의존을 빠르게 끊어내고 있다. 그래서 나는 이 전환기에 반드시 민주주의의 지렛대를 다시 세워야 한다고 본다. 기술이 세상에 어떻게 기여할지는 아직 사회가 정할 수 있다.”

광고

광고

— 레오 14세 교황이 지난 5월 ‘마그니피카 후마니타스’(위대한 인간성)라는 주제로 세계에 던진 회칙에서 ‘도덕적 AI로는 충분하지 않다’고 말했다. 어떤 의미라고 보는가?

“교황의 회칙은 ‘소수의 손이 규정하는, 더 도덕적인 AI로는 충분하지 않다’고 말한다. 이 문장의 무게가 ‘소수의 손’에 실려있다고 생각한다. 윤리 원칙을 잘 세운 AI라도 그 원칙을 누가 정하고 고칠 수 있는지가 소수에게 머물면, AI가 따르는 선(善)도 소수가 정한 선이 된다. 공동선은 함께 사는 사람들이 함께 정하고 함께 누리는 것이다. 기술이 공동선에 닿으려면 그 기술을 함께 갖고(소유), 함께 정하는(거버넌스) 민주적 구조가 필요하다. ”

광고

— AI 시대의 대안으로 민주적 AI가 대두되고 있다. 민주적 AI란 무엇인가?

“민주적 AI는 AI 시스템에 관계된 다중 이해당사자, 곧 노동자와 소비자, 이용자, 데이터 주체, 투자자, 공동체가 그 AI의 소유와 결정, 이익을 공동으로 통제하고 분배하는 것이다. 세 가지로 풀어볼 수 있다.

첫째, 공동 소유다. 데이터와 모델, 인프라와 서비스를 시민과 노동자, 공동체가 협동조합·신탁·공유지 같은 방식으로 함께 소유하는 것이다. 지분을 갖는 사람이 결정권과 몫을 함께 갖는다.

둘째, 공동 운영이다. AI를 무엇에 쓰고 언제 바꾸고 멈출지를 영향받는 사람들이 구속력 있게 함께 정하는 것이다.

광고

셋째, 공동 향유다. AI가 만든 이익과 편익이 처음부터 모두에게 고루 돌아가도록 설계하는 것이다.

기술이 공동선을 만들어 내려면 두 가지가 필요하다. 시민이 함께 갖는 공공재와, 시민이 함께 정하는 민주주의이다. 정치를 민주화해 왔듯, 기술과 AI를 민주화하는 것이다.”

— 왜 지금 민주적 AI로 전환해야 하는가?

“첫째, AI는 모든 영역에 전방위적으로, 토대로서 적용되고 있다. 경제와 사회(교육과 의료, 일자리와 시장), 정치와 행정(선거와 정책 결정, 행정 서비스와 공론장), 에너지와 자원(전력과 물)까지 AI 위에서 돌아가기 시작했다. 전기와 도로가 그랬듯, 토대를 소수가 소유하면 그 위의 모든 영역이 그 소유 구조를 따라간다. 공개된 모델이라도 다음 버전과 이용 규칙을 정하는 권리는 만든 쪽에 남는다.

둘째, AI는 불평등을 더욱 심각하게 만들 가능성이 크다. AI를 쓸 수 있는가, 잘 쓰는가, 누가 갖고 정하는가의 세 겹 격차가 서로를 키우며 벌어지는 불평등이다. 유엔무역개발회의(UNCTAD)는 세계 민간 연구개발 투자의 40%를 미국과 중국 중심의 100개 기업이 차지한다고 밝혔다. 국제통화기금(IMF)은 세계 일자리의 40%가 AI의 영향을 받고, 대부분의 경우 불평등이 커질 것이라고 경고했다. 쓰는 격차는 교육과 보급으로, ‘갖고 정하는’ 격차는 소유와 결정의 구조를 바꿔서 좁혀야 한다.

셋째, AI는 민주주의의 근본 토대마저 무너뜨릴 가능성이 크다. 민주주의에 대한 신뢰는 이미 전 세계에서 무너지고 있다. 그 위에서 AI는 정치·생산·시장이 유권자·노동자·소비자에게 의존하던 구조를 끊어 간다. 영향받는 사람이 결정에 참여한다는 민주주의 원리가 AI에도 닿아야 하고, 시민이 소유와 결정의 자리에 서야 AI 시대에도 주권자로 남을 수 있다.

이런 문제의식은 해외에서도 넓어지고 있다. 미국의 로 칸나 민주당 하원 의원과 버니 샌더스 상원 의원은 AI의 이익을 노동자와 나누는 방안을 정치 의제로 올렸다. 노벨경제학상 수상자 다론 아제모을루와 사이먼 존슨은 저서 ‘권력과 진보’에서 기술의 방향은 누가 결정하느냐에 달려 있다고 짚었고, 마리아나 마추카토 영국 유니버시티칼리지런던(UCL) 교수는 공공이 함께 만든 가치를 공공이 함께 나눠야 한다고 말해왔다. 유럽에서는 공공 AI와 공동 인프라를 짓자는 논의가, 세계 곳곳에서는 노동자와 이용자가 플랫폼을 함께 소유하는 플랫폼 협동조합 운동이 이어지고 있다.”

— 민주적 AI가 들어선 사회는 구체적으로 지금과 무엇이 달라질까?

“노동을 예로 들어 보겠다. 지금 노동계에는 AI가 결국 인간이 할 수 있는 거의 모든 일을 대체할 것이란 서사가 지배적이다. 그 미래는 아직 열려 있다. 노동자가 기술을 함께 소유하고 도입을 함께 정하면, 일터는 사람의 일을 넓히는 ‘증강 기술’을 고를 가능성이 커진다. 그렇게 늘어난 생산성은 일하는 사람과 함께 나눌 수 있고, 기술을 함께 가진 노동자는 그 몫을 직접 정할 수 있다. 노동자가 어떤 자리에 설 수 있는지를, 세 가지로 더 설명해보겠다.

첫째, ‘갖는(소유) 자리’에 서는 것이다. 아르헨티나에는 노동자가 함께 소유한 기술협동조합 30여 곳의 연합(FACTTIC)이 있다. 개발자가 회사의 주인이어서, 어떤 일을 맡고 어떤 기술을 쓰고 번 돈을 어떻게 나눌지를 스스로 정한다.

둘째, ‘정하는(결정) 자리’를 확보하는 것이다. 독일의 사업장평의회는 노동자의 행동과 성과를 지켜볼 수 있는 기술을 도입할 때 공동결정권을 갖고, 2021년 법 개정으로 AI 도입을 검토할 때 외부 전문가의 도움을 받을 권리도 얻었다. 할리우드 작가조합은 2023년 파업 끝에 AI가 작가의 크레딧과 몫을 대신하지 못하게 하는 조항을 협약에 담았다. 한국에서도 배달플랫폼노조와 우아한청년들이 올해 6월 단체협약으로 사전 스케줄 제도를 없애고 실시간 배차로 바꾸는 등, 일감을 나누는 방식을 노사가 함께 정했다. 유럽연합은 플랫폼노동지침으로 알고리즘 관리에 대한 노동자의 정보권과 협의권을 법으로 세우고 있다.

셋째, ‘나누는(분배) 자리’에 서는 것이다. 노동자의 숙련도 이제 데이터가 된다. 스탠퍼드대와 메사추세츠공대(MIT) 연구진이 한 기업의 고객상담 현장을 조사했더니, 숙련 상담원들의 응대 기록으로 학습한 AI를 도입한 뒤 시간당 해결 건수가 평균 14%, 신입과 저숙련 상담원은 34% 늘었다. AI가 숙련자의 노하우를 다른 이에게 옮겨 준 셈이다. 그렇다면 그 숙련 데이터는 누구의 것이고, 거기서 나온 생산성의 몫은 누구에게 가야 할까. 노동자가 숙련 데이터를 함께 관리하고, AI로 늘어난 생산성을 임금과 노동시간 단축, 재교육으로 나누는 약속을 협약과 정관에 담을 수 있다. 소유와 결정의 자리에 선 노동자라야 이 몫을 요구하고 지킬 수 있다.

청년에게 이 변화는 더 직접적이다. 자료 정리, 번역, 기초 코딩처럼 신입이 일을 배우던 업무를 AI가 먼저 맡으면, 경력의 첫 계단부터 사라질 수 있다. 노동자가 도입을 함께 정하는 일터에서는 다른 선택이 가능하다. AI를 신입의 조수이자 선배로 붙여, 신입이 더 빨리 배우고 더 일찍 중요한 일을 맡도록 돕는 것이다. 첫 계단을 지키는 일이 곧 증강 기술을 고르는 일이다.

청년이 AI의 주인 자리에 서는 길도 있다. 캐나다의 사진 플랫폼 스톡시는 사진가와 영상 창작자가 함께 소유한 협동조합인데, AI가 만든 이미지는 받지 않기로 했다. 창작자가 주인인 플랫폼은 AI 시대의 규칙을 창작자의 일을 지키는 쪽으로 세울 수 있다. 한국의 청년들도 협동조합과 사회연대경제 방식으로 AI 서비스를 함께 창업해, 일한 만큼 결정권과 몫을 가질 수 있다. 올해 제정된 사회연대경제기본법과, ‘대한민국 인공지능 행동계획’에 따라 정부가 수립하기로 한 ‘사회연대경제 및 공익데이터 기반의 사회혁신형 생태계 조성 계획’이 함께 그 그릇이 될 수 있다.”

— ‘AI 3대 강국’을 목표로 내건 현 정부의 AI 정책 방향은 어떻게 평가하나?

“정부는 올해 AI 예산을 9.9조 원으로 크게 늘렸고, 2030년까지 그래픽처리장치(GPU) 26만 장을 확보해 독자 AI 파운데이션 모델을 키우겠다고 밝혔다. ‘모두의 AI’라는 이름으로 시민 누구나 AI를 쓰게 하겠다는 방향도 세웠다. AI 기본법을 갖췄고, 2025년 OECD 디지털정부 평가에서도 1위에 올랐다. 눈여겨볼 출발이다.

이 출발을 민주적 AI로 잇는 것이 다음 과제다. 공공 예산으로 지은 컴퓨팅과 모델, 데이터를 시민과 공동체가 함께 쓰고 운영하는 공공재로 두는 일, 행정 AI의 시민영향평가와 정보 공개를 시민이 실제로 쓰고 이의를 제기할 수 있는 통로로 넓히는 일, 협동조합과 사회연대경제 조직이 AI를 짓고 소유할 수 있도록 공공 조달과 지원의 문을 여는 일이다. ‘모두의 AI’가 모두가 쓰는 AI에서 모두가 함께 갖고 함께 정하는 AI로 자랄 때, 3대 강국의 내용도 한국다워진다. 속도와 규모로 1~3등을 다투는 경쟁은 앞서 간 나라들이 정한 규칙 위의 경쟁이다. 한국이 노릴 것은 질적으로 다른 1등, 곧 AI를 시민이 함께 갖고 함께 정하는 민주적 AI로 앞서는 일이다.”

— AI 시대로 급격히 접어든 지금, 한국은 어떤 길을 선택해야 할까?

“한국 시민은 광장에서 민주주의를 거듭 지켜왔고, 디지털 공론장과 시민기술도 아래로부터 키워왔다. 지난해 문화체육관광부 조사에서는 바라는 나라로 ‘민주주의가 성숙한 나라’(31.9%)를 꼽은 응답이 ‘경제적으로 부유한 나라’(28.2%)를 처음으로 앞섰다. 이 감각이 AI 시대 한국의 자산이다.

한국은 시민이 AI를 소유하고 결정하는 디지털 민주공화국으로 갈 수 있다고 본다. 그리고 비슷한 조건의 민주주의 중견국들과 연대해 AI를 함께 만들고, 함께 관리하고, 함께 소유하며, 그 결실이 공동의 번영으로 이어지게 하는 것이 한국의 역할이라고 생각한다. 한 나라가 혼자 감당하기 어려운 모델과 컴퓨팅 기반도 그렇게 함께 짓고 나눌 수 있다. 시민께는 AI를 함께 갖고 함께 정하는 자리에 나서 주시기를, 정부와 지방자치단체에는 그 자리를 제도로 열어 주시기를, 기업과 연구자께는 그 길을 함께 지어 주시기를 청한다. 공공재와 민주주의로 공동선을 짓는 이 길이, 비슷한 조건의 여러 사회가 함께 참조할 수 있는 응답들 중 하나가 되기를 바란다.”