AI가 수학 ‘90년 난제’ 풀었지만…필즈상 수상 25명 “통찰의 과정 훼손”

광고

오픈에이아이(AI)가 90년 동안 풀리지 않은 수학 난제를 88시간 만에 해결했다고 발표한 지 사흘만인 지난 11일(현지시각) 세계적인 수학자 25명이 인공지능 기업들의 ‘난제 해결 경쟁’에 대한 공개 경고에 나섰다. 인공지능이 해답을 빨리 내놓기 위해 서로 경쟁하면서 수학의 본질인 이해와 통찰, 새로운 아이디어의 탄생과 축적의 과정이 훼손될 수 있다는 우려에서다.

수학계의 노벨상이라 불리는 필즈상 수상자 25명은 ‘수학 분야에서 인공지능의 심각한 목표 불일치’라는 제목의 성명을 내어 “수학 문제 해결을 벤치마크(성능지표)로 삼으려는 인공지능 기업들의 움직임은 수학이라는 학문과 수학 공동체에 해를 끼치고 있다”며 “더욱 빠른 속도로 참과 거짓 명제들을 대량 생산하는 일은 새로운 아이디어에 생명을 불어넣기는커녕, 오히려 아이디어가 자랄 비옥한 토양을 파괴할 수 있다”고 지적했다. 이번 성명에는 2022년 필즈상 수상자인 허준이 미국 프린스턴대 교수와 2006년 수상자인 테렌스 타오 미국 캘리포니아대 로스엔젤레스(ULCA) 교수 등 세계적인 수학자들이 이름을 올렸다. 이들은 이같은 문제가 수학계에 그치지 않고 ‘지식 노동 전반의 위협’으로 이어질 수 있다며 사회 전체가 시급히 논의해야 한다고 강조했다.

이들 성명에서 드러나듯 인공지능 모델은 지난 1년 동안 괄목할 만한 수학적 성과를 내보였다. 오픈에이아이는 지난 5월, 1946년 수학자 폴 에르되시가 제기한 ‘평면 단위거리 문제’와 관련해 80년간 널리 받아들여져 온 핵심 추측을 깨는 반례를 찾아냈다. 지난 8일엔 세계 7대 수학 난제 중 하나인 ‘나비에-스토크스 방정식 해의 존재성과 매끄러움’ 문제의 해법을 찾았다고 발표했다. 앤트로픽 역시 지난달 공개되지 않은 연구용 클로드 모델을 활용해 7대 난제 중 하나인 리만 가설 자체를 풀진 못했으나, 기존보다 진전된 성과를 보였다고 밝힌 바 있다.

광고

인공지능 모델이 수학 분야에서 두각을 나타내는 배경엔 여러 풀이를 동시에 탐색하고 검증하는 대규모 추론 방식의 발전이 있다. 지난 1월 오픈에이아이가 발간한 ‘과학 연구 협업자로서의 인공지능’ 보고서를 보면, 이들은 수학 분야 성능 향상의 핵심으로 즉각 답을 내놓는 대신 더 많은 연산을 투입해 여러 경로를 탐색하고 스스로 검토하는 ‘오래 생각하기’ 방식을 꼽았다. 앤트로픽도 리만 가설에 도전하면서 처음 650개의 서로 다른 아이디어로 풀이를 시도한 뒤, 모두 실패하자 60개 가량의 하위 에이전트 모델을 병렬로 가동해 수천 차례의 수치 검증과 검토를 거쳐 진전을 일궈냈다. 오픈에이아이는 나비에-스토크스 문제 해결에 1만개의 인공지능 에이전트를 투입해 270만개의 메시지를 주고받으며 협업했다고 밝힌 바 있다. 기존에는 수학자 개개인이 여러 가설과 풀이법을 하나씩 검토하며 시행착오를 거쳐왔다면, 인공지능은 저인망식으로 수십 개 이상의 가능성을 동시에 탐색하고 실패한 경로를 빠르게 걷어내 해법을 찾아나가는 셈이다.

아울러 엄격한 논증을 요구하는 수학의 특성 또한 인공지능이 시행착오를 반복하기 좋은 여건으로 작용했다. 인공지능 전문 학술지 ‘네이처 머신 인텔리전스’는 수학 분야에서 인공지능 발전 속도가 특히 빠른 배경으로 “수학적 산출물이 원칙적으로 쉽게 검증될 수 있기 때문”이라고 짚었다. 오픈에이아이도 거대언어모델(LLM)이 ‘맞게 보이지만 실제로는 틀린’ 풀이를 내놓더라도 수학 증명 보조 프로그램과 결합하면 증명의 각 단계를 검증해 논리적 빈틈을 찾고 수정해나갈 수 있다고 설명한다.

광고

광고

하지만 수학자들은 인간의 사유와 통찰을 축적하는 과정 없이 해답만 찾는 행위는 수학의 본질과 거리가 멀다고 봤다. 이들은 성명에서 수학의 난제들이 “우리가 수학적 세계를 얼마나 더 잘 이해하게 됐는지 가늠할 수 있는 이정표이자 등대” 역할을 해왔다며 “이런 문제 가운데 하나를 푼다는 것은 새로운 통찰과 흥미로운 방법이 등장했다는 확실한 신호였고, 이후 수학 공동체가 강연과 토론 등 길고 힘겨운 과정을 거쳐 이를 연구해왔다”고 말했다. 난제를 푸는 과정에서 발생한 새로운 개념과 방법을 공동체 전체가 이해하고 다음 세대로 전수하는 과정 자체가 수학 발전의 중요한 목표라는 것이다. 그러면서 이들은 “문제를 푸는 것은 개념적 이해와 통찰이라는 가장 중요한 목표를 달성하기 위한 도구이자 대리 지표에 불과”하다며 “인공지능의 세계에서 이를 잊게 된다면 도구가 오히려 본래의 목표를 해칠 수 있다”고 경고했다.

다만, 이들은 인공지능 기술 자체를 부정하진 않았다. 인공지능이 수학 연구와 이해를 향상시키고 가속할 잠재력이 있다면서도 “궁극적으로 수학 분야에 이익이 될지, 아니면 파괴적인 영향을 미칠지는 이 새로운 기술을 통제하는 인간 결정에 달렸다”고 강조했다.