[한겨레] AI가 푼 수학 난제와 수학계 대지진 [김민형의 여담] (김민형 / 2026.10.15.)

https://www.hani.co.kr/arti/opinion/column/1282417.html

AI가 푼 수학 난제와 수학계 대지진 [김민형의 여담]

‘어려운 수학 문제를 뭐하러 푸는가’, 시험과 숙제에 시달리는 수많은 학생들을 어릴 때부터 괴롭히는 질문이고 그에 따라 자식들을 걱정하는 학부모는 물론, 선생님들까지도 이 질문의 질책을 절실하게 느낀다. .... ‘문제를 푸는 것은 개념적 이해와 통찰이라는 궁극적인 목표를 이루기 위한 하나의 도구이자 간접적인 지표일 뿐이다. 인공지능(AI) 시대에 이 점을 망각한다면, 도리어 도구가 본래의 목표를 해치는 결과를 초래할 수 있다.’ 우리나라 교육과 시험제도를 비판하는 대학교수의 칼럼에서 찾을 만한 흔한 성토 문구이다. 그런데 이것은 한국 교육 비판론이 아니라 25명의 필즈상 수상자가 9월10일 발표한 성명서에 나온다. 그리고 여기서 이야기하는 문제는 학교 시험 문제가 아니라 수학의 ‘가장 큰 난제’들이다.

일반인들은 수학계 내의 현 위기감을 짐작하기 어려울 것이다. 약 한 달 전에 인공지능 첨단 기업 오픈에이아이는 기계를 이용해서 수학계의 가장 중요한 문제 중 하나로 여겨지던 ‘나비에 스톡스 방정식의 매끈한 해’ 문제를 해결해서 수학자들을 놀라게 했다. 그 여파가 가라앉지도 않은 며칠 전에 같은 회사 연구진이 다수의 중대한 결과가 들어 있는 7백여 개의 논문을 갑자기 발표함으로써 대지진 같은 충격파를 또 내던졌다. .... 그러나 대체로 인공지능은 가공할 위력을 과시한 것이 분명하다.

그 때문에 일반 매체에서는 10월8일을 ‘수학계 심판의 날’로 표현하기도 한다. 즉, 수학의 미래 가치에 대한 회의를 표현한 것이고 수학자가 필요 없는 세상을 상상하는 것이다. 적어도 어려운 문제를 푸는 것이 수학자의 역할이라면 설득력 있는 예측이다. 그 관점에서 위에서 언급한 성명서를 수학계의 ‘자기방어’로 읽는 사람이 많다. .... ‘그러면 수학자들은 도대체 무엇 때문에 그 문제들을 풀고 싶어 했는가’, 그들도 수험생처럼 ‘좋은 대학에 가기 위해서였는가’라는 질문도 나온다.

낙관적인 관점도 물론 많아서 인공지능이 천문학의 망원경과 비교되기도 한다. 새로운 기계 덕에 지금까지 상상도 못 했던 현상을 발견하고 지금보다 훨씬 고등한 수준의 이론을 만들어 나갈 것이라는 기대이다. 순수 수학과 응용 수학 사이의 경계가 완전히 허물어질 것을 예측할 수도 있다. .... 누구보다도 낙관적인 것은 어린 학생들이 아닌가 싶다. .... 그들은 공부에 인공지능을 수시로 활용하고, 인공지능이 수학을 깊이 있게 이해하는 데 도움을 주는 탁월한 도구라고 하나같이 강하게 믿는다.

아수라장인 현 학계 안에서 분명한 것은 과학의 발전이 질서 있게 일어나리라는 기대의 허무함이다. 몇 년, 혹은 몇십년의 난을 겪은 미래에 지금의 어린 학생들이 인공지능의 망원경과 현미경을 이용해서 인류에게 진정하게 의미 있는 수학 난제들을 풀고 있을 날을 기대해 본다. (그렇게 되기까지 치러야 할 대가는 당연히 걱정의 대상이다.)