세계적으로 유명한 수학가인 도철헌이 8월초에 한국 서울대를 방문해 한 특강에서 “수학자들이 지금껏 종이와 펜을 리용해 수학을 연구해왔는데 앞으로는 인공지능(AI)이 수학연구방법을 완전히 바꿀 것입니다. 인간은 자신의 일이 언제 AI로 대체될지 모르기 때문에 자신의 경력을 계속 재창조해야 합니다.”라고 말했다.

도철헌은 1975년생으로 오스트랄리아에서 태여난 중국인 후예이다. 1998년에 미국 보스톤대학교에서 박사학위를 따내고 캘리포니아주립대학 로스안젤스분교의 교수로 있는데 2006년, 31살의 나이에 수학계의 노벨상으로 불리우며 세계적으로 가장 영향력 있는 수학상인 필즈상을 수상했다.

도철헌 교수는 아이큐(IQ) 221로 세계에서 가장 지능이 높은 인물중의 한명으로 현존 최고 수학자로 인정받는다. 의학, 컴퓨터공학 등 여러 분야의 난제를 잘 해결하는 것으로도 유명한데 ‘풀리지 않는 난제를 해결하는 가장 좋은 방법은 이 문제로 도철한의 관심을 끄는 것’이라는 문구가 생겨났을 정도라고 한다.

이번에 그는 한국에서 ‘AI의 수학리론’에 대해 강의했다. 도철한 교수는 2년 전쯤부터 AI에 관심을 쏟기 시작했다. 그는 현재 수학자가 어떻게 AI 도구를 리용해 새로운 추측을 제시하고 증명할 수 있는지를 연구중이다. 올해 5월 미국 대통령 과학기술자문위원회 생성형 AI 영향 연구 실무그룹의 공동 의장을 맡기도 했다.

그는 2021년 우연히 챗GPT를 접한 뒤  AI를 연구에 활용하기 시작했다. 지금도 틈날 때마다 챗GPT에 다양한 수학문제를 넣어보고 AI의 실수를 줄이는 법, 연구할 때 AI 쓰는 법 등을 자신의 블로그에 올리고 있다. 앞으로  AI가 완전히 수학자를 대체하기는 어렵지만 10년 뒤에는 린과 함께 수학자의 연구를 활발히 도울 것이라고 그는 전망했다.

린은 마이크로소프트 조사연구팀이 2013년 개발한 수학증명을 검증하는 소프트웨어이다. 린은 갈수록 검증이 어려워지고 있는 수학 론문 검증에 활용된다. 컴퓨터 언어인 코드로 증명 내용을 변환해 린에 입력하면 이 증명이 참인지를 알려주는 원리이다.

린은 아직 대학본과 수준의 수학증명만 리해하지만 전세계 많은 수학자들의 노력으로 린에 입력된 론문과 정의, 정리가 많아질수록 점점 똑똑해지고 있다. 도철헌 교수는 “AI 성능이 좋아지면 수학자는 챗GPT와 같은 생성형 AI의 도움을 받아 증명을 만들어낸 뒤 린에 입력해 참이 되는 것을 찾을 수 있고 코드로 출력된 증명을 다시 생성형 AI를 리용해 사람이 리해할 수 있는 언어로 바꿔 론문을 쓰는 방식으로 연구할 수 있다.”고 설명했다.

수학자들은 일반적으로 어떤 내용을 참, 혹은 거짓이라 가정하고 증명을 시도한다. 참이라고 가정하고 연구했는데 그 가정이 틀렸다는 사실을 아는 경우가 대부분이다. “이전엔 간단한 추측 하나를 증명하는 데 많은 시간을 보냈고 더 높은 수준의 연구를 하기까지 많은 시간이 필요했지만 AI의 도움을 받으면 인류는 광범위한 연구를 할 수 있게 된다. 그때 우리는 더 넓은 것을 볼 수 있을지도 모른다.” 도철헌 교수의 이 말은 분야를 넘나들며 서로 련결짓는 연구가 이루어져 지금까지 알 수 없었던 새로운 지식에 도달할 수도 있다는 얘기이다.

이미 놀랄 만한 업적을 이루었음에도 그는 AI를 활용한 수학연구로 끊임없이 새로운 분야에 도전하고 있다. 그 리유에 대해 그는 “미래의 제 자신을 도울 뿐이며 언젠가 필요할 것 같은 일에 시간을 투자하도록 스스로에게 강요하고 있다.”고 하면서 “AI도 마찬가지로 특별한 목표는 없으며 단지 기회가 왔을 때 무언가를 잘해낼 수 있는 위치에 있고 싶다.”고 말했다.

　　외신