풀렸는데, 왜 다들 표정이 어두울까

AI가 수학의 오랜 난제들을 풀어내자 수학계의 반응은 환호만이 아니었습니다. 올여름 국제수학자대회에서 필즈상 수상자 테렌스 타오는 지금이 매우 혼란스러운 상황이라고 말했습니다. 평소 신중하고 낙관적인 사람으로 알려진 그가 AI가 수학의 가치와 관행에 위기를 만들고 있다고까지 했습니다.

9월 11일에는 허준이 교수를 비롯한 20여 명의 필즈상 수상자가 공개서한을 냈습니다. 이들이 하고 싶었던 말은 문제를 푸는 것이 수학의 전부가 아니라는 것입니다.

새 증명을 받아 든 수학자가 맨 먼저 묻는 것은 "맞는가"이죠. 하지만 곧이어 묻는 것이 따로 있습니다. 이 증명에서 앞으로 다른 문제 수십 개를 풀게 해 줄 개념은 무엇인가. 좋은 이론은 외워야 할 사실을 줄이면서 알아낼 수 있는 사실은 늘려 주기 때문입니다. 유명한 난제는 그런 이해가 얼마나 깊어졌는지를 재는 등대 같은 것이었고, 문제를 푸는 일은 이해에 이르는 수단이자 대리 지표였습니다. 그런데 기계가 모든 추론 단계를 확인해 줘도, 어떤 가정이 본질적인지, 어디까지 일반화되는지는 여전히 모를 수 있습니다. 증명이 있다는 것과 이해한다는 것 사이에는 간격이 있고, 기계가 증명을 대량으로 만들어 낼수록 그 간격은 벌어질 수 있습니다.

서한은 이 문제를 교육으로도 이어 갑니다. 학교에서 숙제를 내주는 이유가 숙제장을 채우는 데 있지 않고 생각하는 힘을 기르는 데 있는 것과 같습니다. 그런데 AI 기업들이 문제 풀이를 성능 경쟁의 기준으로 삼으면서 수단이 목적을 삼켜 버릴 수 있게 됐다는 것입니다. 참인 명제가 쏟아지는 속도가 빨라질수록, 그 아이디어를 돌보고 키울 사람은 오히려 줄어들 수 있다고 서한은 말합니다.

같은 걱정이 수학자마다 다른 결로 나옵니다. MIT 수학과의 즈웨이 윈 교수는 결과만큼 과정을 소중히 여기는 사람으로서 "AI가 나의 여정을 파괴하고 있다"고 말했습니다. 컬럼비아대의 마이클 해리스 교수는 5년 넘게 수학의 기계화를 비판해 온 수학자입니다. 그는 수학을 소프트웨어 엔지니어링보다 그래픽 아트나 글쓰기에 가까운 일로 보고, 유용한 결과를 만들기 전에 인간이 좋아하는 일을 하며 번영하는 방식이라고 말합니다.

반대편의 풍경도 있습니다. 미국수학회 회장 라비 바킬은 올여름 Claude가 야코비안 추측의 반례를 찾아냈을 때를 이렇게 기억합니다. 정상급 수학자들이 블로그에 모여 이 추측이 왜 틀렸는지를 함께 이해하기 시작했고, 그는 이것을 AI가 수학을 더 재미있게 만든 행복한 이야기로 받아들입니다.

이해는 무엇을 더해 주는가

하지만 질문을 뒤집어 볼 수도 있습니다. 답이 맞으면 된거 아닌가요? 이해는 무엇을 더해 주는 걸까요? 콜드스프링하버연구소의 신경과학자 앤서니 자도르는 The Transmitter에 기고한 글에서 이 질문을 파고들었습니다.

그는 먼저 현실을 인정합니다. 미국 국립예술기금의 연간 예산은 약 2억 달러인데, NIH와 NSF를 합치면 500억 달러가 넘습니다. 약 250배입니다. 이해했을 때 느끼는 만족감은 과학자 개인에게 돌아가는 보상일 뿐, 사회가 연구비를 대는 이유는 아니라고 그는 말합니다. 사회가 과학에 예술보다 250배나 많은 돈을 투자하는 이유는 ‘이해가 아름답기 때문’이 아니며, 이해 없이도 예측과 그 혜택을 얻을 수 있다면 대중은 아마 그것으로 충분하다고 여길 것이라고요.

그렇다면 정말 이해 없는 예측만으로 충분할까요? 이 질문에는 천문학의 역사가 좋은 사례를 줍니다. 프톨레마이오스의 천동설은 지구를 중심에 놓고 행성의 복잡한 움직임을 원 위에 원을 겹쳐 가며 맞췄습니다. 이 방식은 천 년 가까이 행성의 위치를 정확히 예측하는 데 쓰였습니다. 뉴턴이 천동설을 대체했을 때도 예측의 정확도 자체는 거의 달라지지 않았습니다. 바뀐 것은 설명의 크기였습니다. 행성의 궤도, 떨어지는 사과, 바다의 조수를 하나의 법칙으로 설명하게 된 것입니다. 이해는 여러 현상을 하나로 묶어 다른 문제에 가져다 쓸 수 있게 해 줍니다.

최근 연구가 이 구분을 다시 확인했습니다. 뉴턴의 법칙으로 만든 수천만 개의 가상 행성 궤도를 AI에게 학습시켰더니, AI는 행성의 다음 위치를 아주 정확하게 맞혔습니다. 그런데 그 밑에 있는 힘, 곧 중력이 무엇인지 추론하게 하자 엉뚱한 답을 내놓았습니다. 궤도마다 잘 맞는 규칙을 따로따로 외웠을 뿐, 모든 궤도를 하나로 꿰는 법칙은 찾지 못한 것입니다. 

이것이 이해의 쓸모를 말하는 대표적인 논거입니다. 다만 이 논거에는 단서가 따라붙습니다. 이해가 인간만 할 수 있는 일인 동안에만 방패가 되어 줄지 모른다는 점입니다. AI가 더 좋은 압축과 더 좋은 이론까지 내놓는 날에는 같은 압박을 받습니다. "질문을 고르는 것은 인간의 몫"이라는 대답도 마찬가지입니다. 틀린 말이 아니라, 얼마나 오래 버틸지 아직 모르는 말입니다. 시간을 벌어 주는 논거일 수는 있어도 영원한 논거라고 장담하기는 어렵습니다.

의미가 사라진 일을, 사람은 사랑할 수 있을까

다만 장강명 작가는 『먼저 온 미래』에서 일자리와 연구비를 지켜도 남는 문제가 있다고 말합니다. "스카이넷과 터미네이터는 나타나지 않고, 당신도 어쩌면 일자리를 잃지 않을지도 모른다. 그런데 설사 터미네이터를 막고 일자리를 지키더라도 어떤 인간적 가치들은 그 과정에서 틀림없이 부서질 것이다."

이세돌 9단의 은퇴 소회가 그 부서지는 가치의 한 장면입니다. "저는 바둑을 예술로 배웠는데 인공지능이 나오면서 사실 이게 예술이라고 말을 할 수 있을까 의문이 든다. 일종의 게임이 된 것 같다. 그런 점이 굉장히 아쉽다."

그가 잃은 것은 승리가 아니라 일의 위대함, 곧 의미였습니다. 장강명 작가는 같은 상황을 자신의 일인 소설로 옮겨 이렇게 묻습니다. "소설 쓰는 인공지능은 과연 문학에 얼마나 가치를 둘까? 인공지능이 '문학에 특별한 관심은 없고 시키니까 합니다'라면서 명작을 하루에 288편을 써낸다면 나는 그 상황을 어떻게 받아들이게 될까... 인공지능 평론가들이 바로 그 작품이야말로 궁극의 소설이라며 감탄하는데 나는 그걸 이해하기는커녕 살아서 다 읽어낼 수조차 없다면?... 그런 때 내가 소설을 여전히 내 일로 여길 수 있을까?"

이 질문을 수학으로 옮겨 놓으면 필즈상 수상자들이 말한 간격과 같은 모양이 됩니다. 증명은 하루에도 수백 편씩 쏟아지는데 수학자들은 그것을 이해하기는커녕 다 읽어 낼 수조차 없다면, 그 일은 여전히 수학자의 일일까요. 위대함이나 의미가 사라진 것처럼 보이는 일을 사람들은 계속 사랑할 수 있을까요.

이제 우리 차례

수학계는 답을 내리기보다 시도부터 시작했습니다. 타오는 수학을 왜 하는지부터 다시 물어야 한다고 합니다. 그리고 AI를 어디까지 허용할지, 저자는 어떻게 표시하고 검증은 어떻게 공개할지를 수학자들이 직접 정해야 하며 외부 기업에 맡겨선 안 된다고 주장합니다. AI 사용과 저자 표시의 원칙을 세우려는 라이덴 선언 같은 움직임도 긍정적으로 봅니다. 

수학 이야기로 시작했지만 이 질문은 수학자만의 것이 아닙니다. 2016년에 바둑이 먼저 겪은 일이 올해 수학에 도착했고, 과학을 비롯해 지식을 만드는 다른 일들에도 곧 도착할 것입니다. 도착 시각만 다를 뿐, 모두가 내리는 역입니다.