테런스 타오 '좋은 수학 문제가 비재생 자원처럼 채굴된다'

무슨 일인가요

UCLA 수학과의 테런스 타오가 9월 8일 협정세계시 20시 32분, 마스토돈에 네 편으로 이어지는 글을 올렸습니다. 첫 문장은 이렇게 시작합니다. "좋고 결실 있는 미해결 문제의 모음이 지금 비재생 방식으로 채굴되고 있으며, 그 결과 이런 문제들이 희소해지는 시나리오가 가능하다는 이야기를 최근에 썼습니다." 공식

바로 반론이 나올 만한 주장입니다. 물을 수 있는 질문은 무한하니까요. 타오는 그 반론을 예상하고 비유를 하나 답니다. 한 나라가 거대한 바다에 둘러싸여 있으면서도 동시에 식수 부족을 겪을 수 있다는 것입니다. 공식 원주율의 10^10^10번째 자릿수를 구하라는 문제는 얼마든지 만들어 낼 수 있지만, 그런 문제는 다른 질문과의 연결도 통찰도 내놓지 않습니다.

희소한 것은 해답이 아니라 문제입니다

타오의 논지는 "난이도 지형"이라는 말로 정리됩니다. 어떤 질문이 알려진 방법으로 쉽게 풀리고, 어떤 질문이 애를 써야 풀리며, 어떤 질문이 불가능한지를 아는 것이 유망한 문제를 골라내는 근거가 됩니다. 공식 새로운 기법이나 기술은 문제의 난이도를 낮추는데, 이는 대개 좋은 일이지만 지형을 평평하게 만드는 대가를 치릅니다. 보통은 그 도구가 도달할 수 있는 범위를 넓혀 새 경계를 만들어 내면서 상쇄됩니다.

지금이 다른 지점은 여기입니다. 타오는 현재 AI 시대에 그런 명확한 경계가 없다고 적었습니다. AI가 여러 영역의 난이도 지형을 이미 평평하게 만들었지만, "AI가 풀 수 있는 문제"와 "AI도 못 푸는 문제"를 가르는 선이 보이지 않는다는 것입니다. 공식 기술이 빠르게 바뀌는 탓도 있지만, AI 회사가 실패한 시도를 공개하지 않고 해답에 이른 과정도 밝히지 않는 것이 이를 키운다고 짚었습니다.

그래서 결론이 뒤집힙니다. 타오는 "이제는 유망한 문제를 알아보는 일이야말로 희소하고 귀중한 자원이 되었다"고 썼습니다. 공식 누군가 어떤 문제를 붙들고 있다는 소문만으로도 대규모 AI 투입이 촉발돼, 원래의 연구가 무르익기 전에 문제를 평탄화하는 일을 이미 목격했다는 것입니다. 그 유인이 유망한 연구 방향을 아예 공유하지 않는 쪽을 가리키게 되면, 수백 년 이어진 개방 과학의 전통이 뒤집히고 분야에 장기적인 해를 끼친다고 봤습니다.

소수 간격에서 실제로 벌어진 일

추상적인 걱정이 아닙니다. 9월 1일 타오는 소수 간격 문제의 갱신을 소개했습니다. 무한히 자주 나타나는 연속한 소수 사이의 간격 상한이 Polymath8b의 246에서 240으로 줄었고, 이를 해낸 것은 Julia Stadlmann의 단독 논문입니다. 논문 8월 31일 arXiv에 올라온 이 논문은 봄비에리-비노그라도프 정리를 매끄러운 모듈러스에 대한 새 등분포 추정과 결합했습니다. 논문 246은 2014년부터 버텨 온 값이었습니다.

타오는 9월 3일 글에서 이 상황을 "AI 회사 세 곳이 각자의 개선을 발표하려 경쟁하는 볼썽사나운 광경"이라고 적었습니다. 공식 그러면서 Stadlmann이 문제가 오염되기 전에 분석을 끝낼 수 있어 매우 다행이라고 덧붙였습니다. Stadlmann의 논문에서 쉽게 뽑아낼 수 있는 것들 — 큰 매끄러운 인수를 가진 수에 대한 등분포 추정의 가치, Polymath8b의 엡실론 확대 기법, 하만 체의 활용 — 은 AI 생성 증명이 먼저 나왔다면 훨씬 건져 내기 어려웠으리라는 판단입니다. AI가 낸 수치가 더 강했다는 점은 타오도 인정합니다.

문제를 자동으로 캐내는 시스템은 이미 있습니다

8월 17일 arXiv에 올라온 논문 "The Problem Is the Problem"은 FAR이라는 시스템을 소개합니다. 문헌에서 미해결 문제를 찾아내고, 풀어 보고, 사람에게 추천하는 단계별 여과 장치입니다. 논문 조합론 시범 운영의 숫자는 이렇습니다.

이 논문의 저자는 Zeyu Zheng, Shengtong Zhang, Jeremy Avigad, Prasad Tetali, Sean Welleck입니다. 논문 논문은 사람이 미리 문제를 고르는 대신 연구 방향만 정하고 나머지를 자동화하는 방식을 제안합니다. 타오의 글타래에서 한 이용자는 이 논문을 두고, 새내기 수학자를 길러 낼 학위 논문 주제가 얼마나 사라졌겠느냐고 물었습니다.

타오가 내놓은 대안

타오는 자동화 도구의 무분별한 사용을 완전히 막는 것이 기술적으로 어렵다고 인정합니다. 대신 여러 문제군을 "해답만이 아니라 신중한 분석이 필요한 것"으로 지정하자고 제안했습니다. 해답을 내는 데 그치지 않고 그 과정에서 통찰을 뽑아내고 인접 문제의 난이도 지형을 더 알아내는 것까지 요구하며, 그런 분석 없는 원시 해답은 가치가 없거나 오히려 해롭다고 보는 기준입니다. 공식

비유는 푸드뱅크입니다. 현대의 식품 기부는 기술적으로 먹을 수 있다고 확인된 것이라 해서 아무거나 받지 않고, 어떤 수준의 기여를 원하는지에 대한 명시적이고 사회적으로 합의된 기준을 유지합니다. 공식 사흘 전인 9월 5일에는 더 짧은 제안도 올렸습니다. AI 회사들을 위한 새 대회를 열되, 미해결 문제의 해답을 가장 먼저 발표하는 경쟁이 아니라 새로운 수학적 통찰을 가장 먼저 발표하는 경쟁으로 하자는 것입니다. 공식

비슷한 문제의식은 다른 데서도 나왔습니다. 제네바대와 IHES의 Hugo Duminil-Copin은 8월 30일 글에서 지금의 AI 사용이 우리를 강하게 만드는 것이 아니라 굳어 버리게 하며, 이런 인공적 발견이 분야 전체의 목을 칠 위험이 있다고 적었습니다. 보도 타오는 이 글을 인용하면서, 굴착기로 유적지에서 보물을 파내면 그 보물에 의미를 주던 역사적 맥락이 함께 파괴되는 것과 같다고 덧붙였습니다.

반론도 나왔습니다

글타래에는 동의하지 않는 답글이 여럿 달렸습니다. 한 이용자는 AI 회사가 미해결 문제를 풀면 분야가 진전되거나 아니거나 둘 중 하나이며, 진전된다면 좋은 일이고 아니라면 사람이 잃을 유인도 없다고 적었습니다. 바뀌어야 할 것은 우리가 무엇을 가치 있게 여기는가, 즉 결과가 아니라 통찰을 향하도록 제도를 고치는 일이라는 주장입니다.

다른 이용자는 문제가 수학 그 자체가 아니라 입구라고 반박했습니다. 어떤 문제가 풀리지 않은 동안에만 가치가 있고 답이 나오는 순간 연구 가치가 사라진다면, 정작 희소한 것은 수학이 아니라 난이도라는 지적입니다. 난이도 지형이 평평해지는 것과 수학의 지형이 평평해지는 것은 다르며, AI의 해답 안에 파고들 만한 구조가 들어 있다면 그것은 문제의 소비가 아니라 새 입구의 개방이라고 했습니다.

무엇을 보면 되나요

세 가지입니다. 첫째, AI 회사들이 실패한 시도와 해답에 이른 과정을 공개하기 시작하는지입니다. 타오가 경계선이 안 보인다고 한 이유가 바로 그 비공개였습니다. 둘째, 학술지나 학회가 "원시 해답"과 "통찰이 딸린 해답"을 다르게 취급하는 기준을 만드는지입니다. 셋째, 수학자들이 진행 중인 연구 방향을 공개하는 관행이 실제로 줄어드는지입니다. 타오가 가장 큰 손실로 꼽은 것이 이 부분입니다.