AI가 나비에-스토크스 난제를 풀었다면, 그 공은 누구의 것인가?

소문 한 줄에서 시작됐습니다

9월 3일, 수학계에 소문이 돌았습니다. "Anthropic이 대형 난제를 풀었다"는 이야기였습니다. 뉴욕대 쿠랑연구소에서 유체 방정식을 연구하는 Tristan Buckmaster(이하 Buckmaster) 교수는 그 소문의 주인공이 자신일 가능성이 높다고 판단했습니다. 동료 연구자에게서 소문을 전해 들었고, 함께 연구해 온 수학자 Levent Alpöge(이하 Alpöge)의 이름까지 거론되고 있었기 때문입니다. Alpöge는 Anthropic 소속입니다. 공식

Buckmaster는 OpenAI에서 일하는 한 수학자에게 이메일을 보냈습니다. 의도는 경쟁이 아니라 정리였습니다. 메일에서 두 사람의 연구가 기관 프로젝트가 아니라 개인적인 협업이며, 쓰는 도구 비용은 자기 연구비로 내고 있다고 설명했습니다. 결과는 논문과 형식 검증을 함께 곧 공개하겠다고도 적었습니다. 공개적으로 말을 꺼내는 대신 당사자에게 먼저 사실을 알린 것입니다. 공식

9월 8일, Buckmaster는 그 이후에 벌어진 일을 4쪽짜리 성명서로 공개했습니다. 그리고 같은 날 OpenAI도 나비에-스토크스 증명과 Lean 형식화를 공개했습니다. 이 글은 두 발표를 나란히 놓고 읽습니다. 공식

나비에-스토크스가 대체 무엇인가요

이야기의 배경에는 방정식 하나가 있습니다.

나비에-스토크스 방정식은 물과 공기가 앞으로 어떻게 흐를지 계산해 주는 식입니다. 지금 이 순간 물의 속도를 넣으면 잠시 뒤의 속도를 알려 줍니다. 수도꼭지에서 쏟아지는 물줄기, 굴뚝에서 올라가는 연기, 태풍의 소용돌이가 모두 이 식을 따릅니다.

문제는 이 식이 언제까지 답을 내놓는지 아무도 모른다는 것입니다. 물이 흐르면 큰 소용돌이가 작은 소용돌이로 쪼개집니다. 쪼개질수록 더 빨라집니다. 그런데 쪼개지고 빨라지기를 반복하다가 어느 순간 속도가 무한대로 튀어 버리면, 식은 그때부터 아무 답도 내놓지 못합니다. 실제 강물이나 바람에서는 그런 일이 일어나지 않는 것처럼 보입니다. 하지만 "식 위에서도 그런 일이 없다"를 증명한 사람은 아직 없습니다. 공식

용어 두 개만 알면 뒤의 이야기가 읽힙니다.

유한시간 폭발은 방금 말한 그 상황, 그러니까 속도가 무한대로 튀면서 계산이 멈춰 버리는 순간을 가리킵니다. 이런 일이 일어난다는 것을 보여도 되고, 절대 일어나지 않는다는 것을 보여도 됩니다. 둘 중 하나만 증명하면 문제는 풀립니다.

강제항은 밖에서 물을 계속 밀어 주는 힘입니다. 냄비 밑의 불, 물을 젓는 숟가락 같은 것입니다. 밖에서 아무것도 밀어 주지 않는 물은 저절로 잦아들기만 합니다. 반대로 계속 밀어 주면 폭발을 만들어 내기가 훨씬 쉬워집니다. 이번 이야기에 등장하는 결과들은 전부 이 "밀어 주는" 쪽입니다. 공식

1934년부터 여기까지

이 물음에 처음 큰 진전을 낸 사람은 프랑스 수학자 Jean Leray(이하 Leray)입니다. 1934년에 나비에-스토크스 방정식의 해가 아주 매끄럽지는 않더라도 전체 흐름과 에너지를 계산할 수 있는 형태로는 언제나 존재한다는 것을 보였습니다. 수학에서 약한 해라고 부르는 것입니다. 그래서 남은 물음이 "그 해가 처음의 매끄러움을 끝까지 지키는가"로 좁혀졌고, 그 물음이 90년을 건너 지금까지 왔습니다. 공식

그 사이에 부분적인 답이 쌓였습니다. Caffarelli와 Kohn과 Nirenberg는 특이점이 생기더라도 그것이 차지하는 자리가 아주 작다는 것을 보였고, Escauriaza와 Seregin과 Šverák은 특정한 크기 조건 아래에서는 매끄러움이 유지된다는 것을 보였습니다. Terence Tao(이하 Tao)는 나비에-스토크스를 평균 낸 방정식에서 유한시간 폭발을 만들어 냈습니다. Buckmaster도 Vicol과 함께 유한 에너지 약한 해가 하나로 정해지지 않는다는 것을 보인 적이 있습니다. 이번 OpenAI 논문의 참고문헌에 이 결과들이 나란히 들어 있습니다. 공식

한 가지 덧붙이면, 이 문제는 실제 물이 아니라 식에 관한 것입니다. 물 한 컵 안에는 분자가 10의 24제곱 개가 넘게 들어 있어 하나씩 따라갈 수 없으니, 나비에-스토크스는 유체를 빈틈없이 이어진 하나의 물질로 놓고 각 지점의 속도와 압력만 계산합니다. 이것을 연속체 가정이라고 합니다. 그래서 속도가 무한대로 가는 해를 찾았다는 말은 실제 물이 무한한 속도로 움직인다는 뜻이 아니라, 이 식 안에서 그런 흐름이 허용된다는 뜻입니다. 추정

왜 상금 100만 달러가 걸려 있나요

일기예보, 비행기 날개 설계, 혈관 속 피의 흐름이 전부 이 식으로 계산됩니다. 그런데 그 계산이 언제나 믿을 만한지는 증명되어 있지 않습니다. 클레이 수학연구소가 2000년에 100만 달러 상금을 건 일곱 문제 중 하나로 이 방정식을 넣은 이유입니다. 일곱 문제 가운데 지금까지 풀린 것은 푸앵카레 추측 하나뿐이고, 나비에-스토크스는 여전히 미해결로 분류돼 있습니다. 공식

상금 조건은 생각보다 넓습니다. Charles L. Fefferman이 쓴 공식 문제 서술은 네 진술 가운데 하나만 증명하면 대상으로 인정하는데, 강제항을 다루는 방식이 진술마다 다릅니다. 공식

네 진술이 둘씩 짝을 이루는 것은 유체가 놓인 공간이 다르기 때문입니다. (A)와 (C)는 사방으로 열린 3차원 공간이고, (B)와 (D)는 한쪽 끝이 반대쪽에 이어진 주기 공간, 곧 토러스입니다. 공식

즉 밖에서 매끄럽게 밀어 주는 힘이 있는 상태의 폭발도 상금 경로입니다. Buckmaster가 통화에서 "강제"라는 단어를 듣고 곧바로 경고 신호로 받아들인 이유가 여기 있습니다. 공식

두 사람이 실제로 공개한 것

성명서의 첫 문장은 분명합니다. Buckmaster와 Alpöge가 공개한 것은 유한시간 폭발 결과 세 건이고, 대상은 비압축성 다공성 매질, Boussinesq, 그리고 3차원 비압축성 Euler 방정식입니다. 나비에-스토크스 자체는 여기에 들어 있지 않습니다. 공식

다만 이 셋은 나비에-스토크스와 남남이 아니라 한 가족입니다. Euler 방정식은 나비에-스토크스에서 끈적임, 그러니까 점성을 빼 버린 식입니다. 꿀 대신 물, 물 대신 완전히 미끄러운 가상의 액체를 생각하면 됩니다. Boussinesq 방정식은 여기에 온도 차이로 생기는 대류를 얹은 것으로, 아래를 데우면 위로 올라가는 흐름을 다룹니다. 비압축성 다공성 매질 방정식은 모래나 스펀지 같은 구멍 뚫린 물질 속을 액체가 지나가는 상황을 다룹니다.

수학자들이 이런 이웃 방정식부터 건드리는 데는 이유가 있습니다. 본 문제가 너무 단단해서, 구조가 비슷하면서 조금 무른 곳부터 뚫어 보는 것입니다. Buckmaster가 성명서에서 아직 공개하지 않은 결과를 언급하며 "점성을 약하게 만든 나비에-스토크스"의 폭발도 확인했다고 본 것, 그리고 그것이 강제항 없는 Euler로 가는 길을 시사한다고 적은 것이 같은 맥락입니다. 한 칸씩 본 문제 쪽으로 다가가는 중이라는 뜻입니다. 공식

Buckmaster는 공을 다른 사람들에게 돌렸습니다. 이 접근법의 기본 착상은 스페인의 수학자 Diego Córdoba(이하 Córdoba)와 Luis Martínez-Zoroa(이하 Martínez-Zoroa)의 것이고, 두 사람이 여러 해 동안 파 온 길을 자신들이 LLM의 도움을 받아 끝까지 밀고 갔을 뿐이라는 것입니다. Buckmaster는 Martínez-Zoroa가 필즈 메달을 받을 자격이 있다고 적었습니다. 8월 15일에 결과를 얻었고 8월 22일에 Lean으로 검증했으며, 도구로는 Claude와 Codex를 함께 썼다고 밝혔습니다. 공식

9월 6일 일요일, 두 번의 통화

Buckmaster는 다음 주에 이야기하자고 했지만 OpenAI 쪽은 당일 만남을 두 차례 요청했습니다. 9월 6일 일요일 오후, OpenAI의 Sebastien Bubeck(이하 Bubeck)이 합류한 통화가 두 번 이어졌습니다. Alpöge는 참여하지 않았습니다. 공식

Buckmaster는 그 자리에서 OpenAI 내부 모델이 강제 나비에-스토크스의 유한시간 폭발 증명을 만들었으며 분량이 약 100쪽이라는 이야기를 들었다고 적었습니다. 그리고 곧바로 덧붙였습니다. "나는 그것을 보지 못했다." 공식

Buckmaster가 성명서에서 문제 삼은 것은 세 가지입니다. 하나씩 보겠습니다.

첫째, 인간이 얼마나 개입했는가. Alpöge는 Bubeck에게서 "인간 입력이 아주 적었다"는 말을 들었습니다. Buckmaster는 이렇게 씁니다. "이것은 사실이 아닌 것으로 드러났다." 통화가 진행되는 동안 OpenAI 팀원들이 내부 채팅으로 Bubeck에게 정정과 세부 사항을 보내면서 실제 정황이 나왔다는 것입니다. 팀 전체가 이 문제에 매달렸고, 여러 시도 중 하나였으며, 모델에게 먼저 Euler 같은 더 쉬운 문제부터 풀렸고, 자신에게 보여 준 그 프롬프트조차 Codex로 작성한 것이었고, 엄청난 양의 연산을 썼다는 내용입니다. 쉽게 말해 "모델에게 문제를 던졌더니 혼자 풀었다"에 가까운 그림이 "사람들이 여러 단계로 붙어서 만들어 낸 결과"에 가까운 그림으로 바뀐 것입니다. 공식

둘째, 언제 시작했는가. Buckmaster는 첫 프롬프트를 언제 보냈는지 물었습니다. 성명서에 따르면 이 질문에는 한동안 직접적인 답이 오지 않았고, 결국 "며칠 사이에, 우리 연구에 관한 정보가 OpenAI에 닿은 뒤에 보내졌다"는 데 합의가 이뤄졌습니다. Buckmaster가 이 대목을 중요하게 본 이유는 방향 때문입니다. 강제항을 통해 밀레니엄 문제로 가는 이 경로는 Córdoba와 Martínez-Zoroa가 연 길이고, 자신과 Alpöge가 조용히 골라 파고 있던 길이며, 다른 연구자는 거의 없었다는 것입니다. 그래서 통화에서 "강제"라는 단어를 들은 순간이 강한 경고 신호였습니다. 공식

셋째, 우리 작업물을 봤는가. 두 사람은 프로젝트 내내 모든 초고를 Codex 세션에 넣어 두고 작업했습니다. Buckmaster는 모델이 그 세션에 접근했거나 그것으로 훈련되었는지 물었습니다. 돌아온 답은 "모델은 사용자 데이터를 조회하지 않는다"였습니다. Buckmaster가 다시, 이번에는 훈련에 대해 묻자 답을 받지 못했다고 적었습니다. 조회와 훈련은 다른 질문인데 한쪽에만 답이 온 셈입니다. 공식

저자 이름을 빼라는 요구

통화에서는 두 가지 제안이 나왔습니다. 첫째는 두 사람이 Euler 결과를 먼저 올리고 다음 날 OpenAI가 나비에-스토크스 결과를 올리는 것, 둘째는 Euler를 올린 뒤 Buckmaster 혼자 나비에-스토크스 결과를 소개하는 논문을 쓰면서 그것을 OpenAI 내부 모델이 해결했다고 밝히는 것이었습니다. 두 번째 제안은 Alpöge의 이름이 빠지는 형태입니다. 공식

성명서에 따르면 Bubeck은 Alpöge를 저자에서 빼기를 원한다고 두 차례 말했고, "Levent(Alpöge)가 Anthropic에서 일한다는 사실만 아니었으면 전부 간단했을 텐데 정말 짜증난다"는 취지로 덧붙였습니다. Buckmaster는 두 제안을 모두 거절했습니다. 공식

Buckmaster가 제안대로 공개되면 경위를 알리겠다고 하자 이런 말이 돌아왔다고 적혀 있습니다.

"왜 당신 커리어를 망치려 하나?"

자신은 학자인데 왜 공개가 커리어를 망치는 일이 되느냐고 되묻자, 다음 답이 왔습니다.

"내가 친절하게 굴기를 원하지 않는다면, 나도 친절할 필요는 없다."

두 문장을 풀면 이렇게 읽힙니다. 앞의 말은 조용히 넘어가는 편이 당신에게 이롭다는 뜻이고, 뒤의 말은 그러지 않을 경우 상대가 태도를 바꿀 수 있다는 뜻입니다. Buckmaster가 성명서를 쓰기로 한 이유를 설명하는 대목이기도 합니다. 공식

얼마 뒤 Alpöge에게는 Bubeck과 단둘이 이야기하자는 문자가 왔습니다. 거기에는 "Tristan(Buckmaster)이 지금 완전히 이성적인 상태인지 모르겠다"는 말이 붙어 있었습니다. 공동 저자 두 사람을 갈라 한 명하고만 이야기하려는 시도로 읽히는 대목입니다. Alpöge는 거절하면서 대화는 Buckmaster와 하라고 답했습니다. 공식

같은 날, OpenAI가 증명을 공개했습니다

성명서가 올라온 9월 8일, OpenAI도 발표문을 냈습니다. 제목은 「On the Navier–Stokes Millennium Prize Problem」이고, 증명 원문과 Lean 형식화를 함께 공개했습니다. 형식화 저장소는 openai/NavierStokesAndEuler 이고 Apache-2.0 라이선스입니다. 공식

과정에 대해 밝힌 숫자는 이렇습니다. 소문을 들은 9월 1일에 에이전트를 띄웠고, 9월 5일에 결과에 도달했습니다. 약 88시간입니다. 여기에 GPT-6 Astra로 Lean 형식화와 검증에 17시간이 더 들었고, 9월 6일에 전부 끝났다고 적었습니다. 나비에-스토크스 한 문제에만 270만 건의 메시지와 약 1,300억 개의 출력 토큰이 들었고, 이번에 함께 다룬 문제 전체로는 490만 건과 약 3,000억 개입니다. 모델은 GPT-6 Astra보다 상위인 미공개 내부 모델이라고 밝혔습니다. 이 내부 모델은 8월 28일부터 훈련을 시작해 발표 시점에도 훈련 중이었습니다. 공식

투입 방식도 공개됐습니다. 나비에-스토크스를 맡은 무리는 한때 약 1만 개의 에이전트가 동시에 돌았습니다. 어떤 무리는 해가 끝까지 매끄럽다는 쪽을, 다른 무리는 특이점이 생기는 쪽을 파고들었습니다. 점성을 뺀 Euler 방정식에서 먼저 결과가 나오자 그것을 출발점으로 삼아 나비에-스토크스 쪽에 자원을 몰았고, 각 무리에서 나온 중간 아이디어는 Codex로 추렸습니다. 보도

들어간 돈은 매체마다 다르게 셉니다. 공개 요금으로 환산해 1,500만 달러라는 계산과 2,250만 달러라는 계산이 나왔고, 200만 달러라고 적은 곳도 있습니다. OpenAI 자신은 "수백만 달러대"라고만 말했습니다. 어느 쪽이든 이전에 같은 팀이 수학 문제에 쓰던 비용의 1,000배 규모라는 점은 공통됩니다. 보도

정확히 무엇을 증명했나

여기가 이 글에서 가장 조심해서 읽어야 할 대목입니다. 공개된 Lean 저장소의 설명을 그대로 옮기면 이렇습니다. 공식

즉 나비에-스토크스 쪽은 밖에서 밀어 주는 힘이 있는 상태의 폭발입니다. 앞에서 본 (C)·(D) 진술이 다루는 경우이고, 밀어 주는 힘이 없는 (A)·(B)는 여기에 들어 있지 않습니다. 강제항 없는 폭발은 Euler 방정식 쪽에서 나왔습니다. 공식

저장소 자신도 이 결과를 클레이 공식 문제의 해결이 아니라 "나비에-스토크스 해의 붕괴"를 다룬 것으로 설명합니다. OpenAI는 상금을 청구하지 않았습니다. 공식

소용돌이 하나를 설계했습니다

논문 제목은 「Finite time blowup for Navier–Stokes」이고 166쪽입니다. 정리 1.1이 주장하는 것은 이렇습니다. 점성이 얼마든 간에, 완전히 멈춰 있는 물에서 출발해 시간과 공간 모두에서 제한된 범위에만 작용하는 매끄러운 힘을 주면, 속도가 유한한 시간 안에 무한대로 커지면서도 운동 에너지는 끝까지 유한하게 남는 흐름을 만들 수 있다는 것입니다. 공식

물리적인 그림은 이렇습니다. 중심에 소용돌이를 하나 만들고, 그 안의 물이 축을 향해 안으로 말려들면서 위아래로 빠져나가게 설계합니다. 안으로 갈수록 빨라지는 까닭은 피겨스케이팅 선수가 팔을 오므리면 빨리 도는 것과 같습니다. 각운동량이 보존되니 반지름이 줄면 도는 속도가 커집니다. 빨려 들어온 물이 축 근처에 쌓이지 않고 위아래로 빠져나가기 때문에 이 조임이 계속될 수 있습니다. 공식

문제는 그다음입니다. 이 중심부를 바깥의 매끄러운 흐름과 이어 붙이면 그 사이의 고리 모양 영역에 잔차가 남습니다. 배경 흐름만 두면 이 잔차가 특이점 시각에 다가갈수록 무한대로 커지는데, 그러면 "밖에서 주는 힘이 끝까지 매끄러워야 한다"는 조건이 깨집니다. 클레이 진술이 요구하는 것이 바로 그 조건이었습니다. 공식

논문이 택한 해법은 그 고리에 공간적으로 진동하는 펄스를 넣는 것입니다. 진동끼리 부딪히며 생기는 비선형 운동량 흐름이 잔차의 발산하는 부분을 상쇄합니다. 다만 진동을 하나 넣으면 기존 흐름과 섞이면서 또 다른 오차가 생기고, 그것을 고치면 더 작은 오차가 남습니다. 계산하고 보정하고 다시 확인하기를 되풀이해야 했고, 논문 열 장 가운데 5장부터 10장까지 45쪽에서 126쪽에 이르는 대목이 전부 이 보정 작업입니다. 공식

OpenAI의 반박

9월 8일 기자 브리핑에서 Bubeck이 직접 답했습니다. 핵심 문장은 이렇습니다. 보도

"우리는 그들의 프롬프트나 증명을 우리 모델에 넣거나 에이전트를 지시하는 데 쓰지 않았습니다. 그들이 공개하기 전까지 우리는 어떤 경로로도 그들의 작업을 보지 못했습니다."

Euler 결과에 대해서는 내부 모델이 두 사람과 전혀 다른 방법으로 독립적으로 풀었다고 했고, 나비에-스토크스 전체 증명은 비슷한 방법을 따라갔지만 주말 사이에 만들어졌다고 설명했습니다. 보도

다만 발표문에는 이런 문장도 함께 있습니다. 공식

"가능성은 낮지만, 그들이 우리 제품을 쓰면서 나온 비식별 데이터가 우리 모델을 개선하는 데 도움이 되었을 가능성을 배제할 수는 없습니다."

Bubeck은 이후 X에 Alpöge와 Buckmaster의 우선권을 인정하는 글을 올렸습니다. 보도

Buckmaster가 하지 않은 주장

성명서에서 가장 조심스러운 대목은 마지막에 있습니다.

"나는 OpenAI의 증명을 보지 못했다. 그들의 모델이 무엇을 어떻게 했는지 모른다. 우리 데이터가 쓰였는지도 모른다. 나는 누구도 고발하고 있지 않다."

풀어 쓰면 이런 뜻입니다. Buckmaster는 OpenAI가 표절했다거나 증명이 가짜라고 말하고 있지 않습니다. 자신이 들은 말이 무엇이었고, 언제 들었고, 어떤 제안을 받았는지만 기록으로 남기는 것입니다. 그 이유도 밝혔습니다. 그렇게 하지 않으면 앞으로 나올 발표들이 Buckmaster가 사실이 아니라고 알고 있는 내용을 말하게 되기 때문입니다. 만약 OpenAI 모델이 정말로 나비에-스토크스까지 간극을 메웠다면 그것은 대단한 일이며 OpenAI가 직접, 경위를 온전히 밝히면서 크게 알려야 한다고도 적었습니다. 공식

남는 것

Buckmaster가 원래 하려던 이야기는 따로 있었습니다. 결과 자체보다 수학자 한 사람과 모델이 한 달 만에 이만큼을 해냈다는 사실이 중요하다는 것, 그래서 학생을 가르치는 방식과 공을 나누는 방식과 논문을 심사하는 방식을 다시 이야기해야 한다는 것이었습니다. Buckmaster는 이를 딥블루가 카스파로프를 이긴 순간에 비유했습니다. 공식

한편 Terence Tao는 9월 3일 Mathstodon에 글을 올려, AI가 과정을 공개하지 않은 채 이런 문제를 먼저 풀 경우 문제 자체가 학문의 자산으로서 훼손될 수 있다고 지적했습니다. 이틀 뒤에는 자신이 아는 중대한 진전은 없으며 앞의 논의는 가정이라고 덧붙였습니다. 9월 7일에는 블로그에 두 사람의 결과를 따로 정리하면서, 이런 연구의 진짜 가치는 문제를 푸는 것이 아니라 이해를 넓히는 데 있다고 적었습니다. 공식

OpenAI 발표 뒤에 나온 말은 더 날카롭습니다. 누군가 어떤 문제를 붙들고 있다는 소문만으로도 대규모 연산이 몰려와 원래 연구가 무르익기 전에 그것을 눌러 버릴 수 있다는 것이 확인됐고, 이런 흐름이 이어지면 수백 년 동안 쌓인 열린 과학의 관행이 되돌려질 수 있다고 했습니다. 미해결 문제를 무차별로 파헤치는 일을 유적을 약탈하는 데 비유하기도 했습니다. 보도

다른 수학자들의 반응도 실렸습니다. 이 접근법을 연 Diego Córdoba는 "우리는 조금 충격을 받았다"고 했고, Luis Silvestre는 "어제와 오늘은 정신없는 날들"이라고 말했습니다. 보도

무엇을 보면 되나요

• 증명을 사람이 읽고 난 뒤의 평가. 원문과 Lean 형식화는 나왔습니다. 이제 수학자들이 읽고 무엇이 새롭고 무엇이 기존 방법의 연장인지 가릴 차례입니다. 첫 갈림길은 여기입니다.
• 강제항 없는 나비에-스토크스. 지금 공개된 것은 밀어 주는 힘이 있는 경우입니다. 힘 없는 (A)·(B) 쪽으로 넘어가는지가 다음 관문입니다.
• 양쪽 결과의 관계. 두 팀의 Euler 결과가 강제항 유무에서 갈립니다. 방법이 정말 독립적이었는지는 논문을 나란히 놓고 읽어야 판가름 납니다.
• 클레이 심사 요건. 상금은 인정 학술지 게재, 게재 후 2년 경과, 세계 수학계의 일반적 수용이라는 세 조건을 모두 만족해야 검토가 시작되고, 연구소는 해법을 직접 제출받지 않습니다. 공식 어느 쪽이든 결론까지는 시간이 걸립니다. 추정