
167년 동안 풀리지 않은 수학계 최대 난제 '리만 가설'을 AI의 도움으로 증명했다는 주장이 나오면서 전 세계 수학계와 AI 업계의 시선이 쏠리고 있다.
AI 기업 앤트로픽 소속 수학자 레벤트 알포게 연구원은 20일(현지시간) 개인 웹사이트에 앤트로픽의 AI 모델 '클로드'와 함께 리만 가설을 증명했다는 내용의 4쪽 분량 문서를 올렸다. 그는 리만 가설뿐 아니라 이를 확장한 '일반화 리만 가설(GRH)'까지 증명했다고 밝혔다.
리만 가설은 1859년 독일 수학자 베른하르트 리만이 제시한 소수 분포에 관한 추측이다. 2000년 미국 클레이 수학연구소가 꼽은 7대 밀레니엄 난제 가운데 하나로, 해결하면 100만 달러의 상금이 걸려 있다.
알포게 연구원에 따르면 연구는 지난 10월부터 이어졌고, 클로드와 주고받은 작업 분량은 25만 쪽을 넘는다. 그는 증명을 수학 증명 검증용 언어인 린(Lean)으로 형식화했다고 설명했다. 다만 본인도 증명의 전 과정을 완전히 이해하지 못한 상태에서 결과를 공개했다고 인정했다.
현재로서는 외부의 독립적인 검증이 이뤄지지 않았다. 클레이 수학연구소 규정상 밀레니엄 난제 해결로 인정받으려면 학술지 게재 후 최소 2년간 검증을 거쳐 수학계의 폭넓은 동의를 얻어야 한다. 연구소는 여전히 리만 가설을 미해결 문제로 분류하고 있다.
발표 시점을 두고도 해석이 갈린다. 앤트로픽이 19일 미국 나스닥에 상장한 바로 다음 날 증명 주장이 공개됐기 때문이다. 알포게 연구원은 발표에 앞서 다리오 아모데이 최고경영자(CEO)와 상의했다고 밝히며, 시점을 둘러싼 회의적 시선이 나올 수 있다는 점도 인정했다.
수학계 반응은 기대와 신중론이 엇갈린다. 영국 배스대 킷 예이츠 교수는 이번 주장이 치열한 검증을 받게 될 것이라며, 검증을 통과한다면 수학과 AI 역량을 이해하는 방식에 큰 파장을 낳을 것이라고 내다봤다.
알포게 연구원은 연구 후반부에 클로드가 자신을 크게 앞서 나가며 문제를 풀어냈다고 설명했다. 일부 보도에 따르면 클로드는 '세타 리프트(theta lift)'라는 기법을 반복 적용하는 새로운 접근법을 제안한 것으로 알려졌다.
리만 가설이 소수와 깊이 맞닿아 있다는 점에서 암호 보안에 미칠 영향을 묻는 목소리도 나온다. 다만 보안업계에서는 증명이 사실로 확인되더라도 RSA 등 기존 암호 체계가 곧바로 무너지는 것은 아니라는 설명이다. AI 기업 간 난제 경쟁도 치열하다. 오픈AI는 지난 9월 또 다른 밀레니엄 난제인 '나비에-스토크스 문제'의 해법을 개발했다고 발표한 바 있다.
리만 가설 분야 권위자인 브라이언 콘리는 AFP와의 인터뷰에서 이번 일을 인류 역사상 기념비적인 순간으로 평가하면서도, 증명 원고 자체는 아직 검토하지 못했다고 밝혔다.

