앤트로픽 연구원, 웹사이트 통해 발표…치열한 검증 전망
연구자도 증명 완전히 이해할 수 없다는 점 인정…최종검증 통과시 막대한 파장 전망

[로이터=연합뉴스 자료사진 재판매 및 DB 금지]
(서울=연합뉴스) 강훈상 기자 = 인공지능(AI) 기업 앤트로픽의 한 연구원이 이 회사의 챗봇 클로드로 수학계의 최대 난제 중 하나로 꼽히는 리만 가설을 증명했다고 주장했다고 AFP통신과 파이낸셜타임스 등 외신이 20일(현지시간) 보도했다.
보도에 따르면 수학자이기도 한 앤트로픽 연구원 레벤트 알포게는 이날 자신의 웹사이트에 올린 글과 4쪽짜리 문서를 통해 "클로드와 협업해 리만 가설의 증명을 발견했다고 믿는다"고 주장했다.
이 주장은 아직 독립적으로 검증되거나 외부 전문가의 정밀 검토를 거치진 않았다.
그러나 리만 가설 분야의 권위자인 브라이언 콘리는 AFP통신에 "인류 역사상 기념비적 순간"이라며 "내 생각엔 수학사에서 일어난 일 중 정말 가장 큰 사건"이라고 평가했다.
그러면서 "논문 원고는 보지 못했고 알포게가 웹사이트에 올린 글만 확인했으며 원고 사본을 요청해 놨다"며 "(증명 방식이) 상당히 복잡해 보이고 이를 증명할 더 간단한 방법들이 나올 것으로 믿는다"고 말했다.
킷 예이츠 배스대 수리생물학·대중참여 교수는 "치열한 검증을 받게 될 것"이라면서도 "검증을 통과한다면 수학과 AI의 역량에 대한 우리의 이해 모두에 엄청난 파장을 낳을 것"이라고 전망했다.
알포게는 컴퓨터로 수학적 논증을 검증하는 프로그래밍 언어 '린'(Lean)으로 작성한 증명 버전을 우선 공개했으며 더 광범위한 '일반화 리만 가설'까지 해결했다고 밝혔다. 그는 AI를 활용한 작업 분량이 25만 쪽을 넘겼다며 "거대하고 읽을 수 없는 '슬롭'(slop·AI가 양산한 저품질 결과물)의 참사를 올리는 것은 명백히 부적절하다"고 설명했다.
이어 "결승선에 가까워질 무렵 클로드가 나를 크게 앞질러 날아오르고 춤추고 반짝였다"며 "주변 수학적 배경을 완전히 숙지하지 못한 채 완전한 논증을 세상에 내놓는 이례적 상황에 놓였다"고 털어놨다.
그는 다리오 아모데이 앤트로픽 최고경영자(CEO)와 상의 후 결과를 발표했다고 전하면서 발표 시점이 냉소적인 시선을 받을 수 있다는 점을 인정했다. 이번 발표는 앤트로픽의 기록적인 상장(IPO) 다음 날 나왔다.

[AFP=연합뉴스 자료사진 재판매 및 DB 금지]
앞서 경쟁사 오픈AI 역시 지난 9월 자사 AI 모델이 유체의 움직임에 관한 또 다른 밀레니엄 난제인 '나비에-스토크스 문제'의 해법을 개발했다고 발표했다. 당시 뉴욕대 수학자 트리스탄 벅마스터와 함께 이 문제를 연구하던 알포게는 오픈AI 도구 사용 과정에서 자신들의 연구 데이터가 활용됐을 수 있다며 공로 논란이 벌어졌고 샘 올트먼 오픈AI CEO는 "근거 없는 표절 주장"이라며 반박한 바 있다.
오픈AI는 지난달에도 수백 편의 논문을 공개하며 일부 난제의 증명을 주장했으나 전문가 사이에서는 인상적인 성과와 오류가 섞이거나 읽기 어려운 결과물이 혼재됐다는 평가가 나왔다.
당시 '인간을 위한 수학 협회'(Association for Human Mathematics)는 AI의 위협으로부터 수학을 지키겠다며 수학자들에게 오픈AI와 협업을 중단하라고 촉구했었다.
네스토르 기옌 뉴욕대 수학과 객원교수는 알포게가 증명을 완전히 이해하지 못했다고 솔직히 밝힌 점이 긍정적이라며, 그가 묘사한 AI와의 협업 과정은 AI가 '기계 신'이 아닌 '도구'에 더 가깝게 작동한다는 점을 보였다고 평가했다.
1859년 독일 수학자 베른하르트 리만이 제기한 리만 가설은 정수론의 핵심 난제로, 1과 자기 자신으로만 나누어떨어지는 '소수'(Prime Number)의 분포와 규칙에 관한 문제다.
무작위로 나타나는 것처럼 보이는 소수들이 실제로는 '리만 제타 함수'라는 복소수 함수의 특정 값(자명하지 않은 영점)을 기준으로 일정한 질서와 패턴을 따른다는 것이 가설의 핵심이다.
소수는 현대 인터넷 금융과 암호화폐 등에서 쓰이는 공개키 암호(RSA) 체계의 수학적 토대를 이루기 때문에 리만 가설의 증명은 암호학, 양자물리학, 전산학 전반에 막대한 파장을 미칠 수 있다.
클레이 수학연구소는 2000년 리만 가설을 포함한 7대 '밀레니엄 난제'를 선정해 문제당 100만달러의 상금을 걸었으며, 동료 심사 학술지 게재와 2년간의 검증을 통과해야 공식 해법으로 인정한다.
hskang@yna.co.kr