'에르되시 평면 단위거리 문제' 오랜 추측 반증
수학 특화 모델 아닌 일반 범용 추론 모델 사용
[오픈AI 홈페이지 캡처. DB 및 재판매 금지]
(서울=연합뉴스) 임화섭 기자 = 챗GPT 개발사인 오픈AI가 자사 인공지능(AI)기술로 80년간 미해결 상태였던 수학 난제를 풀어냈다고 20일(현지시간) 발표했다.
이 회사는 이번 성과가 수학과 AI 커뮤니티에 중요한 이정표라며 "수학의 특정 분야에 중심적 위치를 차지하는 주요 미해결 문제가 AI에 의해 자율적으로 해결된 첫 사례"라고 설명했다.
헝가리 출신의 저명한 수학자 폴 에르되시(1913-1996)는 1946년에 '평면 단위 거리 문제'(planar unit distance problem)로 흔히 불리는 미해결 문제를 수학계에 제시했다.
이는 평면 위에 n개의 점을 찍을 때, 단위거리만큼 떨어져 있는 점들의 쌍을 최대 몇 개(ν(n)) 만들 수 있느냐를 묻는 것으로, '이산 기하학'(discrete geometry) 분야에서 중요한 미해결 문제로 꼽혀왔다.
예를 들어 n=9인 경우, 점들을 일렬로만 늘어놓으면 1㎝ 간격인 점들의 쌍이 8쌍만 나오지만, 다른 방법을 쓰면 최대 12쌍을 만들 수 있다.
즉 ν(9) = 12다.
이는 9개의 점을 정사각형 단위의 3×3 격자(grid) 형태로 배치하는 경우에 해당한다.
[오픈AI 홈페이지 캡처. DB 및 재판매 금지]
에르되시는 양의 정수 n이 충분히 커질 경우 ν(n)이 n의 1차함수보다 아주 약간만 더 빠르게 증가할 것이며, 각 점들을 정사각형 단위의 격자 형태로 배치하는 것이 최적의 해답일 것이라고 추측했다.
수식으로 쓰면 "n이 충분히 커지면 ν(n) ≤ n^(1 + O(1/log log n))이 성립한다"는 것이 에르되시가 이 문제에 대해 내놓은 추측이었다.
후배 수학자들은 이 추측을 증명하든지 반증하든지 둘 중 하나를 해내려고 노력해왔으나 80년간 성공하지 못하고 있었다.
이 문제는 에르되시가 생전에 제시한 것으로 알려진 1천217건의 문제의 해결 상황을 데이터베이스로 추적하는 '에르되시 문제' 홈페이지(www.erdosproblems.com)에서도 10대 중요 난제 중 하나로 꼽혔다.
그러나 이달 7일께 오픈AI 소속 수학자들인 메탑 사우니(Mehtaab Sawhney)와 마크 셀키(Mark Sellke)가 일반적인 논리 추론을 위해 훈련된 대규모 언어 모델(LLM)에 이 추측이 맞는지 질문을 던지면서 사태가 급변했다.
AI는 "어떤 상수 δ > 0과 무수히 많은 n에 대해 ν(n) ≥ n^(1+δ)이 성립한다"는 내용의 정리를 증명해, 이는 에르되시가 냈던 추측이 틀렸다는 결론을 내렸다.
오픈AI는 소속 수학자들과 관련 분야를 연구한 외부 전문가들에게 검증을 맡겨 AI가 내놓은 풀이가 올바르다는 사실을 확인했다.
오픈AI는 인간 수학자들에게 AI가 내놓은 풀이를 정리하고 설명하는 작업을 맡겨, 참고문헌 목록을 포함해 총 18쪽의 논문으로 깔끔하게 정리한 후 홈페이지에 공개했다.
이 논문에는 AI에 입력한 20여줄 분량의 프롬프트와 AI가 출력한 원래 형태의 풀이도 실려 있다.
[오픈AI 홈페이지 캡처. DB 및 재판매 금지]
이번 성과는 수학 문제 해결 전용 모델이 아닌 범용 추론 모델로 이뤄졌다고 오픈AI는 설명했다.
오픈AI는 소셜미디어 X에서 "거의 80년 동안 수학자들은 가능한 최고의 해답이 대략 정사각형 격자 모양일 것이라고 믿어왔다"며 "오픈AI의 모델은 이제 그 믿음을 반증하며, 더 나은 성능을 내는 완전히 새로운 형태의 구성군을 발견했다"고 설명했다.
회사 측 설명에 따르면 AI는 기존의 2차원 평면 격자가 아니라 고차원의 복잡한 대칭 격자를 구성한 뒤, 이를 2차원 평면으로 투사해 납작한 '수치적 그림자'를 만들어내는 방식으로 한계치를 돌파한 것으로 파악됐다.
학계 전문가들은 이번 성과가 수학 최고 권위 학술지에 게재될 만한 수준이라며 찬사를 보내고 있다.
[오픈AI 홈페이지 캡처. DB 및 재판매 금지]
필즈 메달 수상자인 티머시 가워스 케임브리지대 교수는 "AI가 그냥 미해결 수학 문제를 푼 것이 아니라, 매우 잘 알려진 미해결 수학 문제를 해결한 매우 명확한 첫 사례"라고 평가했다.
수학계 전문가들은 AI의 가장 큰 무기로 '지치지 않는 인내심'을 꼽았다. 인간 수학자라면 지루하고 성공 보장이 없어 중간에 포기했을 법한 고차원 구성 과정을, AI는 압도적인 집중력으로 끝까지 파고들어 결과를 냈다는 분석이다.
에르되시 문제 사이트를 운영하는 맨체스터대 소속 토머스 블룸 영국왕립학회 대학 연구펠로우는 "AI가 생성한 최초 증명은 완전히 유효했지만, 오픈AI의 인간 연구자들과 본 논문에 참여한 수많은 다른 수학자들에 의해 크게 개선됐다"고 설명했다.
그는 "인간은 여전히 이 증명을 논의하고, 소화하며, 개선하고, 그 결과를 탐구하는 데 있어 필수적인 역할을 한다"고 강조했다.
이번 AI의 연구 결과를 바탕으로 이미 인간 수학자가 후속 연구를 진행했다.
원래 AI 증명에는 상수 δ를 어떤 값으로 취하면 되는지 명시돼 있지 않았으나, 윌 사윈 프린스턴대 교수는 δ=0.014로 잡으면 된다는 점을 증명했으며 이런 연구결과를 곧 발표할 예정이다.
limhwasop@yna.co.kr