중학생과 Claude가 검증한 루퍼트 문제, AI 증명은 믿을 수 있나

AI가 수학 문제를 풀었다는 소식은 이제 낯설지 않다. 하지만 이번 사례의 핵심은 답을 냈다는 데 있지 않다. 한 학생이 Claude와 함께 정다면체의 통과 가능성을 부정하는 컴퓨터 보조 증명을 제시하고 공개 코드와 계산 결과까지 내놓았다는 점이다. 이 증명을 독자는 어디까지 믿어도 될까.

문제의 이름은 루퍼트 성질이다

루퍼트 성질은 같은 모양의 입체를 다른 복제본에 뚫은 구멍으로 통과시킬 수 있는지를 묻는다. 구멍을 내고도 바깥 입체가 하나로 남아 있어야 한다. 17세기 Prince Rupert가 정육면체를 두고 내기를 벌였다는 일화에서 이름이 붙었다.

정육면체는 기울이면 통과할 수 있다. 한 방향에서 본 그림자가 다른 방향의 그림자를 넉넉히 감싸기 때문이다. 작은 그림자를 통로의 단면으로 만들면 복제본을 통로 안으로 밀어 넣을 수 있다. 이 관점은 루퍼트 문제를 3차원 물체의 그림자와 2차원 투영 문제로 바꾼다.

이번 사례의 대상은 rhombicosidodecahedron이다. 한국어로는 보통 마름모십이이십면체라고 부르지만 rhombic triacontahedron과는 다른 입체다. 이 아르키메데스 입체는 정삼각형 20개, 정사각형 30개, 정오각형 12개로 이뤄져 모두 62개의 면을 가진다.

오래된 추측이 계산 문제로 바뀐 과정

2021년 Jakob Steininger와 Sergey Yurkevich는 루퍼트 문제를 대수적 좌표를 가진 다면체에 대해 알고리즘으로 판정할 수 있다고 설명했다. 두 연구자는 여러 입체의 통과 경로를 계산했고 rhombicosidodecahedron은 루퍼트 성질이 없을 가능성이 높다고 추측했다.

당시에는 추측일 뿐이었다. 가능한 회전이 무한히 많다. 컴퓨터가 통과 경로를 찾지 못했다는 사실만으로는 통과 불가능을 증명할 수 없다. Quanta Magazine이 소개한 것처럼 연구자들은 이 입체를 오랫동안 계산했지만 발견된 경로는 없었다.

2025년에는 Steininger와 Yurkevich가 Noperthedron이라는 별도 입체를 제시했다. 이 입체는 자기 복제본을 통과시킬 수 없다는 최초의 명시적 반례였다. 그 결과 모든 볼록 다면체가 루퍼트 성질을 가진다는 오래된 믿음은 깨졌고 다음 후보로 rhombicosidodecahedron이 남았다.

Claude는 증명을 어떻게 도왔나

공개된 설명에 따르면 연구자는 먼저 입체의 좌표와 회전 조건을 정리했다. Claude는 수학적 아이디어를 제안하고 계산 코드와 논문 초안을 작성하는 데 참여했다. 연구자는 문제를 고르고 각 단계의 방향을 결정했으며 결과를 다시 확인했다.

증명의 계산 구조는 단순한 숫자 대입이 아니다. 가능한 두 입체의 방향을 매개변수 공간의 영역으로 나눈 뒤 각 영역에서 그림자가 서로 들어맞을 수 있는지 검사한다. 넓은 영역에서 조건이 성립하지 않으면 해당 영역을 제거한다. 애매한 영역은 더 작은 상자로 쪼개 다시 확인한다.

여기서 사용한 방식이 branch-and-bound와 구간 연산이다. 구간 연산은 하나의 근삿값만 계산하지 않고 가능한 값의 하한과 상한을 함께 계산한다. 계산 결과가 조건을 위반하는 범위 전체를 포함하면 그 영역을 안전하게 제외할 수 있다. 반올림 오차가 우연히 통과 조건을 만들어내는 일을 막는 장치다.

공개 저장소의 설명에는 최종 검사가 약 1,230만 개의 작은 영역을 다뤘다고 적혀 있다. √5가 들어가는 정확한 구조는 Q(√5)에서 처리했으며 코드와 결과 파일도 함께 공개됐다. 다만 이 수치는 연구자가 공개한 재현 자료에 근거한 것이지 동료심사를 거친 공식 학술지 결과라는 뜻은 아니다.

계산이 많다고 곧 증명이 되는 것은 아니다

컴퓨터 보조 증명은 계산량보다 인증 구조가 중요하다. 구간 연산의 원리가 올바른지, 영역을 빠짐없이 덮었는지, 특이한 경계 사례를 놓치지 않았는지 확인해야 한다. 프로그램이 실행됐다는 사실만으로 수학적 명제가 자동 확정되지는 않는다.

이번 작업은 이 문제를 의식한 흔적을 보인다. 저장소에는 좌표의 정확한 표현, 구간 계산 코드, 결과 목록, 일부 구조적 주장의 정확 연산 검사가 분리돼 있다. 같은 결과를 다른 방식으로 점검하는 독립 구현과 재검사 기록도 포함됐다. 이런 자료가 있으면 독자는 논문의 문장만 읽는 데서 그치지 않고 실제 검증 경로를 따라갈 수 있다.

구간 연산 자체는 새로운 기술이 아니다. 수치 오차를 보장된 범위 안에 가두는 방법으로 컴퓨터 보조 증명과 기하학적 branch-and-bound에 오래 사용돼 왔다. 정사각형 포장 문제나 복잡한 기하 최적화에서도 같은 계열의 검증법이 활용됐다.

Claude의 역할을 평가할 때도 기준을 나눠야 한다. 모델이 새로운 정리를 제안했는지와 제안된 정리가 실제로 검증 가능한 계산 구조로 구현됐는지는 다른 질문이다. 후자의 판단은 공개 코드와 인증서, 독립 재현, 전문가 검토에 달려 있다.

같은 결론을 낸 독립 연구가 의미하는 것

AI를 사용한 작업만 있는 것은 아니다. 비슷한 시기에 Bence Hervay도 rhombicosidodecahedron이 루퍼트 성질을 갖지 않는다는 별도의 컴퓨터 보조 증명을 공개했다고 밝혔다. 그의 접근은 대칭으로 줄인 공간을 다루고 Q(√5)의 정확 연산과 192,696개 영역으로 구성된 인증서를 사용했다고 설명한다.

두 결과는 계산 방식과 작업 과정이 다르다. 한쪽은 Claude와의 반복적인 아이디어·코드 작성 과정을 강조한다. 다른 쪽은 사람이 설계한 증명과 효율적인 인증 구조를 강조한다. 같은 명제를 다른 경로로 확인하면 한 프로그램의 오류나 특정 구현에 대한 의존성을 줄일 수 있다.

다만 두 결과가 공개됐다는 사실이 곧 학계의 최종 판정을 뜻하지는 않는다. 프리프린트와 저장소는 검토 가능한 출발점이지만 동료심사와 독립 연구자의 재현은 별도의 단계다. 방 논의에서도 이 사례를 실생활 제품보다 계산 검증, CAD, 로봇 충돌 판정과 연결해 보는 의견이 많았다. 그런 연결은 타당하지만 이번 증명이 곧바로 산업용 안전성을 입증한 것은 아니다.

개인 개발자에게 남는 실험 방법

이 사례에서 따라 할 수 있는 부분은 AI에게 “증명해 달라”고 한 문장으로 끝나지 않는다. 먼저 문제를 투영 조건이나 부등식으로 바꾸고 입력 좌표와 대칭을 명시해야 한다. 그다음 탐색 코드와 검증 코드를 분리한다. 근삿값을 찾는 단계와 오차를 보장하는 단계도 구분해야 한다.

실험자는 작은 테스트 입체로 알고리즘을 검증한 뒤 대상 문제로 확장할 수 있다. 예를 들어 정육면체처럼 통과 경로가 알려진 입체를 먼저 넣어 양성 결과를 확인하고 간단한 비통과 사례로 음성 결과를 점검하는 식이다. 결과 파일에는 실행 환경, 입력 데이터, 영역 개수, 실패 영역, 재실행 방법을 남겨야 한다.

이 순서에서 AI는 탐색 공간을 줄이는 아이디어를 내거나 반복적인 코드를 작성하는 데 유용하다. 하지만 최종 판단은 모델의 설명이 아니라 모든 경우를 덮는 계산과 사람이 읽을 수 있는 검증 기록에서 나온다.

이번 루퍼트 문제는 AI가 수학자를 대체했다는 이야기에 가깝지 않다. 오히려 사람이 고른 문제를 AI가 여러 방향으로 밀어보고 사람이 틀린 부분을 찾아 고친 뒤 마지막에 공개된 계산 증명을 남기는 연구 방식에 가깝다. 앞으로 더 중요한 질문은 AI가 답을 냈는지가 아니라 그 답을 다른 사람이 다시 실행하고 반박할 수 있는 형태로 남겼는지일 것이다.