LLM을 활용한 흥미로운 수학 발견 방법 연구

최근 대규모 언어 모델(LLMs)이 수십 년간 미해결이었던 고급 수학 문제들을 해결하는 능력을 보여주면서, 수학적 지식의 확장이 전례 없는 규모로 가능해지고 있습니다. 하지만 LLM이 아무리 많은 정리(theorem)를 추측하고 증명하더라도, 이 새로운 지식이 학문적으로 '흥미롭거나 유용한지'는 여전히 미지수입니다. 연구진은 정리의 본질적인 흥미로움(intrinsic interestingness)을 그 증명의 길이와 명제 자체의 길이 비율로 정의했습니다.

이러한 메트릭을 계산하기 위해, 특정 전제 조건 하에서의 증명 난이도를 유용한 기본 원시 요소(primitive)로 식별했습니다. 이를 바탕으로 27B 모델을 학습시켜 일반적인 범용 모델보다 더 정확하게 증명의 난이도를 예측할 수 있음을 입증했습니다. 이 시스템은 후보 정리를 생성하고 그중 가장 흥미로운 것을 선택하며, 스스로 확장하는 수학적 라이브러리를 구축하는 데 활용될 수 있습니다.

해당 메트릭을 최적화하여 모델을 훈련시키자, 더 흥미로운 정리들을 생산할 수 있게 되었으며, 기존의 Mathlib과의 중복도가 91.9%에서 30.6%로 크게 감소했습니다. 이는 '분포 외(out-of-distribution)' 수학 창출이 가능함을 보여줍니다. 이 프레임워크는 인간의 개입 없이도 가치 있는 명제를 스스로 선택하고 검증하는, 자가 확장형 수학 라이브러리를 구축할 수 있는 경로를 제시합니다.