AI 기반 주장의 검증 가능성 확보를 위한 출판 권한 프로토콜
Making AI-Assisted Claims Independently Challengeable: Publication Authority and a Protocol for Falsifiable Publication Records
arXivAI가 생성한 주장의 신뢰성을 확보하기 위해, 출판 기록의 상태 변화를 정확히 추적하는 '출판 권한(Publication Authority)' 메커니즘이 개발되었습니다.
- 이는 증거와 검증 시점을 분리하고 출판 과정을 엄격하게 관리하여, 논리적으로 모순되거나 출처가 불분명한 주장을 원천 차단합니다.
- AI 기반 정보의 신뢰성 추적 기준을 높여 학술 자료나 중요한 주장이 조작 없이 투명하게 관리되는 환경 구축에 기여할 전망입니다.
- 다만, 이 기술은 시스템 내부의 논리적 일관성과 안전성을 보장하는 것이지, 정보 자체의 '사실적 진실'이나 범용적인 상호 운용성은 담보하지 않습니다.
본 연구는 AI가 생성한 주장들이 신뢰성을 갖추기 위해, 증거, 분석, 인간의 승인, 제시 과정 및 수정 이력 등 다양한 상태 변화를 추적하는 '출판 권한(Publication Authority)' 메커니즘을 개발했습니다. 이는 정확한 상태 기반이며 양도 불가능하고 단일 사용이 가능한 출판 기능을 정의하며, 이를 기계가 읽을 수 있는 AIJIM 프로토콜 후보인 PAC-2026에 구현했습니다.
개발된 시스템은 네 번째 유한 경계 의미 동결(SF-4)이라는 고정 프로파일 사양을 평가합니다. 이 구조는 증거, 실행 및 아티팩트, 측정 공개, 승인, 표면 대응성, 생명주기 연속성의 6가지 의무를 통해 작동하며, 각 의무는 목표 경계의 증인이나 국소적 반례 등을 산출하여 상호 보완할 수 없도록 설계되었습니다. 원자적인 출판 전환을 위해서는 신선하고 완전한 모든 통과 기록이 필요합니다.
실험 결과에 따르면, 10개의 모델은 110,764개의 안전한 도달 가능한 상태를 탐색했으며, 불안정한 구성에서는 예상된 위반이나 관찰자 반례가 생성되었습니다. 이 프로토콜은 증거의 지평과 검증 시점을 분리하여 논리적으로 모순되거나 인과적으로 유효하지 않은 승인을 거부합니다. 다만, 이러한 결과는 내부적 일관성, 경계 안전성 및 결함 민감도를 뒷받침할 뿐, 정보 자체의 사실적 진실이나 범용적인 상호 운용성을 보장하지는 않습니다.