AI 에이전트 연구
Epistemic Sybil Resistance: Multiplying AI Agents Without Multiplying Evidence
ARarXiv
다수의 AI 에이전트가 보고서를 생성할 때, 이 보고서들이 독립적인 증거에 기반했는지 아니면 하나의 근원적 증거를 반복 추출한 것인지 구분하기 어려운 '인식론적 시빌 문제'가 발생합니다.
세 줄 요약
- 보고서의 개수만 늘린다고 신뢰도가 비례적으로 높아지지 않으며, 정보 출처(증거 근원)가 증가할 때 통계적 구별이 가능해지고 에이전트 오류 간 상관관계도 확인되었습니다.
- 추론 과정에서 보고서 간의 유사성(표현적 유사성)과 실제로 정보를 제공한 근원적인 증거 출처는 별개로 취급되어야 하며, 이 둘을 명확히 분리하는 것이 중요합니다.
- 따라서 AI 기반의 집단적 추론은 단순히 참여 에이전트나 보고서의 양을 측정하는 것을 넘어, 정보의 실제 증거 출처와 상호 의존성을 파악해야 합니다.
다수의 AI 에이전트가 보고서를 생성할 때, 이 보고서들이 독립적인 증거에 기반했는지 아니면 하나의 근원적 증거를 반복 추출한 것인지 구분하기 어려운 '인식론적 시빌 문제'가 발생합니다.