LLM이 제시하는 거절 근거의 실제 영향력 검증 연구

본 연구는 언어 모델(LLM)이 후보를 선택할 때, 특정 후보가 부족하다고 지목하며 제시하는 '근거'가 실제로 최종 결정에 영향을 미치는지 실험적으로 검증했습니다. 일반적으로 LLM은 경쟁 후보의 프로필에서 누락된 사실(예: 감독이나 사망일 등)을 언급하며 거절합니다. 연구진은 이 가설을 테스트하기 위해, 모델이 지목한 부족한 사실을 담은 실제 코퍼스 문장을 해당 후보의 프로필에 삽입하고 그리디 디코딩 방식으로 재질문했습니다.

가장 큰 규모의 세 가지 실행 중 하나에서, 6개의 오픈 소스 모델을 사용하여 2WikiMultihopQA 데이터셋으로 테스트한 결과, 모델이 지목한 사실을 프로필에 제공했을 때 선택 변화 폭이 단순히 무관한 내용을 삽입한 대조군보다 더 크게 나타났습니다. 구체적으로 오즈비(odds ratio)는 3.57 [1.54, 8.26]로 측정되었으며, 이는 모델의 선택에 내용적 정보가 영향을 미칠 수 있음을 시사합니다.

연구진은 이 효과를 검증하기 위해 두 가지 대조군을 설정했습니다. 첫째는 동일한 프로필에 삽입된 길이만 맞춘 무관한 문장이며, 둘째는 모델이 언급하지 않은 세 번째 옵션에 같은 두 문장을 넣은 경우입니다. 분석 결과, 사실 정보를 제공했을 때의 효과가 가장 강력했으며, 심지어 내용적 주장이 없는 완전히 동일한 무관한 문장조차도 지목된 경쟁 후보에서 그렇지 않은 옵션보다 선택 변화를 더 크게 유발하는 경향을 보였습니다.