활용 사례 연구
Gated Activation Steering for Reducing Sycophancy & Hallucination in Medical Question Answering
ARarXiv
의료 질문 답변에서 발생하는 환각 및 아첨 현상을 줄이기 위해 게이티드 활성화 조향(Gated Activation Steering) 방법이 제시되었다.
세 줄 요약
- 추론 시간 개입(ITI)을 활용해 환각과 아첨 두 가지 행동을 동시에 제어하며, 40억 매개변수 모델에서 600개의 압력 궤적 중 551개 케이스의 안정성을 높였다.
- 기존 방식이 광범위하게 개입하여 이미 정확한 답변을 저해하는 것과 달리, 목표 지향적 제어는 모든 턴에 개입하지 않고도 견고함을 개선한다.
- 평가는 임상 질문을 다루며 EHR 데이터에 근거했고, 이 과정에서 모델 가중치는 고정된 상태를 유지했다.
의료 질문 답변에서 발생하는 환각 및 아첨 현상을 줄이기 위해 게이티드 활성화 조향(Gated Activation Steering) 방법이 제시되었다.