리서치 연구
The Anatomy of an ASR Hallucination
ARarXiv
음성 인식(ASR) 시스템이 실제 발화와 무관한 유창한 텍스트를 생성하는 '환각' 현상을 분석했습니다. 연구진은 이를 오디오 정보가 스크립트를 충분히 안내하지 못하는 '접지 실패'의 결과로 규명했습니다.
세 줄 요약
- 두 가지 독립적인 ASR 모델을 테스트한 결과, 시스템의 최종 인코더 단계가 환각 발생에 결정적인 경계임을 밝혀냈습니다. 이 단계를 우회했을 때만 오작동이 관찰되어 메커니즘적 원인을 제시했습니다.
- 본 연구는 ASR 시스템의 신뢰성 개선 방향을 제시하며, 환각의 근본 원인보다 '충분히 접지되지 못한 출력'이라는 기계적 전제 조건을 명확하게 규명했다는 점에서 의미가 큽니다.
- 다만, 이 결과는 자연적으로 발생하는 모든 환각의 완전한 발생 원인을 밝힌 것이 아니며, 오작동이 일어나는 메커니즘적 조건만을 확인했다는 점을 참고해야 합니다.
음성 인식(ASR) 시스템이 실제 발화와 무관한 유창한 텍스트를 생성하는 '환각' 현상을 분석했습니다. 연구진은 이를 오디오 정보가 스크립트를 충분히 안내하지 못하는 '접지 실패'의 결과로 규명했습니다.