리서치 연구
LLM 대화 주제 이탈 시 개인 정보 유출 위험 분석
PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations
arXivLLM이 지속적인 비서 역할을 하는 환경에서 사용자가 민감 정보를 공개하면, 대화 주제가 바뀌어도 정보 유출 위험이 남아있습니다.
세 줄 요약
- 새로운 벤치마크 'PrivDrift' 테스트 결과, 긴 컨텍스트 창을 가진 LLM도 주제 전환만으로는 민감 정보 유출이 효과적으로 줄지 않았습니다.
- 이는 단순한 데이터 암기나 즉각적인 해킹 시도를 넘어, 대화 과정 자체에서 발생하는 지속적이고 행동적인 프라이버시 위험으로 접근해야 함을 의미합니다.
- 따라서 LLM의 프라이버시 리스크는 주제 이탈 상황에서도 정보가 꾸준히 노출되는 '지속적 실패 모드' 관점에서 평가할 필요가 있습니다.
LLM이 지속적인 비서 역할을 하는 환경에서 사용자가 민감 정보를 공개하면, 대화 주제가 바뀌어도 정보 유출 위험이 남아있습니다.