AI 에이전트 연구
Rethinking Indirect Prompt Injection as a Test-Time Search Problem
ARarXiv
간접 프롬프트 주입 공격을 단순 취약점이 아닌, 환경과 사용자를 고려한 '테스트 시간 검색 문제'로 새롭게 정의했습니다.
세 줄 요약
- 자체 검색 기능을 가진 '에이전트형 공격자'를 통해, 공격자의 컴퓨팅 자원이 증가할수록 취약점 탐지 및 악용 능력이 커짐을 입증했습니다.
- 이에 따라 보안 평가는 피해자 시스템 자체의 특성뿐 아니라, 공격자가 사용하는 '검색 과정'과 '컴퓨팅 자원'을 함께 분석해야 합니다.
- 특히, 공격 전략을 체계적으로 관리하는 것이 불필요한 검색을 줄이고 대규모 컴퓨팅 환경에서도 보안성을 유지하는 핵심 요소입니다.
간접 프롬프트 주입 공격을 단순 취약점이 아닌, 환경과 사용자를 고려한 '테스트 시간 검색 문제'로 새롭게 정의했습니다.