AI 에이전트의 보안 취약점: 이메일 및 인증 우회 공격
Hacking AI customer service agents
Hacker NewsAI 에이전트와 고객 지원 챗봇은 이메일 처리 및 인증 과정에서 심각한 보안 취약점을 노출했습니다. 공격자들은 스푸핑된 헤더나 프로토콜의 허점을 이용해 민감 정보에 접근하거나 계정 기능을 악용할 수 있습니다.
- 공격은 단순히 시스템을 해킹하는 것을 넘어, 다중 From 헤더 구조나 자동 응답 기능 같은 정상적인 로직 흐름 자체를 교묘하게 조작하여 데이터를 탈취합니다.
- 기업들은 AI 에이전트의 보안 강화를 위해 이메일 처리 로직과 다단계 인증(MFA) 시스템에 대한 근본적인 취약점 점검이 필수적입니다.
- 다만, 공격 성공 여부는 대상 서비스가 채택한 이메일 인증 프로토콜(SPF/DKIM) 및 시스템 구현 방식에 따라 크게 달라지므로 주의해야 합니다.
최근 와 챗봇은 기업 지식 기반에서 데이터를 검색하고 답변을 제공하는 기능을 수행하지만, 접근 권한 관리가 미흡할 경우 심각하게 악용될 수 있습니다. 예를 들어, 채팅 기록을 이메일로 전송하는 기능 자체가 피싱 메일을 보내는 데 오용될 수 있으며, 챗봇이 지원 이메일 계정으로 설정된 경우 스푸핑 기법을 통해 공격자가 피해자 행세를 하며 해당 계정에서 발신한 것처럼 위장하여 민감 정보를 탈취할 위험이 있습니다.
공격의 심화 단계에서는 이메일 프로토콜 자체의 허점을 이용합니다. RFC 822에 따라 여러 개의 'From' 헤더를 포함하는 메일을 전송할 수 있으며, 이는 메일 클라이언트에서 보이는 'Header From'과 서버가 인증에 사용하는 'Envelope From'을 분리하여 공격자가 통제하는 도메인을 첫 번째 주소로 설정하고 피해자의 계정을 마지막 주소로 지정함으로써 보안 검사를 우회할 수 있습니다. 이 방법을 통해 에이전트는 피해자에게서 온 것으로 오인하여 데이터를 조회하거나 특정 행동을 수행하게 됩니다.
더 나아가, 공격자는 이메일 주소 자체의 구조적 취약점을 이용하는 '스머글링' 기법을 사용합니다. RFC 5322에 따른 주석(comment) 기능을 활용하여 메일 서버가 처리 과정에서 제거하는 문자열을 AI 에이전트가 백엔드 호출 시 그대로 읽어내도록 유도할 수 있습니다. 또한, 다단계 인증(MFA/2FA) 우회 시나리오에서는 이메일 정규화 오류를 이용하거나, IVR 시스템의 경우 발신 번호 위조 또는 보안 질문의 추측 가능성을 악용하여 계정 접근을 시도하는 등 다양한 채널 전환 및 로직 취약점을 공략합니다.
용어 풀이
- AI 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- API
- 프로그램끼리 기능을 주고받는 약속된 창구. AI 모델은 보통 API로 불러 써요.