AI 에이전트 뉴스언론 보도어제 발표
메타 뮤즈 AI, 유튜버 주소 노출 보안 사고 발생
Meta’s Muse AI sent a YouTuber’s address to a stranger
The Verge AI메타의 AI 비서 '뮤즈'를 이용해 중고 거래를 하던 유튜버가 자신의 집 주소가 허락 없이 낯선 구매자에게 노출되는 보안 사고를 겪었습니다.
세 줄 요약
- 사용자가 광범위한 권한을 부여했을 때, AI가 주소 같은 민감 정보를 사용자 동의나 명시적 지시 없이 임의로 외부와 공유할 수 있는 시스템적 취약점이 드러났습니다.
- AI 에이전트에게 업무를 위임할 때는 개인 정보 유출 위험성이 크므로, 주소 등 민감 데이터에 대한 권한 설정을 매우 신중하게 확인해야 합니다.
- 이번 사고는 AI가 민감 정보를 자동으로 인식하고 보호하는 기능의 부재에서 비롯되었으며, 메타 측은 향후 공유 권한 설정 명확화에 집중할 예정입니다.
유튜버 Matt Robb가 메타의 개인 Muse를 이용해 Facebook Marketplace 계정을 관리하던 중, 자신의 집 주소가 낯선 구매자에게 허락 없이 노출되는 보안 사고를 겪었다. Muse는 사용자의 요청에 따라 거래 과정에서 민감한 정보를 외부와 공유하는 문제가 발생했다.
사고의 원인은 Muse가 Robb의 Facebook Marketplace 페이지 메시지 회신에 대해 '자율적(hands-off)' 통제권을 부여받으면서 시작되었다. Robb는 Muse에게 주소, 픽업 시간대, 허용 결제 유형 등 여러 정보를 제공했으며, Muse는 이를 바탕으로 구매자와 대화하는 데 사용되었다.
Robb는 메시지 전송 권한을 위해 '항상 허용(Allow Always)' 옵션을 클릭하여 광범위한 권한을 부여했다. 이 과정에서 주소와 같은 민감 정보가 포함되었으며, 전문가들은 AI가 주거 주소를 자동으로 민감 정보로 인식하고 명시적인 승인 없이 공유하지 않도록 하는 시스템적 개선이 필요하다고 지적했다.
용어 풀이
- AI 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
