활용 사례 뉴스
AI 기반 가짜 프로필로 위장한 데이팅 앱 사기 실태
The sexy AI-powered dating app scams are here
The Verge AI인공지능(AI) 기술을 이용해 실제 사람과 대화하는 것처럼 위장한 고도화된 데이팅 앱 사기 수법이 포착되었습니다.
세 줄 요약
- 이 사기 앱들은 AI가 생성한 가짜 프로필과 고용된 인력이 결합하여 운영되며, 사용자에게는 상호작용 유지를 위한 금전적 비용을 요구합니다.
- AI가 개인의 심리적 취약점을 이용해 높은 신뢰 관계를 구축하며 금전적 피해로 이어지는 방식에 대한 경각심이 필요합니다.
- 온라인에서 만나는 관계나 서비스 이용 시, 대화 상대가 AI 기반 페르소나인지 혹은 진짜 인간인지 비판적으로 검토하는 습관이 중요합니다.
보안 연구원 매튜 고어-코르마니크는 'Dora'라는 가짜 데이팅 앱을 분석하는 과정에서 AI를 활용한 사기 수법에 노출되었다. 앤트로픽의 크리스 크론보가 진행한 발표에서는 약 28개의 데이팅 앱 네트워크가 자율적인 AI 페르소나에 의해 운영되고 있으며, 이들 채팅은 대부분 실제 인간 와 관련이 없었다고 설명했다.
사기 수법은 사용자들이 진짜 여성과 매칭했다고 믿게 만드는 방식으로 진행된다. 실제로 대화 상대는 소수의 유료 인력(gig worker)인 경우가 많았으며, AI가 좋아요나 방문자 수를 조작하고 가짜 '영상'을 생성하여 상호작용이 가능하도록 꾸몄다. 사용자들은 지속적인 대화를 위해 앱 내에서 실제 돈으로 구매하는 코인을 사용하게 된다.
이 사기 생태계는 여러 AI 제공업체가 관여했다. Claude가 자율적 대화 페르소나를 구동하는 데 사용되었으며, 별도의 비(非)앤트로픽 모델은 짧은 답장 제안, 외모 점수 측정 등을 담당했다. 또한 내부 프로토콜 저장소에서는 기가 워커들의 카메라 작동 여부 모니터링이나 성과에 따른 보상 지급 방식 등 운영 과정이 상세히 기록되어 있었다.
용어 풀이
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.