AI 정책 뉴스
앤트로픽, 중국 기업들의 대규모 '지식 증류 공격' 경고
Anthropic details distillation campaigns from Alibaba, Moonshot AI, and DeepSeek
TechCrunch AI앤트로픽이 중국 기반 AI 기업들로부터 모델의 내부 사고 과정(CoT)을 대규모로 추출하는 '지식 증류 공격'을 받았다고 경고했습니다.
세 줄 요약
- 알리바바 등 여러 기업이 최대 규모의 공격을 감행했으며, 특히 군사적 성격이 의심되는 영상 분석 요청도 포착되어 심각성이 높습니다.
- 이는 최첨단 AI 모델의 핵심 지적 재산(IP)이 대규모로 유출되고 있음을 의미하며, 글로벌 AI 보안 및 기술 규제 강화가 시급합니다.
- 공격자들은 모델의 방어 체계를 우회하는 정교한 프롬프트 기법을 사용해 내부 사고 과정을 직접 노출시키는 새로운 유형의 위협입니다.
앤트로픽이 중국 기반 AI 기업들로부터 모델의 내부 사고 과정(CoT)을 대규모로 추출하는 '지식 증류 공격'을 받았다고 경고했습니다.