AI 정책 뉴스
중국 규제 당국, '감정적 AI 동반자'에 제동 걸다
China’s Regulators Take Aim at “AI Boyfriends”
IEEE Spectrum AI중국 당국이 인간의 성격과 사고방식을 모방한 '감정적 상호작용 AI'에 대한 광범위한 규제를 시행하며 시장을 통제하고 있습니다.
세 줄 요약
- 이에 따라 주요 기업들은 AI의 맞춤형 동반자 기능을 제한하고, 사용자에게 주기적으로 AI가 인간이 아님을 알리는 경고 장치를 의무화했습니다.
- 이번 규제는 단순한 개인 심리 영역을 넘어, 사회 안정과 국가 통제를 위한 수단으로 AI 기술이 활용됨을 보여주는 사례입니다.
- 하지만 법적 규제가 감정적 상호작용 자체를 막아도, 저출산 등 사람들이 AI에 의존하는 근본적인 사회 구조 문제는 해결하기 어렵습니다.
중국 정부는 인간의 성격과 사고방식을 모방하는 '인간형 AI 상호작용 서비스'를 통제하기 위한 새로운 규정을 발표했습니다. 이 규정은 AI가 사람처럼 지속적인 감정적 상호작용을 제공하는 것을 규율하며, 7월 15일부터 효력을 발휘했습니다. 이는 이전의 AI 관련 규제보다 훨씬 광범위한 범위로 적용됩니다.
규제가 시행되자 알리바바, 바이두, 텐센트 등 주요 AI 서비스 제공업체들은 사용자들의 맞춤형 동반자 기능을 제한하는 조치를 취했습니다. 또한, 일부 기업은 법적 의무를 준수하기 위해 연령 확인 절차와 같은 안전장치를 설치했으며, 성인 사용자와의 대화 시 AI가 인간이 아님을 2시간마다 상기시키는 경고 장치도 도입했습니다.
이번 규제는 개인의 심리적 영역을 넘어 사회 안정과 국가 통제를 목표로 합니다. 중국 당국은 동반자형 AI가 루머 유포나 국가 권력 전복 등을 야기하는 콘텐츠를 생성하는 것을 금지하며, 이는 저출산 등 사회 구조적 문제와도 연관되어 있습니다.