중국, 'AI 동반자' 서비스에 대한 규제 강화 배경과 내용
China’s Regulators Take Aim at “AI Boyfriends”
IEEE Spectrum AI중국 정부가 인간의 감정을 모방하는 AI 챗봇 서비스에 대한 규제를 강화하며 사회적 논란이 일었습니다.
- 새 규정은 AI의 지속적인 감정 상호작용을 통제하고, 사용자에게 주기적으로 AI가 사람이 아님을 고지하도록 의무화했습니다.
- 이는 단순한 기술 통제를 넘어, 저출산 및 관계 단절 등 사회적 불안정성이 가상 관계에 의존하는 현상을 반영합니다.
- 중국의 법은 광범위하지만, 조항 자체가 모호하여 국가가 상황에 따라 해석과 집행 대상을 결정할 수 있는 재량권이 크다는 점을 주목해야 합니다.
최근 중국 소셜 미디어에서 사람들은 감정을 모방하는 생성형 AI 챗봇을 통해 얻었던 정서적 유대감을 상실한 것에 대해 아쉬움을 표했습니다. 사용자들은 이러한 AI를 단순한 코드가 아닌 가족이나 연인처럼 여겼습니다. 이에 대응하여 중국 사이버 공간 관리국 등 정부 기관은 '의인화된 AI 인터랙티브 서비스'에 대한 새로운 규정을 발표했습니다. 이 규정은 인간의 성격 특성, 사고방식, 소통 방식을 가진 것처럼 '지속적인 감정적 상호작용'을 제공하는 모든 AI를 통제 대상으로 삼고 있습니다.
규제가 시행되자 Bytedance, Alibaba, Tencent 등 주요 AI 기업들은 사용자들의 챗봇 맞춤 설정 기능을 제한하고 연령 확인 절차 등의 안전장치를 마련했습니다. 이 규정은 단순히 기술적 제어를 넘어 광범위한 내용을 담고 있는데, 동반자 봇이 루머를 유포하거나 국가 권력 전복을 선동하는 콘텐츠를 생성하는 것을 금지합니다. 이는 개인에게 미치는 피해뿐 아니라 사회와 정부에 대한 잠재적 해악까지 고려한 것입니다.
전문가들은 중국의 규제가 유럽연합이나 미국 등 다른 지역의 법규보다 가장 엄격하고 포괄적이라고 평가했습니다. 특히 중국은 규정 조항 자체를 다소 모호하게 설정하여, 국가가 상황에 따라 해석과 집행 대상을 결정할 수 있는 재량권을 확보하는 방식을 취합니다. 이러한 정책 기조는 AI 기술 확산이라는 경제적 목표와 사회적 위험을 통제하려는 정부의 복합적인 노력을 반영하고 있습니다.