AI 정책 뉴스언론 보도어제 발표
미국 하원의원, 미중 AI 안전 협약 및 규제 시급성 촉구
Will Chinese AI companies slow down? A top House Democrat wants answers
The Verge AI미국 하원의원 로 카나 의원은 AI 기술의 위험성을 경고하며, 미국과 중국 간에 안전 협약을 맺고 국제적인 규제 논의를 시작할 것을 촉구했습니다.
세 줄 요약
- 그는 특히 인공지능이 스스로 발전하는 자가 개선(RSI) 단계에 대한 통제를 요구하고, 기업들에게 '킬 스위치'와 같은 구체적인 안전장치 마련을 요청했습니다.
- 카나 의원은 AI의 위험성이 국가 이익 차원을 넘어 인류의 운명과 직결되므로, 전문가 주도의 신속하고 책임 있는 국제적 논의가 시급하다고 강조합니다.
- 다만 양국 지도자들이 기술 위험성을 충분히 인식하지 못하고 있으며, 기업들의 상업적 이해관계로 인해 실질적인 규제 마련에는 난항이 예상됩니다.
로 카나 의원은 미국 정보기관과 중국의 주요 AI 기업들(DeepSeek, Alibaba, Moonshot AI 등)에 서한을 보내 인공지능 기술 위험성에 대한 답변을 요청했습니다. 그는 특히 AI 연구소에서 봇 통제력을 상실하는 시나리오에 대비할 수 있는 미국의 대응 방안 평가와 더불어, 중국 정부가 재앙적 AI 위험을 어떻게 평가하고 있는지 분석해 줄 것을 요구했습니다.
카나는 미국과 중국의 지도자들이 기술 위험성에 대한 충분한 시급성을 느끼지 못한다고 지적합니다. 그는 인공지능이 초지능(superintelligence) 단계에 도달하는 것은 어느 국가에게도 이익이 아니며, 사적 이윤 극대화 동기를 가진 기업들이 안전 규칙을 정할 수 있는지 의문을 제기했습니다.
서한에서 카나는 중국 AI 회사들에게 초지능 달성 노력과 재귀적 자기 개선(RSI)에 대한 문서를 요청했으며, 기술 안전장치와 '킬 스위치' 구현 여부도 물었습니다. 궁극적으로 그는 미국-중국 간 RSI 금지 및 최첨단 AI 연구소 감시를 위한 조약을 목표로 하고 있습니다.
