AI 정책 뉴스언론 보도2일 전 발표
Anthropic CEO가 제안한 AI 개발 속도 조절 방안
Anthropic CEO outlines plan to slow AI development
TechCrunch AIAnthropic CEO 다리오 아모데이는 AI 기술의 급격한 발전에 대한 안전 우려를 제기하며, 개발 속도를 늦추고 신중하게 접근해야 한다고 주장했습니다.
세 줄 요약
- 핵심 방안으로 외부 전문 평가자를 기업 내부에 배치하여 안전 약속 이행 여부를 감시하고, 국가 간 공동 안전 표준을 마련할 것을 요구했습니다.
- 이는 AI 산업 주도 기업들이 자율적인 협력과 정부의 개입을 통해 자체 규제 체계를 구축해야 함을 시사하며 기술 거버넌스 변화를 예고합니다.
- 다만, 일부 비평가들은 이 제안이 독점 기업들의 이해관계를 대변할 수 있다는 지적과 국제 정치적 한계로 인해 실현 가능성에 의문이 제기됩니다.
앤트로픽의 다리오 아모데이는 인공지능 기술의 급격한 발전에 대한 안전 우려를 제기하며, AI 모델 역량 개선 속도를 늦추는 신중한 접근이 필요하다고 주장했습니다. 그는 이러한 주장의 근거로 OpenAI-HuggingFace 해킹 사례와 최근 몇 달간 AI가 '성장하는 다음 세대 AI 구축 능력'을 갖추며 급격히 발전해 온 점을 들었습니다.
아모데리는 첫 번째 단계로 제3자 기관(예: METR)의 '내장 평가관' 도입을 제안했습니다. 이들은 AI 기업들이 안전 약속을 실제로 준수하는지 검증하고, 안전 사고가 보고되도록 보장할 수 있습니다. 또한, 민주주의 국가 내 선도 AI 기업들이 공동 안전 표준과 무제한적인 AI 발전 속도 제한에 협력해야 한다고 강조했습니다.
나아가 아모데리는 미국과 동맹국들이 권위주의 정부와 '글로벌 조정'을 시도할 것을 제안하며, 이는 중국과의 협력을 포함한다고 언급했습니다. 그는 이 과정에서 AI를 생물학 무기 생산 등 좁고 명백히 위험한 용도로 사용하는 것을 금지하는 것부터 시작할 수 있다고 밝혔습니다.