AI 정책 뉴스언론 보도어제 발표
Anthropic CEO, AI 발전 속도 조절 '프론티어 페이싱' 계획 발표
Anthropic CEO outlines plan to ‘pace the frontier’
TechCrunch AIAnthropic CEO 다리오 아모데이가 급격한 AI 발전에 대한 안전 우려를 제기하며, 개발 속도를 늦추는 '프론티어 페이싱' 계획을 발표했습니다.
세 줄 요약
- 핵심 방안으로 제3자 기관의 '임베디드 평가관' 도입을 통해 기업 내부의 안전 규정 준수를 의무화하고, 국제적 협력을 통한 발전 속도 조절을 주장했습니다.
- 이는 AI 안전 문제가 단순한 기술적 문제를 넘어, 정부 주도의 글로벌 표준 마련과 강력한 공공 개입이 필수적인 영역임을 시사합니다.
- 다만, 전문가들은 이러한 규제 제안이 특정 기업에 유리할 수 있다는 비판과 함께, 국제 협력 및 규제의 실현 가능성에 대해 회의적입니다.
앤트로픽의 다리오 아모데이는 인공지능 기술의 급격한 발전에 대한 안전 우려를 제기하며, AI 개발 속도를 늦추는 '프론티어 페이싱' 접근법을 제시했습니다. 그는 특히 OpenAI-HuggingFace 해킹 사례와 같이 최근 몇 달간 AI가 발전하는 속도가 매우 빨라졌으며, 이로 인해 신중한 접근이 필요하다고 지적했습니다.
아모데이는 첫 번째 단계로 METR과 같은 외부 제3자 기관의 '임베디드 평가관' 도입을 주장했습니다. 이들은 AI 기업들이 안전 약속을 실제로 준수하는지 검증하고, 발생한 안전 사고가 제대로 보고되는지를 보장할 수 있습니다. 아모데이는 앤트로픽이 이러한 평가관 제도에 자발적으로 참여하겠다고 밝혔습니다.
나아가 그는 민주주의 국가 내 선도 AI 기업들이 공통의 안전 기준과 무분별한 AI 발전 속도 제한을 조정해야 한다고 제안했습니다. 또한, 미국 및 동맹국들과 권위주의 정부 간에도 협력을 시도하여, 생물학적 무기 생산 등 명백히 위험하고 좁은 범위의 용도를 금지하는 방향으로 글로벌 조율이 필요하다고 강조했습니다.
