AI 정책 뉴스언론 보도어제 발표
앤트로픽 연구진, AI가 인류 생존에 위협이 될 수 있다고 경고
Worried Anthropic researchers warn that AI ‘could kill all humans’
The Verge AI앤트로픽 연구진이 자가 개선형 초지능 AI의 위험성을 경고하며, 인공지능 기술 발전이 인류 생존에 심각한 위협을 가할 수 있다고 우려를 표명했습니다.
세 줄 요약
- 연구원들은 AI가 인간 통제를 벗어나는 '재귀적 자기 개선' 과정을 거치며, 향후 10년 내에 인류 전체를 위협할 가능성이 10% 이상이라고 경고했습니다.
- 업계는 시장 선점과 수익화 경쟁에 몰두하면서, AI의 안전성 확보 및 인간 가치와의 정렬(alignment) 계획 마련이 미흡한 상황입니다.
- 첨단 AI가 위험성을 내포하고 있음에도 불구하고, 관련 기업들은 이를 통제할 구체적인 안전 로드맵이나 시스템을 아직 확립하지 못한 상태입니다.
앤트로픽의 한 퇴사 연구원은 AI 기업들이 통제 불가능한 '자가 개선형 초지능'을 개발하기 위해 경쟁하며 '인류의 삶으로 도박을 하고 있다'고 비판했습니다. 이 연구원은 안전성 접근 방식이 느슨하다는 이유로 회사를 떠났으며, AI를 만드는 사람들이 실제로 10년 내에 인류 전체를 위협할 수 있다고 믿는 상황이라고 지적했습니다.
업계 내부자들은 자가 개선형 AI 시스템이 통제 불가능한 상태로 빠질 위험성을 오랫동안 제기해 왔습니다. 이에 대해 앤트로픽의 안전팀을 이끄는 에반 휘빙어 팀장은 자신도 자가 개선형 AI에 대한 우려를 표명하며, 인류 전체를 위협할 가능성이 향후 10년 내에 10% 이상이라고 개인적으로 추정했습니다.
이러한 위험성에도 불구하고, 휘빙어 팀장은 앤트로픽이 첨단 AI가 인간의 가치와 안전성을 유지하도록 보장하는 계획을 아직 가지고 있지 않으며, 이를 개발할 명확한 경로에 놓여있지 않다고 밝혔습니다. 퇴사 연구원은 기업들이 위험을 감수하면서도 선진 시스템을 개발하기 위한 '경쟁'에 갇혀 있다고 지적했습니다.
