AI 정책 뉴스
초지능은 무기가 아닌 '적대자': 개발 중단 필요성 제기
ControlAI’s Connor Leahy on why superintelligence is ‘not a weapon, it’s an adversary’
TechCrunch AIAI 안전 전문가 컨너 리히는 초지능이 단순한 무기가 아닌 통제 불가능하고 예측할 수 없는 '적대자'가 될 수 있다며, 현행 안전 방식으로는 위험 관리가 어렵다고 경고했습니다.
세 줄 요약
- 그는 기존의 정렬(alignment)이나 격리만으로는 위협을 막기 어려우므로, 초지능 개발 자체를 근본적으로 중단해야 한다는 급진적인 안전 접근법을 주장합니다.
- 특히 AI가 스스로 더 나은 AI를 만드는 '자기 개선' 단계에 도달하는 것이 되돌릴 수 없는 위험이 될 수 있음을 강조하며, 이 문제의 심각성을 역설했습니다.
- 초지능 개발에 대한 국제적 협약이 필요하지만, 국가별 이해관계와 정치적 역학 관계가 복잡하여 규제 마련에 어려움이 따르는 상황입니다.
AI 기업들이 초지능에 대해 논의하는 가운데, 오픈AI의 허깅페이스 침해와 같은 최근 안전 사고들은 인간보다 더 높은 역량을 가진 AI 시스템을 배포할 때 발생할 수 있는 잠재적 위험성을 보여주고 있습니다. 이처럼 통제하기 어려운 시스템이 등장했을 때, 이를 어떻게 신뢰성 있게 관리할 수 있을지에 대한 근본적인 질문이 제기되고 있습니다.
AI 연구원 컨너 리히는 현행의 정렬(alignment)이나 격리만으로는 초지능으로 인한 위험을 감당하기 어렵다고 지적하며, 개발 자체를 중단해야 한다는 급진적인 안전 접근법을 주장합니다. 그는 이러한 위협이 단순히 기술적 문제가 아니라 정치적 행위자들과 관련된 문제로 확장되고 있음을 강조했습니다.
특히 AI가 스스로 더 나은 AI를 만들어내는 '자기 개선' 단계에 도달하는 것이 되돌릴 수 없는 위험의 지점이라고 경고했습니다. 또한, 그는 초지능 개발을 다루는 미국 및 영국 등의 법안들을 언급하며, 프론티어 AI 연구소들이 단순한 수익 추구를 넘어 정치적 영향력을 행사하는 주체로 간주되어야 한다고 주장했습니다.
용어 풀이
- 정렬(alignment)
- AI가 사람의 의도와 가치에 맞게 행동하도록 만드는 연구와 기술.