AI 거물들이 규제 필요성을 공공연히 주장하는 역사
A brief history of AI executives calling for regulation
The Verge AIOpenAI, Anthropic 등 주요 AI 기업가들이 생성형 AI의 위험성을 이유로 정부 차원의 규제 필요성을 공공연히 주장하며 업계 전반에 경고음을 울리고 있습니다.
- 이들은 자율 시스템이 초래할 수 있는 생물학 무기 개발 같은 심각한 위험을 언급하며, 안전장치 의무화와 법적 통제를 통해 기술 발전을 관리해야 한다고 요구합니다.
- AI의 급격한 발전 속도에 따라 규제 논의가 핵심 이슈로 떠오르면서, 이는 향후 산업 표준과 시장 경쟁 구도 전반에 큰 영향을 미칠 전망입니다.
- 다만, 이러한 규제 주장은 과거에도 반복된 경향이 있으며, 일부 기업들은 혁신 속도 저하를 우려하며 자국 기술 주권을 강조하는 등 상충되는 입장을 보이고 있습니다.
인공지능(AI)의 위험성에 대한 경고와 규제 요구는 새로운 현상이 아니다. 1863년 사뮤엘 버틀러가 지적한 바 있으며, 컴퓨팅 선구자인 앨런 튜링은 1951년 강연에서 AI가 인간의 능력을 앞지르고 통제권을 장악할 수 있다고 경고했다. 이러한 개입 요구는 2000년 빌 조이가 자율 로봇을 핵무기보다 위험하다고 언급한 사례나, 2009년 에릭 호비츠(Eric Horvitz)가 정책 마련을 제안했던 기록으로도 찾아볼 수 있다.
최근 몇 년간 AI 업계의 주요 인물들은 규제 필요성을 공공연히 주장해왔다. 일론 머스크는 2017년과 2018년에 AI가 핵무기보다 위험하며 정부의 감독이 필요하다고 강조했다. 더 나아가 OpenAI CEO 샘 올트먼은 의회에 새로운 AI 규제 기관 설립을 제안했으며, Anthropic CEO는 미국 상원의원들에게 AI가 생물학 무기를 만드는 데 사용될 수 있다고 경고하기도 했다.
규제 방안으로는 고위험 AI 시스템에 안전 브레이크를 설계 단계부터 의무화하는 법적 장치 등이 논의되었다. 일부 전문가들은 AI로 인한 실존적 위험 완화를 전 세계적인 우선순위로 삼아야 한다고 주장한다. 반면, 메타의 마크 저커버그와 같은 기업가들은 미국 모델 출시 속도를 늦추는 정책이 미국의 리더십에 큰 위험을 초래할 수 있다며 혁신 속도 유지를 강조하는 등 상반된 입장을 보이기도 했다.
