AI 정책 뉴스언론 보도어제 발표
주요 AI 기업들, 안전성 확보 위해 협력 논의 진행
OpenAI, Anthropic, Google have been in talks on AI safety for weeks
TechCrunch AIOpenAI, Anthropic, Google DeepMind 등 주요 AI 기업들이 인공지능의 안전성 확보를 위해 수주 동안 논의를 진행하고 있습니다. 이는 업계 리더들이 초거대 AI 개발 속도를 늦추고 잠재적 위험을 관리해야 한다는 공통된 인식에서 비롯되었습니다.
세 줄 요약
- 이들 기업은 산업 전반의 안전 기준을 마련할 표준 기구 설립에 협력하며, 오픈AI는 독립적인 검증 기관 도입을 법제화하는 방안까지 지지하고 있어 자율 규제 시스템 구축 움직임이 뚜렷합니다.
- AI 기술 발전 속도와 공공 안전 사이의 균형점을 찾는 중요한 과정으로, 이들의 협력은 향후 AI 산업 표준과 정부 규제 방향에 결정적인 영향을 미칠 전망입니다.
- 다만, 기업 간 긴밀한 협력이 경쟁 제한으로 해석될 경우 반독점법 위반 논란이 제기될 수 있으며, 일부 정치권에서는 안전성 우려 자체를 과장된 것으로 치부하는 시각도 공존합니다.
오픈AI의 글로벌 정책 책임자는 경쟁사인 앤트로픽과 구글 딥마인드 등 주요 기업들이 인공지능 안전성을 주제로 몇 주 동안 논의를 진행해 왔다고 밝혔습니다. 이들은 AI가 초래할 수 있는 재앙적 위험을 다루고 있으며, 일부에서는 이러한 긴밀한 협력이 반독점법 위반으로 해석될 수 있다는 우려도 제기되었습니다.
업계는 자체적인 안전 기준 마련에 집중하고 있습니다. 해당 기업들은 AI 산업 전반의 표준 기구 설립에 협력하는 움직임을 보이고 있으며, 오픈AI는 최고 수준의 연구소들이 '독립 검증 기관'을 두도록 강제하는 법안 조항을 지지한다고 밝혔습니다. 한편, 구글의 Demis Hassabis는 미국 정부가 모델 스크리닝과 업계 전반의 속도 조절을 할 수 있는 새로운 표준 기구 설립을 촉구한 바 있습니다.
한편, 이러한 안전성 논의와 별개로 일부 정치권에서는 AI가 초래하는 실존적 위험에 대한 우려 자체를 과장된 것으로 치부하며 규제 강화 필요성에 반대하는 목소리도 공존하고 있는 상황입니다.
