AI 규제 기준 설정권 독점화 경고와 대안 제시
Who Gets to Define the Rules for AI?
Cohere Blog거대 AI 기업들이 '안전'을 명분으로 규제 기준 설정권을 독점하려 하며, 이를 위해 정부에 반독점 면제를 요청하는 상황이 발생하고 있습니다.
- 필자는 이러한 시도가 과거의 카르텔 사례와 유사하며, 공익을 명분으로 시장 지배력을 강화하고 경쟁을 제한할 위험이 크다고 경고합니다.
- AI의 책임 있는 발전은 소수 기업 주도가 아닌, 전 세계가 참여하는 국제적이고 과학적인 '증거 기반 리스크 프레임워크'를 통해 이루어져야 합니다.
- 안전 기준은 개발 주체나 기업 규모와 무관하게 AI 시스템의 '능력(Capability)' 자체를 기준으로 삼고, 모든 과정에 대한 투명성 확보가 필수적입니다.
필자는 소수의 시장 지배적인 AI 기업들이 '안전'을 명분으로 전 세계의 세대적 기술인 AI의 규칙과 안전 표준을 정의하려 하는 것에 대해 근본적인 의문을 제기합니다. 이러한 시도는 과거 금융(1975년 SEC)이나 자동차 산업(1985년 유럽)에서 공익이라는 명목 하에 경쟁 제한 구조를 만들었던 카르텔 사례와 유사하며, 결과적으로 시장 지배 기업의 이익을 보호하고 경쟁을 제한할 위험이 크다고 경고합니다.
최근 일부 거대 AI 연구소들이 정부에 안전 확보를 이유로 반독점 면제(antitrust waiver)를 요청하는 움직임이 포착되었습니다. 필자는 이러한 제안이 소수 기업 주도로 표준과 발전 속도를 결정하려 하며, 이 과정에서 공청회나 광범위한 사회적 의견 수렴 절차가 부재하다고 지적합니다. 이는 AI의 가장 중요한 기술을 상업적으로 연관된 소규모 그룹이 독점적으로 규정하는 결과를 초래할 수 있습니다.
대안으로 필자는 안전하고 책임 있는 AI 개발을 위해 네 가지 기둥에 기반한 접근법을 제시합니다. 첫째, 특정 국가가 아닌 국제적 협력을 통해 어떤 위험이 발생하는지 증거 기반의 리스크 프레임워크를 구축해야 합니다. 둘째, 모델과 시스템의 목적, 잠재적 위험 등을 개발사들이 투명하게 공개해야 하며, 셋째, 리스크 프레임워크에서 정의된 위험에 대해서만 독립적인 테스트가 이루어져야 한다고 주장합니다.