트럼프 주도 빅테크 기업들의 AI 안전 자율 규제 합의
Here’s how tech leaders will self-police AI safety under Trump’s deal
The Verge AI트럼프 전 대통령의 주도 하에 구글, 메타 등 주요 빅테크 기업들이 AI 안전을 위한 '공동 책임 약속'에 서명하며 자율 규제 체계를 구축했습니다.
- 이 협약은 모델 개발 단계부터 사이버/생물학적 위협 대응을 위한 내부 통제 강화, 전담팀 운영, 외부 독립 감사 및 이사회 감독 등을 의무화합니다.
- 기업들은 이를 통해 대중의 신뢰를 확보하고 있으며, 장기적으로는 이러한 자율 규제 방안들이 법적 제도화될 가능성이 제기되고 있습니다.
- 다만, 약속에 구체적인 처벌 조항이 없고 일반적인 안전 절차 수준에 그쳐 실효성에 의문이 제기되며, 과거 위반 사례도 존재합니다.
트럼프 전 대통령이 '공동 책임 약속(Joint Commitment on Frontier Responsibilities)'이라는 이름으로 AI 안전 협약을 발표했다. 이 합의에는 구글의 순다르 피차이, 메타의 마크 저커버그, OpenAI의 그렉 브록먼 등 주요 기술 기업 최고 경영진들이 서명했으며, 트럼프 전 대통령 역시 참여하여 미국 대통령 자격으로 서명했다. 협약은 모든 회사가 고객과 대중에게 신뢰를 구축하는 방식으로 자체 기술을 개발할 책임이 있다고 명시하고 있다.
협약에 따르면 최첨단 AI 모델의 안전성을 확보하기 위해 네 가지 규칙이 제시된다. 기업들은 첫째, 사이버 보안 및 생물학적 위협 등을 모니터링하는 강력한 내부 통제를 구현해야 한다. 둘째, 모든 통제와 감지 시스템이 제대로 작동하는지 확인하고 문제를 해결할 전담팀을 운영해야 하며, 셋째, 독립적인 외부 감사자나 평가자와 협력하여 자체 평가를 수행한다. 마지막으로 이사회 내 독립 위원회를 지정해 내부 및 외부 감사 결과를 감독하도록 의무화한다.
합의문은 이러한 조치들이 기업과 일반 대중에게 기술이 의도대로 작동한다는 신뢰를 줄 것이라고 언급하며, 장기적으로는 이 단계들을 법률이나 규정으로 성문화하는 것이 의미 있을 수 있다고 밝혔다. 다만, 현재 제시된 규칙들은 대부분 모호한 상식적 안전 절차에 그치며 위반 시 처벌 조항이 없어 실효성에 의문이 제기되고 있다.
