AI 정책 연구
프로토콜을 넘어 증거 기반으로: 공공선을 위한 AI의 제한적 주장
From Protocols to Evidence: Bounded Claims for AI in Service of the Common Good
arXivAI는 단순한 기술적 문제를 넘어, 사회 시스템의 구조적 실패(책임성, 대응성 등)를 드러내므로 거버넌스는 제도와 시스템을 함께 평가해야 합니다.
세 줄 요약
- 기존의 원칙 중심 규제에서 벗어나, 실제로 평가된 증거에 기반하여 주장을 제한하는 ‘증거 경계(Evidence-Bounded)’ 접근법을 제시합니다.
- AI 거버넌스가 단순히 기술적 준수 여부를 넘어, 누가 권력을 유지하고 사회 정의가 어디까지 보장되는지 판단하는 기준을 제공하기에 주목해야 합니다.
- 따라서 AI의 책임 있는 도입은 기술 공학 개선뿐 아니라, 제도적 복구 노력과 지속적인 윤리적·정치적 판단이 필수적으로 요구됩니다.
인공지능은 단순한 기술적 문제를 넘어서, 사회 시스템이 이미 대응성, 소속감, 돌봄, 책임성을 제공하는 데 실패했던 구조적 단절을 드러내는 개입체이다. 따라서 책임 있는 AI 거버넌스는 단순히 시스템 자체를 평가할 뿐만 아니라, 해당 시스템이 도입되는 제도적 단절(institutional rupture)까지 함께 고려해야 한다.
기존의 원칙 중심 규제 방식에서 벗어나, 실제로 평가된 증거에 한정하여 주장을 제한하는 '증거 경계 배포(evidence-bounded deployment)' 개념을 제시한다. 이는 유리한 증거가 무효화할 수 없는 제약 조건들을 기록하는 '측정 경계 거버넌스'와 구분되며, 나 NIST AI RMF 같은 프로토콜들이 지향해야 할 방향성을 논한다.
이러한 관점에서 RISE AI는 책임성(Responsibility), 포용성(Inclusivity), 안전성(Safety), 역량 강화(Empowerment)에 대한 증거 기반 주장을 할 수 있는 아키텍처를 제공한다. 궁극적으로 책임 있는 AI 도입은 기술 공학적 개선을 넘어, 제도적 복구 노력과 지속적인 도덕적 및 정치적 판단이 필수적으로 요구된다.
용어 풀이
- EU AI Act
- 유럽연합이 AI를 위험도에 따라 나눠 규제하려고 만든 법.