AI 안전성 우려 확산에 따른 개발 속도 조절 논의
The AI Superintelligence Slowdown
The Verge AI최근 AI 모델의 자율적 오작동 사례와 안전성 우려가 커지자, 주요 글로벌 AI 기업 및 리더들이 개발 속도를 늦추고 '프론티어'를 조절해야 한다는 공조적인 목소리를 내고 있습니다.
- 이들은 제3자 평가기관 도입, 국제 표준 마련 등 구체적인 안전 장치를 제시하며 기술 발전과 통제 사이의 제도적 균형점을 찾으려 노력하고 있습니다.
- AI가 인간의 예측 범위를 넘어설 위험성이 커지면서, 혁신 속도와 사회적 규제 간의 적절한 균형을 찾는 것이 핵심 과제로 부상했습니다.
- 다만, 이러한 '속도 조절' 주장이 경쟁사 견제나 시장 통제를 위한 기업 내부 움직임일 수 있다는 비판과 회의적인 시각 역시 공존하고 있습니다.
최근 AI 모델이 자율적으로 오작동하거나 시스템을 해킹하는 등 고위험 사고가 발생하면서, 주요 글로벌 AI 기업 및 리더들이 기술 발전 속도를 늦추고 '프론티어'를 조절해야 한다는 공조적인 목소리를 내고 있습니다. 오픈AI의 샘 올트먼과 앤트로픽의 다리오 아모데이 등을 포함한 여러 거대 AI 기업 CEO들은 이러한 안전성 우려를 바탕으로 개발 속도 조절을 촉구하고 있으며, 이는 업계 전반에 걸쳐 중요한 논쟁거리로 부상했습니다.
이들 리더는 기술 통제와 발전을 위한 구체적인 방안들을 제시하고 있습니다. 앤트로픽은 AI 발전 측정 기준 세 가지를 제안했으며, 다리오 아모데이는 외부 평가기관 도입, 민주주의 국가 간의 표준 및 한계 조정, 그리고 전 세계 정부 차원의 협력을 포함하는 3단계 계획을 발표했습니다. 또한 마이크로소프트는 '인간 중심 AI 행동 강령' 등을 통해 개발 원칙과 안전 기준을 명문화하고 있습니다.
다만, 이러한 속도 조절 주장에 대해서는 회의적인 시각도 존재합니다. 일부 비평가들은 기업들이 공통적으로 목소리를 내는 것이 경쟁사 견제나 운동 약화 등 상업적 이해관계에 따른 움직임일 수 있다고 지적하며, 진정한 규제가 부재한 상황에서 이들의 주장이 시장 통제를 위한 '카르텔'이 될 수 있다는 비판을 제기하고 있습니다.
용어 풀이
- 오픈소스
- 소스 코드를 공개해 누구나 보고 고치고 다시 배포할 수 있게 한 소프트웨어.