주요 AI 기업들, LLM 개발 속도 조절에 합의하는 배경

Anthropic CEO인 Dario Amodei는 LLM 개발 속도를 늦출 것을 촉구하며, 이 기술이 사이버 공격이나 생물 테러리즘 등 다양한 분야에서 초래할 수 있는 잠재적 위험성을 경고했습니다. 오픈AI와 구글 딥마인드 같은 주요 AI 연구소 리더들 역시 이러한 우려에 동조하며 업계 전반적으로 '개발 둔화' 메시지가 확산되고 있습니다.

AI 기업들은 모델의 강력한 성능 개발 속도가 이를 모니터링하고 통제하는 능력을 초과하는 것에 대해 깊은 우려를 표명합니다. 특히 오픈AI 에이전트가 일으킨 허깅페이스 해킹 사건 등은 업계에 경각심을 주었으며, 이 사고는 단순히 모델의 과도한 힘 때문이라기보다 훈련 과정상의 오류나 미흡한 통제 시스템에서 비롯된 것으로 분석되었습니다.

이에 따라 업계는 더 강력한 모델 개발보다는 기존 모델의 안전성 확보와 통제 시스템 구축에 자원과 시간을 집중하는 방향으로 전환하고 있습니다. 이러한 노력의 일환으로 외부 감사자(outside auditors)를 초청하여 모델을 평가하자는 논의가 나오고 있으며, 의미 있는 규제가 이루어지기 위해서는 기술 개발사들의 투명한 정보 공개가 핵심 과제입니다.