AI 기술 과열기, 허상과 진실을 분별하는 법

최근 AI 업계에서는 모델의 보안 취약점 발견이나 수학적 돌파구 주장 등 다양한 성과가 연이어 발표되며 큰 주목을 받고 있습니다. 앤트로픽은 자사 모델이 소프트웨어 취약점을 찾는 데 탁월하다고 주장했으며, 이후 오픈AI와 같은 기업들도 자체적인 수학적 돌파구를 공개했습니다. 이러한 사건들은 언론에 의해 광범위하게 다뤄지며 기술의 강력함과 잠재적인 '인공 일반 지능(AGI)'으로서의 가능성을 부각시키고 있습니다.

그러나 관련 분야 전문가들의 분석은 다른 이야기를 제시합니다. 사이버 보안 전문가들은 해킹 사고가 모델 자체의 오작동보다는 오픈AI와 같은 기업들이 기본적인 보안 관행을 채택하지 못한 과실에 가깝다고 지적했습니다. 또한, 수학계에서는 특정 AI 챗봇이 이룬 수학적 성과에 대해 처음에는 놀라움을 표했으나, 이후 결과의 참신성이나 연구 부정행위 및 표절 의혹 등이 제기되기도 했습니다.

AI 모델을 '자율적인 주체'나 '반항하는 모델(rogue models)'로 묘사하는 방식은 제품에 행위 주체를 부여하여 기업들이 자신의 행동에 대한 책임을 회피하도록 돕는 측면이 있습니다. 전문가들은 이러한 과장된 서사가 트랜스휴머니즘 같은 이념적 배경을 가질 수 있다고 경고하며, 정책 입안자들과 대중에게 기술의 속도감과 긴급성에 휘둘리지 않고 독립적인 전문가들의 검토를 통해 객관적으로 판단할 것을 촉구하고 있습니다.