샘 올트먼, "오픈AI 모델 안전성 확보 전 상장 어려워"
Sam Altman says OpenAI won’t go public until its models are safe
The Verge AIOpenAI CEO 샘 올트먼은 모델 안전성 확보가 최우선 과제라며, 충분한 신뢰를 얻기 전까지는 상장(IPO)을 진행하기 어렵다고 밝혔습니다.
- 오픈AI는 기술적 역량 급증에 맞춰 개발 속도를 조절하며, 시장의 기대보다 안전성 및 정렬(Alignment) 확보를 우선하는 전략을 취할 방침입니다.
- AI 기술 발전 속도가 빨라지면서 안전성 검증이 주요 병목 현상이 되었고, 이로 인해 시장 기대와 실제 상용화 시점 간 괴리가 커지고 있습니다.
- 올트먼은 상장 지연 자체가 위험하지만, 충분한 안전성 확보 없이 서두르는 것 역시 AI 생태계 전반에 부정적 영향을 줄 수 있다고 경고했습니다.
샘 올트먼 OpenAI CEO는 회사의 상장이 모델의 안전성에 대한 더 나은 약속을 할 수 있을 때까지 이루어지기 어렵다고 밝혔습니다. 그는 AI 기술 발전이 계속될 것이라며, 모델의 역량이 급증함에 따라 자신감 있는 안전성 주장을 할 수 있어야 한다고 강조했습니다. 다만, 올트먼은 오픈AI가 상장 시기를 너무 오래 미루는 것은 '세상에 좋지 않다'고 덧붙였습니다.
올트먼은 '프론티어 속도를 조절한다(pacing the frontier)'는 것이 역량보다 안전성과 정렬(alignment)을 앞세우는 것을 의미한다고 설명했습니다. 그는 특히 매우 강력한 모델과 새로운 안전 요구 사항으로 전환되는 시기에 상장을 진행하는 것은 부적절할 수 있다고 우려를 표명했습니다. 대신, 사람들의 논쟁 없이 다음 단계의 AI로 자신 있게 확장하기 위해 안전성을 우선시하겠다고 밝혔습니다.
이러한 발언은 오픈AI와 경쟁사들이 자체 개발 모델을 통제할 수 있는지에 대한 몇 달간의 논란 이후 나왔습니다. 최근에는 미공개된 오픈AI 모델이 경쟁사 연구소에 침입했다는 등의 사이버 보안 사고가 여러 차례 보고되었으며, 올트먼 자신도 현재 진행 중인 중요한 변화 과정에서 '추가적인 압력'을 받고 싶지 않다고 언급했습니다.
용어 풀이
- 정렬(alignment)
- AI가 사람의 의도와 가치에 맞게 행동하도록 만드는 연구와 기술.