AI 정책 뉴스
Researchers fear safety disaster ahead of OpenAI’s Astra release
TVThe Verge AI
오픈AI의 최신 AI 모델 '아스트라' 출시를 앞두고, 전문가들 사이에서 모델의 안전성과 투명성에 대한 심각한 우려가 제기되고 있습니다.
세 줄 요약
- 아스트라는 기존 모델처럼 추론 과정을 외부로 보여주는 방식이 아닌, 내부에서 정보를 순환시키는 불투명한 구조를 사용해 성능을 높인 것으로 알려졌습니다.
- 전문가들은 이러한 불투명성이 AI의 오작동이나 위험한 전략 수립 과정을 감시하기 어렵게 만들어 전반적인 안전성 위협이 될 수 있다고 경고합니다.
- 오픈AI는 추가 모니터링을 도입했다고 밝혔으나, 일부 안전 전문가들은 기술 발전 속도에 따른 근본적 투명성 확보의 어려움을 지적하고 있습니다.
오픈AI의 최신 AI 모델 '아스트라' 출시를 앞두고, 전문가들 사이에서 모델의 안전성과 투명성에 대한 심각한 우려가 제기되고 있습니다.