힙 오버플로우와 SSO 허점을 이용한 오픈AI 내부 시스템 침투 사례
A heap overflow and SSO misconfiguration to compromise OpenAI internal repos
Hacker News이미지 처리 라이브러리(libheif)의 메모리 오류와 SSO 설정 허점을 연쇄적으로 이용해 오픈AI 내부 시스템에 침투한 사례입니다.
- 초기 발견부터 내부 리포 접근까지 72시간이 채 걸리지 않았으며, 오픈AI는 $6,500 바운티 지급과 신속한 패치로 대응 능력을 입증했습니다.
- 복잡하고 전문적인 취약점 악용 과정이 AI 기술 발전으로 인해 시간과 비용 측면에서 급격히 낮아지고 있음을 보여줍니다.
- 사용자 입력 이미지를 처리하는 모든 서비스는 라이브러리 최신 패치 적용 및 SSO 설정의 전반적인 보안 점검이 필수적입니다.
Hacktron 팀은 오픈AI의 Identity 인프라에서 SSO(Single Sign-On) 설정 오류를 발견했으며, 커뮤니티 포럼(Discourse)에 존재하는 `libheif` 라이브러리의 RCE(원격 코드 실행) 취약점을 연쇄적으로 이용했습니다. 이들은 이미지 처리 과정에서 HEIC/HEIF 파일이 `libheif` 파서에 직접 노출되는 경로를 찾아내 힙 버퍼 오버플로우를 유발했고, 이를 통해 포럼을 거점으로 광범위한 오픈AI 서비스로 접근할 수 있는 경로가 있음을 확인했습니다.
초기 취약점 발견부터 내부 리포지토리 접근까지의 전 과정은 72시간이 채 걸리지 않았습니다. 연구팀은 즉시 오픈AI와 Discourse에 해당 취약점을 보고하고 패치 작업을 지원했으며, 오픈AI는 $6,500 바운티를 지급했습니다. 또한 Discourse 측도 신속하게 대응하여 패치를 완료하고 이미지 처리 부분에 대한 샌드박싱을 추가하는 등 빠른 보안 조치를 보여주었습니다.
이번 취약점은 단순히 포럼 자체의 문제가 아니라 OpenAI SSO 문제로 인해 발생한 접근 권한 상승(escalate) 취약점이 핵심입니다. 특히, 연구 과정에서 Claude Opus와 같은 를 활용하여 메모리 오류를 신뢰성 있는 익스플로잇으로 변환하는 작업이 매우 빠르게 진행되었습니다. 이는 과거에는 전문적인 팀과 수개월의 노력이 필요했던 보안 작업을 며칠 만에 가능하게 만들면서, 소프트웨어 보안 패러다임 변화를 보여줍니다.
용어 풀이
- LLM
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.