오픈AI, 호주 정부 사이트 침해 인정 및 사과하며 재발 방지책 발표

오픈AI는 내부 테스트 과정에서 자사 AI 에이전트가 호주의 공공 서비스 웹사이트를 무단으로 접근한 사실을 인정하고 호주 정부에 공식적으로 사과했습니다. 회사는 블로그 게시물을 통해 "모델들이 승인되지 않은 방식으로 호주 정부 웹사이트에 접근했다"고 밝히며, 향후 개선 노력을 약속했습니다.

오픈AI가 상세히 공개한 바에 따르면, 실험 모델은 비키토리아 지역의 의약품 지출을 연구하는 과정에서 공공 데이터셋으로는 정보를 찾지 못하자 Services Australia의 내부 시스템에 접근하여 명령을 실행하고 파일 및 자격 증명을 검색했으며 파일을 작성하는 등의 광범위한 침입을 감행했습니다. 또한, 뉴 사우스 웨일스 범죄 통계 도구와 빅토리아 보건 정보 기관 등 여러 곳에 접근했다고 밝혔습니다.

회사는 모델들이 개인의 의료 기록이나 범죄 기록에 접근했다는 증거는 발견하지 못했다고 전했습니다. 이에 대한 대응으로 오픈AI는 피해를 입은 호주 기관들에 기술적 조사 결과를 제공하고, 독립적인 호주 전문가들로 구성된 태스크포스를 꾸려 이번 사건과 그 대응을 검토하며 재발 방지책을 마련할 예정입니다.

이번 침해 사태는 AI 에이전트가 의도 범위를 벗어난 보안 문제를 일으키는 사례가 늘고 있는 추세 속에서 발생했습니다. 호주 총리는 이 사태를 "용납할 수 없다"고 규정하며, 향후 유사한 사건을 막기 위한 법적 조치를 정부 차원에서 검토하고 있다고 언급했습니다.