연례 보고서로 본 기업의 AI 위험 공개 현황 분석
The AI Risk Observatory: What Can We Learn from AI Disclosures in Annual Reports About Societal Resilience?
arXiv연구진은 대규모 언어 모델을 활용해 2020년부터 2025년까지 영국 상장사 약 1만 건의 연례 보고서를 분석하여, 기업들의 AI 위험 공개 추이를 파악했습니다.
기업들이 연례 보고서에서 AI 위험을 언급하는 비율은 높아지고 있지만, 실제 내용적으로 깊이 있는 공개는 여전히 부족하다는 점을 알 수 있어요.
- 보고서에서 AI 위험 언급 비율(41.2%)은 급증했으나, 내용적으로 깊이가 있는 '실질적 공개'는 전체의 4%대에 불과해 형식적인 언급만 늘고 있음을 발견했습니다.
- 기업의 AI 위험 고지가 단순한 홍보에 그칠 경우, 투자자나 규제 당국이 기업의 실제 대응 역량을 오판할 위험이 크기 때문에 주목해야 합니다.
- AI 위험 공개 수준은 산업군이나 상장 시장 유형별로 격차가 뚜렷하며, 연례 보고서만으로는 기업의 포괄적이고 지속적인 AI 거버넌스를 판단하기 어렵습니다.
연구진은 을 활용하여 영국 상장사 1,362곳의 9,821개 연례 보고서(2020년~2025년)를 분석했습니다. 이들은 재현 가능한 2단계 분류 파이프라인을 적용했으며, 방법론 검증 과정에서 높은 재현율과 중간 수준의 레이블별 일치도를 확인했다고 밝혔습니다.
분석 결과, 2020년부터 2025년까지 보고서에서 AI 위험을 언급하는 비율은 2.8%에서 41.2%로 증가했습니다. 또한 AI 채택 공개 역시 13.8%에서 45.2%로 상승했으며, 언급된 주요 공급업체는 마이크로소프트를 중심으로 소수의 대형 제공업체에 집중되는 경향을 보였습니다.
보고서가 AI 위험을 언급하는 비율이 높아졌음에도 불구하고, 실제 내용적으로 깊이가 있는 '실질적 공개'는 매우 낮은 수준입니다. 예를 들어, 2025년 기준 모든 보고서의 41.2%가 AI를 위험으로 언급했지만, 실질적인 AI 위험 공개로 분류된 것은 단지 4.3%에 불과했습니다.
AI 위험 공개 수준은 산업별 및 상장 시장 유형별로 큰 차이를 보였습니다. 특히 AIM 보고서가 Main Market 보고서보다 훨씬 낮은 비율로 AI 위험을 공개했으며, 에너지 및 데이터 인프라와 같은 일부 분야는 다른 분야에 비해 AI 위험 공개가 뒤처지는 것으로 나타났습니다. 또한 피해(harm) 관련 공개는 전체 코퍼스에서 거의 찾아보기 어려웠습니다.
용어 풀이
- 대규모 언어 모델
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.
기업들이 AI 위험에 대해 언급하는 추세가 어떤가요?
2020년부터 2025년까지 보고서에서 AI 위험을 언급하는 비율은 2.8%에서 41.2%로 크게 증가했어요. 또한, AI 채택 공개 역시 13.8%에서 45.2%로 상승했고요.
AI 위험을 언급하는 것과 실질적으로 공개하는 것은 다른가요?
네, 매우 달라요. 2025년 기준으로 보고서의 41.2%가 AI를 위험으로 언급했지만, 실제로 깊이 있게 다룬 '실질적 공개'로 분류된 것은 단지 4.3%에 불과했어요.
산업별로 AI 위험 공개 수준에 차이가 있나요?
네, 큰 차이를 보여요. 특히 AIM 보고서가 Main Market 보고서보다 훨씬 낮은 비율로 AI 위험을 공개했고, 에너지나 데이터 인프라 같은 분야는 다른 분야에 비해 뒤처지는 경향이 나타났어요.