AI 정책 뉴스
에너지 시스템의 최대 사이버 위협: AI가 아닌 인간
Humans, not rogue AI, are still the biggest cybersecurity risk to energy systems
The Verge AI에너지 시스템의 가장 큰 사이버 위협은 자율적인 AI 자체가 아닌, 악의적 의도를 가진 인간 해커에게서 발생합니다.
세 줄 요약
- 오래된 전력 인프라는 현대 공격에 취약하며, 생성형 AI는 전문 지식이 부족한 사람도 복잡한 시스템을 공격할 수 있게 하는 '힘의 증폭기' 역할을 합니다.
- 전력 회사들은 AI 위협에만 집중하기보다, 시스템을 물리적으로 분리하거나(디커넥션) 수동 운영 체계를 갖추는 등 근본적인 대비책 마련이 중요합니다.
- AI 기술 발전 속도에 맞춰, 산업계와 정부는 책임 있는 정책적 규제 및 보안 연구를 병행하여 위험을 관리해야 합니다.
전문가들은 자율적인 자체보다는 악의적인 의도를 가진 행위자(bad actors)의 손에 들어간 생성형 AI를 더 우려하고 있습니다. 이러한 기술은 '힘의 증폭기' 역할을 하여, 평소 OT 프로토콜이나 네트워크 지식이 부족한 사람이라도 을 통해 매뉴얼을 학습함으로써 복잡하고 효과적인 공격을 수행할 수 있게 합니다.
많은 핵심 에너지 인프라는 수십 년 전에 건설되어 현대 사이버 보안 위험을 염두에 두고 설계되지 않았습니다. 이로 인해 시스템은 취약하며, 일부 장비의 경우 원래 제조사가 파산하여 소프트웨어 패치를 개발하거나 적용할 사람이 없는 '고아 기기'가 되기도 합니다. 또한, OT 시스템 업데이트는 분기별 또는 연간으로 제한되는 경우가 많아 방어에 어려움이 있습니다.
방어 전략은 공격 주체와 관계없이 유사해야 하며, 비(非)사이버적 해결책도 중요합니다. 예를 들어, 필요할 때 수동 운영 체제로 전환하거나 인프라를 물리적으로 분리하는 방법 등이 제시됩니다. 나아가 AI가 초래할 수 있는 잠재적 위험에 대비하여 기술 발전과 함께 책임감 있는 정책적 규제 및 보안 연구가 필수적이라는 지적이 나오고 있습니다.
용어 풀이
- AI 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- LLM
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.