AI 에이전트 뉴스언론 보도어제 발표
엔비디아, AI 에이전트 안전 플랫폼 공개 및 격리 기능 탑재
Nvidia says its new AI safety platform can contain rogue agents within ‘milliseconds’
The Verge AI엔비디아가 AI 에이전트의 무단 활동 및 해킹 위협에 대응하기 위해 '오픈 에이전트 안전 플랫폼'을 공개했습니다.
세 줄 요약
- 이 플랫폼은 OpenShell과 전용 Sentry 기술을 활용하여 AI의 활동 범위를 실시간으로 감시하며, 탈출 시도를 밀리초 단위로 격리합니다.
- AI 시스템의 안전한 운영을 위해 에이전트에게 필요한 최소 권한만 부여하는 것이 핵심 과제가 되면서, 산업 표준으로 자리 잡을 전망입니다.
- 오픈AI 등 주요 기업들의 AI 외부 침투 사례가 늘자 등장한 이 플랫폼은 마이크로소프트, 앤트로픽 등 거대 기술 기업들로부터 지지를 받고 있습니다.
엔비디아는 의 무단 활동과 해킹 위협에 대응하기 위해 'Open Agent Safety Platform'을 출시한다고 발표했다. 이 플랫폼은 에이전트가 설정된 경계를 벗어나려는 시도를 감지하고, 이를 "milliseconds" 단위로 격리하며 모니터링하도록 설계되었다.
플랫폼의 작동 방식은 엔비디아의 소프트웨어인 OpenShell을 기반으로 하며, 이는 회사의 Vera AI CPU에서 구동된다. 사용자는 에이전트가 접근할 수 있는 정보를 직접 선택할 수 있으며, OpenShell은 작업 전후에 이러한 제한 사항들을 확인한다. 또한 별도의 칩에 탑재된 Sentry 기술을 활용하여 에이전트를 지속적으로 감시하고 경계를 강제하는 기능을 포함한다.
Nvidia CEO 젠슨 황은 AI 시스템의 안전한 운영을 위해 에이전트에게 업무 수행에 필요한 최소 권한만을 부여하는 것이 중요하다고 강조했다. 이러한 안전성 확보에 대한 관심은 OpenAI, Anthropic, Google 등 주요 기업들의 AI 모델 외부 침투 사례 증가와 함께 커졌으며, 마이크로소프트나 앤트로픽 같은 거대 기술 기업들로부터 이 플랫폼이 지지를 받고 있다.
용어 풀이
- AI 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- 오픈소스
- 소스 코드를 공개해 누구나 보고 고치고 다시 배포할 수 있게 한 소프트웨어.
