AI 에이전트 연구
OpenAgentFlow: Enabling System-Wide Safety Boundaries for Heterogeneous AI Agent Fleets
ARarXiv
여러 에이전트가 복합적으로 작동하는 환경에서 발생하는 시스템 안전 문제를 해결하기 위한 중앙 통제 아키텍처입니다.
세 줄 요약
- GUI 동작, API 호출 등 모든 잠재적 행동을 표준화된 이벤트 스트림으로 통합하고, 실행 직전에 정책 강제 지점(PEP)에서 안전성을 검증합니다.
- 에이전트 코드를 수정할 필요 없이, 중앙 제어 계층에서 새로운 보안 규칙을 적용하고 모든 행동의 감사 기록(Audit)을 남길 수 있습니다.
- 안드로이드 에뮬레이터 환경 테스트에서 높은 정확도와 공격 차단율을 입증하며, 복잡한 AI 군집에 실질적인 안전 경계를 제공함을 보여줍니다.
여러 에이전트가 복합적으로 작동하는 환경에서 발생하는 시스템 안전 문제를 해결하기 위한 중앙 통제 아키텍처입니다.