도구 사용 LLM 에이전트의 구조적 접근 제어 프레임워크
Progressive Skill Discovery as Access Control for Tool-Using LLM Agents: Structural Governance through Role-Scoped Capability Delivery
arXiv대규모 언어 모델(LLM) 에이전트가 방대한 기업 도구 세트를 사용할 때 발생하는 안전성 및 거버넌스 취약점을 해결하는 새로운 프레임워크를 제안했습니다.
- 제시된 방식은 기능을 '역할(Role)' 단위로 패키징하고, 에이전트가 특정 작업을 수행하는 데 필요한 역할의 도구와 지침만 단계적으로 접근하도록 제한합니다.
- 단순한 정책 안내에 의존하지 않고 시스템 수준에서 권한 범위를 결정론적으로 강제하여, 문제 해결 유연성을 유지하면서도 높은 안전성을 확보할 수 있습니다.
- 실험 결과, 에이전트가 승인되지 않은 도구를 호출하거나 매개변수 제한을 위반하려 할 경우 시스템 차원에서 이를 효과적으로 감지하고 차단하는 것이 확인되었습니다.
(LLM) 는 방대한 기업 도구 세트에 노출될 경우, 과부하와 심각한 거버넌스 취약점을 겪습니다. 기존의 다중 에이전트 위임 방식은 감사 로그를 분산시키고 정책 준수를 보장하기 어렵다는 한계가 있었습니다. 이에 연구진은 기능을 '역할(Role)' 단위로 패키징하고, 이를 `skilder`라는 프레임워크로 제안했습니다. 이 시스템에서 에이전트는 최소 역할 카탈로그부터 시작하여, 특정 작업을 수행하는 데 필요한 역할을 학습한 후 단일 서버를 통해 해당 역할의 스킬, 지침 및 도구를 단계적으로 받게 됩니다.
핵심은 `skilder`가 도구에 대한 접근을 오직 학습된 스킬 내부로 제한한다는 점입니다. 이 구조는 단순한 기반의 확률적 조언이 아닌, 시스템 수준에서 무엇이 학습되었는지 결정론적으로 강제하는 역할을 합니다. 또한, 에이전트가 작업 중간에 여러 역할 간의 기능을 동적으로 획득할 수 있도록 하여 문제 해결 유연성을 유지하면서도 강력한 하드웨어적 제어를 제공합니다.
실험 결과, 이 프레임워크는 평면 컨텍스트 도구 선택 및 다중 에이전트 오케스트레이션 환경에서 총 13가지 작업을 대상으로 여섯 가지 모델을 이용해 평가되었습니다. 그 결과, `skilder`가 시뮬레이션된 권한 계층 역할을 수행하여 승인되지 않은 도구 호출이나 제한 위반(예: 지출 한도 초과)이 발생하지 않도록 거버넌스 경계를 효과적으로 강제하는 것이 확인되었습니다.
용어 풀이
- 대규모 언어 모델
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- 컨텍스트 창
- 모델이 한 번에 읽고 참고할 수 있는 입력의 최대 길이. 보통 토큰 수로 나타내요.
- MCP
- AI가 외부 도구·데이터와 연결되는 방식을 정한 공개 표준. Anthropic이 처음 공개했어요.
- 프롬프트
- AI에게 주는 지시나 질문 글.
- 매개변수
- 모델이 학습하면서 조정한 내부 숫자. 개수가 많을수록 대체로 모델이 크고 무거워요.