에이전트 코딩의 불확실성 예측 방법론 'SU'
How to Speculate about Uncertainty in Agentic Coding? A Draft-Model Gate Method
arXiv소프트웨어 코딩에 사용되는 LLM 에이전트의 치명적인 오류와 높은 실행 비용을 줄이기 위한 새로운 방법론입니다.
- 에이전트가 생성한 출력 토큰 시퀀스만으로 실패 가능성 점수를 예측하며, 이를 활용한 사전 검증 게이트 적용 시 오류율 6~8%, 비용 14~19% 절감 효과를 입증했습니다.
- 모델의 내부 로짓이나 가중치 접근 없이도 작동하며, 별도의 재학습 없이 다양한 에이전트와 환경에 일반화되어 적용 가능하다는 점에서 높은 실용성을 갖습니다.
- SU가 제공하는 '실패 가능성 점수'는 라우팅, 인간 개입 등 다양한 후속 정책(downstream policy)이 즉시 활용할 수 있는 액션 가능한 신호입니다.
소프트웨어 엔지니어링을 위해 배치된 는 잘못된 행동을 자신감 있게 수행하는 경향이 있으며, 이로 인해 발생하는 오류는 비용이 많이 드는 실행과 재시도 후에야 발견됩니다. 이에 연구진은 'Speculative Uncertainty (SU)'라는 방법을 제시했습니다. SU는 블랙박스 에이전트의 출력 만으로 예측 실패 신호를 복구하며, 로짓이나 접근 없이 작동하는 것이 특징입니다.
기술적으로 SU는 작은 오픈 가중치 초안 모델을 활용하여 에이전트가 이미 생성한 궤적(trajectory)을 단일 순방향 패스로 점수화합니다. 이 과정에서 추론(reasoning)과 행동 범위를 분리하여 위상별 특징을 추출하고, 이를 검증 가능한 목표에 맞춰 보정함으로써 실패 가능성 점수를 산출합니다.
SU가 생성하는 실패 가능성 점수는 라우팅, 인간 개입 또는 추가 테스트 시간 컴퓨팅 등 다양한 후속 정책(downstream policy)이 직접 활용할 수 있는 액션 가능한 신호입니다. 이 신호를 이용한 사전 실행 거부 게이트를 Qwen3-Coder-480B와 Claude 3.5 Sonnet 같은 에이전트에 적용했을 때, 배포 환경에서 실행 오류율을 6~8%p, 토큰 비용을 14~19% 절감하는 효과가 입증되었습니다.
용어 풀이
- LLM
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- 토큰
- AI 모델이 글을 처리하는 단위. 단어보다 작은 조각이며 사용량과 요금을 셀 때 기준이 돼요.
- 가중치
- 학습으로 정해진 모델 내부의 숫자 값. 내려받는 모델 파일의 본체예요.