장기 코딩 에이전트의 컨텍스트 압축 기술 'AutoCompact' 공개
AutoCompact: Learning When to Compact Context in Long-Horizon Coding Agents
arXiv장기간에 걸친 복잡한 소프트웨어 개발 작업을 수행하는 코딩 에이전트의 효율성을 높이기 위한 컨텍스트 압축 기술, AutoCompact가 공개되었습니다.
이 기술은 AI 에이전트가 단순한 코드 생성을 넘어, 대규모 소프트웨어 레포지토리 전체를 이해하고 장기간의 복잡한 엔지니어링 작업을 수행할 수 있게 하는 중요한 진전을 의미해요.
- 이 기술은 에이전트가 스스로 최적 시점에 작업 상태를 압축하고 요약하도록 학습시켜, 주요 벤치마크에서 최대 9.2%에 달하는 성능 향상을 입증했습니다.
- 이는 단순 코드 생성을 넘어, 대규모 레포지토리 전체를 이해하고 장기적인 복잡한 소프트웨어 엔지니어링 작업을 수행하는 AI 에이전트 개발에 중요한 진전을 의미합니다.
- 대용량 컨텍스트 창(256K)은 물론, 16K 등 제한적인 환경에서도 폴백 압축 기능으로 안정적인 성능을 유지하는 것이 특징입니다.
코딩 는 레포지토리 수준의 소프트웨어 엔지니어링 작업을 수행하기 위해 코드 검사, 검색, 편집 및 테스트를 포함하는 장기간의 궤적을 거칩니다. 작업이 진행됨에 따라 초기 탐색 정보는 오래된(stale) 컨텍스트가 되므로, 에이전트는 단순히 오버플로우를 피하는 것을 넘어 언제 압축할지, 어떤 작업 상태를 보존할지, 그리고 어떻게 계속 진행할지를 결정해야 합니다.
연구진은 이러한 결정을 정책의 일부로 학습하도록 코딩 에이전트를 훈련한 AutoCompact를 소개합니다. 훈련 데이터 수집을 위해 기본 에이전트로 코딩 작업을 수행하고, 심사관(judge)을 활용하여 압축 결정과 요약 내용을 검토하며 오류가 발견되면 수정된 결과로 환경에서 실행함으로써 트래젝토리를 이어갑니다.
AutoCompact는 지도 및 을 통해 코딩 작업과 컨텍스트 압축 과정을 공동으로 최적화합니다. SWE-bench Verified와 SWE-PolyBench Verified 실험에서 기본 모델 대비 각각 절대 성능 향상 9.2%, 5.0%를 기록했습니다. 이 기술은 256K의 에서도 오버플로우 없이 작동하며, 16K 같은 제한적인 환경에서는 폴백 압축 기능을 제공합니다.
용어 풀이
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- 미세 조정
- 이미 학습된 모델을 특정 목적의 데이터로 조금 더 학습시키는 일.
- 강화 학습
- 행동의 결과에 보상을 주면서 더 나은 행동을 익히게 하는 학습 방법.
- 컨텍스트 창
- 모델이 한 번에 읽고 참고할 수 있는 입력의 최대 길이. 보통 토큰 수로 나타내요.
코딩 에이전트가 컨텍스트 압축을 해야 하는 이유는 무엇인가요?
코딩 에이전트는 코드 검사, 검색, 편집 등 장기간의 작업을 수행해요. 작업이 진행되면서 초기에 얻은 탐색 정보가 오래된(stale) 컨텍스트가 되기 때문에, 단순히 메모리 오버플로우를 피하는 것을 넘어 어떤 정보를 보존하고 어떻게 계속 진행할지 결정해야 해요.
AutoCompact는 어떤 방식으로 학습되었나요?
연구진은 기본 에이전트가 코딩 작업을 수행하게 하고, 심사관(judge)을 활용해서 압축 결정과 요약 내용을 검토해요. 오류가 발견되면 수정된 결과로 환경에서 실행하며 작업의 궤적을 이어가도록 학습시켰어요.
이 기술은 어떤 컨텍스트 크기에서도 안정적으로 작동하나요?
컨텍스트 창이 256K인 경우에도 오버플로우 없이 작동하며, 만약 16K처럼 제한적인 환경이라면 폴백 압축 기능을 제공해서 안정적인 성능을 유지할 수 있어요.