세계 모델 기반의 반사실적 메모리 시스템 COUNTERMEM
COUNTERMEM: World-Model Verified Counter-Factual Memory for Language Agents
arXiv기존 AI 에이전트의 메모리가 실제 경험에 의존했다면, COUNTERMEM은 '만약 다르게 했다면?'이라는 반사실적 시나리오를 검증하여 학습하는 새로운 방식을 제시합니다.
- 실패한 행동을 만났을 때 실행 가능한 세계 모델로 대안을 평가하고 개선된 기억을 저장하며, 기존 대비 평균 12.6%의 성능 향상을 입증했습니다.
- 에이전트가 실제 환경에 비용을 지불하지 않고도 가상 시나리오를 학습하여 최적 의사결정을 내릴 수 있게 함으로써 AI 지능화 수준을 높일 잠재력을 보여줍니다.
- 시스템 성능은 '검증(verification)' 과정과 지속적인 메모리 저장이 필수이며, 검증되지 않은 가상 수정 사항 적용 시 오히려 판단력이 떨어질 수 있습니다.
기존 메모리 프레임워크는 주로 에이전트가 실제 환경과 상호작용하며 얻은 사실적인 경험을 바탕으로 구축됩니다. 하지만 COUNTERMEM은 이러한 한계를 극복하기 위해 '만약 다른 행동을 했다면?'이라는 반사실적 시나리오에 초점을 맞춥니다. 이 프레임워크는 에이전트가 실제 환경에서 비용을 지불하지 않고도 가상 시나리오를 학습할 수 있도록 설계되었습니다.
COUNTERMEM은 실패한 행동 이후, 실행 가능한 세계 모델(예: 테스트, 증명 검사기)을 사용하여 원본 상태의 복사본으로부터 국소적인 대안들을 평가합니다. 이 과정에서 개선된 기억은 원래 행동 및 수정된 행동과 함께 저장되며, 학습된 메모리 사용 정책이 작업 성공도와 상호작용 비용 사이의 균형을 맞추는 역할을 합니다.
gpt-oss-120b를 사용하여 6개 도메인에 걸친 12개의 에서 평가한 결과, COUNTERMEM은 ReAct와 Reflexion 모두 평균 12.6 퍼센트 포인트의 성능 향상을 보였습니다. 또한, 분석 결과 검증 과정이나 지속적인 메모리 저장을 제거할 경우 성능이 약화되며, 부적절한 결정에 검증된 수정을 적용하는 것은 오히려 판단력을 떨어뜨릴 수 있음이 확인되었습니다.
용어 풀이
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- 벤치마크
- 모델 성능을 같은 조건에서 비교하려고 만든 시험 문제 모음.