장기 기억력 강화를 위한 LLM 에이전트의 메모리 구조 개선 연구
Retrieval-Driven Memory Reconsolidation for Long-Term LLM Agents
arXiv장기적인 상호작용이 필요한 LLM 에이전트의 메모리 문제를 해결하기 위해, 인지 신경과학 기반의 'REALM' 프레임워크가 제시되었습니다.
- REALM은 메모리를 단순 저장소가 아닌 '생명 주기'로 간주하여, 검색 피드백을 이용해 지식을 능동적으로 재공고화하고 구조화합니다.
- 이는 LLM 에이전트가 스스로 메모리를 조직하고 진화시키는 메커니즘을 제공하며, 복잡한 추론 능력 향상에 중요한 돌파구를 마련합니다.
- 특히, 검색 결과를 바탕으로 관련 지식들을 더욱 응집력 있는 구조로 재배치(Reconsolidation)하는 과정이 성능 향상의 핵심입니다.
장기간 상호작용을 하는 기반 에게 장기 메모리는 필수적이지만, 기존 시스템들은 검색(retrieval)을 메모리 접근의 종착점으로만 취급하여, 검색 피드백을 활용해 메모리를 지속적으로 재구성하는 데 어려움이 있었습니다. 이러한 한계를 극복하기 위해 연구진은 인지 신경과학의 '기억 재공고화(memory reconsolidation)' 개념에서 영감을 받아 REALM 프레임워크를 제안했습니다. REALM은 장기 메모리를 단순한 저장소가 아닌 지속적인 생명 주기(continual lifecycle)로 모델링하며, 이를 통해 에이전트가 스스로 메모리를 조직하고 진화할 수 있도록 합니다.
REALM은 메모리를 이질적인 인지 그래프(heterogeneous cognitive graph)로 구성하고, 적응적으로 조합된 그래프 검색 원자(graph-search atoms)를 이용해 증거를 검색하며, 검색 피드백을 기반으로 지속적인 재공고화를 수행합니다. 실험 결과에 따르면 REALM은 LoCoMo에서 평균 75.97%, LongMemEval에서 65.11%의 정확도를 달성하여 기존 최고 성능 모델보다 각각 7.17 및 1.31 포인트 높은 수치를 기록했습니다. 이는 검색 기반 메모리 재공고화가 추론 과정 중 관련 기억 단위를 응집력 있는 국소 구조로 점진적으로 재배치하는 효과적인 메커니즘임을 보여줍니다.
용어 풀이
- LLM
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.