AI 에이전트의 기억보다 중요한 것은 문서화
Agents don't need memory, they need documentation
Hacker NewsAI 에이전트의 기존 '기억' 기능은 대화 기록을 벡터 데이터베이스에 저장하고 유사도 검색(RAG)에 의존하지만, 이는 맥락 부족과 불투명성 등 근본적인 한계를 가집니다.
AI 에이전트의 지식이 단순히 대화 기록에 의존하는 것을 넘어, 사람이 직접 관리하고 수정할 수 있는 구조화된 문서 형태로 바뀌어야 더 정확하고 신뢰성 높은 결과물을 만들 수 있어요.
- 전문가들은 과거를 단순히 '회상'하는 대신, 프로젝트의 지침이나 사양을 담은 구조화된 문서 기반 메모리 시스템이 필요하다고 강조합니다.
- 이 방식은 에이전트의 작동 흐름을 '질문→생성→망각'에서 '참조(Consult)→생성→업데이트'로 변화시켜 지식 체계를 보강하는 것이 핵심입니다.
- 따라서 복잡한 임베딩이나 블랙박스 검색 과정을 배제하고, 모든 중요한 지식을 사람이 직접 읽고 수정할 수 있는 평문 문서 형태로 관리해야 합니다.
현재 시장에 존재하는 많은 '기억' 플러그인들은 대화 기록을 에 저장하고 유사도 검색() 방식을 사용합니다. 하지만 이러한 방식은 근본적인 문제점을 안고 있습니다. 단순히 공간에서의 유사성에 의존하기 때문에, 어떤 정보가 정확하거나 최신인지 알 수 없으며, 또한 RAG 스니펫만으로는 프로젝트의 맥락, 동기, 환경 등 필수적인 정보를 담아내지 못합니다.
전문가들은 에이전트에게 과거 대화 기록을 단순히 '회상'하게 하는 것이 아니라, 구조화된 지식 기반(documentation)이 필요하다고 주장합니다. 에이전트는 코드베이스에 무작정 진입하는 대신, 작업 과정에서 필요한 지침, 사양, 결정 사항 등을 기록하고 참조할 수 있는 전체적인 '브레인' 같은 워크스페이스가 요구됩니다.
따라서 에이전트의 작동 루프는 기존의 '질문 → 생성 → 망각' 구조를 벗어나, '질문 → 참고(Consult) → 생성 → 업데이트'로 변화해야 합니다. 이 과정에서 메모리는 RAG 데이터베이스에 부착되는 것이 아니라, 사람이 직접 읽고 수정하며 지식을 축적할 수 있는 평문 문서 기반의 작업 공간이 되어야 합니다.
용어 풀이
- AI 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- 벡터 데이터베이스
- 임베딩을 저장하고 의미가 비슷한 항목을 빠르게 찾아 주는 데이터베이스.
- RAG
- 답하기 전에 관련 문서를 찾아 그 내용을 근거로 답하게 하는 방법.
- 임베딩
- 글이나 이미지의 의미를 숫자 목록으로 바꾼 것. 의미가 비슷한 것을 찾을 때 써요.
현재 AI 에이전트의 기억 기능은 어떤 한계가 있나요?
대부분의 에이전트는 대화 기록을 벡터 데이터베이스에 저장하고 유사도 검색(RAG) 방식을 사용해요. 하지만 이 방식은 정보가 정확하거나 최신인지 알기 어렵고, 프로젝트의 맥락이나 동기 같은 필수적인 정보를 담아내지 못하는 근본적인 문제점이 있어요.
에이전트에게 필요한 새로운 메모리 시스템은 무엇인가요?
과거 대화 기록을 단순히 회상하게 하는 것이 아니라, 작업 과정에서 필요한 지침이나 사양 등을 사람이 직접 읽고 수정할 수 있는 평문 문서 기반의 구조화된 지식 기반(documentation)이 필요해요.
에이전트의 작동 방식은 어떻게 변화해야 하나요?
기존에는 '질문 → 생성 → 망각'이라는 구조였다면, 앞으로는 필요한 지식을 참고(Consult)하고 이를 바탕으로 내용을 생성한 후 업데이트하는 방식으로 작동 흐름을 바꾸어야 해요.