기업용 AI 에이전트의 지식 연결 방안 연구 결과
Connecting AI agents to enterprise knowledge
MIT Technology Review AI기업용 AI 에이전트는 단순 데이터 분석을 넘어, 조직의 맥락적 지식(Knowledge) 이해가 필수적이며 이것이 신뢰성 있는 의사결정 및 행동의 핵심입니다.
기업용 AI 에이전트가 단순한 데이터 분석을 넘어 신뢰성 있는 의사결정을 하려면, 조직의 지식을 체계적으로 연결하는 것이 필수적이에요.
- 현재 에이전트 프로젝트의 성공률은 조직의 '지식 역량'에 크게 좌우되며, 가장 큰 걸림돌은 사일로화되어 접근성이 낮은 분산된 데이터 문제입니다.
- AI 도입 효과를 극대화하려면, 단순히 데이터를 모으는 것을 넘어 조직 전체의 정보를 통합하고 구조화하는 '지식 계층(Knowledge Layer)' 구축이 필수적입니다.
- 성공적인 확산을 위해서는 검색 증강 생성(RAG) 기술이나 데이터 파이프라인 개선과 더불어, 기업 내부 지식을 체계적으로 연결하는 '지식 그래프' 구축에 우선순위를 두어야 합니다.
AI 시스템은 지속적으로 데이터를 축적하고 분석하지만, 기업용 는 종종 '지식' 부족이라는 한계를 겪습니다. 단순히 데이터가 많다는 것을 넘어, 개별 조직의 맥락에서 그 데이터가 무엇을 의미하는지에 대한 이해(지식)가 필요하며, 이러한 지식이 있어야만 상황에 대해 추론하고 의사결정을 내리며 행동할 수 있습니다. 충분한 지식 없이는 에이전트가 부정확하거나 신뢰하기 어려운 결정을 내릴 위험이 높습니다.
연구 결과에 따르면, AI 에이전트 프로젝트의 성공적인 상용화는 조직의 '지식 역량'과 밀접하게 연관되어 있습니다. 평균적으로 전체 에이전트 AI 프로젝트 중 생산 단계까지 도달하는 비율은 약 34%에 불과하며, 레거시 데이터 시스템이나 지식 및 맥락 부족 등이 주요 실패 원인으로 지적됩니다. 특히 에이전트의 지식 접근성을 저해하는 가장 큰 도전 과제로는 '데이터 파편화'(시스템 간 부적절한 데이터 공유)가 55%로 언급되었습니다.
기업들은 AI 도입 효과를 높이기 위해 조직의 데이터와 에이전트 간 연결을 강화하는 데 집중하고 있으며, 이를 위해 지식 계층(Knowledge Layer) 구축이 핵심 방안으로 제시됩니다. 기관들은 에이전트의 지식 접근성을 확대하기 위해 (RAG), 데이터 수집 파이프라인, AI 준비 와 같은 검색 기술 투자와 더불어, 기업 내부 지식을 체계적으로 연결하는 '지식 그래프' 구축에 우선순위를 두고 있습니다.
용어 풀이
- AI 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- 검색 증강 생성
- 답하기 전에 관련 문서를 찾아 그 내용을 근거로 답하게 하는 방법.
- API
- 프로그램끼리 기능을 주고받는 약속된 창구. AI 모델은 보통 API로 불러 써요.
AI 에이전트 프로젝트가 실패하는 주요 원인은 무엇인가요?
에이전트 AI 프로젝트는 성공적인 상용화가 조직의 '지식 역량'과 밀접하게 관련되어 있어요. 특히 시스템 간 데이터 공유가 제대로 안 되는 '데이터 파편화' 문제가 가장 큰 도전 과제로 지적되었어요.
AI 에이전트의 지식 접근성을 높이는 핵심 방안은 무엇인가요?
기업들은 AI 도입 효과를 높이기 위해 '지식 계층(Knowledge Layer)' 구축에 집중하고 있어요. 검색 증강 생성(RAG) 같은 기술 투자와 더불어, 내부 지식을 체계적으로 연결하는 '지식 그래프'를 만드는 것이 우선순위가 되고 있어요.
AI에게 데이터와 지식이란 무엇이 다른가요?
단순히 데이터가 많이 축적되는 것을 넘어, 개별 조직의 맥락에서 그 데이터가 어떤 의미인지 이해하는 '지식'이 필요해요. 이러한 지식이 있어야 에이전트가 상황을 추론하고 신뢰할 수 있는 결정을 내릴 수 있어요.