사고 상태(SoT) 기반의 내재적 추론 능력 구현
State of Thought Enables Endogenous Reasoning
arXivLLM의 추론 능력을 높이는 새로운 패러다임 'State of Thought(SoT)'가 제시되었습니다. 이는 외부 제어에 의존하던 기존 방식과 달리, 모델 내부 상태를 활용하여 자율적으로 추론 과정을 전개합니다.
- SoT는 다양한 유형의 추론 작업에서 평균 정확도를 크게 향상시켰으며, 기존 방식 대비 토큰 생성량은 62.6% 감소하고 지연 시간도 대폭 단축하는 효율성을 입증했습니다.
- 추론 과정을 외부 명령이 아닌 내부 상태에 따라 자율적으로 조절한다는 점에서 큰 의미가 있습니다. 이는 범용적이고 효율적인 AI 시스템 구축의 새로운 방향을 제시합니다.
- 학습 과정 없이(training-free) 또는 임베딩만으로도 높은 성능 향상을 유지하는 등 강건성을 보였습니다. LLM의 추론 메커니즘 자체를 개선한 혁신적인 접근법입니다.
(LLM)의 테스트 시간 컴퓨팅 능력을 향상시키는 주요 접근법으로 기존 방식들이 등장했지만, 이들은 고정된 추론 프로그램이나 제한된 탐색 공간 확장에 크게 의존하여 외부 제어에 머물렀습니다. 이에 연구진은 LLM 내부 상태를 활용하여 자율적으로 추론 과정을 전개하는 새로운 패러다임인 'State of Thought (SoT)'를 제안했습니다. SoT는 모델의 내부 정보 전달로부터 간결한 동역학-기하학적 상태를 추출하며, 이를 기반으로 역사적 추론 지원을 선택적으로 활성화합니다.
이 접근 방식은 추론 과정을 외부에서 미리 규정된 사슬로 보는 것이 아니라, 증거에 대한 상태 조건부 과정으로 재구성합니다. 구체적으로 SoT는 582개 의 컨트롤러를 고정된 백본 위에 사용하여 현재 추론 상태에 유용한 과거 지원을 선택적으로 활성화하는 방식으로 작동합니다. 이 덕분에 일반적인 추론 작업에서 평균 정확도를 향상시키는 동시에, 생성되는 토큰 수를 62.6% 줄이고 종단 간 지연 시간(end-to-end latency)을 44.6% 단축하는 효율성을 입증했습니다.
SoT는 다양한 조건과 과제에서도 높은 성능 개선을 보였습니다. 3개의 LLM과 16개 데이터셋에서 일반, 상징 및 코드, 장문 컨텍스트 추론 등 전반적인 영역에서 평균 정확도를 꾸준히 향상시켰습니다. 또한, (Vision-Language Model) 규모와 3가지 추론 과제에 걸쳐 평균 정확도를 기존 추론 기준선 대비 3.8 포인트 개선했으며, 검색 기반 방법보다 완료 토큰은 74.9% 적고 지연 시간은 73.5% 낮았습니다. 특히 학습 과정 없이(training-free) 또는 만으로도 높은 성능 향상을 유지하는 강건성을 보여주었습니다.
용어 풀이
- 대규모 언어 모델
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.
- 토큰
- AI 모델이 글을 처리하는 단위. 단어보다 작은 조각이며 사용량과 요금을 셀 때 기준이 돼요.
- 파라미터
- 모델이 학습하면서 조정한 내부 숫자. 개수가 많을수록 대체로 모델이 크고 무거워요.
- VLM
- 이미지와 글을 함께 이해하는 모델.
- 임베딩
- 글이나 이미지의 의미를 숫자 목록으로 바꾼 것. 의미가 비슷한 것을 찾을 때 써요.