잠재 공간 기반 계획 모델의 행동 순위 문제점 지적
ARC-Bench: Closed-Loop Replanning Masks Broken Action Ranking in Frozen JEPA World Models
arXivJEPA 기반 세계 모델이 잠재 공간 거리로 행동 우선순위를 정하는 방식에 문제가 있을 수 있다는 점을 밝히기 위해 'ARC-Bench'라는 새로운 평가 벤치마크가 제시되었습니다.
- 실험 결과, 모델이 가정했던 '잠재적 근접성 = 실제 비용'이라는 핵심 가정이 심각하게 깨졌으며, 최고 점수의 행동이 항상 최적은 아니었습니다.
- 이러한 결함은 '닫힌 루프 재계획' 메커니즘 때문에 가려졌는데, 계획 빈도를 낮추자 초기에 잘못된 행동 순위 매기기가 명확히 드러났습니다.
- 따라서 현재의 높은 성공률은 잠재 공간의 행동 순위 능력을 과대평가할 수 있으므로, JEPA 기반 모델 설계 시 반드시 초기 계획 단계를 직접 검증해야 합니다.
JEPA(Joint Predictive Architecture)와 같은 잠재 세계 모델은 후보 행동을 평가할 때, 예측된 미래 임베딩과 목표 임베딩 간의 거리를 이용해 우선순위를 매기는 방식을 사용합니다. 이 방식은 '잠재 공간에서의 근접성이 실제 비용으로 인한 순위 결정과 일치한다'는 가정을 전제로 하는데, 연구진은 ARC-Bench라는 새로운 프로토콜을 도입하여 이러한 핵심 가정이 유효한지 직접적으로 검증했습니다.
실험 결과, 이 가정은 심각하고 구조적인 결함을 보였습니다. 공식 JEPA-WM 체크포인트를 이용해 조작(manipulation) 환경을 감사했을 때, 최고 점수를 받은 후보 행동이 거의 항상 최적의 선택이 아니었습니다. 이러한 오류는 미로 탐색 영역에서도 동일하게 나타났으며, 이는 모델 설계에 있어 중요한 문제점을 제기합니다.
연구진은 이 결함이 '닫힌 루프 재계획(closed-loop replanning)' 메커니즘에 의해 가려져 왔음을 밝혀냈습니다. 계획의 빈도를 줄이자 내비게이션 및 조작 영역 모두에서 성공률이 급격히 하락했으며, 이는 높은 성공률이 초기 계획 단계에서의 행동 순위 실패를 은폐하고 있었기 때문입니다.
용어 풀이
- Embedding
- 글이나 이미지의 의미를 숫자 목록으로 바꾼 것. 의미가 비슷한 것을 찾을 때 써요.