뇌 구조 모방을 통한 일반 연속 학습 방법론 연구
Brain-Inspired Hierarchical Modularity for General Continual Learning
arXiv기존의 오프라인 학습에 국한된 연속 학습(CL)의 한계를 극복하고자, 온라인 환경과 불확실한 데이터 스트림을 처리하는 새로운 방법을 제시했습니다.
- 뇌 구조에서 영감을 받은 계층적 모듈성 원리를 적용하여, 지식 간 충돌 경험은 분리하고 호환되는 경험을 통합해 일반화 능력을 극대화합니다.
- 본 연구는 AI가 변화무쌍한 실제 환경의 데이터를 학습할 수 있는 생물학적 기반 경로를 제시하며, 로봇 조작 등 실생활 응용에 큰 의미를 가집니다.
- 사전 학습된 파운데이션 모델에 경량 모듈 적응을 결합하여 구현되었으며, 온라인 데이터 스트림 환경에서 높은 성능 향상을 입증했습니다.
기존의 연속 학습(Continual Learning)은 주로 오프라인 환경에서 명확한 태스크 경계를 가진 방식으로 연구되어 왔습니다. 그러나 실제 지능형 시스템이 마주하는 온라인적이고 불확실하며 진화하는 데이터 스트림을 처리하기 위해서는, 충돌하는 경험은 분리하고 호환되는 경험은 통합하여 일반화를 촉진할 수 있는 새로운 접근 방식이 필요합니다.
본 연구는 초파리(Drosophila)의 학습 및 기억 시스템에서 영감을 받아 계층적 모듈성 원리를 식별했습니다. 이 원리는 전문가 특화와 앙상블 통합을 통해 상충되는 경험과 호환되는 경험을 모두 조정하는 역할을 합니다. 이를 구현하기 위해 사전 학습된 파운데이션 모델에 경량의 모듈 적응 방식을 결합했으며, 전문가 라우팅을 위한 생체모방 무작위 확장(random expansion) 및 공간적/시간적 규모 전반의 다양한 모듈 통합이 이루어졌습니다.
제안된 방법론은 시각 인식, 비전-언어 이해, 체화된 행동 학습 등 여러 분야에서 온라인 데이터 스트림 하에 일관되게 학습 성능을 개선하는 것으로 나타났습니다. 특히 체화된 조작(embodied manipulation) 환경에서는 리플레이가 없는 대안 대비 50 퍼센트 포인트 이상의 성능 향상을 입증하며, 계층적 모듈성이 동적인 경험으로부터 학습하는 생물학적으로 근거 있는 경로임을 뒷받침합니다.