오프라인 과정 없이 지식을 통합하는 지속 학습 연구
Replay in the Silent Degrees of Freedom: Continual Learning Without an Offline Phase
arXiv기존 지속 학습(Continual Learning)은 별도의 오프라인 재학습 단계가 필수적이었으나, 이 연구는 뇌의 깨어있는 상태를 모방하여 오프라인 과정 없이 지식을 통합하는 방법을 제시했습니다.
- ‘격리 규칙’과 ‘불활성 회전 규칙’ 등 생체 제약적인 로컬 원리를 적용해, 현재 입력에 영향을 주지 않으면서 과거 기억을 활용 가능한 공간에 기록하는 데 성공했습니다.
- 이 방법은 AI가 실제 환경에서 지속적으로 지식을 습득하고 망각하지 않는 새로운 패러다임을 제시하며, 학습 효율성과 생체 모방성을 높여 응용 분야에 기여할 전망입니다.
- Split-MNIST에서는 오프라인 과정 없이 높은 성능을 달성했으며, 비록 CIFAR-10 최고 기록에는 미치지 못했으나 핵심 메커니즘은 백프로파게이션 모델에도 적용 가능함을 입증했습니다.
기존의 재현 기반 지속 학습(Replay-based continual learning)은 일반적으로 전용 오프라인 단계나 입력 스트림에 재현 샘플을 삽입하는 방식으로 지식 통합이 이루어졌습니다. 본 연구는 뇌가 깨어있는 동안 국소적인 수면이나 개별 회로의 사용 의존적 비활성 기간을 통해 지식을 통합한다는 점에 착안하여, 오프라인 과정 없이도 생물학적으로 제약된 로컬 규칙만으로 네트워크를 학습시키고 통합하는 방법을 제시했습니다.
이 시스템은 격리 규칙(isolation rule)과 불활성 회전 규칙(refractory rotation rule) 등의 생체 모방적 원리를 적용합니다. 이 메커니즘의 특징은 일반적인 지속 학습 방향을 역전시킨다는 점입니다. 즉, 현재 입력에 대한 숨겨진 계산값은 변하지 않도록 유지되는 동시에, 과거 기억들은 현재 배치에서 사용되지 않은 자유도(degrees of freedom)에 기록됩니다.
실험 결과, Split-MNIST 데이터셋에서 오프라인 과정 없이 91.6±0.3%의 성능을 달성했으며, 이는 별도의 오프라인 야간 스케줄을 적용한 최고 기록과 동등하거나 그 이상이었습니다. 이 방법은 작은 버퍼 크기에서 가장 큰 이점을 보였으며, 핵심 메커니즘 자체가 백프로파게이션 네트워크에도 적용 가능함을 입증했습니다.