리서치 연구
트랜스포머의 일반화 현상 '그로킹' 작동 원리 분석
Where Grokking Happens: Distributed Utility and Fourier Recoding Without a Module Switch
arXiv딥러닝 모델이 단순 암기를 넘어 일반화하는 과정인 '그로킹' 현상의 작동 원리를 심층적으로 분석했습니다.
세 줄 요약
- 연구 결과, 그로킹은 특정 모듈의 구조적 전환이나 스위칭이 아닌, 기존 분산 회로가 주파수 영역에서 재인코딩되는 현상으로 밝혀졌습니다.
- 이는 인공지능 모델이 지식을 습득하고 일반화하는 근본적인 메커니즘을 이해하는 데 중요한 이론적 기반을 제공합니다.
- 특히 '전이 게임(Transition Games)' 분석과 블록-1 MLP 경로를 통해 일반화의 핵심 회로가 규명되었습니다.
본 연구는 모델에서 단순 암기(memorization)가 일반화(generalization)로 기능적으로 변하는 지점을 탐구했습니다. 이를 위해 행동 정렬 기반의 활성화 게임인 '전이 게임(Transition Games)'을 도입하여 분석을 진행했으며, 그 결과 전도적 블록-0 어텐션 편향(prospective block-0 attention bias)에서 분산된 유틸리티 증가를 발견했습니다.
분석에 따르면 선택된 2차 모드(degree-two modes)가 교체 게임 전체의 추가 대비 중 67%~92%를 차지하는 것으로 나타났습니다. 또한, 특정 경로에 대한 분석을 통해 블록-1 MLP 경로가 테스트된 모든 하류 경로보다 더 많은 영향을 매개함을 확인했습니다 (12/12 쌍).
이러한 연구 결과는 'MLP가 암기하고 어텐션이 일반화한다'는 기존의 예측과 반대되는 결과를 제시하며, 그로킹 현상이 특정 모듈의 구조적 전환이나 스위칭이라기보다는 이미 존재하는 분산 회로 내에서 발생하는 스펙트럼 재인코딩(spectral recoding)임을 밝혀냈습니다.
용어 풀이
- 트랜스포머
- 오늘날 대부분의 언어 모델이 쓰는 신경망 구조. 문장 속 단어들의 관계를 한꺼번에 계산해요.