리서치 연구
K\"ahler landscapes for complex neural network descents and guarantees including a search and destroy of the Calabi-Yau manifold
ARarXiv
arXiv에 복소수 매개변수 신경망의 하강 경로를 칼러 기하로 분석한 논문이 올라왔다.
세 줄 요약
- 칼라비-야우 정보 다양체에서 교차 엔트로피의 위팅거 헤시안으로 칼러 계량을 만들고 역계량으로 자연 기울기 하강을 해 홀로모픽 접다발 안에 남는다.
- 부정 곡률이 손실 지형을 뒤집고 고정 결정자에서 계량이 거의 저랭크면 발산 효과가 생긴다.
- 분석은 비압축 칼러 기하와 전역 퍼텐셜을 전제로 하고 저랭크 판별은 고유값 허용폭에 의존한다.
arXiv에 복소수 매개변수 신경망의 하강 경로를 칼러 기하로 분석한 논문이 올라왔다.