엔트로피 최적 수송을 위한 GPU 솔버 'FlashSinkhorn 2' 개발
FlashSinkhorn 2: Block-Sparse Entropic Optimal Transport
arXiv연구진이 대규모 이산적 엔트로피 최적 수송(EOT) 문제를 해결하는 새로운 GPU 기반 솔버 'FlashSinkhorn 2'를 개발했습니다.
- 이 솔버는 거친 단계와 블록 희소 미세 단계를 결합하여, 우주론 시뮬레이션 같은 초대형 데이터에서도 높은 정확도로 계산을 수행합니다.
- 수많은 입자 간의 복잡한 관계 분석이 필요한 우주론 및 대규모 물리 모델링 등 과학 컴퓨팅 분야에 혁신적인 계산 능력을 제공할 것으로 기대됩니다.
- 다만, 이 기술은 특정 비용 함수와 저차원 포인트 클라우드에 최적화되어 있으며, 고성능 GPU 환경에서 가장 큰 성능 향상을 보입니다.
연구진은 엔트로피 최적 수송(EOT) 문제를 해결하기 위한 스트리밍 솔버인 FlashSinkhorn 2(FS2)를 발표했습니다. FS2는 저차원 포인트 클라우드에서 제곱 유클리드 비용을 사용하여 대규모 이산 EOT 문제를 해결합니다. 이 솔버는 코어 단계와 블록 희소 미세 단계를 결합하여 작동하는데, 먼저 코어 단계가 셀 중심점(cell centroids)에서 계산을 수행하고 잠재력을 모든 점으로 확장하며, 이후 블록 희소 미세 단계가 코어 업데이트로 인해 발생한 오차를 제거합니다.
FS2는 모턴 순서(Morton-ordered blocks) 기반의 블록 구조를 활용하여 스크리닝 및 융합된 텐서 코어 실행을 지원하는 것이 특징입니다. 이 솔버는 우주론 N체 시뮬레이션에서 나온 두 $1.34 imes 10^8$ 입자 측정 간의 EOT 문제를 A100 GPU 한 대에서 해결했습니다. 이는 엔트로피 블러가 평균 입자 거리와 같을 때, 모든 입자 마진 잔차를 0.01 미만으로 하룻밤 이내에 달성한 사례로 보고되었습니다.
용어 풀이
- GPU
- 많은 계산을 한꺼번에 처리하는 칩. AI 학습과 실행에 가장 많이 써요.
엔트로피 최적 수송(EOT) 문제란 무엇인가요?
EOT는 연구진이 해결하고자 하는 문제입니다. 이 솔버(FS2)는 저차원 포인트 클라우드에서 제곱 유클리드 비용을 사용하여 대규모 이산 EOT 문제를 해결해요.
FlashSinkhorn 2는 어떤 방식으로 계산을 수행하나요?
FS2는 코어 단계와 블록 희소 미세 단계를 결합하여 작동해요. 먼저 코어 단계가 셀 중심점에서 계산을 수행하고 잠재력을 모든 점으로 확장하며, 이후 블록 희소 미세 단계가 코어 업데이트로 발생한 오차를 제거하는 방식으로 진행돼요.