의료 영상 처리를 위한 하드웨어 인식 FunKAN 경량화 네트워크
Hardware-Aware Functional Kolmogorov-Arnold Networks for Efficient Medical Image Enhancement and Segmentation
arXiv높은 정확도를 자랑하는 의료 영상 AI 모델(FunKAN)의 크기 문제를 해결하기 위해, 현장 적용이 가능한 경량화 버전 FunKANLite-ST를 개발했습니다.
- 새로 개발된 FunKANLite-ST는 기존 대비 파라미터와 계산량을 대폭 줄였음에도 불구하고, 주요 의료 영상 데이터셋에서 높은 수준의 정확도를 유지하는 것이 확인되었습니다.
- 에너지 효율성과 처리 속도가 크게 개선되어, 전력 공급이 제한적인 엣지 디바이스에서도 빠르고 안정적인 의료 진단 지원이 가능해집니다.
- 제시된 에너지 절감 및 처리량 증가는 특정 하드웨어 플랫폼(예: Jetson Orin Nano)을 기준으로 측정되었으므로, 실제 환경에 따라 성능 차이가 있을 수 있습니다.
기존의 Functional Kolmogorov-Arnold Networks (FunKAN)는 MRI Gibbs artifact 제거 및 해부학적 분할(segmentation)에서 최고 수준의 정확도를 달성했지만, 11.6 M 와 8.7 GFLOPs라는 크기로 인해 현장 의료 기기에는 적용하기 어려웠습니다. 연구진은 이를 해결하기 위해 두 단계에 걸친 하드웨어 인식 압축 모델인 FunKANLite를 개발했습니다. 첫 번째 버전인 FunKANLite-TR은 공간 사전(spatial prior)을 줄이고 ResBlock offset predictor를 depthwise-separable block으로 대체하여, 기존 FunKAN 대비 파라미터 수를 1.9배 감소시키면서도 정확도 손실이 없음을 확인했습니다.
다음 단계로, FunKANLite-TR을 FunKANLite-ST로 증류(distill)하는 과정을 거쳐 성능을 더욱 최적화했습니다. 이 과정에서 Hermite basis rank를 낮추고 공간 사전을 저랭크 형태로 인수분해하며 필터 폭을 절반으로 줄였습니다. 그 결과, FunKAN 대비 파라미터 수는 5.6배, GFLOPs는 3.7배 감소했으며, BUSI, GlaS, CVC-ClinicDB 데이터셋에서 FunKAN과 1.4%p 이내의 IoU를 유지하고 IXI에서는 33.95 dB PSNR을 달성했습니다.
FunKANLite-ST는 실제 엣지 디바이스 환경에서도 높은 효율성을 보였습니다. NVIDIA Jetson Orin Nano와 Raspberry Pi 5에서 테스트했을 때, 추론당 에너지 소비를 최대 68%까지 줄이고 처리량(throughput)을 2.9배 증가시키는 결과를 보여주었습니다.
용어 풀이
- 파라미터
- 모델이 학습하면서 조정한 내부 숫자. 개수가 많을수록 대체로 모델이 크고 무거워요.