리서치 연구
Para-Pipe: Exploiting Hierarchical Operator Parallelism of ML Computational Graphs on SoCs
ARarXiv
복잡한 엣지 기반 딥러닝 애플리케이션의 성능 최적화를 위해, 본 연구는 계층적 매핑 프레임워크인 Para-Pipe를 제안했습니다.
세 줄 요약
- Para-Pipe는 파이프라인 단계 내부와 외부의 연산자 병렬성을 통합적으로 조절하여, 처리량과 지연 시간 간의 상충 관계를 해소합니다.
- 이는 에너지 효율성을 크게 높여, 기존 대비 최대 23% 향상된 성능으로 저전력 엣지 AI 구동에 핵심적인 돌파구를 제시합니다.
- Para-Pipe는 처리량과 지연 시간의 균형을 맞춘 다수의 최적화 설정을 제공하며, Amlogic 등 이기종 SoC 환경에서 검증되었습니다.
복잡한 엣지 기반 딥러닝 애플리케이션의 성능 최적화를 위해, 본 연구는 계층적 매핑 프레임워크인 Para-Pipe를 제안했습니다.