활용 사례 연구
ProgResViT: Progressive Resolution and Width for Adaptive Vision Transformers
ARarXiv
기존 ViT는 모든 이미지에 고정된 자원을 사용해 비효율적입니다. ProgResViT는 이 문제를 해결하기 위해 추론 과정 자체를 적응적으로 설계한 모델입니다.
세 줄 요약
- 이 모델은 낮은 해상도와 좁은 네트워크로 추론을 시작하며, 예측 신뢰도가 낮을 때만 점진적으로 해상도와 폭을 늘려 결과를 정교하게 다듬는 방식입니다.
- 단순히 정확도를 높이는 것을 넘어, 필요한 만큼의 계산 자원만을 사용해 효율성과 성능을 동시에 확보했으며, 분류 외에도 분할 등 다양한 작업에 적용 가능합니다.
- 핵심 기술인 'PSG'는 현재 추론 단계와 해상도 정보를 공유하며, 기존 적응형 기법 대비 우수한 정확도-계산량 트레이드오프를 입증했습니다.
기존 ViT는 모든 이미지에 고정된 자원을 사용해 비효율적입니다. ProgResViT는 이 문제를 해결하기 위해 추론 과정 자체를 적응적으로 설계한 모델입니다.