인프라 도구
microsoft/onnxruntime
GIGitHub
ONNX Runtime은 크로스 플랫폼 추론과 학습을 위한 머신러닝 가속기입니다.
세 줄 요약
- PyTorch, TensorFlow/Keras, scikit-learn, LightGBM, XGBoost 모델을 추론에 쓰고, PyTorch 학습 코드에 1줄 추가해 다중 노드 NVIDIA GPU 학습을 돕습니다.
- 추론은 더 빠른 고객 경험과 낮은 비용을, 학습은 다중 노드 NVIDIA GPU에서 트랜스포머 모델 학습 시간을 줄이는 데 도움이 됩니다.
- 다양한 하드웨어, 드라이버, 운영체제와 호환되고, 가속기는 적용 가능한 곳에서만 활용되며, 사용 데이터가 마이크로소프트로 전송될 수 있습니다.
ONNX Runtime은 크로스 플랫폼 추론과 학습을 위한 머신러닝 가속기입니다.