Перейти в канал

Tg: habr.com

1
​ONNX Runtime, OpenVINO и TVM: обзор инструментов для ускорения ML-моделей Большинство вычислений при работе ML-моделей — матричные. Для работы с ними подходят Tensor и CUDA — специальные графические ядра, интегрированные в GPU. Это даёт видеокартам преимущества перед CPU в машинном обучении. Однако они стоят дороже. Если нужно развернуть инференс на процессоре, есть компромисс — использовать инструменты для оптимизации.