1
RISC-V и AI: разгон инференса через JIT и тензорный компилятор
Популярность открытой архитектуры растёт, но её готовность к реальным ML-нагрузкам всё ещё вызывает вопросы. Когда стандартных инструментов недостаточно для эффективной работы нейросетей, инженерам приходится спускаться на уровень ассемблера и писать свои решения.
В фокусе — кейс создания библиотеки математических ядер и доработки тензорного компилятора специально под специфику RISC-V. Это история о преодолении ограничений ISA, внедрении JIT-ассемблера и борьбе за каждый флопс производительности на отладочных платах.
Заглянем под капот процесса низкоуровневой оптимизации.