Содержимое
Как оптимизировать инференс на ноунейм-плате Всё больше моделей запускаются на конечных устройствах: в телефонах, роботах, колонках, автомобилях, домофонах и т.д. — у всех разные ОС и архитектуры, а значит и свои нюансы инференса моделей. На лекции мы разберём как раз такой случай из практики с кучей нюансов и их решениями! Советуем прийти, если вы: — никогда не ускоряли модели — ускоряли, но не для эдж-девайсов — ускоряли для эджей и у вас есть вопросы 🗓 25 сентября, четверг, 18:00 МСК На лекции узнаете: ➖ как снизить стоимость инференса на примере автономного автомобиля ➖ как запустить Vision transformer на плате Texas Instruments ➖ о проблемах запуска трансформеров на кастомных платах с NPU ➖ про применение прунинга к таким платам В конце представим новый поток курса «Ускорение нейросетей». Всем участникам лекции подарим скидки на обучение! 🙋♂️Спикеры лекции: — Александр Гончаренко — CTO ENOT.аi, хэдлайнер курса Ускорение нейросетей — Тимур Фатыхов — основатель DeepSchool, ex Lead CV Engineer KoronaPay Регистрируйтесь на лекцию по ссылке! 🎁После регистрации вы получите туториал по использованию TensorRT и OpenVino. До встречи 25 сентября в 18:00 МСК!