Post #476

Ускорим инференс трансформера на открытой лекции Ещё и на ноунейм-плате! 🤯 Всё больше моделей запускаются на конечных устройствах: в телефонах, роботах, колонках, автомобилях, домофонах и т.д. — у всех разные ОС и архитектуры, а значит и свои нюансы инференса моделей. На лекции мы разберём как раз такой случай из практики с кучей нюансов и их решениями! Советуем прийти, если вы: — никогда не ускоряли модели — ускоряли, но не для эдж-девайсов — ускоряли для эджей и у вас есть вопросы 🗓 30 января, четверг, 18:00 МСК На лекции расскажем: ① как снизить стоимость инференса на примере автономного автомобиля ② как запустить Vision transformer на плате Texas Instruments ③ о проблемах запуска трансформеров на кастомных платах с NPU ④ про применение прунинга к таким платам А также представим программу курса Ускорение нейросетей, расскажем про обновления и подарим скидки на обучение! 🙋‍♂️Спикеры лекции: — Александр Гончаренко — CTO ENOT.аi, хэдлайнер курса Ускорение нейросетей — Тимур Фатыхов — основатель DeepSchool, ex Lead CV Engineer KoronaPay Регистрируйтесь на лекцию по ссылке! 🎁После регистрации вы получите туториал по использованию TensorRT и OpenVino. До встречи 30 января в 18:00 МСК!⚡️