Post #650

Инференс-сервер своими руками: воркшоп по BentoML Обучить модель — это половина работы. Дальше встаёт вопрос: как её отдать? Как backend-команда будет к ней обращаться? Лезть в чужие репозитории и встраиваться в их инфраструктуру — не всегда вариант. Мы подготовили воркшоп, на котором покажем, как упаковать модель в BentoML, поднять инференс-сервер и организовать к нему доступ. На воркшопе разберём: — как передать готовую модель без погружения в репозитории backend-команды — как упаковать модель с помощью BentoML и поднять инференс-сервер — как обращаться к модели из внешнего кода — когда BentoML не подходит и что использовать вместо него Воркшоп — это когда вы сначала слушаете, а потом сразу делаете. Анастасия Старобыховская, руководитель лаборатории «Искусство и ИИ» в ЕУСПб, сначала расскажет теоретическую часть, а потом разобьёт участников на небольшие группы для самостоятельной работы, будет подключаться к каждой и помогать с затыками. У вас будет возможность упаковать модель самостоятельно в режиме реального времени! И в конце вместе обсудим решение и типичные ошибки. А также всем участникам подарим скидки на курс CV Rocket! 🎁 Чтобы не терять времени на воркшопе, установите docker/python/свою любимую IDE, если ещё нет 📅 Встречаемся в четверг, 12 марта в 19:00 МСК! Регистрируйтесь по ссылке и до встречи на воркшопе!