Post #408

Подкаст «Под капотом». LLM Мы приглашаем в подкаст экспертов, чтобы понять, как работают сложные системы изнутри. В этом выпуске мы говорили с Валей Мамедовым, инженером из SberDevices, про LLM. — из каких этапов состоит тренировка LLM и много ли нужно знать инженеру, который их тренирует — за счёт чего модель, которую тренировали на куче видеокарт, в итоге можно запустить на обычном ноутбуке — огромный контекст vs RAG — как оценивать качество LLM — open source vs. коммерческие модели — чем процесс вывода в прод LLM отличается от «обычных» ML-процессов Смотрите выпуск по ссылке! https://youtu.be/fy1-ffagRe0