DeepSchool

LLM в реальных задачах Сейчас часто встречаются вакансии с упоминанием LLM: — Проекты на ранних стадиях ищут инженеров, которые понимают, как работают LLM, могут собрать RAG «на коленке», интегрировать это в систему и проверить работоспособность. — Более зрелым проектам уже необходимо повышать качество всеми возможными способами, и потому они ищут тех, кто умеет обучать и ускорять модели, держать нагрузку, строить сложные RAG-системы и так далее. Задач много и ориентироваться в них сложно. Поэтому мы подготовили лекцию «LLM в реальных задачах», на которой пройдёмся по популярным задачам, расскажем основные сложности и варианты их решения. На лекции обсудим: — почему LLM стали так популярны среди инженеров — как улучшить качество на разных задачах — что решает RAG и какие у него ограничения — агенты как будущее LLM А также представим программу курса LLM и подарим скидки на обучение!✨ Обо всём этом расскажут: — Илья Димов — Senior NLP-инженер, Replika, ex Yandex — Тимур Фатыхов — основатель DeepSchool, ex Lead CV Engineer, KoronaPay 🗓 В четверг, 22 августа, в 19:00 МСК. Регистрируйтесь по ссылке! 🎁 После регистрации вы получите список инструментов и библиотек для работы с LLM. До встречи на лекциив четверг!

Закрываем лист ожидания на курс по LLM …через 24 часа 👋 Но вы ещё успеваете записаться! Мы добавим вас в закрытый чат, где общаемся и обсуждаем всё около LLM. Например, недавно организовали в чате Q&A-сессию, где спикеры программы отвечали на вопросы по применению больших языковых моделей. Участники листа ожидания первыми узнают подробности программы и могут присоединиться к курсу на самых выгодных условиях. Присоединяйтесь! А 19 августа (понедельник) мы откроем регистрацию на лекцию про задачи в LLM и подходы к их решению. Не упустите🙂 UPD: Лист ожидания закрыт! В понедельник расскажем про открытую лекцию и как присоединиться к курсу на выгодных условиях

Fine-tuning LLM Обучение LLM с нуля мы обсудили в предыдущем посте, но как адаптировать готовую LLM под свою задачу? Нужно ли сразу бросаться собирать данные для дообучения? Когда можно обойтись промптом, а когда нелья? А если уже решили учить, то какой библиотекой воспользоваться? В новой статье мы рассказали: - когда нужно использовать файнтюнинг - какими библиотеками пользоваться и как выглядит минимальный код для обучения - как обучить модель отвечать в стиле ответов mаil ru) - какие есть простые техники экономии памяти во время обучения Переходите по ссылке и читайте: https://deepschool-pro.notion.site/Fine-tuning-LLM-2a3df7d0d14a4493af9cf2163ef1b74b?pvs=74 И подписывайтесь на DeepSchool

Модели Llama 3 Для тренировки LLM с нуля нужны большие вычислительные ресурсы, которые есть только у крупных компаний. Обычно они не рассказывают, как им удаётся обучить очередную модель. Но недавно вышел отчёт о LLAMA3 — на сегодняшний день самый подробный отчёт о тренировке больших языковых моделей. И хотя не всем компаниям доступны аналогичные вычислительные ресурсы, отчёт содержит несколько идей, полезных для многих датасаентистов. В этой статье мы познакомились с отчётом и рассказали: - как отбирались данные для модели - как модель тренировалась - как делали посттрейнинг Читайте новую статью по ссылке: https://deepschool-pro.notion.site/Llama-3-786f63f46eb04c3ead43e054350c18f4

Решаем LeetCode Задачки на алгоритмы любят давать на собеседованиях. А многие инженеры их боятся. Часто можно услышать совет: «чтобы хорошо решать алгоритмы, сиди и нарешивай LeetCode». Но вместе — веселее 😉 В этом видео Игорь Ильин разбирает задачу на модульную арифметику уровня medium. Игорь — Sr. CV-инженер в Kudan SLAM и спикер курса 3D CV. Игорь часто ходит по собеседованиям и любит алгоритмы. Отличное комбо 📈 В выпуске прошли путь от наивного решения, которое работает за O(n^2) до оптимального, которое работает за линию по времени. Обсудили структуры данных и сложность операций над ними, чем плоха рекурсия и когда можно от неё избавиться. Смотрите видео по ссылке: https://youtu.be/IHqh2JnGrcY

История YOLOv6 Продолжаем знакомиться с семейством архитектур YOLO. Уже в который раз совершается, казалось бы, невозможное — инженеры одновременно повысили и качество, и скорость модели! Давайте разбираться, как они это сделали. В статье рассмотрим: - интересную историю появления YOLOv6 - чем она отличается от YOLOv5 - а что у неё общего с VGG - и главное: как же опять получилось повысить скорость без потери в качестве🤯 Читайте новую статью по ссылке: https://deepschool-pro.notion.site/YOLO-6-159877ef9a524d1fbdfd3ef32ca9be6f?pvs=4

Сейчас LLM-баззворды слышно из каждого утюга: RLHF, RLAIF, DPO, KTO, Llama, LLaVa и прочие аббревиатуры и термины — тяжело уследить за тем, что произошло на этой неделе, а догнать индустрию с нуля — тем более. Если вы проспали бум вокруг LLM и хотите разобраться, что сейчас в них происходит простыми словами, от инженера инженеру, мы подготовили для вас видео! В нём мы рассказали: - какие существуют доступные модели и чем они отличаются - про техники улучшения качества генераций - как дообучать и использовать LLM в своих проектах - зачем нужны инференс-фреймворки - как LLM запускают на обычных ноутбуках - и многое другое Смотрите видео на YouTube, ставьте лайки и задавайте вопросы в комментариях!

DeepSchool pinned «Всем привет✌️ Это канал школы DeepSchool 🪔 Мы преподаём курсы повышения квалификации DL-инженеров и ведём этот блог В этом канале мы: - делаем обзоры статей - рассказываем, как решаются различные DL-задачи - напоминаем теорию ML/DL - и общаемся со специалистами…»

☝️Обновили пост «о нас», за два года многое изменилось🙂 Кстати, а в этом посте мы описали историю создания DeepSchool — загляните, если интересно. Мы рассказали о себе, но также нам интересно узнать поближе и вас! Ответьте, пожалуйста, на опрос ниже👇 Он поможет нам узнать примерное распределение подписчиков по доменам около ML/DL. А если поделитесь, какие решаете задачи — будет просто супер 🤩 Постараемся помочь нашими статьями! Напишите в комментариях к этому посту! Вдруг в комментариях встретите коллег по теме — такие знакомства всегда полезны.

Всем привет✌️ Это канал школы DeepSchool 🪔 Мы преподаём курсы повышения квалификации DL-инженеров и ведём этот блог В этом канале мы: - делаем обзоры статей - рассказываем, как решаются различные DL-задачи - напоминаем теорию ML/DL - и общаемся со специалистами из индустрии Если вы у нас в первый раз, то рекомендуем начать с этих статей: - LLM: RAG, Fine-tuning, история attention в NLP, VLA, LoRA - CV: OCR, VLM, история YOLO Part 8, данные и разметка, Кто за рулём?! Трансформер - DLOps: советы по Docker, размер Docker-образов, model-serving фреймворки, сервинг модели Grounding DINO с BentoML Наши программы: - LLM — как обучать, деплоить и ускорять LLM - LLM Pro — как проектировать и запускать сложные NLP-системы - DLOps — как создавать и деплоить DL-сервисы - CV Rocket — как решать сложные задачи в Computer Vision - LLM Start — вход в LLM и автоматизацию для разработчиков и IT-специалистов без опыта в ML/DL - Ускорение нейросетей — как ускорять нейросети для различных устройств - 3D CV — как решать 3D-задачи от SLAM до виртуальных аватаров - Gen CV — как обучать генеративные модели Изучить подробнее наши курсы и записаться можно на сайте. Все наши статьи можно найти в блоге, а видео — на YouTube-канале или в VK Видео. А ещё у нас есть канал DeepSchool / underthehood, где инженеры нашей школы рассказывают о себе, своей области, домене и карьерном пути. С нами можно связаться: - задать любой вопрос - присоединиться к нашей команде - или предложить тему для поста Рады знакомству ✌️ Подписывайтесь, ставьте реакции и пишите комментарии! 🔥

Подкаст «Под капотом». LLM Мы приглашаем в подкаст экспертов, чтобы понять, как работают сложные системы изнутри. В этом выпуске мы говорили с Валей Мамедовым, инженером из SberDevices, про LLM. — из каких этапов состоит тренировка LLM и много ли нужно знать инженеру, который их тренирует — за счёт чего модель, которую тренировали на куче видеокарт, в итоге можно запустить на обычном ноутбуке — огромный контекст vs RAG — как оценивать качество LLM — open source vs. коммерческие модели — чем процесс вывода в прод LLM отличается от «обычных» ML-процессов Смотрите выпуск по ссылке! https://youtu.be/fy1-ffagRe0