Post #4832

🎓 Stanford выпустил новый курс: “Transformers & Large Language Models” Авторы - братья Amidi, и уже вышли три бесплатные лекции на YouTube. Это, пожалуй, один из самых системных вводных курсов по современным LLM. Содержание курса: • Transformers: токенизация, эмбеддинги, attention, архитектура • Основы LLM: Mixture of Experts, типы декодирования • Обучение и настройка: SFT, RL, LoRA • Оценка моделей: LLM/VLM-as-a-judge, лучшие практики • Трюки: RoPE, аппроксимации attention, квантизация • Резонирование: масштабирование при обучении и инференсе • Agentic-подходы: RAG, tool calling Если ты уже знаком с этой темой — отличный повод освежить знания и попробовать реализовать некоторые приёмы с нуля. https://cme295.stanford.edu/syllabus/