Post #8276

⚡ Google представила Gemma 3 270M — свою новую компактную модель Модель 270 млн параметров (170M для эмбеддингов и 100M для трансформер-блоков), но с отличной способностью следовать промтпам прямо «из коробки». 🔹Особенности - 256k токенов - Энергоэффективность: INT4-версия на Pixel 9 Pro расходует всего 0.75% батареи за 25 диалогов. - Доступны предобученные и instruction-tuned чекпойнты. - Поддержка Quantization-Aware Training (QAT) для запуска в INT4 без заметной потери качества. 💼Когда использовать - Массовые, чётко определённые задачи: анализ тональности, извлечение сущностей, обработка текста, комплаенс-проверки. - Минимальные задержки и низкая стоимость инференса — можно запускать прямо на устройстве. - Быстрые эксперименты с fine-tuning. - Полная приватность данных благодаря on-device работе. - Создание «флота» узкоспециализированных моделей. В анонсе приводится пример, как Adaptive ML и SK Telecom дообучили Gemma 3 4B для мультиязычной модерации контента, превзойдя более крупные проприетарные модели. Gemma 3 270M — отличная небольшая модель, быстрая и дешёвая в работе. 🟠Подробности: https://developers.googleblog.com/en/introducing-gemma-3-270m/ 🟠HF: https://huggingface.co/collections/google/gemma-3-release-67c6c6f89c4f76621268bb6d @ai_machinelearning_big_data #news#ai#ml#Gemma#google