⚡ Google представила Gemma 3 270M — свою новую компактную модель
Модель 270 млн параметров (170M для эмбеддингов и 100M для трансформер-блоков), но с отличной способностью следовать промтпам прямо «из коробки».
🔹Особенности
- 256k токенов
- Энергоэффективность: INT4-версия на Pixel 9 Pro расходует всего 0.75% батареи за 25 диалогов.
- Доступны предобученные и instruction-tuned чекпойнты.
- Поддержка Quantization-Aware Training (QAT) для запуска в INT4 без заметной потери качества.
💼Когда использовать
- Массовые, чётко определённые задачи: анализ тональности, извлечение сущностей, обработка текста, комплаенс-проверки.
- Минимальные задержки и низкая стоимость инференса — можно запускать прямо на устройстве.
- Быстрые эксперименты с fine-tuning.
- Полная приватность данных благодаря on-device работе.
- Создание «флота» узкоспециализированных моделей.
В анонсе приводится пример, как Adaptive ML и SK Telecom дообучили Gemma 3 4B для мультиязычной модерации контента, превзойдя более крупные проприетарные модели.
Gemma 3 270M — отличная небольшая модель, быстрая и дешёвая в работе.
🟠Подробности: https://developers.googleblog.com/en/introducing-gemma-3-270m/
🟠HF: https://huggingface.co/collections/google/gemma-3-release-67c6c6f89c4f76621268bb6d
@ai_machinelearning_big_data
#news#ai#ml#Gemma#google
Корпорация Google выпустила три новые модели генеративного искусственного интеллекта c открытым исходным кодом, позиционируя их как более «безопасные, компактные и прозрачные» по сравнению с другими.
▫️ Gemma 2 2B — версия модели с 2 млрд параметров, отличается улучшениями в области безопасности, предлагает «баланс производительности и эффективности»;
▫️ ShieldGemma — созданный на основе Gemma 2 комплект нейросетей для классификации безопасного контента;
▫️ Gemma Scope — новый инструмент для интерпретации моделей, который позволяет получить представление об их внутреннем устройстве.
#Google#Gemma
💎 Google запускает Gemini AI, которая лучше чем chatGPT 4 и проинтегрирована во все продукты #Google.
Основные моменты:
Мультифункциональность: Gemini разработана с нуля как мультимодальная модель, способная обрабатывать и объединять текст, код, аудио, изображения и видео.
Гибкость и Оптимизация: Модель представлена в трех вариациях: Gemini Ultra для сложных задач, Gemini Pro для широкого спектра задач и Gemini Nano для задач, выполняемых на устройствах.
Превосходящая Производительность: Gemini Ultra превзошла человеческих экспертов в тестах на многоязычное понимание, а также показала впечатляющие результаты в задачах, связанных с текстом и программированием.
Продвинутое Мультимодальное Рассуждение: Gemini обладает способностью к сложному рассуждению, что делает её особенно подходящей для понимания и объяснения тем в области математики и физики.
Эффективность и Надежность: Обучение Gemini 1.0 проводилось на специализированных AI-оптимизированных инфраструктурах, используя процессоры Google Tensor Processing Units.
Ответственный и Безопасный #AI: Google уделяет особое внимание безопасности и ответственности, внедряя новые меры защиты для учета мультимодальных возможностей Gemini.
Широкое Применение: Gemini уже внедряется в продукты Google, включая Bard и смартфоны Pixel, а также будет доступна через API для разработчиков и предприятий.
Планы на Будущее: Для Gemini Ultra в настоящее время проводятся обширные проверки безопасности и доводка модели, после чего она станет доступна для широкой публики.
🔥 Чат для общения с моделью Gemini Pro завезли в Bard: https://bard.google.com/chat
Polymathic - междисциплинарный ИИ
Ох, какая классная межуниверситетская инициатива - Polymathic🔥.
Задача, которую они решают, заключается в создании ИИ моделей, которые используют информацию из наборов данных различных модальностей и разных научных областей, которые не имеют общего представления (например, текста). Такие модели могут использоваться в качестве надежных базовых показателей или можно сделать файн-тьюнинг для конкретных приложений. Такой подход может демократизировать ИИ в науке, предоставляя более сильные априорные модели для общих концепций, таких как причинность, измерение, обработка сигналов, и т.п.
В общем история с базовыми и генеративными моделями понемногу адаптируется к научным задачам, за что мы топим тоже 🤘. Реальных проектов пока немного, но есть, например, Multiple Physics Pretraining - подход к разработке больших предобученных физических суррогатных моделей или AstroClip - видимо модель CLIP для астрофизиков.
На данный момент кроме команды ученых есть и крутой консультативный совет, например, с Яном Лекуном (Yann LeCun) из Meta AI.
#AI#ML
📛Google представила Gemma 3 270M — ультракомпактную LLM
Google выпустила Gemma 3 270M — одну из самых маленьких моделей в индустрии (270 млн параметров, а не миллиардов). Её можно запускать даже на слабых устройствах, а в INT4-квантизации на Pixel 9 Pro она расходует всего 0,75% батареи за 25 диалогов.
Несмотря на размер, модель показывает достойные результаты: на IF-Eval её показатель следования инструкциям — 51,2%, что выше, чем у Qwen 2.5 0.5B, который почти вдвое больше.
📂 Веса: https://huggingface.co/collections/google/gemma-3-release-67c6c6f89c4f76621268bb6d
📄 Блог Google: https://developers.googleblog.com/en/introducing-gemma-3-270m/
🤑ForgetMe | Boosty | ForgetBench | ForgetGPT | ForgetAPI
#новости#нейросети#gemma
✴️Google выпустила MTP-drafters для Gemma 4 — ускорение до 3x без потери качества
Google представила Multi-Token Prediction drafters для семейства Gemma 4. Это небольшие вспомогательные модели для speculative decoding, которые заранее предлагают несколько следующих токенов, а основная модель затем проверяет их за один проход. По заявлению Google, такой подход дает ускорение инференса до 3 раз и при этом не ухудшает качество, точность и логику рассуждений.
Практически это значит, что Gemma 4 становится заметно быстрее в локальном запуске, агентных сценариях и on-device задачах. Google отдельно пишет про поддержку разных стеков и платформ: Transformers, MLX, vLLM, SGLang, Ollama, а сами MTP-drafters уже доступны под той же Apache 2.0 лицензией, что и Gemma 4, с загрузкой через Hugging Face и Kaggle.
Источник: блог Google | Документация | Hugging Face
🤑ForgetMe | Boosty
Приобрести подписку на любые сервисы
⏩@forgetshop_bot
#нейросети#llm#gemma
Ян Лекун назвал идею AGI иллюзией
Главный научный сотрудник Meta* по искусственному интеллекту Ян Лекун (Yann LeCun) заявил, что понятия общего интеллекта не существует. По его словам, человеческий разум узкоспециализирован и приспособлен только к ограниченному числу задач в физическом мире.
«Мы хорошо ориентируемся в пространстве, умеем общаться, но слабы в шахматах и других сферах. Некоторые животные в чём-то превосходят нас. Мы называем наш интеллект общим только потому, что не осознаём задач, в которых абсолютно беспомощны», — пояснил Лекун. Он добавил, что идея универсального интеллекта — это иллюзия.
AI-исследователь Хантер Эш (Hunter Ash) возразил, что сама способность рассуждать о природе интеллекта уже говорит об универсальности. По его мнению, человек способен играть в любые игры, адаптироваться, анализировать стратегии и видеть причинно-следственные связи. Это и есть проявление общего интеллекта, пусть и в ограниченном виде.
Скептически отреагировал и Илон Маск, сказав, что Лекун «давно выжил из ума».
#news#AI
https://x.com/slow_developer/status/2000959102940291456?s=46&t=pKf_FxsPGBd_YMIWTA8xgg
Опра взяла интервью у Сэма Альтмана и Билла Гейтса. Как эксперты видят AI: скептицизм, оптимизм и опасения насчет безопасности
Опра взяла интервью у экспертов в области искусственного интеллекта в выпуске под названием «AI и наше будущее» (AI and the Future of Us). Основная мысль ее вступительного слова заключалась в том, что AI-джинн уже выпущен из бутылки, и человечеству надо учиться жить в новой реальности.
Позиция Сэма Альтмана:
• AI изучает концепты, которые заложены в обучающих данных;
• правительству необходимо выработать регламент испытаний AI-систем на безопасность, как мы это делаем для самолетов или новых лекарств;
• никто не должен доверять мнению одного человека, который заявляет об исключительной пользе AI.
Позиция Билла Гейтса:
• AI – это как третий человек на приеме у врача: он ведет запись встречи и предлагает рецепт. Вместо того, чтобы врач сидел перед экраном, он общается с вами, а ПО следит за качеством расшифровки;
• AI может принести пользу в образовании: он всегда доступен и понимает, как вас мотивировать, независимо от уровня знаний.
Позиция директора ФБР Кристофера Рэя (Christopher Wray):
• Качество дипфейков повышается очень быстро;
• более трети американских респондентов видели недостоверную информацию – или то, что по их подозрению, было дезинформацией, согласно опросам 2023 года;
• граждане должны проявлять повышенную бдительность, но поводов для паники нет;
• с 2022 по 2023 год число случаев вымогательства с помощью сексуализированного контента увеличилось на 178%, что отчасти обусловлено технологиями искусственного интеллекта. Основной мишенью являются подростки. Злоумышленники отправляют сгенерированные фотографии сексуального характера, просят отправить подобные материалы в ответ, а потом требуют прислать деньги, угрожая в противном случае обнародовать снимки.
#news#AI
https://techcrunch.com/2024/09/12/ophah-just-had-an-ai-special-with-sam-altman-and-bill-gates-here-are-the-highlights/?utm_source=Live+Audience&utm_campaign=6651b82eb2-nature-briefing-ai-robotics-20240917&utm_medium=email&utm_term=0_b27a691814-6651b82eb2-51976144&mc_cid=6651b82eb2&mc_eid=bb37699b5b
🎱Илон Маск о будущем
На международном фестивале рекламы «Каннские львы», который проходил на Лазурном берегу, Илон Маск дал большое интервью о будущем ИИ, Интернета и самого человечества.
📱Хайлайты
➡️О перспективах ИИ. Не нужно быть ни слишком пессимистичными, ни слишком оптимистичными. Отец-основатель искусственного интеллекта Джеффри Хинтон оценивал вероятность уничтожения человечества ИИ в 10-20%. Но я считаю, что наш стакан на 80% полон. Мы живем в самую интересную эпоху за всю историю человечества. Нас ждут весьма значительные изменения уже в следующем году и радикальные перемены — в ближайшие пять лет.
➡️О жизни с суперинтеллектом. Вероятнее всего, развитие ИИ приведет к изобилию. Это не просто всеобщий базовый доход, а всеобщий высокий доход. Работа станет необязательной. Хотя, если ИИ будет делать все лучше нас, это может вызвать экзистенциальный кризис. В лучшем случае развития событий ИИ будет делать все возможное, чтобы сделать нас счастливыми. Если сверхразум пытается сделать нас счастливыми, он, вероятно, преуспеет.
➡️О Neuralink. Долгосрочная цель — симбиоз человека и ИИ. Мы можем восстанавливать подвижность тела после травм позвоночника, передавая сигналы от мозга. Испытания на животных показали очень хорошие результаты.
➡️О будущем Интернета. Поиск в интернете кардинально изменится. Если вместо множества ссылок ИИ будет давать точные ответы, то вы, конечно, предпочтете его Google. Появится новая модель подачи новостей. Это будет агрегация коллективной мудрости десятков миллионов людей — обобщенная информация в реальном времени от экспертов в данной области и людей, которые находятся на месте события.
➡️О роботах-гуманоидах. Человекоподобные роботы будут выполнять различные задачи: выгуливать собак, ухаживать за домом, сидеть с детьми, учить готовить, играть на пианино. Каждый захочет обзавестись таким роботом. Поэтому их будет 20 миллиардов, и люди привяжутся к ним так же, как к роботам R2-D2 and C-3PO из «Звездных войн».
➡️О путешествиик звездам. Мультипланетарная цивилизация имеет гораздо больше шансов на долгосрочное существование. Исследуя Галактику, мы можем найти множество однопланетарных цивилизаций, которые давно вымерли. Расширение нашего сознания поможет нам лучше понять вселенную.
🎁 Сегодня у Илона Маска день рождения — 53 года. Поздравляем!
📱 Интервью здесь.
Больше по теме:
Илон Маск vs Джефф Безос: кто первым будет на Луне?
Большое интервью с Сэмом Альтманом о будущем ИИ
#news@hiaimedia