Post #46

Про Париж, Гугл, Gemma 3 и подарки Всем привет! Я вчера вернулась в Цюрих из Парижа, где была на invite-only ивенте Гугла в честь релиза Gemma 3 — семьи open-source моделей Гугла, которые можно файнтюнить для своих AI-продуктов. График был плотный: с 10 утра до половины пятого вечера было куча мини-докладов и демонстраций. Выступали в основном ML-инженеры, рисерч сайнтисты и продакт менеджеры Гугла, которые часами хвалили новую модель. Очень интересно было услышать новые фишки и достижения, но мне немного не хватало критической дискуссии. Я, конечно, всё понимаю: это ивент в честь запуска, маркетинг и так далее, — но для меня такое часто слегка ощущается как пародия на американский телевизионный магазин QVC, где мне пытаются продать хай-тек мясорубку. При этом Gemma 3 нечего стесняться: теперь она поддерживает мультимодальность (до этого Gemma была чисто языковой моделью), длина контекста увеличилась с 8K до 128K (ну, не хило), а также теперь поддерживает 140+ языков. Кроме того, для работы 27B модели в bf16 понадобится всего однаGPU. В целом, очень круто, и мне уже не терпится самой поиграть и протестировать! Кроме ребят из Гугла выступали ещё Head of Transformers и Principal Research Scientist из Hugging Face 🤗, фаундеры Ollama и очень прикольный Dev Advocate из Nvidia. Кто не знает Ollama:Ollama позволяет запускать большие языковые модели прямо на вашем устройстве — без облака, без лишних рисков для приватности и с доступом даже офлайн. Это быстрее, безопаснее и не зависит от серверов. С Nvidia, кстати, был связан подарок. Нам подарили Jetson Orin Nano Developer Kit стоимостью около $850. NVIDIA Jetson Orin Nano Developer Kit – это мощная и компактная платформа для создания AI-устройств. В основе – модуль Jetson Orin Nano с графическим процессором NVIDIA Ampere, который оснащён 1024 CUDA-ядер и 32 тензорными ядрами. Он обеспечивает до 67 TOPS (триллионов операций в секунду), что позволяет запускать большие нейросети и AI-приложения. Идеально для пет-проектов с робототехникой, автономных дронов и edge-компьютинга! Тут Гугл, конечно, немного просчитался: сначала обещали, что всем подарят по одному девайсу (зал не мог нахлопаться). К концу уже сказали: «Сорян, на самом деле на всех не хватает, поэтому, пожалуйста, заполните фидбэк-форму и идите к выходу за вашим подарком — first come, first serve.» Конечно, все тупо пролистали фидбэк, не читая вопросы, и помчались за Джетсоном, как за буханкой хлеба в 90-е. Давка, взволнованные люди, которые пытаются втиснуться, проходящие коллеги из Гугла, которые по-французски вздыхали: «Я же говорила, что так будет!» — всё, как мы любим (нет). Что сказать? В итоге мне достался Джетсон ( \=D/ ), и я спокойно пошла ужинать в узбекский ресторан! Кому интересно также попадать на такие мероприятия: следите онлайн на сайтах и в LinkedIn за компаниями, которые вас интересуют, и подпишитесь на релевантные рассылки. На Gemma Dev Day надо было подавать заявку с информацией о себе, а Гугл сам уже решал, кого хочет пригласить на ивент. В ближайшее время напишу пост про конференции и ивенты, на которые я собираюсь в этом году, а также про те, которые проходят в Европе с фокусом на AI & Data Products. До скорой встречи! #aievents @ainastia