Митап про ИИ и машинное обучение — VK Education Talks
Эксперты VK помогают Илье Куручу разобраться в основах ML — комик слушает лекции и сдает экзамен.
Из видео вы узнаете какими бывают задачи классификации и методы решения, как оценить качество построенной модели, а также где и чему учиться, чтобы стать ML-специалистом.
Перейти к просмотру
#видео#ИИ
Nvidia покупает Groq за $20 млрд. Крупнейшая сделка в истории компании.
Groq делает чипы для быстрого инференса LLM, такие же как чипы от Cerebras, Trainium, TPU от гугла и специальных NPU от других производителей.
— Компанию основали создатели TPU из Google. Те, кто делал железо для AlphaGo и первых трансформеров и на которые делает ставку Google для предоставления дёшевого ИИ для всех.
— В сентябре Groq оценивали в $6,9 млрд. Сейчас — $20 млрд. Премия почти x3 за три месяца (мне бы так!)
— Формально это «неэксклюзивное лицензионное соглашение», но CEO и топ-менеджмент переходят в Nvidia. Такая схема применяется сейчас, когда купить формально нельзя, но очень хочется.
Почему это важно:
Nvidia поглощает серьёзную альтернативу своим GPU для инференса и не планирует терять свою почти-монополию на рынке ИИ-чипов. Теперь у них сильная сторона не только в обучении моделей, но и в их запуске (инференсе). Предполагаю, что подобные покупки продолжатся, потому что денег у них сейчас очень много.
Для меня это продолжение истории про то, что инференс подешевеет в 10 раз и ИИ ускорятся в 10 раз (что одно и то же по сути). А значит даже без улучшения моделей мы ещё получим от них много пользы в ближайшее время.
https://medium.com/the-low-end-disruptor/groqs-deterministic-architecture-is-rewriting-the-physics-of-ai-inference-bb13
#ИИ#чипы
Гиганты тоже массово идут в спецчипы для ИИ
Qualcomm анонсировала дата-центровые AI-ускорители AI200 и AI250 со стартом в 2026–2027 годах, уже под конкретных заказчиков.
Специализированные чипы это важно! И теперь это больше не история стартапов вроде Cerebras – теперь туда заходят гиганты уровня Qualcomm, AWS, Google и Meta.
Чипы затачиваются под инференс, где важнее не универсальность как в видеокартах, а скорость и размер памяти.
– У Cerebras – до 1,2 ПБ общей памяти и 21 ПБ/с пропускной способности на кристалле. Это ускоряет работу LLM и удешевляет каждый токен.
– Qualcomm идёт в «rack-scale» – свои стойки и открытый SDK, чтобы конкурировать с Nvidia.
– AWS продвигает Trainium 2, Google тестирует TPU v6, Meta делает MTIA v2.
– У Nvidia NVL72 уже объединяет 72 GPU в одну стойку, уходя от сетевых ограничений.
Что это даёт:
– Быстрее ответы даже у «тяжёлых» моделей. Иногда ускорение в 10 раз.
– Дешевле инференс при массовом трафике. Это сложнее оценить, потому что цены у того же Cerebras такие же, как у обычных конкурентов (при намного болеё высокой скорости).
– Больше контекста и лимитов для следующего поколения моделей, когда память не будет узким местом.
И да – всё это значит, что GPT будет дешеветь, просто потому что железо наконец догоняет модели.
#ИИ#чипы
Новые чипы для ИИ. Trainium
Кроме Cerebras, про который я писал подробно, чипы для ИИ делает Amazon в партнерстве с Antrophic. На фото снимки их дата-центра на базе собственых чипов Trainium 2, который скоро планируется к запуску.
Что нам ждать от этого в работе Claude:
1. Тяжелая модешь Opus начнет отвечать быстро, как Sonnet
2. Быстрая модель начнёт работать мгновенно
3. Могут увеличить размер контекстного окна, расширить лимиты на размышения, снизить цены
Дата-центр гигаваттный, у нас таких нет, а в США они запускаются уже пачками. Так быстро как сейчас их не строили никогда. В этом вопросе мы очень сильно отстаем. Условно на порядок-два от Китая и США.
Google и OpenAI тоже делают свои чипы, но про их чипы у меня пока мало информации.
#ИИ#чипы
Cerebras против Nvidia: копнём глубже, чтобы понять в чём фишка специализированных чипов и почему я верю в то, что GPT будет дешеветь.
Архитектура
Cerebras – монолитнаый большой чип.
Nvidia – несколько полноценных отдельных GPU, связанных NVLink.
1. Размер памяти
Общая память MemoryX до 1 200 000 ГБ (реально 1,2 Петабайт!) + по 44ГБ памяти на каждом чипе для «стриминга весов» (несколько раз прочитал, ноне понимаю что это такое)
Связки обычных GPU не имеют общей памяти, хотя Nvidia и связывает их через сверхбыструю шину NVLink. На каждом GPU до 192ГБ.
2. Пропускная способность памяти
21 000 ТБ/с (реально тысяч!) для памяти на чипе и 4ТБ/с к общей памяти.
У Nvidia 8ТБ/с к памяти на чипе и до 1,9ТБ/с пир обращении к памяти соседа.
Каждый следующий «шаг» обработки модели требует данных от памяти. Скорость памяти экстремально важна для быстрой работы LLM.
3. Энергоэффективность
5,4 PFLOPS/кВт против ~2,7 PFLOPS/кВт у NVL72. Меньше ватт даёт большую плотность размещения в дата-центре, проще питать и охдаждать.
4. Софт и экосистема
Cerebras требует свой SDK, полностью отрезанный от стандартной на рынке CUDA. Это минус для тех, кто хочет запустить свою модель на Cerbras. Nvidia выигрывает за счёт огромного CUDA-экосистемы и готовых библиотек.
5. Доступность
Cerebras невозможно купить и вряд ли они способны много их производить.
Nvidia на рынке гигантскими тиражами со всесторонней поддержкой
👆 Пункт 1 и 2 для Cerebras важнее всего кмк.
❓ Зачем нужно столько памяти (1,2 Петебайта)?
Оказывается при обучении модель и её состояния могут занимать именно столько места, поэтому обучать большие модели на обычных GPU сложно. С Cerebras это должно стать намного быстрее.
#ИИ#чипы
===
Провожу индивидуальные консультации по внедрению ИИ в менеджмент компании: 40тыс₽ в час, обращаться @zvasilpublic
Нейросети помогли США в атаке по Ирану и ошиблись
Согласно отчету в Wall Street Journal, Центральное командование США использовало ИИ Claude от Anthropic интегрированный с системой Maven от Palantir для «оценки разведданных, определения целей и моделирования боевых сценариев» во время ударов по стране.
По данным издания, тот же ИИ использовался в ходе рейда на резиденцию президента Венесуэлы Николаса Мадуро.
Еще за несколько дней до начала атаки на Иран глава Anthropic Дарио Амодеи заявлял, что у компании существуют «красные линии» в вопросе военного применения ИИ. Разработчики, по его словам, выступают против использования нейросетей в летальном оружии, но допускают их эксплуатацию в оборонных и аналитических целях.
Министр обороны Пит Хегсет назвал Anthropic «угрозой для цепочки поставок», отметив при этом, что процесс отключения технологий компании займет не менее шести месяцев, поскольку их алгоритмы глубоко встроены в военную инфраструктуру США.
То, что американцы готовили эту операцию при помощи ИИ, было и так понятно. Однако мы можем с некоторой уверенностью сказать, что это первый серьезный провал ИИ при планировании военной операции. И тут два момента: либо ИИ ошибся в расчетах, либо не ошибся, но желание атаковать Иран пересилило доводы нейросетей. ИИ не мог не предупредить Пентагон, что в случае провала стремительной операции по смене власти, сырьевые котировки улетят в космос, а Иран разнесет всех союзников США.
Думаю, что ключевая ошибка ИИ и экспертов была в оценке устойчивости иранского режима. Он оказался не лидерский, а инфраструктурный, основанный на духовной твердости большого числа людей, которые готовы презреть смерть. На Западе от такого отвыкли.
#США#Иран#ИИ#AI
ЖИВОВЪ | ЖИВОВЪ В МАХ
⚡️ [🇲🇱🇷🇺] #Мали/#Афрички_корпус: при одбијању напада FLA-JNIM коришћени тешки митраљези ДШК и КПВТ, влр БМ-21 „Град” (са допунском заштитом-#видео), вчх Д-30, минобацачи калибра 82 мм и 120 мм, аутоматски бацачи граната АГС-17 и ПА топови ЗУ-23-2.
🇷🇸https://t.me/borbeni_efektivi
Хэй гайз!
Я много лет потратила на усиление своих слабых сторон и абсолютно игнорировала то, что люблю и то, что у меня лучше всего получается...
Дизайн-концепция всегда была моим конкурентным преимуществом ⚡️⚡️⚡️ В архитектурном вузе я могла 80% времени уделять рисерчу. Оставшихся 20% на реализацию естественно никогда не хватало, но преподаватели и члены жюри на просмотрах всё равно восхищались ходом мысли, логикой и визуальной составляющей проекта.
Профессиональный мир же такого не терпит. Тут важна реализация. Времени тестировать все идеи нет, надо ускоряться!
А ведь первая стадия любого проекта - самая насыщенная. Здесь важна не только креативность❗️но и:
• понимание потребностей клиента
• анализ локации, участка или района
• идеальная планировка, эргономика, логика распределения помещения, разделение потоков людей
• знание трендов и понимание культурного и визуального кода
• анализ рынка и знание маркетинга
Концепция собирается по кусочкам... Это гораздо больше, чем просто создать красивую картинку. НО! Именно та самая красивая картинка - главный продающий инструмент архитекторов и девелоперов 🤌🤌🤌
И здесь я должна сказать: ИИ - лучшее изобретение. Он не просто ускоряет процесс, а помогает избежать многочисленных правок т.к. клиент видит картинку на самых ранних этапах работы, а не когда рабочка готова, материалы закуплены и сроки стройки горят 🔥
В этом году я твердо решила сфокусироваться на концепт-дизайне и изучении ИИ, чтобы быть на пике индустрии! Буду чаще делиться с вами процессом и результатами 😌 На картинках несколько проектов с прошлого года: коливинг в Дубае, шахматный и инвест клубы, кафе в модном московском жк... процесс идёт!!! Работаем! 😝
Если вам нужен классный концепт для проекта, вы знаете, кому писать 😉✌️
#портфолио#концептДизайн#ИИ
👀ИИ с политической цензурой: китайский DeepSeek создаёт уязвимый код
Исследование CrowdStrike показало, что китайская нейросеть DeepSeek генерирует код разного качества в зависимости от заказчика. Если в запросе фигурируют нейтральные темы или США, код получается чистым и безопасным. Но стоит упомянуть темы, которые не нравятся властям КНР (например, Тайвань, Тибет, Синьцзян или Фалуньгун), как качество кода резко падает, и он становится уязвимым.
Специалисты выяснили, что в таких случаях нейросеть часто создаёт код с критическими уязвимостями. Так, для запросов от имени "нежелательных" организаций вероятность появления серьёзных ошибок, таких как SQL-инъекции и переполнение буфера, доходит до 50% и более. При этом в нейтральных запросах этот показатель не превышает 5%. Исследователи считают, что это не злой умысел, а результат работы встроенных идеологических фильтров или некачественных обучающих данных.
Впервые зафиксировано, что геополитика влияет на безопасность кода. ИИ становится инструментом политической дискриминации, предлагая не просто плохие, а потенциально опасные решения. Это создаёт серьёзные риски для информационной безопасности во всём мире, ведь уязвимый код может попасть в реальные проекты и быть использован злоумышленниками.
#ИИ#Китай#ИнформационнаяБезопасность
@SecLabnews
⭐️Моменты Литургии св. ап. Иакова
Отчее Единородное Бог Слово,/ пришедшее к нам в последния дни,/ Иакове Божественне,/ перваго тя показа/ иерусалимлян пастыря и учителя,/ и вернаго строителя таинств духовных:// темже тя вси чтим, апостоле.
Тропарь ап. Иакову
#видео#фото#ХорАнима
@obitelsem
MX Player Pro
🆕Обновление
Один излучших видеоплееров для Android с поддержкой декодирования видео потока с использованием более одного ядра. Воспроизводит практически любые видео файлы: .3gp .avi .divx .f4v .flv .mkv .mp4 .mpeg .mov .vob .wmv .webm .xvid и т.д.
⚙️Полная купленная Pro версия (489₽).
#Видео@pm_plus#Видео
#MXPlayer@pm_plus
📱Play Market +
⚡️ НАШ ЧАТ
XRecorder Pro
🆕Обновление
Одно из лучших приложений для записи видео с экрана мобильных устройств с богатым функционалом и большим количеством разнообразных настроек.
⚙️Полная купленная Pro версия (459₽).
#Видео@pm_plus
#XRecorder@pm_plus
📱Play Market +
⚡️ НАШ ЧАТ