Неделю назад в мире опенсорс разработки произошло интересное событие.
Опенсорс — это когда разработчик пишет программу (как правило, эта программа нужна для работы других программ) и выкладывает её в общий доступ на полностью свободных началах. В большинстве случаев после этого кто угодно может делать с этой программой абсолютно что угодно: копировать, изменять, продавать решения на её основе за деньги и так далее. Иногда то, что пишут такие разработчики-волонтёры, оказывается невероятно удобно и полезно. Настолько, что гигантские корпорации используют это у себя. А кроме них — ещё десятки тысяч проектов по всему миру. Такое использование называется «зависимость», и оно создаёт связь между автором опенсорс-проекта и тем, кто взял его труд.
Связь обычно такая: в моей программе где-то указано, что вот этот вот код взят по такому-то адресу у опенсорс разработчика Васи. Моя программа иногда может на этот адрес заглядывать и смотреть, а не внёс ли Вася чего нового. Вдруг он улучшил работу и исправил ошибки — тогда я скачаю новую версию его программы и установлю её у себя. Формально для такого обновления должны существовать ограничения. По факту человеческая лень и негласный этикет среди разработчиков приводят к тому, что обновления ставят не глядя. Считается, что Вася будет выкладывать только улучшенную и проверенную новую версию своей программы, ведь за ним наблюдает миллион других разработчиков. Пацаны во дворе не поймут, если Вася сделает что-то неаккуратно.
Один из разработчиков по имени Marak Squires написал некоторое время назад две очень полезные программные библиотеки. Как раз такие, которые скачали десятки тысяч людей, в том числе в крупных корпорациях, и использовали у себя. В прошлом году этот разработчик написал что-то вроде: «Эй, корпорации, вы берёте мой труд бесплатно. Конечно, я его раздал бесплатно, но вы чёртовы капиталистические гиганты, и у вас миллиарды баксов, а я вам сэкономил миллионы баксов на разработке. Я жду от вас чек на почту в благодарность». Конечно, всем было пофигу.
А неделю назад этот разработчик внёс в свои библиотеки деструктивное обновление, которое сделало программы, установившие его, неработоспособными, и вывело на экран «LIBERTY LIBERTY LIBERTY». Это обновление положило кучу проектов, в том числе у гигантов-корпораций. Поднялась буря.
Одна часть интернета заявила, что разработчик никому ничего не должен, поэтому волен делать со своим кодом всё, что хочет. Вторая часть претендовала на то, что совершённый им поступок это вандализм и осознанный вред другим разработчикам. Дров в огонь подкинуло то, что GitHub, на котором размещался код этого разработчика, заблокировал его аккаунт. А система хранения пакетов NPM откатила изменения до предыдущих версий. Хотя формально никаких законов он не нарушал: компании брали его код по собственной воле, а он ничего никому не гарантировал.
___________________________
Я не готов назвать здесь однозначно правую сторону. Пока выглядит, как «Все мудаки». Но на мой взгляд это показательный пример вот чего: никакие формальные правила никогда не покроют всё многообразие человеческих взаимоотношений, и поэтому личностный аспект тоже важен. Даже если нет закона или правила, по которому вы что-то должны, есть смысл стараться действовать созидательно и стремиться, хотя бы частично, к всеобщему благу, а не только к личному. Особенно в ситуации, когда у тебя в руках сосредоточена та или иная власть. Корпорации действительно могли бы найти способ отблагодарить разработчика (и вообще — всех разработчиков, чей код они бесплатно берут в таких масштабах). Просто из чувства благодарности, а не потому, что должны. Разработчик мог бы просто закрыть проект и не стараться нанести урон. Просто из чувства неприятия всего деструктивного. Это, конечно, идеализированный мир розовых пони, но сила и власть это как раз способность двигать границы реальности.
#dev
🤯 Nueva IA "razona" como un humano
La startup de Singapur Sapient ha creado una inteligencia artificial inspirada en el cerebro humano. En lugar del razonamiento lineal típico de los modelos de lenguaje, los investigadores han desarrollado un "modelo de razonamiento jerárquico" (HRM, por sus siglas en inglés) que opera de manera similar a cómo piensan los humanos.
El cerebro humano no sigue simplemente una lista de pasos. Utiliza dos tipos de pensamiento al mismo tiempo: uno que observa el panorama general y planifica, y otro que se enfoca en los detalles y resuelve problemas rápidamente. Basado en este principio, el HRM también funciona.
El HRM utiliza solo 1,000 muestras de entrenamiento para cada tarea y cuenta con 27 millones de parámetros, miles de veces menos que los modelos insignia de OpenAI, Google y otras empresas. Al mismo tiempo, este pequeño modelo de IA supera a los principales modelos de lenguaje en tareas lógicas y pensamiento estratégico. Por ejemplo, resuelve rápidamente complejos rompecabezas de Sudoku y encuentra la salida en laberintos confusos que incluso los modelos "más inteligentes" no pueden resolver.
En el benchmark ARC-AGI, considerado uno de los exámenes más difíciles para probar las capacidades de razonamiento de la IA, el modelo de Sapient obtuvo un puntaje del 40.3%. En comparación: o3-mini-high logró un 34.5%, Claude Sonnet 3.7—21.2% y DeepSeek-R1—15.8%.
"Estos resultados subrayan el potencial del HRM como un avance transformador hacia sistemas de razonamiento de propósito general y computación universal", insisten los creadores del modelo.
➡️ El modelo está disponible en GitHub.
#noticias#benchmarks@hiaimediaes
How to write the load testing service? In this article you’ll know how to design an optimized service for load testing with code examples and good description 🙂
#development#benchmarks
http://callistaenterprise.se/blogg/teknik/2015/11/22/gotling/
Here is not new but interesting article about an escape analysis, pprof and debugging GoLang applications. Inside of post:
- Indirects;
- Slices, maps;
- Interfaces;
- Benchmarks and tests.
#practice#development#benchmarks
https://www.ardanlabs.com/blog/2018/01/escape-analysis-flaws.html
2024 Benchmarks Report: Journey through the metrics.
Ребята из Mixpanel сделали прикольный анализ бенчмарков по продуктовым метрикам. Финансовых там нет, но все равно интересно.
1/ Бенчмарки по средним MoM growth [сразу в квадратных скобках еще 90%-й персентиль, самые топовые]:
▪️Technology: 4.0% (2022) => 0.5% (2023) [5.0% (2023)];
▪️Media & Entertainment: 4.0% (2022) => -1.5% (2023) [5.5% (2023)];
▪️Financial Services: 1.0% (2022) => 2.0% (2023) [7.0% (2023)];
▪️Ecommerce: 2.0% (2022) => 3.5% (2023) [7.5% (2023)];
▪️Healthcare: 3.0% (2022) => 4.0% (2023) [5.0% (2023)];
▪️Gaming: 5.0% (2022) => 6.0% (2023) [10.0% (2023)].
В общем, медиа чувствует себя плоховато, а gaming впереди всех. Еще отмечу, что самый высокий топовый рост у финтек приложений, ecommerce и, собственно, gaming.
2/ Каков % активных пользователей по платформем?
▪️Technology: 69% (mobile) => 32% (desktop);
▪️Media & Entertainment: 82% (mobile) => 20% (desktop);
▪️Financial Services: 86% (mobile) => 16% (desktop);
▪️Ecommerce: 58% (mobile) => 42% (desktop);
▪️Healthcare: 73% (mobile) => 28% (desktop);
▪️Gaming: 87% (mobile) => 13% (desktop).
Мобилка побеждает, только в ecommerce десктоп еще сколько-то близко. Финансовые приложения и игры фактически с десктопа не используются.
3/ Каковы бенчмарки по week 1 retention?
▪️Technology: 49% (2022) => 31% (2023);
▪️Media & Entertainment: 40% (2022) => 22% (2023);
▪️Financial Services: 51% (2022) => 27% (2023);
▪️Ecommerce: 39% (2022) => 22% (2023);
▪️Healthcare: 44% (2022) => 24% (2023);
▪️Gaming: 25% (2022) => 12% (2023).
В отличие от роста, retention выше всего в технологических приложениях, а хуже всего в gaming. Как вы видите, уровень удержания с 2022 падает в 2023-м по всем категориям, пожалуй, меньше всего в ecommerce.
4/ А что по engagement? Например, Mixpanel показывает, сколько действий в среднем сделали пользователи приложений в расчете на 1 пользователя за 2023:
▪️Technology: 381;
▪️Media & Entertainment: 208;
▪️Financial Services: 313;
▪️Ecommerce: 212;
▪️Healthcare: 149;
▪️Gaming: 252.
Отдельно посмотрите на страницу 34 в отчете – там графики пользования приложениями из разных категорий по дням недели. Видно, что в воскресенье никто не открывает финансовые приложения, покупки в ecommerce делают в основном в субботу, а во вторник (почему-то) никто не заходит в приложения, связанные со здоровьем.
5/ В отчете есть еще секция по результативности маркетинга, прочитайте самостоятельно.
6/ Прочие выводы и наблюдения:
▪️Топ-10 продуктов в отдельных секторах показывают, как правило, 6% рост, тогда как оставшиеся 90% в среднем имеют рост 2.4%, а пользователи топовой когорты тратят в 3х больше денег;
▪️Средний по разным вертикалям week 1 retention упал с 50% в 2022 до 28% в 2023;
▪️Средняя сессия в мобильных девайсах 11.4 минуты (топовая персентиль 30.5 минут), а на десктопе – 9.9 минут (топовая персентиль 25.6 минут).
👉 Сам отчет на [48 страниц] можно скачать по ссылке: https://mixpanel.com/benchmarks/
@proVenture
#benchmarks#research#saas
💰Каждая корпорация в среднем может потратить $12.3M на Gen AI за 2026 год – опрос a16z.
Всеми нами уважаемый a16z тут недавно опросил 100 CIO крупных корпораций и получил некоторые любопытные данные.
1/ Для начала к теме поста – сколько же корпорации тратят на Gen AI в год?
В мае 2025 опрос показал следующее:
▪️$7.0M за 2025 год (это +200% YoY)
▪️$12.3M за 2026 год (это +75%)
🔹Любопытно, что в середине 2024 ожидали, что потратят $4.5M за 2025 год, сейчас в середине уже этого года прогноз уже на 56% выше
2/ Использование разных моделей выглядит уже нормой:
▪️1 и менее модель используют ~17% компаний с выручкой $500M-$5B, а среди $20B+ нет компаний, которые используют менее 2-х
▪️OpenAI чуть больше любят большие компании (~60% компаний с выручкой $500m-$5B имеют в проде решения на базе OpenAI, тогда как доля таких компаний в когорте $20B+ составляет ~78%). Но они не любят Anthropic (у него доля падает с ~20% до ~10%)
▪️В тройке также есть Google. Они расположены #1 OpenAI, #2 Google, #3 Anthropic.
▪️У Google Gemini Flash 2.5 еще и самый лучший индекс performance по сравнению с затратами.
3/ Где хранят данные:
▪️~80% хранят у самих вендоров моделей (типа OpenAI) и также хранят в CSP (типа AWS)
▪️Если средневзвешанно по AI spent взять, то 37% у вендоров и 28% в CSP
▪️CIO отмечают, что за год стало сложнее поменять модель на другую
4/ Что находится в проде? Тут прикольная разница между регулируемыми отраслями и нерегулируемыми:
▪️У нерегулируемых на уровне 80-85% в проде находятся чатботы общего пользования, customer support и разработка софта
▫️А у регулируемых на уровне 80% только разработка софта, далее ~50% чатботы и 40% customer support
5/ Отдельный любопытный факт:
🔹Сейчас 39% компаний направляют на Gen AI средства из основного централизованного IT бюджета (только 5% считают, что это innovation budget)
👉 Читайте более подробно статью a16z по ссылке: https://a16z.com/ai-enterprise-2025/
#research#benchmarks#saas#ai
Good and simple short article about the benchmark writing in GoLang. Code examples are available 😉
#development#benchmarks#testing#basics
https://mycodesmells.com/post/testing-go-with-benchmarks
🤖 MiniMax-M2: новая MoE-модель серииMiniMax
MiniMax-M2 переосмысливает эффективность: это 230 млрд параметров (из них активно только 10 млрд) - мощная, быстрая и экономичная модель, которая сочетает интеллект уровня топовых LLM с оптимизацией под агентные применения и программирование.
🔹 Основные особенности
🧠 Интеллект мирового уровня.
По данным *Artificial Analysis*, MiniMax-M2 демонстрирует отличные результаты в математике, науке, программировании, следовании инструкциям и использовании инструментов.
Модель занимает #1 место среди всех open-source моделей по суммарному индексу интеллекта.
💻 Кодинг
Разработана для полного цикла разработкт - от файловыхправок дотестировании кода и его автокоррекции.
Модель показывает отличные результаты на Terminal-Bench и (Multi-)SWE-Bench, что делает её эффективной в IDE, терминалах и CI-системах.
🧩 Агентные возможности.
MiniMax-M2 умеет планироватьи выполнять сложные цепочки действий через shell, браузер, retrieval и code runners.
В тестах BrowseComp уверенно находит труднодоступные источники и восстанавливается после сбоев, не теряя цепочку рассуждений.
MiniMax M2 построена по принципу GPT-OSS и использует сочетание Full Attention и Sliding Window Attention (SWA). Это помогает эффективно работать с длинным контекстом - часть модели анализирует всё сразу, другая концентрируется на ближайших фрагментах текста.
Каждая attention-голова имеет собственный RMSNorm, а блоки Full Attention и SWA используют разные RoPE-параметры, это повышает гибкость и устойчивость модели.
MiniMax-M2 - это новый стандарт эффективности для AGI-агентов и кодинга: умнее, быстрее и дешевле, чем аналоги.
https://huggingface.co/MiniMaxAI/MiniMax-M2
@ai_machinelearning_big_data
#AI#MiniMax#LLM#ArtificialIntelligence#Benchmarks
🔥 Как реально выбирают LLM в 2025 — исследование LLM Arena
Интересный опрос практиков (инженеров, ML-учёных, AI-продуктов) - как сегодня на самом деле выбирают языковые модели (LLM), что важнее: бенчмарки или собственные тесты, цена/скорость/качество, и чего не хватает в информации по моделям.
📊Ключевые выводы
- 82,2% респондентов проводят собственные тесты; бенчмарки — лишь ориентир, не решение.
- 26,7% вообще не пользуются бенчмарками.
- В центре внимания: баланс качество / цена / скорость, устойчивость (без галлюцинаций), соответствие инфраструктуре.
👥 Участники опроса
- 45 практиков с опытом работы с LLM-продуктами; все участники — профессионалы.
- ML/AI Инженеры, Data Scientists, AI-строители, и менеджмент.
🔑 Что ищут и какие сигналы важны:
- Часто оценивают обсуждаемость модели в статьях/сообществе; практическое применение в похожих продуктах.
- Обращают внимание на число скачиваний и звёзд на Hugging Face / GitHub.
- Хотят больше данных о требованиях к железу, лицензиях, локальной работе, графиках “цена vs качество”, “скорость vs качество”.
⚠️Проблемы & доверие
- Многие не доверяют существующим бенчмаркам из-за методологических проблем (train/test leakage, нерелевантность задач).
- Лабораторные условия часто сильно отличаются от продакшн.
- Нехватка отзывов по реальным сценариям и использованиям.
При выборе LLM важнее собственные тесты и контекст задач, чем рейтинги. Специалисты хотят поточечных данных: про лицензии, требования к железу, latency, стоимость.
Инициатор исследования Роман Куцев - фаундер и CEO LLM Arena, публикуют много интересного у себя в блоге.
Для тех, кто строит LLM-продукты, полезно:
- Не ориентироваться только на чужие бенчмарки.
- Собирать метрики в собственных условиях — на реальных данных.
- Открыто показывать, что работает, а что — нет, в документации и обсуждениях.
🟢 Полное исследование: https://research.llmarena.ru/
#LLM#AI#ИИ#LLMArena#исследование#нейросети#benchmarks
o3 & o3-mini Break Benchmark Records
The performance of o3 and o3-mini showcases state-of-the-art (SOTA) results across various benchmarks. Key insights include:
- Frontier Math scores increased from 2% to 25%.
- SWE-Bench achieved 71.7%, a significant leap for a startup that recently raised $200 million with 13.86% earlier this year.
- ELO on Codeforces reached 2727, held by only 150 individuals globally.
- ARC-AGI model scored 87.5%, breaking a five-year deadlock.
- Noteworthy progress on GPQA and AIME benchmarks.
Access to o3-mini is currently available to security researchers, while general public access is set for late January. Full access to o3 will follow later.
#AI#SOTA#Benchmarks#o3#o3-mini #FrontierMath#SWE-Bench #Codeforces#ELO#ARC-AGI #GPQA#AIME#Funding#Progress#Research#Technology#Innovation
O3 and O3-Mini Benchmark Breakthroughs
The O3 and O3-Mini models showcase state-of-the-art (SOTA) performance with significant leaps in various benchmarks. Results on Frontier Math have jumped from 2% to 25%. The SWE-Bench model achieved a score of 71.7%, while a startup has raised $200 million following results of 13.86%. ELO on Codeforces reached 2727, surpassing most peers globally. Notably, the ARC-AGI model scored 87.5%, breaking a five-year benchmark. Access for security researchers to O3-Mini starts today, with general access available in late January.
#O3#O3Mini#SOTA#Benchmarks#AI#ML#Funding#Codeforces#ARC-AGI #FrontierMath#SWE-Bench #ELO#GPQA#AIME#SecurityResearch#TechUpdates#Innovations#Startups#Performance#AIModels