Найти похожее

❝💦Wait a moment, be gentler with me, okay?❞ 💬Continue the story with her: http://openlove.life #openlove#aigirlfriend#aichat#roleplay#aigame#AI#AIBeautifulWomanな人と繋がりたい

🚬#AI президент на прямой линии наводит на мысль: какими были бы страны, если бы все правительство, чиновников и гос.структуру заменить на Сверх AI / #AGI Страна X под Управлением AI: Новая Эра Технологий и Прогресса - Автоматизированные Города: Крупные города используют интеллектуальные транспортные системы для предотвращения пробок, и роботизированные сервисы для улучшения городских услуг. - Персональные Ассистенты ИИ: ИИ-ассистенты помогают гражданам в управлении домашними финансами, предоставляют здоровьесберегающие рекомендации и упрощают рутинные задачи. - Автоматизированное Сельское Хозяйство: Применение роботов и дронов в аграрном секторе повышает урожайность и эффективность, сокращая человеческий труд и ресурсы. - Технологический Экспорт: Страна становится лидером в экспорте инновационных технологий, включая продвинутые ИИ-системы и робототехнику. - Образование: ИИ индивидуализирует обучение, адаптируясь под потребности каждого ученика и экономики в реальном времени. - Здравоохранение: Применение ИИ в медицине для анализа данных пациентов позволяет быстрее ставить диагнозы и разрабатывать лекартсва. - Борьба с Преступностью: ИИ анализирует данные для предотвращения преступлений и координирует действия правоохранительных органов. - Городское Планирование и Инфраструктура: Использование ИИ для разработки городских планов и инфраструктуры. - Развитие Науки и Инноваций: ИИ стимулирует научные исследования и открытия (как на днях в математике). - Ну и конечно же безусловный базовый доход,который позволяет людям больше не работать с самого рождения. ____ 🔵 Согласитесь, звучит очень утопично, но все эти технологии уже доступны сегодня! Внедряя #AI в свои личные процессы или в свою компанию, вы делаете это великолепное будущее ближе. Один из проектов над которым я сейчас работаю - это цифровая компанией с #AI сотрудниками, управляемая #AI директором - результаты конечно #blowmymind, надеюсь скоро смогу поделиться. 🆒 Подпишись @ilia_plasma

👆盗版套娃，毫不怀疑其它公司也有类似行为，反正都是网上爬的呗… TBH 我对爬数据训练和蒸馏整体感觉就……还好？就比如你人看了个书/电影再写成读书笔记/感想/观后感完全不会有任何版权问题嘛（可能引用原文的比例有细分但这里说的是常识概念中的总结而非洗搞），或者说你是那种看好多资料然后总结给我成科普文/视频/播客的博主我可能还得谢谢你帮忙让知识更 accessible 呢。 AI 这个就更不针对个人了嘛，比任何人类能看进去的资料都多，产出结果没到单体层面能被判抄袭/洗稿的程度（比如早期一些 genAI 图像生成被画手抓包的例子）的话我其实都觉得还好，所以对除了少数非常讨厌的平台（aka Xitter）之外其它平台拿我数据训练我真的觉得…就还好…甚至现在好多家 AI 还都会给 source 呢，比转载/拖库人家网站/洗稿来给自己流量的强多了啊… 当然 meta 跪舔 maga 以及更早一些遭人恨的行为容易被针对是另一个话题了。我也嫌🤷 但就事论事真觉得这个还好🤣（盗版图书网站本身的版权问题是另一个问题了） #tech#AI#news#fb

Полярный день и полярная ночь @geoinformburo #Атмосфера#7класс#Космос#Инфографика#5_6класс#Видео

🛑JetBrains признает поражение: легендарный Fleet уходит в историю. Вот что будет вместо него Компания JetBrains объявила о прекращении разработки среды разработки Fleet. С 22 декабря 2025 года продукт больше нельзя будет скачать, а выпуск обновлений прекращается. Fleet создавался как эксперимент по созданию IDE нового поколения с легкой архитектурой и современным UI. Хотя технически проект был успешен, он не нашел своей ниши как продукт по причинам: 👉 Не смог заменить полнофункциональные IDE на базе IntelliJ (IDEA, PyCharm и др.) 👉 Не стал достаточно убедительным «легким редактором» 👉 Создавал путаницу у пользователей, которым было сложно выбрать между двумя продуктами JetBrains 👉 KMP вовсе перестали поддерживать из-за разных наборов фичей в Fleet и KMP плагине для IDEA Команда Fleet не распускается, а переключается на создание принципиально нового продукта. Фокус смещается на агентскую разработку (agentic development) — среду, где разработчик ставит задачи AI-агентам (например, на рефакторинг или написание тестов), асинхронно получает результат и проводит ревью. Скорее всего это и есть недавно показанная Air IDE Скачать Fleet будет нельзя после 22 декабря 2025 года. Уже установленные версии продолжат работать, но сервисные функции (например, AI Assistant) со временем могут отключиться. #JetBrains#Fleet#IDE#AI

wechat-decrypt - 解密微信 PC 端的本地数据库 https://github.com/ylytdeng/wechat-decrypt 这类工具是好，可一般用不了多久就会被 南山必胜客 DMCA 吧 微信使用 SQLCipher 4 加密本地聊天记录，并将解密密钥缓存在进程内存中。 wechat-decrypt 通过扫描进程内存提取微信 4.0 版本本地数据库密钥，能够完整解密并读取所有本地数据库文件，让本地存储的微信数据可用于直接备份与分析。 ● 内置 Web UI，支持基础的搜索历史消息和联系人 ● 实现延迟约 100ms 的实时消息监听 ● 支持 Claude MCP 协议，允许 AI Agent 接入读取并利用微信记录，便于自动化处理个人聊天数据 #WeChat#Tool#AI#MCP#GitHub

📌Нейроанатомия LLM: улучшаем модель без дообучения. Дэвид Ноэль, независимый исследователь из Мюнхена, в середине 2024 года занял 1 место на HuggingFace Open LLM Leaderboard методом, который не требует ни новых данных, ни файнтюна. Он взял 80-слойную Qwen2-72B, продублировал блок из 7 средних слоёв (45–51) и получил модель RYS-XLarge, где каждый добавленный параметр - копия уже существующего. На 5 из 6 бенчмарков лидерборда результаты выросли: MuSR прибавил 17,7%, MATH - 8,2%. Позже ByteDance предложила Looped Language Models (ноябрь 2025), но Дэвид пришёл к своим выводам независимо на основе 2 наблюдений: LLM способны вести связный диалог в Base64 - модель декодирует вход, рассуждает и перекодирует ответ обратно. Если это работает, то получается, что ранние слои транслируют входные данные в абстрактное внутреннее представление, поздние переводят его обратно в текст, а средние занимаются рассуждением в формате, не привязанном к конкретному языку. Модель Goliath-120B, где слои двух разных 70B-моделей были перемешаны так, что выход поздних слоёв подавался на вход ранних. По всем канонам обучения это не должно было работать, но работало. Внутренние представления трансформеров оказались куда однороднее, чем предполагалось. Для поиска оптимальной конфигурации Дэвид построил «сканер мозга» трансформера: берется блок слоёв (с 20-го по 35-й), затем он вставляется повторно и на инференсе замеряется, стала модель лучше или хуже. Так перебираются все возможные начала и концы блока (3241 конфигурация). Каждую конфигурацию Дэвид прогонял через 2 быстрых теста: арифметику без CoT и EQ-Bench. Тепловые карты сканера показали, что средние слои можно дублировать с пользой, а вот крайние - нельзя. При этом повтор только одного слоя почти всегда ухудшает результат. Cредние слои работают как цельные функциональные контуры, и вырванный из цепочки шаг бесполезен. Буквально на днях Дэвид опубликовал продолжение, но уже с Qwen3.5-27B. Эксперимент с косинусным сходством скрытых состояний для текстовых запросов на 8 языках впервые показал трёхфазную архитектуру напрямую: к 10 слою фразы с одинаковым смыслом на разных языках оказывались ближе друг к другу, чем на одном языке с разным смыслом. Модель думает не на каком-то из человеческих языков, а в собственном внутреннем представлении. В Qwen3.5-27B архитектура модели иная. После 2 млн. конфигураций через суррогатную модель оптимальным решением на Pareto-фронте стало простейшее - продублировать один слой из середины стека. 1,5% дополнительных вычислений и... модель становится заметно сильнее. Метод ортогонален файнтюнингу и квантованию: модель получает дополнительное время на размышление, используя контуры, которые у нее уже есть. 🟡Статья ч.1ч.2 🟡Набор RYS-моделей 🖥Github @ai_machinelearning_big_data #AI#ML#LLM#RYS

📌Толковый калькулятор расчета инференса и дообучения LLM. Бесплатная тулза, которая помогает понять, какой GPU нужен под конкретную задачу до того как потрачен бюджет или наблюдается стойкий ООМ. Выбираете параметры инференса: архитектуру модели, тип квантования, sequence length и batch size, указываете спеки железа и получаете стату, распределение памяти, примерные метрики производительности и энергопотребления. Есть даже эмуляция скорости инференса с TTFT. Параметры расчета дообучения учитывают: конфиг датасета (количество сэмплов, среднее токенов на сэмпл, эпохи) и использование оптимизаторов. Плюс, еще посчитает время обучения. Цифры часто получаются чуть выше реального потребления (что даже хорошо), но точности до гигабайта ждать не стоит. Для грубой прикидки перед закупкой или деплоем - отличная вещь. @ai_machinelearning_big_data #AI#ML#LLM#VRAMCalculator

📌Как делали MiniMax М2.1 и что будет дальше. Когда говорят, что одна модель пишет код лучше другой, обычно имеется ввиду бенчмарк SWE-Bench. Модель получает реальный баг из настоящего проекта с Github, который она должна прочитать, найти ошибку и исправить её. Это частично повторяет ежедневную работу программиста. Но у этого бенча, как и у любого другого, есть свои недостатки. 🟠SWE-Bench работает только с Python. В реальном мире разработчики имеют дело с Java, Go, TypeScript, Rust, C++ и еще кучей других. 🟠Бенчмарк только про исправление ошибок, а программисты еще пишут новые функции, занимаются рефакторингом и оптимизацией. 🟠Его результаты сильно зависят от того, в каком окружении работает модель. И вот здесь MiniMax-AI задалась вопросом: как создать по-настоящему универсального ИИ-программиста? Ответ они нашли и реализовали его в своей свежайшей модели M2.1. 🟡Масштабирование окружения. За этим расплывчатым термином кроется огромная система, которая оперирует популярными языками: JS, TS, Python, Java, Go, C++ и Rust. Для этого с GitHub были собраны более 100 тыс. реальных задач с описанием проблемы, кодом и тестами. Это было непросто, так как сложные языки (Java или C++) требуют настройки и у каждого языка свои фреймворки и системы управления зависимостями. Чтобы обучить модель на таком массиве данных, MiniMax построил инфраструктуру, способную запускать более 5 тыс. изолированных сред выполнения за максимально короткое время - 10 секунд. 🟡Выход за рамки баг-фиксов. MiniMax-M2.1 обучали и генерации тестов и в результате оказалось, что это критически важный навык. Предыдущая версия, M1, писала слишком простые тесты и часто выбирала неверные решения. M2.1 в этом преуспела и сравнялась по результатам с мощным конкурентом Claude Sonnet 4.5. Еще она научилась оптимизировать производительность кода — на SWE-Perf показала средний прирост эффективности в 3.1%. И наконец, M2.1 научили делать Code Review, для чего создали внутренний бенчмарк SWE-Review. 🟡Обобщение на незнакомых окружениях (Generalization on OOD Scaffolds). Модель должна одинаково хорошо следовать длинным инструкциям и адаптироваться к разным способам управления контекстом диалога. Команда провела тесты в mini-swe-agent, Droid и Claude Code и если посмотреть на цифры из их сравнительной таблицы, то можно увидель, что модель стала гораздо более гибкой и универсальной. На том же SWE-Bench, при использовании Claude Code, MiniMax-M2.1 выбила 74 балла, что выше, чем у модели M2 с ее 69.2 баллами, и практически наравне с Claude Sonnet 4.5 и DeepSeek V3.2. На другом тесте, OctoCodingBench, разрыв еще больше: 26.1 у новой модели против 13.3 у старой. 🟡Планы на 2026. Во-первых, MiniMax планирует научить модель оценивать не только правильность кода, но и читаемость кода, качество комментариев, прозрачность процесса работы. Во-вторых - повысить эффективность решения задач, чтобы модель не делала лишних шагов, например, не перечитывала один и тот же файл по несколько раз. Но самое интересное — это их планы по RL Scaling, и создание так называемой Coding World Model. Идея в том, чтобы построить модель-симулятор, которая сможет предсказывать результат выполнения кода, не запуская его в реальности. Наконец, они планируют расширяться в узкоспециализированные области: разработка GPU Kernel, компиляторов и смарт-контрактов. Похоже, концепция "ИИ-кодера" становится все более реальной. Успех MiniMax-M2.1 показал, что дело уже не в написании отдельных строк кода, а в комплексном понимании всего процесса разработки. @ai_machinelearning_big_data #AI#ML#LLM#MiniMaх

⚡️Сбер представил новую систему синтеза речи для ГигаЧата — в одной модели используются сразу несколько разных уникальных голосов под разные задачи Обновление позволяет генерировать речь в различных манерах — от естественного Freespeech для общения до подкастного формата, интонаций операторов и традиционного дикторского стиля. Звучание стало более органичным и приближенным к человеческому. Что умеет новый синтез: - для разных кейсов применения синтеза сделаны отдельные голоса воспроизводит паузы, смысловые акценты и эмоциональную окраску - построен на собственной разработке: GigaChat 3b как основа, специализированный токенизатор и адаптер к LLM - умеет озвучивать тексты бесконечной длины с учетом контекста, а также клонировать голоса - внутренние замеры демонстрируют прогресс в качестве и натуральности звука Зачем это нужно: - помогает создавать более органичные голосовые интерфейсы - оптимален для разговорных ассистентов, озвучки подкастов или аудиокниг, а также в автоматизированных колл-центрах Основные преимущества: - есть возможность выбора голоса, которые подходят под разные задачи - управление стилистикой и эмоциями на естественном языке - самый живой синтез речи, ни у Алисы, ни у OpenAI ничего похожего нет Новый синтез уже доступен в Voice Mode Гигачата. @ai_machinelearning_big_data #ai#ml#speech#llm

📌Скорость решает все: обзор эффективных архитектур для LLM. Ландшафт архитектур LLM превратился в настоящий зоопарк. Почти каждую неделю появляются новые методы, обещающие меньший расход памяти и более быстрый инференс. Разобраться в этом становится все сложнее. Большая группа исследователей выпустила подробный обзор Speed Always Wins, чтобы систематизировать все ключевые инновации в области эффективных архитектур для LLM. Это не просто очередная статья, а попытка упорядочить и структурировать актуальные подходы, которые решают главную проблему классического трансформера - его квадратичную вычислительную сложность. Обзор описывает 7 основных направлений. 🟡Линейное моделирование последовательностей. Здесь авторы разбирают все подходы, которые так или иначе сводят сложность самовнимания к линейной. В эту категорию попадают 3 большие ветви: линейное внимание; линейные RNN, вроде и, конечно, модели на основе пространства состояний (SSM). 🟡Второе и третье направления посвящены идее разреженности. Разреженное моделирование последовательностей основано на простом принципе: не каждый токен должен общаться с каждым. Здесь выделяются статические подходы (как в Longformer), где паттерны внимания заданы заранее, и динамические, где они определяются на лету в зависимости от контента. 🟡MoE. Методика, которая уже стала мейнстримом. В МоЕ разреженность применяется не в механизме внимания, а в FFN-слоях, где для каждого токена активируется лишь небольшая часть экспертов, что позволяет наращивать число параметров без пропорционального роста вычислений. 🟡Четвёртый раздел - эффективное полное внимание. В нем речь идет не об изменении асимптотической сложности, а об ее аппаратной оптимизации. Флагман - FlashAttention. Есть детальный разбор, как за счет оптимизации обращений к памяти GPU удается кардинально ускорить вычисления, не прибегая к аппроксимациям. Сюда же относятся и групповые механизмы внимания: GQA и MQA. 🟡Гибридные архитектуры. Это, пожалуй, самый горячий тренд. Его идея в том, чтобы стратегически комбинировать быстрые слои с линейной сложностью и медленные, но мощные слои с полным вниманием. В обзоре выделяют два типа гибридизации: межслойную, как в Jamba, где разные типы слоев чередуются, и внутрислойную, где в одном слое разные головы могут использовать разные механизмы внимания. 🟡Диффузионные LLM (DLLM) Это неавторегрессионные модели, которые генерируют текст, постепенно восстанавливая его из шума. Их главная фишка в параллельном декодировании, что дает ощутимое ускорение инференса. В конце обзора есть анализ применения всех этих архитектур в разных модальностях - CV и аудио. Так что, если хотите быстро разобраться в базовых методах, которые будут двигать дизайн LLM в ближайшее время, а двигаться он будет в сторону микширования алгоритмов, систем и железа, этот обзор - мастрид. 🟡Arxiv 🖥GitHub @ai_machinelearning_big_data #AI#ML#LLM#Architectures

📌SemDiD: Семантическое разнообразие ответов для LLM. Исследователи из из Гонконгского университета и инженеры Alibaba научили LLM генерировать семантически разные ответы, заставляя их «думать» в ортогональных направлениях. Наверняка каждый, кто работает с LLM, сталкивался с их любовью к самоповторам. Запрашиваешь несколько вариантов решения, а получаешь одну и ту же мысль, просто перефразированную. Стандартные подходы к декодированию, temperature sampling или diverse beam search, создают лишь лексическое разнообразие, но пасуют, когда требуется семантическое. Это серьезная проблема для Best-of-N или RLHF. Ведь без по-настоящему разных идей и подходов к решению задачи эти методы теряют свою силу: выбирать лучший вариант не из чего, а обучать модель на однотипных примерах неэффективно. Решение предложили в методе SemDiD (Semantic-guided Diverse Decoding). Его суть, если кратко, перестать играть с токенами на поверхности и начать управлять генерацией напрямую в пространстве эмбеддингов. 🟡Метод работает так. Сначала, на старте, он принудительно направляет разные группы beams по ортогональным векторам в семантическом пространстве. Грубо говоря, это как дать команду разным поисковым группам двигаться строго на север, юг и запад, чтобы они гарантированно разошлись. По мере генерации, когда жесткие директивы могут стать неоптимальными, включается второй механизм - inter-group repulsion. Он просто следит, чтобы смысловые траектории ответов не сближались, сохраняя их уникальность до самого конца. Но как, гоняясь за разнообразием, не получить на выходе бессвязный бред? SemDiD подходит к контролю качества уникально. Он не пытается слепо максимизировать вероятность последовательности, а использует ее лишь как нижнюю границу, чтобы отсечь совсем уж плохие варианты. Кроме того, алгоритм корректирует системные искажения, когда вероятность токенов искусственно завышается в зависимости от их позиции в тексте. Для баланса между качеством и разнообразием используется адаптивный механизм на основе гармонического среднего, который в каждый момент времени уделяет больше внимания той метрике, которая проседает. 🟡В тестах метод показал неплохие результаты. На бенчмарках для Best-of-N, от MMLU-Pro+ до GSM8K, SemDiD увеличивает покрытие (шанс найти верный ответ) на 1.4%-5.2% по сравнению с аналогами. 🟡Но главный прорыв - в RLHF. Генерируя для GRPO или RLOO семантически богатые наборы ответов, SemDiD предоставляет им более качественный материал для обучения. Это ускоряет сходимость на 15% и повышает финальную точность моделей. 🟡Arxiv @ai_machinelearning_big_data #AI#ML#LLM#SemDiD