Најди сличен содржај

2016 Halving changed everything — difficulty rose, profits exploded. Reward dropped 25 → 12.5 BTC Everyone said mining was “over”. Instead, BTC went from $400 → $20,000 Mining profitability skyrocketed. This was the moment mining stopped being a hobby— and became an industry. Those who mined pre-halving → became wealthy. Those who mined post-halving → became wealthier. Cycles never fail. @100trillionUSD what’s your 2016 cycle perspective? #Bitcoin#Mining#Halving#BTC

wechat-decrypt - 解密微信 PC 端的本地数据库 https://github.com/ylytdeng/wechat-decrypt 这类工具是好，可一般用不了多久就会被 南山必胜客 DMCA 吧 微信使用 SQLCipher 4 加密本地聊天记录，并将解密密钥缓存在进程内存中。 wechat-decrypt 通过扫描进程内存提取微信 4.0 版本本地数据库密钥，能够完整解密并读取所有本地数据库文件，让本地存储的微信数据可用于直接备份与分析。 ● 内置 Web UI，支持基础的搜索历史消息和联系人 ● 实现延迟约 100ms 的实时消息监听 ● 支持 Claude MCP 协议，允许 AI Agent 接入读取并利用微信记录，便于自动化处理个人聊天数据 #WeChat#Tool#AI#MCP#GitHub

📌Нейроанатомия LLM: улучшаем модель без дообучения. Дэвид Ноэль, независимый исследователь из Мюнхена, в середине 2024 года занял 1 место на HuggingFace Open LLM Leaderboard методом, который не требует ни новых данных, ни файнтюна. Он взял 80-слойную Qwen2-72B, продублировал блок из 7 средних слоёв (45–51) и получил модель RYS-XLarge, где каждый добавленный параметр - копия уже существующего. На 5 из 6 бенчмарков лидерборда результаты выросли: MuSR прибавил 17,7%, MATH - 8,2%. Позже ByteDance предложила Looped Language Models (ноябрь 2025), но Дэвид пришёл к своим выводам независимо на основе 2 наблюдений: LLM способны вести связный диалог в Base64 - модель декодирует вход, рассуждает и перекодирует ответ обратно. Если это работает, то получается, что ранние слои транслируют входные данные в абстрактное внутреннее представление, поздние переводят его обратно в текст, а средние занимаются рассуждением в формате, не привязанном к конкретному языку. Модель Goliath-120B, где слои двух разных 70B-моделей были перемешаны так, что выход поздних слоёв подавался на вход ранних. По всем канонам обучения это не должно было работать, но работало. Внутренние представления трансформеров оказались куда однороднее, чем предполагалось. Для поиска оптимальной конфигурации Дэвид построил «сканер мозга» трансформера: берется блок слоёв (с 20-го по 35-й), затем он вставляется повторно и на инференсе замеряется, стала модель лучше или хуже. Так перебираются все возможные начала и концы блока (3241 конфигурация). Каждую конфигурацию Дэвид прогонял через 2 быстрых теста: арифметику без CoT и EQ-Bench. Тепловые карты сканера показали, что средние слои можно дублировать с пользой, а вот крайние - нельзя. При этом повтор только одного слоя почти всегда ухудшает результат. Cредние слои работают как цельные функциональные контуры, и вырванный из цепочки шаг бесполезен. Буквально на днях Дэвид опубликовал продолжение, но уже с Qwen3.5-27B. Эксперимент с косинусным сходством скрытых состояний для текстовых запросов на 8 языках впервые показал трёхфазную архитектуру напрямую: к 10 слою фразы с одинаковым смыслом на разных языках оказывались ближе друг к другу, чем на одном языке с разным смыслом. Модель думает не на каком-то из человеческих языков, а в собственном внутреннем представлении. В Qwen3.5-27B архитектура модели иная. После 2 млн. конфигураций через суррогатную модель оптимальным решением на Pareto-фронте стало простейшее - продублировать один слой из середины стека. 1,5% дополнительных вычислений и... модель становится заметно сильнее. Метод ортогонален файнтюнингу и квантованию: модель получает дополнительное время на размышление, используя контуры, которые у нее уже есть. 🟡Статья ч.1ч.2 🟡Набор RYS-моделей 🖥Github @ai_machinelearning_big_data #AI#ML#LLM#RYS

📌Толковый калькулятор расчета инференса и дообучения LLM. Бесплатная тулза, которая помогает понять, какой GPU нужен под конкретную задачу до того как потрачен бюджет или наблюдается стойкий ООМ. Выбираете параметры инференса: архитектуру модели, тип квантования, sequence length и batch size, указываете спеки железа и получаете стату, распределение памяти, примерные метрики производительности и энергопотребления. Есть даже эмуляция скорости инференса с TTFT. Параметры расчета дообучения учитывают: конфиг датасета (количество сэмплов, среднее токенов на сэмпл, эпохи) и использование оптимизаторов. Плюс, еще посчитает время обучения. Цифры часто получаются чуть выше реального потребления (что даже хорошо), но точности до гигабайта ждать не стоит. Для грубой прикидки перед закупкой или деплоем - отличная вещь. @ai_machinelearning_big_data #AI#ML#LLM#VRAMCalculator

📌Как делали MiniMax М2.1 и что будет дальше. Когда говорят, что одна модель пишет код лучше другой, обычно имеется ввиду бенчмарк SWE-Bench. Модель получает реальный баг из настоящего проекта с Github, который она должна прочитать, найти ошибку и исправить её. Это частично повторяет ежедневную работу программиста. Но у этого бенча, как и у любого другого, есть свои недостатки. 🟠SWE-Bench работает только с Python. В реальном мире разработчики имеют дело с Java, Go, TypeScript, Rust, C++ и еще кучей других. 🟠Бенчмарк только про исправление ошибок, а программисты еще пишут новые функции, занимаются рефакторингом и оптимизацией. 🟠Его результаты сильно зависят от того, в каком окружении работает модель. И вот здесь MiniMax-AI задалась вопросом: как создать по-настоящему универсального ИИ-программиста? Ответ они нашли и реализовали его в своей свежайшей модели M2.1. 🟡Масштабирование окружения. За этим расплывчатым термином кроется огромная система, которая оперирует популярными языками: JS, TS, Python, Java, Go, C++ и Rust. Для этого с GitHub были собраны более 100 тыс. реальных задач с описанием проблемы, кодом и тестами. Это было непросто, так как сложные языки (Java или C++) требуют настройки и у каждого языка свои фреймворки и системы управления зависимостями. Чтобы обучить модель на таком массиве данных, MiniMax построил инфраструктуру, способную запускать более 5 тыс. изолированных сред выполнения за максимально короткое время - 10 секунд. 🟡Выход за рамки баг-фиксов. MiniMax-M2.1 обучали и генерации тестов и в результате оказалось, что это критически важный навык. Предыдущая версия, M1, писала слишком простые тесты и часто выбирала неверные решения. M2.1 в этом преуспела и сравнялась по результатам с мощным конкурентом Claude Sonnet 4.5. Еще она научилась оптимизировать производительность кода — на SWE-Perf показала средний прирост эффективности в 3.1%. И наконец, M2.1 научили делать Code Review, для чего создали внутренний бенчмарк SWE-Review. 🟡Обобщение на незнакомых окружениях (Generalization on OOD Scaffolds). Модель должна одинаково хорошо следовать длинным инструкциям и адаптироваться к разным способам управления контекстом диалога. Команда провела тесты в mini-swe-agent, Droid и Claude Code и если посмотреть на цифры из их сравнительной таблицы, то можно увидель, что модель стала гораздо более гибкой и универсальной. На том же SWE-Bench, при использовании Claude Code, MiniMax-M2.1 выбила 74 балла, что выше, чем у модели M2 с ее 69.2 баллами, и практически наравне с Claude Sonnet 4.5 и DeepSeek V3.2. На другом тесте, OctoCodingBench, разрыв еще больше: 26.1 у новой модели против 13.3 у старой. 🟡Планы на 2026. Во-первых, MiniMax планирует научить модель оценивать не только правильность кода, но и читаемость кода, качество комментариев, прозрачность процесса работы. Во-вторых - повысить эффективность решения задач, чтобы модель не делала лишних шагов, например, не перечитывала один и тот же файл по несколько раз. Но самое интересное — это их планы по RL Scaling, и создание так называемой Coding World Model. Идея в том, чтобы построить модель-симулятор, которая сможет предсказывать результат выполнения кода, не запуская его в реальности. Наконец, они планируют расширяться в узкоспециализированные области: разработка GPU Kernel, компиляторов и смарт-контрактов. Похоже, концепция "ИИ-кодера" становится все более реальной. Успех MiniMax-M2.1 показал, что дело уже не в написании отдельных строк кода, а в комплексном понимании всего процесса разработки. @ai_machinelearning_big_data #AI#ML#LLM#MiniMaх

⚡️Сбер представил новую систему синтеза речи для ГигаЧата — в одной модели используются сразу несколько разных уникальных голосов под разные задачи Обновление позволяет генерировать речь в различных манерах — от естественного Freespeech для общения до подкастного формата, интонаций операторов и традиционного дикторского стиля. Звучание стало более органичным и приближенным к человеческому. Что умеет новый синтез: - для разных кейсов применения синтеза сделаны отдельные голоса воспроизводит паузы, смысловые акценты и эмоциональную окраску - построен на собственной разработке: GigaChat 3b как основа, специализированный токенизатор и адаптер к LLM - умеет озвучивать тексты бесконечной длины с учетом контекста, а также клонировать голоса - внутренние замеры демонстрируют прогресс в качестве и натуральности звука Зачем это нужно: - помогает создавать более органичные голосовые интерфейсы - оптимален для разговорных ассистентов, озвучки подкастов или аудиокниг, а также в автоматизированных колл-центрах Основные преимущества: - есть возможность выбора голоса, которые подходят под разные задачи - управление стилистикой и эмоциями на естественном языке - самый живой синтез речи, ни у Алисы, ни у OpenAI ничего похожего нет Новый синтез уже доступен в Voice Mode Гигачата. @ai_machinelearning_big_data #ai#ml#speech#llm

📌Скорость решает все: обзор эффективных архитектур для LLM. Ландшафт архитектур LLM превратился в настоящий зоопарк. Почти каждую неделю появляются новые методы, обещающие меньший расход памяти и более быстрый инференс. Разобраться в этом становится все сложнее. Большая группа исследователей выпустила подробный обзор Speed Always Wins, чтобы систематизировать все ключевые инновации в области эффективных архитектур для LLM. Это не просто очередная статья, а попытка упорядочить и структурировать актуальные подходы, которые решают главную проблему классического трансформера - его квадратичную вычислительную сложность. Обзор описывает 7 основных направлений. 🟡Линейное моделирование последовательностей. Здесь авторы разбирают все подходы, которые так или иначе сводят сложность самовнимания к линейной. В эту категорию попадают 3 большие ветви: линейное внимание; линейные RNN, вроде и, конечно, модели на основе пространства состояний (SSM). 🟡Второе и третье направления посвящены идее разреженности. Разреженное моделирование последовательностей основано на простом принципе: не каждый токен должен общаться с каждым. Здесь выделяются статические подходы (как в Longformer), где паттерны внимания заданы заранее, и динамические, где они определяются на лету в зависимости от контента. 🟡MoE. Методика, которая уже стала мейнстримом. В МоЕ разреженность применяется не в механизме внимания, а в FFN-слоях, где для каждого токена активируется лишь небольшая часть экспертов, что позволяет наращивать число параметров без пропорционального роста вычислений. 🟡Четвёртый раздел - эффективное полное внимание. В нем речь идет не об изменении асимптотической сложности, а об ее аппаратной оптимизации. Флагман - FlashAttention. Есть детальный разбор, как за счет оптимизации обращений к памяти GPU удается кардинально ускорить вычисления, не прибегая к аппроксимациям. Сюда же относятся и групповые механизмы внимания: GQA и MQA. 🟡Гибридные архитектуры. Это, пожалуй, самый горячий тренд. Его идея в том, чтобы стратегически комбинировать быстрые слои с линейной сложностью и медленные, но мощные слои с полным вниманием. В обзоре выделяют два типа гибридизации: межслойную, как в Jamba, где разные типы слоев чередуются, и внутрислойную, где в одном слое разные головы могут использовать разные механизмы внимания. 🟡Диффузионные LLM (DLLM) Это неавторегрессионные модели, которые генерируют текст, постепенно восстанавливая его из шума. Их главная фишка в параллельном декодировании, что дает ощутимое ускорение инференса. В конце обзора есть анализ применения всех этих архитектур в разных модальностях - CV и аудио. Так что, если хотите быстро разобраться в базовых методах, которые будут двигать дизайн LLM в ближайшее время, а двигаться он будет в сторону микширования алгоритмов, систем и железа, этот обзор - мастрид. 🟡Arxiv 🖥GitHub @ai_machinelearning_big_data #AI#ML#LLM#Architectures

📌SemDiD: Семантическое разнообразие ответов для LLM. Исследователи из из Гонконгского университета и инженеры Alibaba научили LLM генерировать семантически разные ответы, заставляя их «думать» в ортогональных направлениях. Наверняка каждый, кто работает с LLM, сталкивался с их любовью к самоповторам. Запрашиваешь несколько вариантов решения, а получаешь одну и ту же мысль, просто перефразированную. Стандартные подходы к декодированию, temperature sampling или diverse beam search, создают лишь лексическое разнообразие, но пасуют, когда требуется семантическое. Это серьезная проблема для Best-of-N или RLHF. Ведь без по-настоящему разных идей и подходов к решению задачи эти методы теряют свою силу: выбирать лучший вариант не из чего, а обучать модель на однотипных примерах неэффективно. Решение предложили в методе SemDiD (Semantic-guided Diverse Decoding). Его суть, если кратко, перестать играть с токенами на поверхности и начать управлять генерацией напрямую в пространстве эмбеддингов. 🟡Метод работает так. Сначала, на старте, он принудительно направляет разные группы beams по ортогональным векторам в семантическом пространстве. Грубо говоря, это как дать команду разным поисковым группам двигаться строго на север, юг и запад, чтобы они гарантированно разошлись. По мере генерации, когда жесткие директивы могут стать неоптимальными, включается второй механизм - inter-group repulsion. Он просто следит, чтобы смысловые траектории ответов не сближались, сохраняя их уникальность до самого конца. Но как, гоняясь за разнообразием, не получить на выходе бессвязный бред? SemDiD подходит к контролю качества уникально. Он не пытается слепо максимизировать вероятность последовательности, а использует ее лишь как нижнюю границу, чтобы отсечь совсем уж плохие варианты. Кроме того, алгоритм корректирует системные искажения, когда вероятность токенов искусственно завышается в зависимости от их позиции в тексте. Для баланса между качеством и разнообразием используется адаптивный механизм на основе гармонического среднего, который в каждый момент времени уделяет больше внимания той метрике, которая проседает. 🟡В тестах метод показал неплохие результаты. На бенчмарках для Best-of-N, от MMLU-Pro+ до GSM8K, SemDiD увеличивает покрытие (шанс найти верный ответ) на 1.4%-5.2% по сравнению с аналогами. 🟡Но главный прорыв - в RLHF. Генерируя для GRPO или RLOO семантически богатые наборы ответов, SemDiD предоставляет им более качественный материал для обучения. Это ускоряет сходимость на 15% и повышает финальную точность моделей. 🟡Arxiv @ai_machinelearning_big_data #AI#ML#LLM#SemDiD

Друзья, встречайте новинку от OpenAI - Txt2Video SORA! 🚀 Это настоящий прорыв. Эта модель предлагает невиданное до сих пор качество и детализацию изображения при движении камеры, сохраняя при этом уникальность каждого человека. Хотя я скептически отношусь к рендерам и считаю, что стоит дождаться общего доступа для независимого тестирования (ведь мы не позволим себя обмануть), уже сейчас результаты выглядят впечатляюще! Ознакомиться с примерами можно на официальном сайте OpenAI - https://openai.com/sora #OpenAI#Txt2VideoSORA#технологии#инновации#AI#искусственныйинтеллект @pulatov_kh

🙂Тестировали обновленную Алису в Яндекс Поиске. Довольно интересное преображение от простого голосового помощника к полноценному ИИ-ассистенту. Попросили ее прямо в браузере написать пост про саму себя. И она тут же выдала готовый текст, адаптированный для публикации. Есть структура, заголовки и даже эмодзи. Вполне живой контент. Голосовые запросы обрабатывает неплохо, можно говорить естественно, не подбирая специальные фразы. Распознавание работает стабильно. ➕ Особенно прикольный режим рассуждений для сложных задач. Нейронка думает вслух, показывая логику решения. Забавно наблюдать за ходом мыслей ИИ. ➕Плюс ко всему дает ссылки на источники – не просто генерирует ответ из воздуха, а показывает, откуда информация. Для проверки фактов удобно. ➕ Еще есть генерация изображений прямо в поиске, анализ загруженных картинок через камеру, интеграция с контентом открытых вкладок в браузере. В целом направление правильное - надо пользовать! Скачать на мобильный можно тут. #ИИ#AI#Нейросети#Алиса ——— #Инструменты ✍️Подписывайтесь: @aiforproduct

🏝Как спланировать отпуск с ИИ Давайте разберёмся, как нейросеть может классно помочь с выбором отдыха. Мы покопались в настройках и собрали GPTs, который чует, что человеку по душе, и отправляет его с этими хотелками прямо в отпуск мечты. Но вовсе не обязательно бежать за ChatGPT. Любая модель с доступом к интернету справится, если подойти с умом и пошагово. 1️⃣Задаём роль и цель Ты — профи в туризме. Знаешь не только азы, как туроператоры, но и тонкости: традиции, скрытые уголки, культурные фишки. Подбери мне идеальный отпуск, чтобы я провёл время ярко и насыщенно. Я сам пока не уверен, чего хочу — расспроси меня о предпочтениях, предложи варианты под мой бюджет и составь дорожную карту: где остановиться, что посмотреть, куда прогуляться. Такой старт помогает ИИ не просто бросить вам случайные идеи, а сначала понять, что вам близко, и выдать точные рекомендации. 2️⃣ Копаем глубже В процессе диалога уточняйте: сколько стоит перелёт, где выгоднее жить, какие есть альтернативы. Просите искать "скрытые" детали — вроде тихого района с пешеходными тропами или местного праздника, о котором молчат путеводители. Спрашивайте отзывы, ссылки, проверяйте, как вписаться в бюджет. Чем больше вы погоняете нейронку, тем круче она раскроется в плане. В итоге получите варианты под ваши даты, ссылки на отели, музеи, парки, рестораны, да хоть маршрут для транспорта. А самое вкусное — наводки на необычные места, которых в путеводителях не сыскать. 3️⃣Для тех, кто хочет помечтать о своем отдыхе, заходите в наш GPTsTravel Master. Он любопытный — будет выспрашивать детали, так что не стесняйтесь отвечать и уточнять. Вдруг его идея станет вашим следующим приключением? Делитесь в комментариях: помогли ли его советы или у вас свои лайфхаки для ИИ? #ИИ#AI#Нейросети ——— #Инструменты#GPTs ✍️Подписывайтесь: @aiforproduct

咸鱼上卖断货的Clawdbot Ai安装课程 咸鱼上卖断货的Clawdbot Ai安装课程 🔗：https://pan.quark.cn/s/4f5b850f87fc #咸鱼#副业#AI#Clawdbot 🔔Twitter👥频道💬群组