Куратор из ЛСБ

«35 мая 1988+1 года Каждый год примерно в мае китайское «Министерство правды» передаёт местным социальным сетям специальную директиву. В ней — требования заблокировать поиск записей по кодовым словам, с помощью которых интернет-пользователи пытаются подпольно распространять информацию о площади Тяньаньмэнь. После этого начинается игра в кошки-мышки. Блогеры пытаются изобрести новый шифр, а цензоры — вовремя распознать его и запретить. Среди самых популярных находок онлайн-комьюнити — «35 мая» и «6/4». Впрочем, это давно уже не работает. Вот поражающий воображение список из нескольких десятков запрещённых слов и терминов в этом году: «тот день», «завтра», «вчера», «тот год», «65-1», «63+1», «8×8» и многое другое. Один из самых ярких примеров грубого хирургического вмешательства в сетевую память — это «китайская „Википедия“» Baidu Baike. Если вы решите с её помощью изучить хронологию XX века, то с удивлением обнаружите, что вслед за 1988 годом в Китае сразу наступил 1990 год. Между ними случился провал во временном континууме. Это похоже на пошлое хоррор-муви про таинственный отель, в котором до появления несчастных главных героев никогда не было тринадцатого этажа». #quote via apparat.cc/human/may35th

4 июня 1989 года на площади Тяньаньмэнь ничего не произошло

Лучший рассказчик в мире, Мэтью Дикс, придерживается принципа "но" и "следовательно": “Подавляющее большинство людей склонны связывать свои предложения, абзацы и сцены словом "и". Это ошибка. Идеальной связующей нитью в любой истории являются слова "но" и "следовательно", а также все их замечательные синонимы. Эти "но" и "следовательно" могут быть как явными, так и подразумеваемыми. В историях “И” нет движения или импульса. Они подобны бегу на беговой дорожке. Предложения и сцены появляются одно за другим, но движение простое и неожиданное. Импульс неизменен. Но "и" - это слова, которые сигнализируют об изменениях. История развивалась в одном направлении, но теперь она движется в другом. Сначала мы двигались зигзагами, но теперь продолжаем двигаться. Мы сделали это, и, следовательно, произошло нечто новое. Я думаю, что это постоянно противоречит сути истории. Вместо того, чтобы протягивать ровную линию от начала до конца, рассказчик должен стремиться создать зубчатую линию, проходящую взад и вперед, вверх и вниз по ходу повествования. Мы все еще движемся в том же направлении, но лучшие рассказчики не идут по прямой, чтобы достичь цели”.

График SpaceX о периодах полетов на Марс https://cashin.ru/blog/?go=all/spacex-mars-chart/

Сегодня GPT-3 исполнилось пять лет Хороший повод вспомнить насколько всё сильно изменилось за эти пять лет. Старушка GPT-3 это LLM на 175 миллиардов параметров, с датасетом всего лишь в 300 миллиардов токенов и длиной контекста в 2048 токенов. Со времени релиза размеры датасетов и длина контекста выросли многократно — Qwen 3 тренировали на 36 триллионах токенов, а у последних версий Gemini и GPT 4.1 по миллиону токенов контекста. Сейчас у нас есть модели со в сто раз меньшим количеством параметров и с уровнем интеллекта на уровне GPT-3, благодаря росту размеров и качества датасетов. Но эти новые модели умеют гораздо больше. У новых моделей всё чаще есть мультимодальность причём часто не только на вход, но и на выход — модели могут не только понимать, но и нативно генерировать изображения и звук. Но самое главное — кардинально изменился подход к обучению. Если GPT-3 была чисто авторегрессионной моделью, предсказывающей следующий токен, то современные модели проходят через сложный процесс посттрейна. Их учат следовать инструкциям, отвечать на вопросы и выполнять задачи, а не просто продолжать текст. RLHF и подобные методы сделали модели полезными ассистентами, а не генераторами правдоподобного текста. Но на этом всё не остановилось — за последний год многие модели научили ризонингу, за чем последовал огромный прогресс в верифицируемых доменах вроде кода и математики. Изменилось и то, как мы используем эти модели. GPT-3 умела только генерировать текст, а современные LLM стали полноценными агентами. Они могут хорошо искать в интернете, вызывают функции и API, пишут и исполняют код прямо в процессе ответа. Function calling и протоколы вроде MCP дали возможность моделям не просто рассказать как решить задачу, но и решить её — написать код, запустить его, проанализировать результаты и исправить ошибки. Параллельно произошла революция в железе. В 2020 году кластер OpenAI из 10 тысяч V100 считался очень большим. Сегодня xAI планирует кластер на миллион GPU, для OpenAI строят Stargate, а другие компании рутинно оперируют сотнями тысяч ускорителей. Но дело не только в масштабе — изменился сам подход к вычислениям. Модели теперь тренируют в fp8, тогда как даже в 2020 году очень часто использовали fp32, но и это не предел — первые эксперименты с fp4 показывают многообещающие результаты (тык, тык). Агрессивная квантизация позволила запускать модели в 4 битах практически без потери качества, сжав их в разы. И что особенно важно — всё это стало доступным. Если GPT-3 был закрытым API за деньги, то сегодня модели уровня GPT-3.5 можно запустить на своём телефоне. Open-source сообщество догоняет корпорации, а инструменты для файнтюнинга позволяют адаптировать модели под любые задачи. AI перестал быть игрушкой для избранных и реально стал массовым. Вот э тайм ту би элайв! @ai_newz

По большому счету мы все слепые и глухие.

😐 часовое видео без звука с приятным слегка анимированным градиентом собирает 3,7 млн просмотров на канале с 7 тысячами подписчиков

1 датасет, 100 визуализаций Авторы проекта взяли за основу число объектов всемирного наследия в Норвегии, Дании и Швеции в 2004 и 2022 годах и представили их 100 разными способами. Целью было показать, насколько визуализация данных сложная и разнообразная дисциплина Выше ряд примеров, остальные на сайте: 100.datavizproject.com Ранее мы писали о другом проекте агентства Ferdio — Flag Stories. Там они сгруппировали флаги стран мира по цветам, формам, символам, пропорциям и многим другим признакам

Человек с прической совершенно прав, если ты можешь предсказать следующий токен — это и есть понимать реальность.

StackOverflow questions over time, 2009-2025 Source: Stack Overflow Data Explorer (SEDE) / Marc Gravell