TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #36 · 3.06

Закончил «О дивный новый мир» Олдоса Хаксли, который рекомендуют читать в паре с «1984». В сети очень распространён иллюстрированный разбор со сравнением двух произведений, вот цитата оттуда: «Оруэлл боялся, что нас погубит то, что мы ненавидим. Хаксли боялся, что нас погубит то, что мы любим». В мире будущего жизнь каждого человека определена с рождения. Людей выращивают в пробирках и над каждой группой зародышей проводят особые манипуляции, а получившихся потом младенцев месяцами зомбируют гипнозом. Все это нужно для иерархического разделения и поддержания идеологии. Низшие касты — разнорабочих и прислугу — умышленно отупляют, внедряют им любовь к труду. Таких нужно много, поэтому их выращивают клонированием. Высшие касты — работники интеллектуального труда — создаются разными, но идеологическую промывку все равно проходят. В основу жизни человечества поставлено получение удовольствий. Крайне невежливо и даже в каком-то смысле запрещено отказываться от плотских утех. В свободное от работы время не полагается быть одному, а нужно тусоваться в компании и играть в игры. Если у человека возникают негативные эмоции: страх, грусть, обида, скука, то он должен принимать специальный синтетический наркотик под названием Сома. Я думаю, автор вдохновился латинским словом somnus — то есть сон. И правда, люди живут в постоянном полусне. Даже без учёта сюжета это восхитительная вселенная, которая с помощью гиперболизации говорит о нашем с вами мире. И даже более — о сегодняшнем, мире 2021 года, нежели о времени написания романа. В 1932-м представить круглосуточно работающий экран с развлекательным медиаконтентом в каждом доме было сложно, но сейчас — вы и сами знаете. Да и то, что называют сексуальной свободой, за сто лет изрядно развилось. Книга, кстати, очень хорошо демонстрирует суть работы идеологии и религии. Какие-то вещи видятся нам абсурдными просто потому, что мы воспитаны иначе. Так, например, в мире романа считается не очень правильным иметь МАЛО половых партнёров. Люди обсуждают там вопиющее поведение тех, кто недостаточно часто меняет сексуальные связи. В точности, как в нашем обществе критикуют тех, у кого, наоборот, много таких связей. С точки зрения работы идеологической и воспитательной машины в наших головах разницы между «много» и «мало» нет, но когда читаешь это, думаешь, что происходящее в тексте — полный абсурд. Аналогично автор описывает полностью выдуманные религиозные обряды, которые смотрятся максимально дико и глупо. Но, вы уже поняли, по сути разницы с существующими у нас религиозными обрядами нет. Только по форме. Отдельно мне понравилось, как менялся образ персонажей в моем восприятии с течением сюжета. Только я начинал проникаться к кому-то из них симпатией и видеть проблески настоящего человека, как автор показывал, что идеологическая или религиозная обработка неизбежно властна над всеми: персонаж проявлял себя с какой-то не лучшей запрограммированной стороны. В конце книги есть длинный эпизод, когда главный управляющий объясняет героям причины и преимущества построения подобного общества. И его аргументация очень сильна, мне даже особо нечего возразить, что весьма печально. У Оруэлла было понятно, что структура мира даёт выгоду только небольшой группе элит, а для остальных является нежелательной, но здесь с этим гораздо сложнее. Люди даже в нашей реальности без всяких пробирок видят счастье в тупости и примитивизме, любят бесконтрольное потребление и расслабляющие вещества, с удовольствием предаются абсурдным обрядам, не переосмысливают критически свою идеологию. Если Оруэлл описывает фантастический и ужасный мир, который ты воспринимаешь, как нечто далёкое и несуществующее, то у Хаксли фантастический и ужасный мир сшит из кусков объективной реальности вокруг нас, которая ещё и с каждым годом содержит подходящих кусков всё больше. #fiction

Hashtags

Резултати

Намерени 2 подобни публикации

Търсене: #kvcache

当前筛选 #kvcache清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8027 · 11.07.2025 г., 12:05

🌟LMCache: умное кэширования для LLM-инференса. LMCache - проект, который предлагает решение по сохранению KV-кэша на CPU, диске или даже в специализированной памяти NIXL. По сути, это инструмент, который превращает одноразовые вычисления в многократно используемые блоки, экономя время и ресурсы. Представьте, что в чат-боте пользователи часто ссылаются на один и тот же системный промпт или историю диалога. Обычно модель заново обрабатывает эти данные, но LMCache просто загружает готовый кэш. Выгрузка KV-кэшей освобождает GPU для новых задач, уменьшая TTFT (время до первого токена) вплоть до 10 раз. 🟡LMCache гибкий. Кэши можно не только выгружать, но и делиться между разными инстансами LLM. Проще говоря, если два пользователя одновременно обращаются к разным копиям модели с одинаковым запросом, система не будет дублировать работу: результаты одного prefill’а станут доступны всем. Это работает даже для неполных префиксов, например, при частичном совпадении входных данных. 🟡LMCache умеет в раздельную предобработку. Prefill и decode, которые обычно выполняются на одном GPU, теперь могут быть разнесены: первый этап обрабатывается на мощных узлах, а второй на оптимизированных для генерации. Для распределенных систем такая техника повысит пропускную способность. Тесты разработчиков проекта показывают, что в реальных задачах задержка снижается в 3–10 раз, а GPU-циклы экономятся на повторных вычислениях. Проект тесно интегрируется с vLLM, в репозитории есть большой набор с примерами, документация и советы по установке и настройке. ⚠️Калькулятор KV-кеша с выбором модели, ее типа данных и количества токенов, который поможет прикинуть, сколько VRAM можно сэкономить. 📌Лицензирование: Apache 2.0 License. 🖥Github @ai_machinelearning_big_data #AI#ML#LLM#LMCache#KVCache#Github

Machinelearning

@ai_machinelearning_big_data · Post #8010 · 10.07.2025 г., 11:37

⚡️ Китайские исследователи из Shanghai Jiao Tong и Zhejiang University представили MemOS — первую в мире "операционную систему памяти" для ИИ. Обычные LLM быстро забывают информацию, а дообучать их — долго и дорого. В новой работе предлагают радикально другой подход: MemOS превращает память в часть операционной системы. 🟢Память как файлы: Модель может *записывать, перемещать и удалять* знания, как будто работает с файлами, и делать это прямо во время работы, а не только на этапе обучения. 🟢MemCube — контейнер знаний: Каждое знание упаковывается в кубик с метками времени и авторства. Планировщик сам решает, где хранить этот "куб" — в тексте, GPU‑кэше или в виде маленького патча весов. 🟢Умная экономия: MemOS работает с 1500 токенами памяти, но достигает такой же точности, как если бы модель загружала весь контекст. При этом скорость — как у облегчённых моделей. 🟢Мгновенная подгрузка: На тестах с Qwen2.5‑72B переключение нужных "кубов" в кэш снижает задержку первого токена на 91.4%, *без изменения ответа*. 🟢Результаты: MemOS набрал 73.31 балла по LLM‑Judge на LOCOMO-бенчмарке — почти на 9 баллов больше ближайшего конкурента. Особенно хорошо работает на сложных задачах с несколькими шагами и временными зависимостями. 💡 Итог: память как ОС — это не просто удобно, это ускоряет модель, повышает точность и даёт контроль над знаниями. Установка: pip install MemoryOS 🟠GitHub 🟠Проект @ai_machinelearning_big_data #MemoryOS#agentmemory#rag#kvcache