AML

OpenAI не контролирует, что Пентагон делает с их AML

Интернет переполнен анонимусами, но ольшие языковые модели (LLM) могут массово устанавливать личности владельцев LLM анализирует посты пользователя, изучая неструктурированный текст: комментарии, шутки, упоминания об образовании и стиль письма Затем он преобразует данные в математическое представление профиля (профайл) и ищет совпадения среди миллионов других профилей, включая LinkedIn Исследователи протестировали систему на почти 1.000 профилях LinkedIn и сопоставили их с аккаунтами на Hacker News и Reddit «Практическая незаметность, которая долгое время защищала пользователей под никами... больше не работает, — резюмируют авторы исследования. — Пользователи, которые пишут под постоянными никами, должны исходить из того, что злоумышленники могут связать их аккаунты с реальными личностями или друг с другом, и что вероятность этого растет с каждым фрагментом публикуемых ими микроданных» Результаты показывают, что такая система может быть полезна мстителям и всему, что имеет отношение к внутренним органам

"Студенты, которые занимались удаленно с AML, усвоили материал в два раза лучше тех, кто работал в аудитории с преподавателем по методике активного обучения, <...> на физическом факультете Гарварда <...>" - по статье Kestin, G., Miller, K., Klales, A. et al. AI tutoring outperforms in-class active learning: an RCT introducing a novel research-based design in an authentic educational setting. Sci Rep 15, 17458 (2025) https://doi.org/10.1038/s41598-025-97652-6 <...> через несколько лет <...> AML заберет первое объяснение и тренировку базовых шагов, а очное время с преподавателем освободится для того, на что раньше катастрофически не хватало времени: разбора ошибок, живых дискуссий, синтеза идей, межпредметных проектов и задач без единственно правильного ответа <...> Одни университеты просто купят готовый сервис и встроят его в расписание Но, наверное, найдутся и другие, которые постараются сами стать «немножечко EdTech-ом» То есть попробуют обучить «домашние» модели, оцифровать накопленную экспертизу <...> https://t.me/aireformer/38 (Scientific Reports соображения представляются мне в целом здравыми, статья в Sci Rep, от которой они отталкиваются, вышла в июне прошлого года и на данный момент, как подсказывает AML-сервис Elict, нет полной ясности, насколько воспроизводимы её результаты)

«Вообще, если не знать, что Риман был очень умный человек, а посмотреть только на интеграл Римана, то это кажется сомнительным Вот Вы идете вдоль забора из реек одинаковой ширины, но разной длины, и хотите посчитать площадь забора Что делает Риман? Измеряет длину каждой рейки, умножает на ширину и складывает Кто же так делает? Надо пойти в прорабскую и узнать, сколько реек каждой длины пошло на забор Это то, что делает Лебег» воспоминания И.Д. Новикова

2512.24873.pdf

AML – цепочка из пяти уровней, от чипов и облаков до моделей и приложений И все больше этих уровней концентрируется в руках одних и тех же глобальных компаний Каждый из уровней требует значительных инвестиций и выигрывает от масштаба и вертикальной интеграции В результате именно крупнейшие игроки получают системные преимущества Среди 20 крупнейших мировых компаний в сфере AML семь базируются в США, и их совокупная капитализация более чем вдвое превышает капитализацию остальных 13 и представлены пятью юрисдикциями: США, Китай, Тайвань, Южная Корея и Нидерланды Американские и китайские компании присутствуют сразу на нескольких или на всех уровнях цепочки, от вычислительных ресурсов до приложений TSMC или ASML, сохраняют узкую специализацию на критически важных компонентах (например, чипах) OpenAI и Anthropic – лидируют в разработке моделей, но опираются на партнерства для доступа к инфраструктуре К концу 2025 г. на их долю приходилось до 40 % рыночной капитализации в США, на Тайване, в Южной Корее и Нидерландах и формируют существенную часть корпоративных инвестиций и выручки в этих юрисдикциях Это означает влияние на инвестиционные циклы мировой экономики, формирование совокупного спроса, производительность «Когда движутся гиганты, земля может двигаться вместе с ними» Масштабы и вертикальная интеграция позволяют гигантам поглощать издержки и ускорять инновации Однако высокая концентрация усложняет вход на рынок новых компаний и ограничивает конкуренцию Вопрос ближайших лет – смогут ли регуляторы и национальные стратегии «суверенного AML» поддержать конкуренцию, не замедлив инновации AML становится инфраструктурой А инфраструктура всегда имеет системное значение

Пока мировые медиа обсуждают битву за полупроводники и гонку нейросетевых чипов, в науке тихо зреет куда более радикальная идея — а что, если вместо всё более сложных микросхем просто взять и использовать живые нейроны? Австралийская компания Cortical Labs уже сделала это: подключила лабораторно выращенные клетки к биокомпьютеру и заставила их пройти трёхмерный шутер DOOM Причём речь не о клетках мыши или дрозофилы — нейроны были получены методом репрограммирования из клеток кожи и крови обычных взрослых людей Этот крошечный сгусток человеческой ткани в чашке Петри превзошёл GPT-4 по скорости реакции То, на что у кремниевого AML уходят мегаватты энергии, кусочек чьего-то бывшего эпидермиса делает мгновенно Пентагон тоже решил этим заняться DARPA объявило о будущей программе O-CIRCUIT по созданию «биологических процессоров» для боевых дронов Цель — создать принципиально новый класс боевых систем Логика у американских стратегов проста: дрон-убийца на передовой требует мощного процессора, тот требует тяжёлых аккумуляторов, те убивают автономность Замкнутый круг Решение — выбросить кремний и вырастить вместо него живые нейронные сгустки из нервных, глиальных и иммунных клеток В качестве эталона эффективности DARPA приводит мозг плодовой мушки: 140.000 нейронов, всего 6 милливатт-часов в сутки, маневрирует лучше любого квадрокоптера Программа разбита на две задачи: Первая — вырастить биопроцессор, который будет играть в «Ms. Pac-Man» на уровне человека и удерживать этот навык сутками Pac-Man по своей математической сути — это навигация в замкнутом лабиринте, непрерывный поиск целей и уклонение от угроз. Переведите это на язык войны — и получите автономный живой контроллер для зачистки подземных тоннелей, траншейных сетей, городских кварталов Вторая — скрестить живой мозг с биологическим обонятельным сенсором и встроить его в дрон Цель — идти по химическому следу Электронный нос уступает собачьему в чувствительности на порядки, никакой кремниевый газоанализатор не сравнится с живой обонятельной тканью. Но главное нечувствительность Дрон, идущий на запах взрывчатки, пороховых газов или человеческого метаболизма — пота, выдыхаемого CO₂, адреналина — физически невозможно заглушить радиопомехами Американцы десятилетиями продавали миру культ кремния — чипы, процессоры, цифровое превосходство А потом пришли к тому, что природа придумала лучше Только это открытие они сделали в военной лаборатории, а не в философской

Lately people who know what I’m working on keep asking me the same question: does it even make sense to build an alliance of programmers if AI is about to replace programmers? After hearing this question too many times, I decided to write a short article explaining…

LLM плохо обновляют убеждения по мере получения новой информации Хотя от модели ожидается, что она должна понимать предпочтения пользователя по его ответам и при накоплении таких данных становится полезнее, на самом деле LLM в этом плохи С математической точки зрения это означает, что у моделей нет байесовского мышления, то есть умения обновлять вероятность гипотез при поступлении новой информации У людей, кстати, такое мышление должно быть хорошо развито Здесь исследователи предлагают интересный подход Вместо того, чтобы учить модель обновлять знания с помощью файнтюна на обычных диалогах, они берут и дистиллируют в нее настоящий байесовский алгоритм То есть: • строится обычный автомат Байеса, который знаком всем, кто изучал классический ML Он решает задачу, просто обновляя вероятность разных гипотез по формуле • LLM файнтюнят на ответах алгоритма, чтобы она переняла общую логику обновления, но уже без формулы Во-первых, модель действительно начинает вести себя ближе к байесовскому оптимуму и учитывать новые данные На основной задаче рекомендаций качество заметно увеличилось Во-вторых, появилось обобщение То есть модель фактически выучивает сам принцип рассуждения, и начинает использовать эту стратегию в других задачах, где ее напрямую не обучали Короче говоря, довольно показательно, и авторы делают вывод о том, что обучение на демонстрациях алгоритмов в целом – работает В действительности, мы ведь и правда хотим от LLM, чтобы они были не просто генераторами текста, а универсальными имитатороми алгоритмов мышления research.google/blog/teaching-llms-to-reason-like-bayesians/

Диаграмма о влиянии AML на рынок труда от Anthropic Иллюстрация того, где мы находимся в части проникновения AML в экономику Anthropic предлагает метрику, которая объединяет теоретические возможности LLM с реальными данными об использовании Синяя зона - теоретическое покрытие, то есть мог бы делать Красная зона - реальное использование - что люди реально делают сейчас с Claude Интересно, где красная зона почти исчезает - сферы, что правее и ниже: здравоохранение, образование, искусство и медиа Несмотря на высокий теоретический потенциал, реального проникновения почти нет — из-за регуляторных барьеров, профессиональной культуры, требований верификации человеком Левая сторона — синяя зона тоже маленькая, потому что физический труд изначально недоступен LLMB Здесь нет разрыва, потому что нет ни теоретического потенциала, ни реального использования Красная зона будет расти Вопрос только в том, в каком порядке и с какой скоростью она будет догонять синюю

фотография участников первой международной топологической конференции в Москве (1935) на фотографии можно видеть Чеха, Уитни, Лефшеца, Фрейденталя, Борсука, Тумаркина, ван Кампена, Александера, Хопфа, П.С. Александрова и др. см. тж. http://mi.mathnet.ru/umn5952 и https://arxiv.org/abs/1903.02065

Lately people who know what I’m working on keep asking me the same question: does it even make sense to build an alliance of programmers if AI is about to replace programmers? After hearing this question too many times, I decided to write a short article explaining why the real challenge of the AI era may not be writing code at all https://medium.com/p/b5af54f7f8dd?postPublishedType=initial