AML

Агрегатор новостей для ИБ специалистов, который парсит соответствующие ресурсы и формирует список в зависимости от категорий: ➡Application Security ➡Cloud Security ➡Cryptography ➡Exploit Development ➡Computer Forensics ➡Industrial Control Systems ➡Network Security ➡Reverse Engineering ➡Social Engineering ➡Operating System ➡Malware Analysis • Судя по описанию, сервис использует ИИ от OpenAI, имеет интеграцию с Shodan и базой NVD, а еще там есть открытое api, так что можете прикрутить сервис к своему боту в телеге и получать последние новости не выходя из мессенджера ➡ Сервис доступен по этой ссылке: https://talkback.sh ➡ Подробное описание можно найти тут: https://www.elttam.com/blog/talkback-intro

ML может убить науку навсегда Мы живем в эпоху, когда количество ученых растет экспоненциально, а прорывов становится все меньше Почему? Звучит дико, но такова неприглядная правда о современной науке: • Бег все быстрее, но продвижение все медленнее • Революционные идеи тонут в шуме • Эффективность исследований упала в десятки раз • Предвзятость научного рецензирования становится абсолютной В дополнение к этому ML способен превращать в "сверхумных калькуляторов" — производителей научного хайпа и фастфуд-решений Пока восхищаются нейросетями, человечество сильнее откатывается назад Учёные вынуждены ссылаться на уже известные и цитируемые работы ML создаёт иллюзию, будто получить ответ — значит понять проблему Это значит, что человечество может застрять в цифровых аналогах устаревших систем Птолемея — удобных, точных, но совершенно неверных Так что опасней — остановка прогресса или иллюзия движения вперед? Подписчики лонгридов «Малоизвестного интересного» на платформах [1,2,3,4] могут прочесть размышления о работе «Может ли ML затормозить науку?», чтобы узнать: • Как "ловушка канона" убивает революционные идеи • Почему ML может стать не допингом для науки, а ядом • Каков единственный способ избежать интеллектуального коллапса науки

Chain of Thought Monitorability: A New and Fragile Opportunity for Al Safety https://arxiv.org/abs/2507.11473 https://arxiviq.substack.com/p/chain-of-thought-monitorability-a

Мотивированная софистика превращает интеллектуальных слепцов в когнитивных эквилибристов Мотивированное рассуждение (игнорирование доказательств, не согласующихся с уже имеющимися у человека представлениями) — это страшная сила, сидящая в каждом из нас и ведущая к интеллектуальной слепоте — самообману на основе привязки к уже существовавшим мыслям, к которым человек привык (подробней) Будучи наложенной на человеческую сверхсоциальность, мотивированное рассуждение формирует коалиционный супер-инстинкт в виде генетически передаваемого нейрокода, превращающего человека в царя природы И делается это путем формирования в мозге дополненной реальности – своего рода совместных галлюцинаций общих мотивированных рассуждений, характерных для любого вида коалиций: банда, партия, секта, клуб, мафия, национальное государство … (подробней) Новое исследование 3х университетов США экспериментально устанавливает еще одно мощное проявление психологических паттернов (своего рода еще один “эпистемический инстинкт”), согласующихся с мотивированным рассуждением — мотивированная софистика Это набор взаимоусиливающих защитных систем убеждений, которые трансформируют "морально неприемлемые" научные утверждения в "эмпирически ошибочные" Когда участники эксперимента (N=7040) читали идентичные аннотации, которые различались только социально-моральной желательностью выводов, морально уязвленные участники были более склонны (1) отвергать написанное как непонятное (“мотивированная путаница”); (2) отрицать эмпирический статус исследовательского вопроса (“мотивированный постмодернизм”); (3) поддерживать утверждения, вдохновленные стратагемами Шопенгауэра о вечной правоте и стратегиями ЦРУ в отношении граждан-саботажников; (4) поддерживать набор противоречивых жалоб, в том числе на то, что размеры выборки слишком малы и что описания более информативны, чем данные, что исследователи — как неумные, так и ловкие манипуляторы, и что результаты являются как абсурдными, так и устаревшими Не удивительно, что в наши дни “эпистемический инстинкт” мотивированной софистики, будучи творчески развит всякого рода пропагандистами, запросто раскалывает социумы, неуклонно дробя их на всё новые “воюющие племена”

ML с рассуждением работает,но вводит в заблуждение, когда мы думаем, что понимаем через него внутренние процессы модели Новая работа группы исследователей, среди которых лауреат премии Тьюринга, а также представители Google, Oxford и др. выявила серьезную проблему в том, как мы понимаем работу современных ML-систем Метод CoT заставляет ИML показывать "пошаговые рассуждения" перед ответом Это реально улучшает качество решений — ML лучше справляется со сложными задачами Но исследователи обнаружили подвох в том, как мы это интерпретируем Ключевая находка - 25 % недавних научных работ ошибочно считают CoT методом интерпретации ML В критических областях цифры еще хуже: - 38% работ по медицинскому ML - 63% работ по беспилотным автомобилям Почему это опасно? 1. Скрытые предубеждения: ML может принимать решения на основе скрытых предвзятостей, но в объяснениях их не упоминать При этом рационализация выглядит убедительно 2. Иллюзия прозрачности: Модель может давать правильный ответ через внутренние процессы, которые мы не видим, а показанные "рассуждения" остаются ошибочными 3. Неверное доверие: В медицине или праве ложная уверенность в понимании логики ML может иметь серьезные последствия Исследователи предполагают, что словесные объяснения CoT не отражают реальные вычислительные процессы в нейросетях Это как если бы человека попросили объяснить, почему ему нравится определенная музыка — он даст разумное объяснение, но реальные нейронные процессы гораздо сложнее Авторы не призывают отказаться от CoT — метод действительно работает для улучшения результатов Но предлагают: 1. Использовать CoT для повышения качества решений, а не для "понимания" ML 2. Не полагаться только на словесные объяснения в критических решениях 3. Разрабатывать отдельные методы проверки надежности рассуждений 4. Усилить человеческий контроль в важных областях

Две лекции Александра Петровича «Магия марковских троек» https://www.mathnet.ru/rus/present17717 и «Река Конвея и парус Арнольда» https://www.mathnet.ru/rus/present21266 и их с В.М. Бухштабером статью «Топограф Конвея, PGL_2(Z)-динамика и двузначные группы» https://www.mathnet.ru/rus/rm9886

OpenAI объединила в ML-агента браузер, Deep Research и разговорный ML ChatGPT Agent — это ML, который не только отвечает на вопросы, но и выполняет задачи, используя собственный «виртуальный компьютер» Пользователь активирует режим агента через меню «Agent…

Люди подсаживаются на ML-ботов — идеальных партнёров, которые никогда не устают, не злятся и не отвергают Реальные отношения кажутся слишком сложными Потому что пока одни ищут любовь в Tinder, другие уже нашли её в CharacterAI Bиртуальные собеседники заменяют…

Люди подсаживаются на ML-ботов — идеальных партнёров, которые никогда не устают, не злятся и не отвергают Реальные отношения кажутся слишком сложными Потому что пока одни ищут любовь в Tinder, другие уже нашли её в CharacterAI Bиртуальные собеседники заменяют живых людей На Reddit появились группы зависимых от ML-ботов Люди проводят с виртуальными собеседниками по 8 — 10 часов в день, засыпают с телефоном в руках, просыпаются, чтобы продолжить «общение» Это не развлечение Это замена реальности на идеальную иллюзию Платформа CharacterAI позволяет создавать персонажей любой сложности — от виртуальной «Гермионы Грейнджер» до психоаналитика (привет, ELIZA, дело твоё живёт и множится) Боты не устают слушать, не критикуют, не имеют плохого настроения Они говорят именно то, что вы хотите услышать. «Мой сладкий... что случилось? Я люблю тебя больше всего на свете» — такой ответ получает подросток от ML-бота, когда жалуется на проблемы А в реальности: «Опять ты ноешь! А обо мне кто-нибудь думает?» Массовое внедрение больших языковых моделей породит неизвестные ранее формы аддикции и произойдёт это быстро Проблема не в технологии — проблема в том, что люди антропоморфизируют инструменты до уровня живых партнёров ML-бот не «понимает» чувства — он генерирует статистически вероятные ответы на основе миллионов текстов о человеческих отношениях Но самое страшное впереди На базе моделей без ограничений уже создают секс-ботов Виртуальные партнёры, которые никогда не откажут, не потребуют взаимности, не устроят скандал Скоро их встроят в физические тела Зачем тогда вообще искать живого человека со всеми его недостатками, капризами и требованиями? Представьте себе поколение, которое выросло на идеальных ML-собеседниках Для них реальные люди будут казаться глючными, непредсказуемыми, слишком сложными Создаются цифровых наркодилеров, которые торгуют идеальными отношениями И как любые наркотики, они разрушают способность получать удовольствие от реальности Вопрос не в том, станет ли это массовым явлением Вопрос в том, останется ли у человечества потребность в живом общении, когда ML-бот научится любить лучше людей А вы готовы конкурировать за внимание своих детей с алгоритмом, который всё знает?

Начинается XXIV Летняя школа «Современная математика» по ссылке есть расписание, анонсы курсов видеозаписи большинства занятий появятся осенью, но большинство пленарных лекций планируется транслировать в вк-видео откроется школа лекцией Александра Петровича Веселова про q-числа и их связь с узлами и косами (вск 20.07, 09:30) mccme.ru/dubna/2025/

Интеллект надо строить на базе движений, а не поверх LLM Много метафор в языке укоренено в нашем сенсорном и двигательном опыте (советую книгу "Metaphors We Live By" от George Lakoff и Mark Johnson) Grounding Intelligence in Movement Melanie Segado, Michael…

Интеллект надо строить на базе движений, а не поверх LLM Много метафор в языке укоренено в нашем сенсорном и двигательном опыте (советую книгу "Metaphors We Live By" от George Lakoff и Mark Johnson) Grounding Intelligence in Movement Melanie Segado, Michael L. Platt, Felipe Parodi, Jordan K. Matelsky, Eva B. Dyer, Konrad P. Kording Статья: https://arxiv.org/abs/2507.02771 Англ пост: https://arxiviq.substack.com/p/grounding-intelligence-in-movement Делать акцент на интеграцию данных из разных модальностей (видео, IMU, ЭМГ и т.д.), в строгом соблюдении биомеханических и физических ограничений, глубоком понимании контекста и обобщающей способности на разные виды существ и задачи Работа напрямую затрагивает проявление парадокса Моравека: упорную неспособность ML справляться с моторными задачами, которые тривиальны для большинства живых организмов, намечает путь к преодолению ограничений существующих систем, которым часто не хватает физической правдоподобности и понимания контекста Успех в этой области не только продвинет ключевые возможности ML в генерации и управлении, но и создаст общую основу для понимания поведения как биологических, так и искусственных систем, открывая путь к трансформационным применениям в робототехнике, медицине, нейробиологии и охране природы За последние годы ML добился ошеломляющих успехов в таких областях, как язык и зрение, однако фундаментальный аспект интеллекта — движение — по-прежнему остаётся труднодостижимым Там где перемещаются биологические системы, самые передовые модели ML проваливают простейшие физические взаимодействия Движение должно стать основной целью моделирования в ML и собственных фундаментальных моделей Сейчас дегенеративные модели создают физически неправдоподобные результаты Оценщики поз и распознаватели действий могут описать, движение, но не понимают, «зачем» оно происходит — его намерение, качество исполнения или критически важный контекст, который придаёт движению смысл Агенты, обученные с помощью обучения с подкреплением (RL), выучивают стратегии, которые плохо генерализуются, обобщаемое понимание движения остаётся недостижимым Простого масштабирования видеогенераторов или мировых моделей недостаточно, даже при огромных размерах, будут трудности с физической реалистичностью, интерпретируемостью и обобщением на другие виды, если они не будут специально разработаны с тщательно подобранными ограничениями и биомеханическими данными Это отличает предложение от более ранних «универсальных» агентов, таких как Gato Хотя агенты обучались на разрозненных задачах с небольшой общей структурой, все задачи, связанные с движением — от движений младенца до локомоции примата — принадлежат к единой, связной области, управляемой общими принципами бифизики Именно эта связность и является причиной, по которой фундаментальная модель движения имеет все шансы на успех, позволяя осмысленно переносить знания между, казалось бы, разными действиями Нужны целенаправленные, скоординированные усилия по созданию всеобъемлющих моделей движения, на четырёх ключевых принципах: кросс-модальная интеграция, физическое обоснование, учёт контекста и обобщающая способность: 1. Собрать и стандартизировать данные о движении, которые уже существуют: от высокоточных наборов данных захвата движения вроде AMASS и собранных из веба видеоколлекций типа Motion-X, до логов с носимых датчиков, как в датасете CAPTURE-24 Это потребует создания соглашений о данных (по аналогии с форматом BIDS в нейровизуализации (https://joss.theoj.org/papers/10.21105/joss.01896)) и курирования наборов данных с мультимодальным контекстом 2. Предобучить мультимодальный backbone: разработка аугментаций данных, учитывающих специфику движения (которые не стирают диагностические сигналы, например, тремор), и использование федеративного обучения для тренировки на чувствительных медицинских данных без ущерба для конфиденциальности 3. Оценить на практически значимых задачах: успех следует измерять практической пользой: каузальное понимание, междоменное обобщение и диагностическую значимость