Post #315

Выступление на конфе🍑 Совсем недавно я выступал на одной из внутренних конференций и я взял тему "Тестирование и валидация MAS-систем с помощью графов", она была построена по статье на arhiv и тут я подготовил новый формат - обзор интересных AI статей. Вот ключевые поинты: ⚫️Мы моделируем процесс MAS-системы в виде дискретного по времени временного атрибутивного графа, где узлы представляют агентов на разных временных шагах, ребра показывают взаимодействие, а атрибуты узлов кодируют ответы агентов. ⚫️Типы ошибок, которые детектит данный агент: усиление галюцинаций, внедрение и распространение ошибок агентами, когда вредоносные агенты внедряют ложную информацию, внедрение и распространение ошибок в коммуникациях ⚫️Варианты исправления ошибок сейчас: перекрестный допрос между агентами или внешняя помощь с помощью человека ⚫️Основываясь на этой структуре временного графа, мы предлагаем парадигму обучения без учителя, основанную на архитектуре кодер-декодер. ⚫️Этот механизм позволяет нам сжимать временные графы взаимодействия, отфильтровывая избыточную или нерелевантную информацию, сохраняя при этом основные закономерности, наиболее важные для обнаружения аномалий. ⚫️Более того, мы применяем парадигму инкрементального обучения, которая соответствует последовательной природе многоагентного взаимодействия. В этой парадигме модель постепенно обучается на основе истории взаимодействия, динамически адаптируясь к новым закономерностям с течением времени. ⚫️Непрерывная тонкая настройка нейронных сетей на последовательных временных шагах и удаление ранее выявленных аномалий из входных графов позволяет модели накапливать знания и совершенствовать свои возможности обнаружения аномалий в динамично развивающейся среде. ⚫️Графовые сверточные сети (GCN) показали многообещающие результаты в обнаружении аномалий в различных областях, от обнаружения финансового мошенничества к анализу социальных сетей. Как вам такой формат?) Нужно ли делать такое чаще?)💗