Post #4521

О конференции «Лето с AIRI» в Томске. Я всегда стремлюсь развиваться, читать и узнавать что-то новое, искать всевозможные пути роста. Регулярно посещаю конференции — иногда просто как слушатель, порой меня даже приглашают выступать, но я пока стеснялся принимать участие в качестве спикера. В этом году, в июле я участвовал онлайн в мероприятиях SMILE, (Сколтех и Альфа-Банк органзиторы), а также офлайн — в летней школе «Лето с AIRI» в Томске. Я был очень рад, что из 400 заявок на 80 мест, для участия в данной конференции выбрали также и меня. (Места на этой конференции не продаются, и можно попасть только по конкурсному отбору). По словам генерального директора AIRI, профессора РАН Ивана Оселедца, за четыре года проведения школы поступило более 2,5 тыс. заявок со всей России: от Москвы и Санкт-Петербурга до Приморского края. Молодые учёные из более чем 10 регионов России представили 28 собственных проектов в рамках летней школы по искусственному интеллекту «Лето с AIRI», завершившейся в Томске. Организаторы и участники Школа организована Институтом искусственного интеллекта AIRI и Томским государственным университетом при поддержке Cloud.ru. Томский государственный университет — один из старейших вузов России, основанный в 1878 году. Институт искусственного интеллекта AIRI — автономная некоммерческая организация, объединяющая исследователей и инженеров данных для прорывных исследований в области ИИ. Основные доклады и итоги конкурса • Победитель конкурса — социально-ориентированный проект по анализу изображений домашних питомцев. • Второе и третье места поделили работы по исследованию агентов с памятью в обучении с подкреплением. • Кейс третьего места — восстановление SMILES-записей молекул из данных конформаций в трёхмерном пространстве. Я прилетел в Томск для участия в интенсивной научной и проектной программе: слушал доклады по ключевым темам, особенно по архитектурам и агентам для LLM (что напрямую релевантно нашим задачам). Больше всего мне понравились секции по агентам и памяти для моделей — именно эти идеи я планирую применять в работе нашего отдела. Ниже — все названия занятий из программы, посвящённые именно агентным архитектурам и разработке MVP-решений (frontend и backend) : • «Мультиагентные системы и ризонинг» • «Эволюция мышления LLM-агентов: от базовой логики до научных открытий» • «Мультиагентные системы: современные архитектуры и методы взаимодействия агентов» • «Агенты с памятью в обучении с подкреплением» • «LLM как агенты: фундамент и механизмы взаимодействия» • «Введение в LLM-агенты и область их применения» • «Координация и роли в мультиагентных системах на базе LLM» • «Архитектура и инструменты LLM-агентов» • «Практические инструменты: от самописных агентов до LangChain и AutoGen» • «Расширение функционала и устойчивости LLM-агентов» • «Практика внедрения и сопровождения LLM-агентов» • «Разработка MVP: backend» • «Разработка MVP: frontend» 1-ый Проект что я делал на конференции «Memory is a Tool» Цель и суть проекта В числе проектных треков я выбрал направление, связанное с построением памяти для мыслительных агентов — чтобы хранить, структурировать и подмешивать персональные и контекстные данные в модель (применимо, например, для Shop&Drive). Наш проект «Memory is a Tool» реализует мультиуровневую память для LLM, похожую на MemGPT (core, FIFO, archive) с in-prompt памятью и возможностью восстанавливать данные из долгой истории диалога. Отличие от RAG В отличие от RAG, где система выполняет поиск и встраивает релевантные фрагменты каждого раза, «Memory is a Tool for LLM» создаёт постоянно растущую память, позволяющую модели «помнить» ключевые детали, а не каждый раз их запрашивать. Польза для Shop&Drive MemGPT-подобная память даёт ассистенту возможность вести длинные сессии без потери контекста: система запоминает историю покупок и предпочтения клиента, даже если между чатами проходит время. Клиенту не нужно повторять желаемые товары — ассистент сам «вспоминает» прошлые заказы и делает проактивные рекомендации.