Post #99

"Self-Adapting Language Models" Учеными из Массачусетского технологического института предложен SEAL (Self-Adapting LLMs) — новый подход в искусственном интеллекте, который позволяет большим языковым моделям самостоятельно адаптироваться к новым задачам Вместо статичных весов модель генерирует собственные данные для дообучения и инструкции по обновлению При получении нового входа модель создает "самоправки" ("self-edits") — может реструктурировать информацию, настроить гиперпараметры или использовать инструменты для улучшения данных Эти самоправки приводят к постоянным обновлениям весов через дообучение Модель учится создавать эффективные самоправки с помощью обучения с подкреплением, где подкреплением служит качество работы обновленной модели В отличие от других методов, SEAL использует собственную генерацию модели для управления адаптацией, что показывает многообещающие результаты в экспериментах Вывод: SEAL — это важный шаг в сторону самообучающихся языковых моделей, способных автономно дообучаться под новые задачи с минимальным вмешательством https://arxiv.org/abs/2506.10943