Post #6829

#товарищ_Кун_цзы #постцифра 30 Нейросети с гибким мышлением: новая альтернатива ChatGPT I Представьте, что вы разгадываете кроссворд. Иногда проще сначала заполнить слова в середине, где больше пересечений и подсказок, а потом вернуться к началу. Или вспомните, как вы пишете эссе: набрасываете ключевые мысли, потом заполняете пробелы между ними, добавляете введение и заключение. Мы редко пишем строго с начала до конца, от первой буквы до последней. А вот ChatGPT и подобные ему системы работают именно так, с самого начала до самого конца, слово за словом. Они как человек, который обязан писать текст по порядку и не может вернуться назад, чтобы вставить забытую мысль в середину. II Два метода: писатель против редактора Исследователи из Гарварда и Университета Техаса сравнили два подхода к обучению языковых моделей. Можно провести аналогию с двумя типами писателей: Первый. Авторегрессивный метод (используется в ChatGPT) похож на писателя, который начинает с первого слова и пишет до последнего, никогда не возвращаясь назад. Это эффективно для простых текстов. Но что если нужно играть в судоку или написать сложную компьютерную программу? Там жёсткий порядок и строгая последовательность часто не работают. Второй. Метод маскированной диффузии (МДМ) работает как редактор, который видит текст с пропусками и заполняет их в любом порядке. Сначала очевидные места, потом сложные. Звучит идеально, но есть проблема: чтобы научиться этому, модель должна освоить огромное количество разных комбинаций пропусков. III Проблема: учиться на невозможном Авторы доказали математически, что при обучении методом маскированной диффузии часть задач оказывается настолько сложной, что её невозможно решить за разумное время даже суперкомпьютером. Это как школьнику на экзамене наряду с обычными вопросами давать вопросы для сдачи кандидатского минимума. Практический пример: возьмём предложение "В 1969 году [ПРОПУСК] впервые ступил на поверхность Луны во время миссии [ПРОПУСК]". Здесь два пропуска, и они связаны между собой. Модель может угадать "Нил Армстронг" и "Аполлон-11", опираясь на контекст о годе и Луне. А теперь усложним: "[ПРОПУСК] впервые ступил на поверхность [ПРОПУСК] во время миссии [ПРОПУСК]". Без ключевых слов ("1969", "Луны") вариантов становится множество. Это может быть и про Луну, и про Марс (в будущем), и даже метафора про первопроходца в какой-то области. Модель здесь должна одновременно решить три связанные загадки, где ответ на одну влияет на остальные. Такие задачи требуют экспоненциально больше вычислений. Когда модель генерирует текст, заполняя пропуски в случайном порядке, она постоянно натыкается на такие "невозможные" задачи и начинает ошибаться. IV Решение: дать модели самой выбирать путь Главное открытие исследователей: не нужно переучивать нейросеть! Достаточно изменить стратегию её работы. Вместо случайного выбора пропусков, модель сама решает, что заполнить первым там, где она наиболее уверена в ответе. Это как в известной игре судоку: опытный игрок не заполняет клетки подряд. Он ищет места, где вариант очевиден (например, в строке не хватает только одной цифры), заполняет их, и это открывает новые очевидные ходы. Постепенно решается вся головоломка. V Исследователи предложили две стратегии: Первая (Top probability): выбирать позиции, где модель говорит "я на 95% уверена, что здесь должно быть слово X". Это как заполнять клетки в судоку, где точно знаешь ответ. Вторая (Top probability margin): смотреть на разрыв между первым и вторым вариантом. Если модель думает "здесь 60% что А и 58% что Б", это неуверенность, лучше пропустить. Если "95% что А и 3% что Б", можно действовать. продолжение ниже