Post #468

Вчера в Nature появилась статья, в которой показано как инструменты искусственного интеллекта (ИИ) на основе больших языковых моделей (типа ChatGPT) быстро деградируют (в плане качества выдаваемых текстов), если обучение нейросети происходит на текстах, генерируемых самой этой нейросетью. Девяти поколений применения такой процедуры достаточно, чтобы вместо осмысленного текста нейросеть начала выдавать полную «тарабарщину». Авторы остроумно сравнивают этот эффект с инбридингом (деградацией при близкородственном скрещивании). Примерно понимая, как происходит обучение нейросети в случае больших языковых моделей, я нисколько не удивлен. Популярную заметку в Nature об этой статье можно прочитать здесь: https://www.nature.com/articles/d41586-024-02420-7 Ссылка на саму статью: https://www.nature.com/articles/s41586-024-07566-y Популярное описание результатов статьи на русском языке: https://shazoo.ru/2024/07/25/158908/eksperty-preduprezdaiut-ii-obucaiushhiisia-na-sobstvennoi-bessmyslice-mozet-samounictozitsia В целом, сейчас чувствуется нарастание общего скепсиса относительно перспектив быстрой отдачи от всего этого направления. Например, во вчерашнем видеоролике от Sabine Hossenfelder она (как всегда, с легкой издевкой) развенчивает утверждения оптимистов, которые считают, что применение инструментов ИИ быстро изменит нашу жизнь и приведет к существенному росту мирового ВВП: https://www.youtube.com/watch?v=Ljztbcdzkeo Аргументы такие: для обучения и поддержания работы нейросети, лежащей в основе любого инструмента ИИ, требуются значительные ресурсы. И вовсе не факт, что при замене функций реальных работников (часто низкооплачиваемых) на инструменты ИИ получится дешевле. Это будет по карману лишь нескольким крупным компаниям. С этими соображениями можно согласиться. Особенно тем, кто сравнивает как на улицах Москвы разносят еду несколько сотен роботов от Яндекса https://yandex.ru/video/preview/4245857235964154877 и реальные курьеры от многочисленных компаний по доставке. Их так много, и они носятся по тротуарам на велосипедах и самокатах так быстро, что невольно вспоминается гоголевское «тридцать пять тысяч одних курьеров». И понимаешь, что роботы с ИИ пока не могут составить конкуренцию ни по скорости доставки, ни по уровню сервиса. Не говоря уже о деньгах, которые вложены для реализации это сервиса.