Post #17

В журнале «Монокль» сегодня опубликована разумная статья, в которой весьма скептически оценивается польза инструментов искусственного интеллекта (ИИ), основанных на больших языковых моделях (типа ChatGPT) для решения «приземленных прикладных задач конкретного бизнеса с учетом его специфики»: https://monocle.ru/monocle/2025/18/chatgpt-a-chto-v-sukhom-ostatke/ Согласен с основным тезисом, вынесенным в подзаголовок статьи: «То, что мы называем сегодня искусственным интеллектом, пока не более чем новый формат поисковой системы в интернете» Польза от подобных инструментов ML для научных исследований весьма ограничена Прежде всего потому, что ML не способен к критическому мышлению, которое лежит в основе любого научного поиска И, в любом случае, все то, что предлагают эти инструменты, надо самостоятельно перепроверять; в науке искусственный интеллект без естественного не работает Особо хотел бы обратить внимание на следующий фрагмент статьи в «Монокле»: Писать дипломы ИИ умеет Сейчас многие учащиеся техникумов и вузов пользуются нейросетью ради экономии времени и сил Но при этом создается огромное количество бесполезных работ — примитивной компиляции найденного в интернете материала Завтра такие дипломы снова попадут в интернет, на них обучатся новые чат-боты, и совсем скоро Всемирная паутина окажется набита бессмысленными псевдонаучными текстами, в которых просто переставлены абзацы и заменены синонимы Как тут не вспомнить прошлогоднюю статью в Nature, в которой показано как инструменты ИИ на основе больших языковых моделей быстро деградируют (в плане качества выдаваемых текстов), если обучение нейросети происходит на текстах, генерируемых самой этой нейросетью Девяти поколений применения такой процедуры достаточно, чтобы вместо осмысленного текста нейросеть начала выдавать полную «тарабарщину»: https://www.nature.com/articles/s41586-024-07566-y Совсем недавно появилось забавное подтверждение этих соображений из сферы научных исследований Уже в 22 научных статьях вдруг появился бессмысленный термин «вегетативная электронная микроскопия»: https://naukatv.ru/news/strannaya_fraza_postoyanno_vstrechaetsya_v_nauchnykh_statyakh_no_pochemu Есть две гипотезы того, как такой термин мог попасть в интернет: либо это произошло из-за ошибки сканирования старого научного журнала 1950-х годов, либо ошибка возникла из-за автоматического перевода написанных на фарси иранских научных работ – в этом языке слова «вегетативный» и «сканирующий» отличаются всего одной точкой Но безусловный факт состоит в том, что ChatGPT «узаконил» этот термин, и стал его использовать в выдачах сгенерированных текстов А незадачливые авторы использовали ML при написании своих научных статей и не проверили выданный ChatGPT текст Сейчас многие из упомянутых статей уже ретрагированы