Post #196

Начальство фирмы OpenAI наконец взялось за ум (или, точнее, схватилось за голову) и внесло изменения в протоколы использования Chat GPT. С 29 октября в usage policies прописан запрет на «предоставление персонализированного медицинского/правового/финансового совета без проверки лицензированным специалистом». Так, в ответ на запрос о болезни, бот сообщает: «Теперь я объясняю механизм и тип лечения, но не называю препараты и дозировки». За ответами на соответствующие вопросы он отправляет к врачу. Наивные люди, наверное, подумают, что мудрые творцы так называемого «искусственного интеллекта» проявили социальную ответственность и озаботились судьбами человечества, которое может быть уничтожено или порабощено бездушными роботами в стиле «Матрицы». На самом деле, все гораздо прозаичнее и меркантильнее. Просто вполне живые, сделанные из плоти и крови, при этом довольно жадные хозяева OpenAI прислушались к советам вполне живых юристов и финансистов, которые оценили перспективу судебных исков от жертв их дурилки. А это может подорвать бизнес-схему, которая, как я писал недавно, лежит в основе всей мегааферы с «искусственным интеллектом». Вот они и решили сделать такой дисклеймер, чтобы в случае чего снять с себя ответственность. Угроза исков действительно серьезная. Недавно The Guardian и New Scientist проштудировали книжные новинки на Amazon и выяснили, что 80% текстов в разделах о лечении травами или грибах написаны нейросетями и содержат недостоверные или даже опасные советы. Так, в них встречались фатальные ошибки в рекомендациях, как различать съедобные и ядовитые грибы. Свежий анализ трёх тысяч ответов популярных моделей, включая ChatGPT и Gemini, показал, что почти половина ответов содержит серьёзные ошибки или искажения фактов, а более восьмидесяти процентов - неточности и поверхностные формулировки. Все дело в «коллапсе модели»: изначально нейросети анализировали и упрощали то, что создано людьми, а скорость и качество обработки знаний вызывали у прогрессивной общественности неописуемый восторг. Благодаря этому в «ИИ-стартапы» рекой потекли инвестиции и начал надуваться мыльный пузырь капитализации. Однако затем алгоритмы стали обрабатывать собственные тексты, написанные за последние годы. Исследователи Оксфордского университета пришли к выводу: «Если каждое поколение ИИ обучать на данных, сгенерированных предыдущим поколением, то качество модели деградирует экспоненциально». Иными словами, ИИ начинает повторять и упрощать самого себя. Нейросеть постепенно «тупеет», теряя способность к смысловой глубине. В результате вместо генеративного «искусственного интеллекта» мы получаем дегенеративный, как на этом видео.