Post #998

🖥Гугл прямо сейчас ищет разработчиков, которые бы улучшили качество ИИ-ответов (AI Answers Quality). Одна из причин такого решения понятна сегодня, наверное, всем, кто хоть день провел в общении с чат-ботом — это галлюцинации. Эти галлюцинации лишь отдаленно напоминают определение Жана-Этьена Эскироля 1817 года. 😉Галлюцинации, создаваемые #ИИ, — это неточные результаты, генерируемые нейросетями, которые кажутся правдоподобными, но содержат сфабрикованную или неточную информацию. Такие неточности могут возникать в системах ИИ без преднамеренного намерения обмануть человека. Большие языковые модели не обладает намерением или эпистемологическим осознанием, которые позволили бы им распознать или предотвратить генерацию галлюцинаторного контента. 🙂Защитные механизмы платформ (например, внутренние фильтры) и системы генерации с учетом результатов поиска (RAG, например, функция «поиск в сети») могут повысить фактическую точность, однако галлюцинации сохраняются, потому что эти модели генерируют речь, предсказывая следующее наиболее вероятное слово на основе статистических закономерностей в обучающих данных. ❗️Таким образом, галлюцинации, создаваемые ИИ, отличаются от дезинформации, распространяемой человеком, которую современные исследования объясняют когнитивными искажениями, мотивированным рассуждением или попытками обмана. 🔜Интересные размышления и примеры на этот счет есть в материале Аньци Шао “New sources of inaccuracy? A conceptual framework for studying AI hallucinations”. #искусственныйинтеллект#галлюцинацИИ