Post #861

1️⃣ 2️⃣ 3️⃣ 4️⃣ 5️⃣ 6️⃣ Учимся проверять ответы нейросетей на достоверность Главная проблема нейросетей не в том, что они иногда ошибаются или «галлюцинируют». Ошибаются все — и, согласно исследованиям, люди допускают ошибки даже чаще, чем #ИИ. Своим мнением поделился Александр Гаврилов, руководитель проекта GigaChain в Сбере. Для искусственного интеллекта ошибка — не баг и не признак слабости, а фундаментальное свойство больших языковых моделей (LLM). Полностью исключить галлюцинации на текущем этапе не удаётся никому в мире. «Особенно важно учитывать риск ошибки сейчас, когда ИИ-сервисы становятся всё более популярными. Например, новая версия ГигаЧат самостоятельно ищет актуальную информацию в интернете, использует её в ответах и ссылается на источники. Но для полной уверенности даже такого помощника нужно проверять», — поясняет Александр Гаврилов, руководитель проекта GigaChain, Управление базовых моделей Giga. Красивый ответ — ещё не истина. Точку в важном вопросе ставит человек: он проверяет источники и удостоверяется в корректности ответа. «Дай ответ, отдельно отметь сомнения, приведи 2-3 источника, укажи дату и скажи, что мне проверить самому» — так выглядит сегодня золотой стандарт верификации мнения нейросетей. Подписывайтесь на 🙏Наука.рф в MAX #Десятилетиенауки