Post #3206

🏁ИИ врёт чаще, чем кажется 🫡 ИИ-помощники в поисковых системах уже стали привычным инструментом: они экономят время, быстро выдают ответы и создают ощущение «умного собеседника». Но за этим удобством скрывается серьёзная проблема – доверять таким ответам без проверки становится всё опаснее. 💀 Свежее исследование, проведённое стартапом Oumi совместно с The New York Times показывает тревожный результат: встроенный ИИ-ассистент в поиске Google регулярно вводит пользователей в заблуждение. По данным исследования, примерно каждый десятый ответ содержит ошибки – частично или полностью неверную информацию. 🤯 На первый взгляд цифра кажется не критичной. Но если учесть масштаб –ситуация выглядит иначе. Поисковик обрабатывает около 5 трлн запросов в год, а значит, пользователи сталкиваются с десятками миллионов неточных ответов каждый час. 🫡 Проблему изучали на примере ИИ-модели Gemini – именно она отвечает за генерацию «умных» ответов в поиске. Тестирование проводилось на базе стандартного бенчмарка SimpleQA: было проанализировано более 4 тысяч запросов. Вывод однозначный – ошибки носят системный характер. ❤️ При этом ситуация постепенно улучшается. Если в 2025 году точность ответов оценивалась примерно в 85%, то к началу 2026 года она выросла до 91%. Однако даже такой уровень означает, что миллионы ответов остаются недостоверными. 😝 Есть и ещё один важный нюанс: ИИ может давать разные ответы на один и тот же вопрос даже с разницей в несколько секунд. Это подрывает саму идею стабильного и надёжного источника информации. ❤️ В самой Google с выводами исследования не согласны. Компания утверждает, что методика не отражает реальное поведение пользователей. Тем не менее сам факт дискуссии показывает: проблема уже вышла за рамки теории. 🫡 Главный вывод прост. ИИ-поиск – это мощный инструмент, но не истина в последней инстанции. Он не «знает», а лишь генерирует наиболее вероятный ответ. А значит, ключевое правило остаётся прежним: доверяй, но проверяй – особенно если информацию дал искусственный интеллект.