Post #1157

❗️ ИИ оказалось легко взломать Исследователи из MIT, Northeastern и Meta выяснили, что крупные языковые модели порой отвечают не на суть запроса, а на его грамматическую форму. Если вопрос построен как географический, модель может выдать ответ про страны даже тогда, когда слова внутри бессмысленны Эксперименты показали, что когда знакомый грамматический шаблон переносят в другую область, точность ответов рушитсяпочтивдвое. Более того, с помощью таких шаблонов исследователи смогли обходить фильтры безопасности. Грамматическая «маска» превращалась в форму взлома нейросети Серьезная уязвимость? 😨 — звучит тревожно 🤷‍♂️ — я думаю ничего страшного Наш бот с актуальными нейросетями: @bytegens_bot 🤖БайтГен | #ИИ#новости