Post #7699

🤖Исследование опровергло миф, что большие данные «растворяют» вредоносную информацию. Всего 250 специально составленных «ядовитых» документов способны внедрить в нейросеть скрытую уязвимость! Атака сработала на моделях любого размера — «яд» выживает при любом объеме данных. Определенное слово может заставить ИИ нести чушь или выдавать опасные ответы, оставаясь идеальным на обычных проверках. Тревожен пример с медициной: подмена крошечной доли информации заставила нейросети чаще давать опасные советы, не снижая общих показателей точности. Главный вопрос: можем ли мы доверять ИИ, если его «мозг» собран из непроверенного контента, где любой может оставить мину замедленного действия? Подписывайтесь на Контекст 360