Post #8747

Новая атака на ИИ через скрытые команды в изображениях Исследователи Trail of Bits обнаружили метод внедрения вредоносных команд в изображения. При уменьшении масштаба ИИ-системами скрытый текст становится видимым для языковых моделей. Атака позволяет выполнять несанкционированные действия, например, красть данные из календаря Google. Метод использует артефакты сжатия изображений при билинейной или бикубической интерполяции. Для защиты рекомендуется ограничивать размер загружаемых изображений и запрашивать подтверждение опасных операций. Исследователи подтвердили уязвимость в сервисах Google Gemini и Vertex AI. #новости@pcTeapot