Post #172

Новая классная история про взлом GenAI. Исследователи Offensive AI Research Lab (Университет Бен-Гуриона, Израиль) научились взламывать шифрованные коммуникации GenAI-агентов по косвенным признакам (side channel). База: 1. Слова в сообщениях шифруются, но так как генерация идет последовательно (слово за словом), то также выглядит и трафик. 2. Перехватчик анализирует ДЛИНУ пакетов и выводит длину слов. 3. По последовательности длины слов (2 18 5 4 ...) специально обученная моделька восстанавливает, как, скорее всего, выглядит изначальная фраза целиком. Потому что язык и тем более генерируемые сообщения не являются рандомными! 4. Попадание не точное, но позволяет выяснить контекст и некоторые детали разговора. https://arstechnica.com/security/2024/03/hackers-can-read-private-ai-assistant-chats-even-though-theyre-encrypted/