Post #7526

Кто-то попытался украсть нейросеть Gemini. Неизвестные отправили модели более 100 000 специально сконструированных запросов, пытаясь извлечь не ответы, а цепочки рассуждений — внутреннюю логику, по которой Gemini решает задачи. Google называет это distillation attack: собрать достаточно данных, чтобы обучить собственную модель, копирующую оригинал. Атакующие подбирали типы вопросов и переключались между языками, чтобы обойти мониторинг, но Google засёк аномальную активность и заблокировал аккаунты. По оценке компании, за атакой стоят не хакеры, а частные компании и исследователи, пытающиеся получить преимущество. OpenAI ранее обвиняли DeepSeek в аналогичной дистилляции своих моделей. Если история повторяется — ждём новую версию DeepSeek, подозрительно хорошую в рассуждениях 🤫