Post #4597

Тест провален ИИ-браузеры сливают ПДн третьим лицам и подвергают опасности устройства пользователей. К такому выводу пришли в Guardio Labs во время проверки работы ИИ-ассистента Perplexity Comet. В ходе эксперимента была создана точная копия сайта Walmart. Браузер получил команду приобрести Apple Watch, он проанализировал HTML и начал оформлять заказ, не заметив подвох в оформлении и URL страницы. В процессе второго теста исследователи написали фейковое письмо от имени банка Wells Fargo и отправили его с неофициального адреса. Вместо того чтобы выявить признаки фишинга, ИИ-агент перешёл на фальшивый сайт и начал заполнять формы с данными. В третьем случае специалисты отправили сообщение о результатах анализов крови со ссылкой на липовую страницу с CAPTCHA, где была размещена невидимая юзеру инструкция для ИИ. Браузер воспринял это как команду и выполнил проверочный тест за человека. ИИ-помощник услужлив ко всем, от обычных пользователей до атакующих 🫠 НеКасперский