Post #15437

ИИ помогает хакерам красть личные данные пользователей Избыточное доверие к ИИ может сделать пользователя жертвой хакерской фишинговой атаки. Напомним, под фишингом понимается создание и размещение в Сети дубликата какого-либо официального сайта или сервиса. Вся информация, которую пользователь вводит на таком сайте, тут же попадает в руки злоумышленников. С появлением ИИ люди часто стали использовать чат-боты для поиска страниц входа куда-либо — к примеру, в банковскую или любую другую платформу. А так как искусственный интеллект имеет свойство "галлюцинировать", то в некоторых случаях он выдает пользователям некорректную ссылку на сайт. Такая ссылка может оказаться фишинговой, а сайт будет использован для воровства личной информации и учетных данных пользователя. По данным Fox News, исследователи из Netcraft провели тестирование семейства моделей GPT-4.1, которое используется в системах ИИ под названием Bing и Perplexity (Microsoft). Исследователи попросили ИИ выдать ссылку на 50 интернет-страничек различных банков и других компаний. Из 131 уникальной ссылки, выданной чат-ботом, примерно 30% ссылок вели на незарегистрированные или неактивные домены, которые могут использовать мошенники. Еще 5% вели на несвязанные веб-сайты. В общей сложности более трети ответов вели на страницы, не принадлежащие реальным компаниям. Злоумышленники меняют тактику, сообщает исследователь. Вместо того чтобы манипулировать поисковыми системами, они создают контент специально для моделей искусственного интеллекта. Таким образом, риски нахождения в Сети повышаются, особенно для детей, у которых критическое мышление в полной мере не сформировано. Какой мир мы построим для наших детей? Зависит от нас ✅Подписаться на РВС: ТГ| ВК |Дзен |Сайт #искусственный_интеллект