Post #475

АТАКИ ПРИ ПОМОЩИ ИИ НА ЮЖНОКОРЕЙСКИХ ВОЕННЫХ Северокорейская хакерская группа Kimsuky использовала созданные ИИ изображения в недавней фишинговой кампании против южнокорейских военных ведомств, сообщила в своем отчете в понедельник местная фирма по кибербезопасности. Группа отправляла вредоносные электронные письма в неназванные военные ведомства с просьбой рассмотреть образцы дизайнов удостоверений личности для гражданских служащих вооруженных сил. Прикрепленные изображения удостоверений личности были сфабрикованы с помощью инструментов ИИ, которые по утверждению Genians, были созданы с помощью ChatGPT. Компания заявила, что злоумышленники, по всей видимости, обходили ограничения коммерческих сервисов ИИ, таких как ChatGPT, которые обычно блокируют генерацию удостоверений личности, представляя свои запросы в виде макетов для законного использования. «Вероятно, они убедили модели ИИ, сказав, что они создают образцы, а не копируют настоящие военные удостоверения личности», — отмечается в отчете. В электронных письмах также использовались ложные доменные имена, такие как «.mli. kr», которые во многом имитировали оборонные сайты Кореи, заканчивающиеся на «.mil. kr». Образец удостоверения личности, включая фотографию (слева), содержит поле свойств, в котором указано, что оно было создано ChatGPT. (Отчёт Центра безопасности Genians). Этот случай усиливает растущую обеспокоенность по поводу использования Пхеньяном ИИ в кибероперациях. В отдельном отчете, опубликованном в августе, американская компания Anthropic, занимающаяся разработкой ИИ и являющаяся разработчиком модели Claude, сообщила, что северокорейские хакеры использовали генеративный ИИ для создания поддельных онлайн-идентификационных данных при приеме на работу в зарубежные ИТ-компании. В некоторых случаях инструменты ИИ также применялись для выполнения задач после трудоустройства. Северокорейские агенты использовали ИИ не только для компенсации слабых навыков программирования и ограниченного знания английского языка во время собеседований, но и для активного проведения операций после найма. Anthropic добавил, что Кимсуки в последнее время активизировал фишинговые атаки с использованием приманок на основе искусственного интеллекта, включая электронные письма, которые, как представлялось, были отправлены сервисами управления электронной почтой на базе ИИ. «Растет потребность в мерах защиты при подборе персонала, повседневной работе и в ИТ-системах для предотвращения неправомерного использования ИИ».