Северокорейские хакеры использовали искусственный интеллект для атаки на южнокорейских военных: отчёт
- KOREA HERALD
- 16 сент.
- 2 мин. чтения
Корреспондент Хван Чжу Ён
(123rf)
Северокорейская хакерская группа Kimsuky использовала изображения, созданные с помощью искусственного интеллекта, в недавней фишинговой кампании против южнокорейских военных ведомств, сообщила в понедельник местная компания, специализирующаяся на кибербезопасности.
Согласно отчёту Genians, группа отправляла вредоносные электронные письма неизвестным военным ведомствам с просьбой предоставить образцы удостоверений личности для гражданских служащих.
Прикреплённые изображения удостоверений личности были сфабрикованы с помощью инструментов искусственного интеллекта, которые, по утверждению Genians, были созданы с помощью ChatGPT.
Компания заявила, что злоумышленники, по всей видимости, обошли ограничения коммерческих сервисов искусственного интеллекта, таких как ChatGPT, которые обычно блокируют создание удостоверений личности, представляя свои запросы как «макет для легального использования».
«Вероятно, они убедили модели искусственного интеллекта, заявив, что создают образцы, а не воспроизводят настоящие военные удостоверения личности», — отмечается в отчёте.
В электронных письмах также использовались поддельные доменные имена, такие как «.mli.kr», которые очень точно имитировали сайты Министерства обороны Южной Кореи, заканчивающиеся на «.mil.kr».
В образце удостоверения личности с фотографией (слева) есть поле свойств, указывающее на то, что оно было создано ChatGPT (Отчет Genians Security Center)
Этот случай усиливает растущую обеспокоенность по поводу использования Пхеньяном ИИ в кибероперациях.
В отдельном отчёте, опубликованном в августе, американская компания Anthropic, занимающаяся разработкой ИИ и являющаяся разработчиком модели Claude, заявила, что северокорейские хакеры использовали генеративный ИИ для создания поддельных онлайн-идентификационных данных для заявлений о приеме на работу в зарубежные ИТ-компании.
В некоторых случаях инструменты ИИ также использовались для выполнения задач после трудоустройства.
В отчёте говорится, что северокорейские агенты использовали ИИ не только для компенсации слабых навыков программирования и ограниченного владения английским языком во время собеседований, но и для активного проведения операций после найма.
Anthropic добавил, что Kimsuky в последнее время активизировал фишинговые атаки с использованием ИИ-приманок, включая электронные письма, выдаваемые за сервисы управления электронной почтой на базе ИИ.
«Хотя сервисы ИИ обеспечивают удобство на рабочем месте, они также несут в себе риск использования в кибероперациях с потенциальными последствиями для национальной безопасности», — заявили в Anthropic.
«Растет потребность в мерах защиты в сфере подбора персонала, повседневной деятельности и ИТ-систем для предотвращения неправомерного использования ИИ».
Комментарии