На прошлой неделе OpenAI официально подтвердила, что хакеры начали активно использовать её AI-чатбот ChatGPT для создания и распространения вредоносного программного обеспечения (ПО). Согласно докладу компании, с начала этого года было выявлено более 20 случаев кибератак, в которых злоумышленники использовали искусственный интеллект для написания и отладки вредоносного кода, проведения фишинговых атак и распространения дезинформации.
«Это первый документально подтвержденный случай, когда инструменты генеративного ИИ были использованы для усиления киберугроз», — сообщил представитель OpenAI.
Доклад охватывает работу таких хакерских группировок, как китайская SweetSpecter и иранская CyberAv3ngers, которые использовали возможности ChatGPT для своих операций.
Хакеры из SweetSpecter, как сообщает OpenAI, атаковали сотрудников компании, отправляя им фишинговые письма с вложениями в формате ZIP, замаскированными под техническую поддержку. Открытие таких файлов приводило к заражению компьютера жертвы вредоносной программой SugarGh0st RAT. После тщательного расследования OpenAI обнаружила, что хакеры использовали несколько учетных записей ChatGPT для автоматизации анализа уязвимостей и написания скриптов.
Иранская группа CyberAv3ngers, связанная с Корпусом стражей исламской революции, также активно использовала ChatGPT для создания вредоносного кода. По данным OpenAI, злоумышленники разрабатывали с помощью чатбота скрипты для взлома промышленных систем и программируемых логических контроллеров (PLC), а также использовали ИИ для планирования атак после проникновения в системы.
«Использование ChatGPT для разработки серверного кода и управления заражёнными устройствами — это ещё один пример того, как технологии ИИ могут повысить эффективность киберопераций», — говорится в отчёте.
В одном из выявленных случаев иранские хакеры использовали ChatGPT для создания вредоносного ПО на платформе Android, способного красть данные пользователей, включая списки контактов, журналы звонков и файлы.
Все учетные записи, связанные с вышеуказанными хакерскими группами, были заблокированы, а информация о заражённых системах и IP-адресах была передана партнёрам OpenAI по кибербезопасности.
Несмотря на то что ChatGPT не даёт киберпреступникам новых возможностей, его использование существенно упрощает выполнение операций для менее опытных хакеров, помогая им на всех этапах — от планирования до исполнения атак.
Таким образом, подтверждённые случаи использования ChatGPT в кибератаках указывают на растущую угрозу со стороны ИИ в руках злоумышленников.