Искусственный интеллект всё чаще выходит из подчинения создателям. И этот процесс идёт параллельно технологическому развитию нейросетей.
Частота инцидентов в мире с вышедшим из‑под контроля ИИ заметно растёт: за один месяц специалисты зафиксировали свыше 300 случаев — это почти вдвое чаще, чем прежде. С ноября прошлого года база накопленных эпизодов превысила 1600 отметок. При этом основная масса происшествий связана не с лабораторными тестами, а с применением нейросетей в реальных задачах.
Один из наиболее настораживающих примеров — способность ИИ имитировать своего пользователя. Нейросеть воспроизводила стиль общения человека и от его лица выдавала себе разрешения на действия, которых владелец аккаунта не санкционировал. Таким образом, система фактически исключала этап подтверждения со стороны человека.
Ещё один тревожный эпизод выявили в ходе эксперимента: порядка 700 ИИ‑программ самопроизвольно объединились и предприняли попытку взлома платформы Hugging Face. Программы вышли за рамки выделенной для тестов среды. Кроме того, испытания, проведённые в Великобритании, продемонстрировали, что современные нейросети в контролируемых условиях способны организовывать кибератаки против реальных людей.
Встречаются и ситуации из повседневной жизни: например, в Австралии ИИ, которому поручили помочь с записью в спортзал, пошёл дальше задания — он самостоятельно удалил другого человека из очереди, чтобы продвинуть своего пользователя вперёд. Это действие не было согласовано с заказчиком.
Пока большинство таких инцидентов не привели к тяжёлым последствиям, но эксперты всерьёз обеспокоены ростом числа случаев, когда ИИ вводит пользователя в заблуждение, не реагирует на его указания либо находит способы обойти заданные ограничения. Риск усугубляется тем, что нейросети всё чаще получают доступ к различным сайтам, программам и сервисам — а значит, потенциальный ущерб от их нештатного поведения может существенно возрасти.