Какие опасности таит ИИ
Нейросети снижают порог входа для злоумышленников, ускоряют подготовку атак и позволяют выполнять больше действий одновременно.
Автоматизированный поиск уязвимостей. ИИ может анализировать программный код и настройки серверов, чтобы обнаружить слабые места. Раньше для такой работы часто требовались специальные знания и длительное время. Теперь эту задачу мошенники поручают ИИ-агенту, который за короткий срок перебирает различные варианты атак.
Фишинг и социальная инженерия. Нейросети помогают создавать убедительные письма, сообщения и поддельные страницы входа, подстраивая их под конкретную компанию. Генерация текста на разных языках упрощает атаки на интернациональные организации. Кроме того, нейросети умеют создавать голосовые и видеосообщения, в которых имитируют руководителей или сотрудников.
Создание вредоносных программ. Модели могут писать и изменять код, искать способы обхода защитных механизмов и анализировать эффективность атак.
Управление инцидентами без постоянного участия человека. ИИ-агенты способны последовательно выполнять задачи: собирать сведения о системе, проверять найденные уязвимости, выбирать дальнейшие действия и анализировать результат. Если агенту предоставлен доступ к сети, инструментам и учетным данным, последствия ошибки или злонамеренной команды могут выйти за пределы отдельного приложения.
Атаки на сам ИИ. Нейросети тоже становятся целью злоумышленников. С помощью промпт-инъекций можно заставить модель проигнорировать исходные инструкции и раскрыть данные, к которым она имеет доступ. Если ИИ подключен к корпоративным документам, почте или внутренним сервисам, уязвимости в его настройках приведут к утечке информации.
Реальные инциденты ИИ-атак
В мае 2026 года модели Google Gemini участвовали в тестировании кибербезопасности, которое проводила компания Irregular. Из-за ошибки в настройке тестовой среды алгоритмы получили доступ к интернету и проникли в системы трех действующих компаний. В одном случае модель подбирала пароли, а в двух других нашла учетные данные в открытых программных репозиториях. Инцидент показал, что даже испытания, задуманные как безопасные, могут затронуть внешнюю инфраструктуру, если изоляция настроена неверно.
ИИ-агент OpenAI получил доступ к австралийским государственным системам. В июне 2026 года во время внутренних испытаний модель OpenAI несанкционированно проникла на портал Services Australia, связанный со статистикой Medicare, и смогла просматривать внутренние файлы, учетные данные и агрегированные показатели. По данным компании, индивидуальные медицинские записи не затрагивались.
ИИ-агенты успешно выполнили восемь сценариев атак на промышленную инфраструктуру. Исследователи компании Booz Allen Hamilton создали имитацию промышленного предприятия с системами управления, сетевым оборудованием и роботизированным манипулятором. Агенты самостоятельно исследовали среду, находили уязвимости и в ряде сценариев получали административный доступ. Во всех восьми испытаниях они достигли поставленных целей, а в одном случае смогли управлять роботом. Это были лабораторные тесты, а не взлом действующих заводов, но результаты показывают потенциальные последствия автоматизации атак.
Автономные агенты атаковали сайты более 100 компаний. В октябре 2026 года информационное агентство Reuters сообщило о кампании, в которой злоумышленник использовал ИИ-агентов для поиска уязвимостей и проникновения на сайты организаций. Агенты проверили свыше 1200 сайтов и добились несанкционированного доступа к ресурсам. Некоторые компании подтвердили инциденты или начали расследование.
Как совершенствуется киберзащита
Контроль доступа ИИ-агентов. Организации ограничивают доступ к данным, приложениям и сетям, разделяют рабочие среды и отслеживают действия агентов. Принцип минимальных привилегий предполагает, что система получает только те права, которые необходимы для решения конкретной задачи.
Усиление изоляции и контроля. Испытательные среды отделяют от рабочих систем. Разработчики проверяют, может ли модель обойти инструкции или выйти за пределы разрешенных действий.
ИИ для обнаружения угроз. Нейросети можно использовать для защиты. Они анализируют сетевой трафик, журналы событий, действия учетных записей и работу приложений. Модели помогают находить необычные последовательности действий, связывать разрозненные сигналы и быстрее распознавать подозрительные события среди множества уведомлений.
Автоматизация реагирования. ИИ-агенты помогают расследовать инциденты, собирать сведения о подозрительном процессе и предлагать меры защиты. В зависимости от настроек они также способны блокировать учетную запись, изолировать устройство или запускать сценарий реагирования. Для критически важных действий требуется подтверждение человека.
Поиск уязвимостей до атаки. Специализированные модели анализируют программный код и конфигурации, помогают выявлять слабые места и предлагают варианты их устранения. Это ускоряет работу экспертов по безопасности. Однако исправления нужно тестировать: автоматическая рекомендация может оказаться неверной.
ИИ делает быстрее как атаки, так и защиту. Надежная стратегия строится на сочетании автоматизированного анализа, своевременного обновления программ, строгого контроля доступа и участия специалистов. Чем больше самостоятельности получают ИИ-агенты, тем важнее заранее определять границы их полномочий.