Причём меняется не только объект атак. Меняются сами методы нападения. Если раньше искусственный интеллект в основном помогал специалистам по безопасности, то сегодня его активно используют и атакующие: для поиска уязвимостей, подготовки вредоносного кода, создания убедительных фишинговых сообщений и автоматизации сложных сценариев атак.

По оценкам экспертов, в 2026 году около 85% кибератак по всему миру будут осуществляться при помощи искусственного интеллекта . Это меняет профиль угроз и расширяет требования к защите корпоративных систем. Организациям необходимо учитывать эти изменения при построении ИТ- и ИБ-стратегии.

ИИ-приложения требуют другого подхода к безопасности

Современные ИИ-приложения отличаются от обычных корпоративных систем. Они работают не только с интерфейсом пользователя, но и взаимодействуют с документами компании, корпоративными базами знаний, CRM, внутренними сервисами и внешними источниками информации. Именно поэтому количество потенциальных сценариев атаки становится значительно больше.

По данным специалистов «Информзащиты», в 2026 году около трети уязвимостей, выявленных при тестировании ИИ-приложений, были отнесены к категории высокого риска. Это существенно выше среднего показателя для традиционных веб-приложений.

Причина не только в привычных ошибках разработки. Помимо стандартных проблем – недостаточной проверки прав доступа или ошибок аутентификации – появляются специфические риски, характерные именно для ИИ. Например, злоумышленник может попытаться заставить модель игнорировать исходные инструкции (промпт-инъекция), получить доступ к служебной информации или использовать подключённые корпоративные сервисы не по назначению.

Что это означает для бизнеса: при внедрении ИИ недостаточно использовать только стандартные процессы проверки безопасности веб-приложений. Необходимо отдельно анализировать сценарии взаимодействия модели с корпоративными данными и её полномочия при работе с внутренними системами.

Главная проблема часто находится внутри компании: Shadow AI

Не все риски связаны с действиями злоумышленников. Во многих случаях источником проблемы становятся сами сотрудники.

Сегодня практически любой человек может воспользоваться внешними ИИ-сервисами для подготовки отчёта, анализа документов или написания текста. Если при этом в открытый сервис загружаются внутренние документы компании, информация фактически выходит за пределы корпоративного контура. Это явление получило название Shadow AI (теневой ИИ) – использование сотрудниками несанкционированных ИИ-инструментов без ведома ИТ-отдела.

Цифры, которые нельзя игнорировать:

• 50,5% российских компаний подозревают утечки конфиденциальной информации через ИИ или уже сталкивались с подобными случаями.
• Утечки данных в публичные LLM за 2025 год выросли в 30 раз.
• 77% сотрудников делятся конфиденциальными данными компаний с ИИ-инструментами, часто используя личные неуправляемые учётные записи.
• 67% пользователей GenAI-сервисов используют некорпоративные аккаунты на рабочих устройствах.

По данным Cloud Security Alliance, использование сотрудниками несанкционированных ИИ-сервисов стало одной из наиболее распространённых причин инцидентов, связанных с искусственным интеллектом.

Кроме того, злоумышленники активно используют популярность ИИ. С января по апрель 2026 года решения «Лаборатории Касперского» обнаружили более 33 тысяч кибератак на малый и средний бизнес, в которых вредоносное ПО распространялось под видом популярных ИИ-сервисов – это почти в пять раз больше, чем за аналогичный период 2025 года. Самыми распространёнными приманками стали зловреды, мимикрирующие под ChatGPT (42% всех атак), Claude (24%) и DeepSeek (20%).

Что это означает для бизнеса:  апретить использование ИИ уже практически невозможно. Намного эффективнее определить перечень разрешённых сервисов, установить правила работы с корпоративной информацией и контролировать использование внешних платформ.

Искусственный интеллект помогает создавать более сложные атаки

Одно из наиболее заметных изменений последних лет заключается в том, что ИИ начинает использоваться не только для написания отдельных фрагментов кода, но и для автоматизации целых этапов атаки.

Исследователи уже описывают случаи, когда языковые модели использовались при подготовке эксплойтов, а автономные ИИ-агенты выполняли отдельные действия, которые раньше требовали участия специалиста: анализировали инфраструктуру, подбирали способы проникновения и адаптировали свои действия при изменении условий.

Скорость подготовки атаки сократилась с нескольких недель до нескольких часов, а порог входа для начинающих злоумышленников упал почти до нуля . По данным Zscaler, большинство корпоративных ИИ-систем могут быть скомпрометированы всего за 16 минут, а в 100% протестированных систем были обнаружены критические уязвимости.

Пока такие сценарии остаются скорее исключением, чем массовой практикой. Однако они показывают направление развития современных угроз.

Что это означает для бизнеса: главная проблема заключается не в том, что ИИ делает атаки принципиально новыми. Он делает их быстрее, дешевле и масштабнее. Резко сокращается время, которое есть у компании на обнаружение и реагирование.

Почему традиционных мер безопасности уже недостаточно

Во многих организациях средства защиты строились вокруг понятных сценариев: вредоносное ПО, эксплуатация известных уязвимостей, компрометация учётных записей.

ИИ меняет эту картину. Новые приложения активно взаимодействуют с корпоративными данными, внешними сервисами и средствами автоматизации. Поэтому безопасность приходится рассматривать не только на уровне инфраструктуры, но и на уровне моделей, данных и логики их использования.

Исследование УЦСБ и ГК «Солар» показывает, что главной неудовлетворённой потребностью в области безопасности ИИ является развитие компетенций и внутренних регламентов: 63,6% компаний отметили нехватку обучения сотрудников и разработки внутренних политик AI Security . Этот показатель оказался выше, чем спрос на любые технологические решения.

Это не означает, что прежние средства защиты устарели. Напротив, они остаются необходимой основой. Однако их уже недостаточно без контроля использования ИИ и регулярной проверки самих ИИ-приложений.

Что стоит сделать уже сейчас: защита от ИИ-угроз

Организациям, которые уже используют или только планируют внедрять искусственный интеллект, имеет смысл заранее включить новые риски в существующую систему информационной безопасности.

В первую очередь стоит:

• Определить, какие ИИ-сервисы уже используются сотрудниками. Инвентаризация всех ИИ-решений, работающих в корпоративном контуре – первый шаг к управлению рисками.
• Установить правила работы с внешними ИИ-платформами и корпоративными данными. Разработать внутренние политики использования ИИ, зафиксировать, какие данные можно передавать во внешние сервисы.
• Включить ИИ-приложения в процессы анализа защищённости и тестирования безопасности. Сканирование уязвимостей, контроль обновлений, поиск критичных ошибок конфигурации.
• Регулярно проверять права доступа ИИ-сервисов к корпоративным данным и внутренним системам. Принцип минимальных привилегий должен действовать и для ИИ-агентов.
• Проводить обучение сотрудников безопасной работе с ИИ. 68% россиян не получают от работодателей информацию об актуальных ИИ-угрозах, при этом треть представителей крупных компаний уже сталкивались с дипфейками.
• Использовать мониторинг для выявления несанкционированного применения внешних сервисов. Технические средства контроля трафика (например, Secure Web Gateway) помогают отслеживать запросы и блокировать попытки выгрузки чувствительной информации.

Вместо заключения: ИИ как часть стратегии безопасности

Искусственный интеллект уже стал частью повседневной работы бизнеса. Поэтому вопрос сегодня заключается не в том, использовать ли такие технологии, а в том, как сделать их применение безопасным.

Для большинства организаций новые угрозы не требуют полного пересмотра системы информационной безопасности. Гораздо важнее своевременно адаптировать существующие процессы: учитывать особенности ИИ-приложений при разработке, тестировании и эксплуатации, контролировать использование внешних сервисов и обучать сотрудников работе с новыми инструментами.

Компании, которые начинают заниматься этими вопросами уже сейчас, получают не только более высокий уровень защищённости, но и возможность использовать искусственный интеллект без лишних рисков. ИИ – это не угроза, а вызов, на который можно и нужно отвечать системно.