Исследователи Microsoft зафиксировали, что в фишинговых атаках получатель открывает ссылку в письме, сгенерированном ИИ, в 54% случаев — это в 4,5 раза чаще, чем в сообщениях, которые пишут люди. Доля таких писем в общем потоке в 2025 году составляла около 4%, но в период новогодних и рождественских праздников возрастала до 40–50%. Единственной по-настоящему массовой областью применения ИИ в кибератаках является создание дипфейков: за 2023–2025 годы их число увеличилось в 16 раз.
За последние пять лет количество раскрываемых уязвимостей выросло на 263%. Для поиска недостатков безопасности злоумышленники применяют не только универсальные большие языковые модели, но и платформы для тестирования безопасности на основе ИИ. Опасность для компаний связана прежде всего с тем, что ИИ сокращает разрыв между раскрытием бреши и появлением для нее готового эксплойта. В таких обстоятельствах для эффективного управления уязвимостями бизнесу важно учитывать, компрометация каких критически важных компонентов инфраструктуры может приводить к недопустимым событиям.
В последнее время генерация фрагментов вредоносного кода с помощью ИИ стала повсеместной: следы применения ИИ обнаруживают в стилерах, бэкдорах, программах удаленного доступа, вымогателях и криптомайнерах. Однако в начале 2026 года был зафиксирован первый пример вредоносной программы, почти полностью разработанной с помощью языковой модели за сравнительно короткое время.
По оценкам аналитиков, только половина компаний выстраивает защиту вокруг генеративного искусственного интеллекта. При этом каждый третий сотрудник обращается к неконтролируемым ИИ-инструментам в обход корпоративных политик безопасности — эта практика известна как shadow AI. Именно с ней связывают утечки данных 20% пострадавших организаций. При этом средний ущерб от такого инцидента примерно на 200 тыс. долларов выше, чем от других утечек, — из-за усложненного реагирования.
Свои риски несет и AI-driven разработка. Современные модели достигли 95% точности по синтаксису генерируемого кода, но продолжают допускать ошибки и недостатки в части безопасности: в половине случаев в нем присутствуют известные уязвимости. К этому добавляются атаки на саму ИИ-инфраструктуру. За 2025 год число обнаруженных в ней брешей превысило 2 тыс. — это на треть больше, чем годом ранее. Отдельный класс рисков формируют ИИ-агенты, которым делегируют доступ к внутренним системам: их ошибки уже становились причиной утечек и удаления данных.
Однако значительная часть успешных атак с применением ИИ опирается не на принципиально новые подходы, а на классические недостатки безопасности. Так, по результатам пентестов, проведенных командой Positive Technologies, проблемы с парольной политикой встречаются у 97% российских компаний, а устаревшее ПО с известными уязвимостями на периметре — у 80%. Именно такие слабые места становятся первыми целями автоматизированного поиска.
Эксперты Positive Technologies прогнозируют, что потенциально ИИ может найти применение в 100% тактик и 62% техник матрицы MITRE ATT&CK. Снижение рисков требует одновременной работы по двум направлениям. По мере того как злоумышленники все активнее автоматизируют разведку, классические меры защиты периметра становятся все более актуальными. Внедрение ИИ внутри компании, в свою очередь, требует контроля над сервисами, к которым обращаются сотрудники, проверки безопасности генерируемого кода и строгого ограничения прав ИИ-агентов с журналированием их действий.
