Новые технологии в искусственном интеллекте: тренды и прогнозы

Исследование является продолжением серии публикаций о применении искусственного интеллекта (ИИ). Первое исследование в этой серии посвящено использованию искусственного интеллекта в кибератаках, второе — в киберзащите.

В этом исследовании рассказывается об актуальных трендах в развитии ИИ. Мы выделили и подробно проанализировали три ключевых направления: агентский ИИ (agentic AI), ИИ на периферийных устройствах (edge AI) и квантовый ИИ (quantum AI).

По нашей оценке, именно эти направления будут в центре внимания в ближайшие годы. Уже сегодня, в 2025 году, ИИ-агенты активно внедряются в корпоративные процессы, технологии edge AI повсеместно используются в промышленности, беспилотном транспорте и умных устройствах, в то время как квантовый ИИ еще находится на стадии становления и большая часть наработок в этой области носит теоретический характер. Однако конвергенция квантовых вычислений и искусственного интеллекта, на наш взгляд, обладает потенциалом и может привести к мощному экономическому эффекту, поэтому мы включили квантовый ИИ в тройку наиболее важных трендов в развитии искусственного интеллекта ближайшего будущего.

Мы охарактеризовали влияние трендов на бизнес, рассмотрели, как каждый из них меняет ландшафт киберугроз, и на основе своего экспертного опыта дали прогнозы по развитию технологий в ближайшей (через три-пять лет) и долгосрочной (через восемь и более лет) перспективе.

За последние несколько лет искусственный интеллект превратился в крупное технологическое направление с миллиардными инвестициями в исследования. Он стал ключевым фактором трансформации бизнеса в различных отраслях. Начиная с 2023 года наблюдается всплеск его внедрений в бизнес-процессы. Согласно одному из самых авторитетных исследований о мировом развитии ИИ, опубликованному в апреле 2025 года, — Artificial Intelligence Index Report — искусственный интеллект в 2024 году использовали 78% компаний. По данным отчета о влиянии технологий и технологических трендах The Impact of Technology in 2025 and Beyond: an IEEE Global Study, опубликованному в октябре 2024 года, 58% респондентов (вдвое больше по сравнению с предыдущим годом) выразили мнение, что ИИ станет одной из ведущих технологий в 2025 году.

В России также активно идет развитие технологий искусственного интеллекта. Согласно прогнозу Statista, рынок ИИ в России в 2025 году достигнет 5,04 млрд долларов и превысит 20 млрд долларов к 2031 году при среднем годовом темпе роста 26%. По данным обновленной национальной стратегии развития искусственного интеллекта, ожидается, что ежегодный объем услуг и решений в области ИИ в 2030 году должен вырасти не менее чем до 60 млрд рублей по сравнению с 12 млрд рублей в 2022 году.

Сегодня ИИ позволяет компаниям принимать оптимальные решения и улучшать качество обслуживания клиентов. Он применяется для решения множества разнообразных задач — от создания медиаконтента и помощи в разработке программного кода до открытия новых лекарств и научных исследований.

Искусственный интеллект является основным драйвером развития многих направлений: робототехники, квантовых технологий, финтеха, кибербезопасности и других. На фоне стремительного появления новых технологий предпринимателям важно своевременно понимать, какие из них действительно имеют долгосрочную перспективу, а какие окажутся лишь краткосрочными модными веяниями. Неопределенность может затруднять принятие решений о направлениях разработок и инвестиций, поэтому необходим системный подход к анализу технологических инноваций — с опорой на экспертные оценки, научные исследования и регулярный мониторинг рынка. 

История развития систем, предназначенных для автоматизации и помощи человеку в принятии решений, берет начало в 1960-х годах — это время создания экспертных систем и простых чат-ботов, предназначенных для текстового общения с пользователями. И те и другие были основаны на правилах обработки входных данных. Первая в мире экспертная система DENDRAL была разработана для химического анализа. Первым чат-ботом считается программа ELIZA для имитации разговора с психотерапевтом.

В 1980-х годах экспертные системы достигли пика коммерческого успеха. Однако завышенные ожидания привели к разочарованию и снижению интереса к искусственному интеллекту. Этот спад, получивший название «вторая зима ИИ», продолжался примерно до середины 1990-х годов. Несмотря на видимое замедление прогресса, в этот период развивались математические методы машинного обучения, увеличивались вычислительные мощности и накапливались большие объемы данных для обучения. Таким образом был заложен фундамент для будущего подъема искусственного интеллекта в 2010-х годах — эпохи глубокого обучения и современных ИИ-моделей.

В 2010-х годах стали появляться интеллектуальные виртуальные помощники, такие как Siri, Alexa и Google Assistant. За несколько лет от выполнения простых задач (установка напоминаний, воспроизведение музыки и т. п.) виртуальные помощники перешли к пониманию контекста, научились лучше взаимодействовать с пользователями и оказывать проактивную помощь. Все это стало возможным благодаря достижениям в области машинного обучения, обработки естественного языка и мультимодального ИИ.

Одним из таких достижений стала архитектура нейронных сетей Transformer, которая в 2017 году радикально изменила подход к обработке естественного языка. В этой архитектуре был реализован механизм внимания (attention), позволивший моделям учитывать взаимосвязи между словами (или токенами) в последовательности независимо от их расстояния друг от друга.

Архитектура Transformer оказалась особенно эффективной для создания базовых моделей (foundation models) — универсальных моделей, обученных на больших объемах данных и способных адаптироваться к самым разным задачам. Это стало возможным благодаря отличной масштабируемости Transformer, которая впоследствии сделала эту архитектуру основой большинства современных ИИ-моделей.

В 2018 году появились первые модели на базе архитектуры Transformer — GPT-1 и BERT. В 2022 году компания OpenAI запустила публичную версию чат-бота ChatGPT на основе модели GPT-3.5 с архитектурой Transformer. Запуск ChatGPT вызвал огромный резонанс, у него появились миллионы пользователей буквально в первые дни после запуска.

В 2021–2023 годах стали набирать популярность так называемые копилоты (AI copilots) — системы на базе ИИ для помощи в выполнении конкретных задач. В их основе лежат большие языковые модели (large language models, LLM), которые обеспечивают естественное взаимодействие виртуального помощника со специалистом в той или иной области для решения поставленных задач. Например, один из первых копилотов GitHub Copilot был создан для помощи разработчикам ПО: он умеет генерировать и автоматически дополнять программный код в процессе его создания, исправлять ошибки, оставлять комментарии и выполнять другие действия. Копилоты значительно помогают человеку в рутинных задачах, однако эта помощь ограничивается рекомендациями и подсказками, а окончательное решение, принимать их или нет, всегда остается за человеком.

Начиная с 2024 года в мире стремительно растет популярность ИИ-агентов (AI agents). Многие крупные компании отмечают их развитие в числе наиболее значимых технологических трендов ближайшего будущего. Например, аналитическая компания Gartner называет агентский ИИ трендом номер один в 2025 году.

Сегодня, говоря об ИИ-агентах, прежде всего подразумевают автономность. Чат-боты, виртуальные помощники и копилоты могут эффективно взаимодействовать с человеком и генерировать контент, но остаются недостаточно самостоятельными. В отличие от них современные ИИ-агенты должны выполнять широкий спектр задач и принимать решения без вмешательства человека, а при необходимости — даже действовать от его имени. Таким образом, агентский ИИ — это система, способная самостоятельно планировать и выполнять действия во внешней среде, адаптироваться к изменениям и реагировать на них.

В октябре 2024 года компания Anthropic выпустила новую версию своей модели Claude 3.5 Sonnet с функцией computer use. Благодаря ей модель может совершать те же действия, что и обычный пользователь: нажимать кнопки, перемещать курсор, печатать текст. Это открыло новые возможности для создания ИИ-агентов, помогающих автоматизировать рутинные задачи. В настоящее время функция находится в бета-версии и доступна через API.

В январе 2025 года компания OpenAI представила похожее решение — автономный ИИ-агент Operator, предназначенный для автоматизации повседневных задач в интернете, таких как бронирование путешествий, оформление заказов и других. Как и решение от Anthropic, Operator относится к классу computer using agents (CUA). В нем используются возможности компьютерного зрения модели GPT-4o с навыками рассуждения, полученными с помощью обучения с подкреплением. Изначально Operator работал в собственном браузере, запущенном на серверах OpenAI, но в марте компания добавила возможность доступа через API, по аналогии с computer use.

Главным компонентом («мозгом») интеллектуального агента является модель ИИ — как правило, это LLM. В зависимости от задач и сферы применения агента, на вход модели могут поступать различные данные: текстовые пользовательские запросы, структурированные данные из API, показания датчиков, GPS-данные и многое другое.

После получения входных данных с помощью различных способов построения логики и рассуждений (например, chain of thought, tree of thoughts, ReAct) происходит декомпозиция поставленной задачи, планирование и принятие решения. В процессе функционирования ИИ-агенты проводят оценку различных путей решения и совершенствуют свои алгоритмы с течением времени за счет самообучения.

Ключевым элементом работы ИИ-агента является механизм вызова инструментов (tool calling) — набор функций, доступных агенту для взаимодействия с внешним миром и решения задач. Этот механизм определяет, какими способами агент может дополнять возможности модели. С помощью инструментов агент способен, например, выполнять код, анализировать структурированные данные, обращаться к внешним источникам — таким как сторонние API, веб-сервисы или аналитические системы, — для получения актуальной информации.

Еще пару лет назад большинство моделей опирались исключительно на знания, полученные во время обучения. Такие данные быстро устаревали, что снижало точность ответов. С 2023–2024 годов одной из лучших практик при разработке ИИ-систем, в том числе агентов, стало использование подхода retrieval-augmented generation (RAG) — генерации ответов с учетом дополнительной информации, извлеченной из внешних источников. Это позволяет значительно снизить количество галлюцинаций¹ и повысить достоверность ответов.

У ИИ-агентов могут быть модули кратковременной и долговременной памяти. Кратковременная память используется для хранения контекста — ограниченного объема информации, актуальной для выполнения текущей задачи. Долговременная память предназначена для постоянного хранения данных и часто реализуется с использованием графов знаний (knowledge graphs) или векторных представлений (vector embeddings). Этот тип памяти особенно важен для ИИ-агентов, которым необходимо учитывать исторический контекст и накапливать опыт взаимодействий со временем.

По мере развития технологий появились мультиагентные системы (multi-agent systems, MAS) на основе искусственного интеллекта, способные распределять задачи и совместно решать более сложные проблемы, непосильные для одного агента. Такие системы состоят из нескольких ИИ-агентов, взаимодействующих друг с другом и средой, в которой они функционируют, для достижения определенных целей. В роли агентов могут быть программы, датчики, дроны, роботы и т. д. Окружающая среда, соответственно, может быть как цифровой, так и физическим пространством, например заводом или дорогой. У каждого агента есть свой набор навыков, знаний и задач. Совместная работа агентов подразумевает их сотрудничество, «переговоры», конкуренцию и иные формы взаимодействия в зависимости от сценария применения мультиагентной системы. Здесь ключевыми факторами являются коммуникация агентов и параллельное выполнение подзадач. Классическим примером мультиагентной системы являются автоматически управляемые транспортные средства на крупных складах или производственных предприятиях. Они сообща перемещают товары или материалы, координируя свои пути для избежания столкновений и оптимизации транспортного потока. 

Агентский ИИ и мультиагентные системы — одни из ключевых трендов настоящего и ближайшего будущего. Согласно отчету Deloitte State of Generative AI in the Enterprise, 52% и 45% респондентов соответственно выделили агентский ИИ и мультиагентные системы как две наиболее интересные области развития ИИ. По прогнозам Gartner, к 2028 году 33% корпоративных приложений будут основаны на ИИ-агентах, что позволит им самостоятельно решать до 15% повседневных рабочих задач. А по результатам опроса, проведенного компанией LangChain, 51% компаний уже сегодня используют агентский ИИ в своей работе. Ниже перечислены ключевые преимущества, которые этот тренд дает бизнесу.

Высвобождение человеческих ресурсов. Одно из ключевых преимуществ ИИ-агентов в бизнесе — возможность освободить сотрудников от рутинных задач, делегируя их автономным системам и позволяя людям сосредоточиться на более сложных, нестандартных или творческих заданиях. Кроме того, внедрение агентского ИИ в рабочие процессы помогает компенсировать дефицит необходимых навыков и знаний, а также снижает количество ошибок, связанных с человеческим фактором.

Повышение обоснованности решений. Способность ИИ-агентов с высокой скоростью обрабатывать большие объемы данных — в том числе с привлечением внешних инструментов — позволяет формировать более точные прогнозы и принимать более обоснованные стратегические решения.

Улучшение качества обслуживания. ИИ-агенты могут предоставлять персонализированные услуги и рекомендовать продукты на основе анализа предпочтений клиентов. Это способствует повышению доверия, укреплению лояльности и росту продаж.

Активное использование ИИ-агентов в корпоративной инфраструктуре имеет и обратную сторону — расширение поверхности кибератак. Интеграция новой технологии приводит к появлению новых угроз и векторов атак, выявление которых может быть затруднено традиционными средствами защиты. Постоянно взаимодействуя со средой, собирая информацию из разнообразных источников, имея доступ к конфиденциальным данным и обрабатывая тысячи запросов каждый день, ИИ-агент может стать «узким горлышком» и в случае компрометации выполнять роль шлюза, позволяющего злоумышленникам получить доступ к корпоративным ресурсам.

Поскольку современные ИИ-агенты, как правило, построены на базе LLM, они унаследовали большинство уязвимостей, описанных в OWASP Top 10 for Large Language Model Applications. Однако ИИ-агенты выходят за рамки обычных LLM-приложений, так как способы динамически вызывать инструменты, подключаться к различным внешним источникам и взаимодействовать с внешними системами, включая в некоторых случаях физические объекты. Все это приводит к дополнительным классическим киберугрозам, таким как внедрение SQL-кода или удаленное выполнение команд.

В декабре 2024 года OWASP в рамках проекта LLM and Generative AI Security Project анонсировал инициативу Agentic Security Initiative, направленную на разработку руководства по защите ИИ-агентов от киберугроз. В феврале 2025 года была представлена первая версия документа Agentic AI — Threats and Mitigations, посвященного киберугрозам, связанным с ИИ-агентами, и способам их предотвращения. Мы рассмотрим некоторые из 15 таких угроз и приведем примеры недопустимых для бизнеса событий, которые могут возникнуть в случае кибератак на ИИ-агент.

Отравление памяти (memory poisoning). Манипулируя памятью ИИ-агента, злоумышленники могут повредить как кратковременную, так и долговременную память. Внедрив ложную или искаженную информацию, они способны изменить содержимое памяти таким образом, чтобы ИИ начал принимать ошибочные решения в их интересах. Это может привести к утечке конфиденциальных данных, финансовым потерям и ущербу для репутации компании.

Примеры недопустимых событий:

• В корпоративную систему под управлением ИИ-агента злоумышленник внедряет ложные сведения о якобы разрешенном доступе пользователя к конфиденциальным документам. Агент, полагаясь на эти данные, предоставляет доступ к файлам с коммерческой тайной.
• Новостной ИИ-агент, получивший от злоумышленников сфабрикованные сообщения, начинает распространять их, что приводит к общественным волнениям.

Неправомерное использование инструментов ИИ-агента (tool misuse). С помощью специально подобранных промптов злоумышленники могут заставить ИИ-агент задействовать API, внешние веб-сервисы или другие ресурсы в злонамеренных целях. В результате они получают несанкционированный доступ к конфиденциальной информации или системным ресурсам, при этом оставаясь незамеченными для традиционных средств защиты.

Примеры недопустимых событий:

• ИИ-агент, интегрированный с системой CRM, по специально сформулированному запросу раскрывает детали контрактов и персональные данные партнеров и клиентов.
• Злоумышленник побуждает ИИ-агент, обладающий правами на выполнение команд загрузки и установки ПО (например, через wget или curl), загрузить и выполнить на узле вредоносный скрипт.

Атаки с использованием цепочки галлюцинаций (cascading hallucination attacks). Если на вход ИИ-агента поступает ложная или неоднозначная информация, он может сгенерировать недостоверные выходные данные (галлюцинации) — распространенный эффект, связанный с природой больших языковых моделей. В случае агентского ИИ наличие саморефлексии и долговременной памяти приводит к тому, что одна галлюцинация может сохраняться, усиливаться и порождать следующую. В результате агент уходит в цепочку ложных рассуждений и действий. В мультиагентных системах такие галлюцинации могут передаваться между агентами, вызывая некорректную работу всей системы. Злоумышленники могут намеренно провоцировать возникновение галлюцинаций и использовать сфабрикованную информацию для манипулирования логикой и решениями ИИ-агентов, что может привести к негативным последствиям.

Примеры недопустимых событий:

• Автономный трейдер на базе ИИ-агента, опираясь на отчеты с недостоверной информацией, совершает убыточные сделки, что приводит к значительным финансовым потерям компании.
• Система управления автономным транспортом получает ложные данные о дорожной обстановке и на их основе принимает ошибочные решения, что может вызвать заторы или даже привести к авариям с человеческими жертвами.

Отказ в обслуживании (resource overload). Злоумышленники могут целенаправленно использовать ИИ-агент таким образом, чтобы вызвать резкий рост нагрузки, снизить его производительность и тем самым нарушить бизнес-процессы компании. Например, злоумышленник может отправить чрезмерно большое количество запросов, что быстро приведет к исчерпанию лимита на обращения к внешним инструментам (например, закончится лимит на вызов API), или запустить параллельное выполнение нескольких ресурсоемких задач, вызывая перегрузку памяти. Под высокой нагрузкой ИИ-агент может начать генерировать неполные ответы, прерывать выполнение действий, игнорировать политики безопасности.

Примеры недопустимых событий:

• В результате атаки типа resource overload на ИИ-агент, используемый в медицинском учреждении для маршрутизации пациентов и назначения приемов, пациенты, нуждающиеся в срочной медицинской помощи, не получают ее вовремя.
• ИИ-агент, управляющий параметрами производственной линии на промышленном предприятии, выходит из строя из-за ресурсоемкого анализа журналов. В результате конвейер переходит в аварийный режим, что может привести к срыву сроков отгрузки продукции.

Атаки типа supply chain. Несмотря на то что в документе Agentic AI — Threats and Mitigations атаки типа supply chain не выделены в отдельный класс угроз для ИИ-агентов (они подробно рассмотрены в LLM03:2025 Supply Chain), мы обращаем на них особое внимание. В 2023–2024 годах появилось множество фреймворков для создания агентских систем, например AutoGen, CrewAI, LangGraph и другие. Благодаря этим инструментам ИИ-агенты стали доступнее для широкого круга компаний, что заметно расширило их применение. Однако это также увеличило потенциальную поверхность атак. Киберпреступники могут скомпрометировать популярный фреймворк для разработки ИИ-агентов, внедрив в него вредоносный код, создающий бэкдоры в системах, построенных с его использованием. По нашим прогнозам, в ближайшие годы, по мере все более глубокой интеграции ИИ-агентов в корпоративную и критическую инфраструктуру, безопасность цепочки поставок программного обеспечения для ИИ-агентов станет важной задачей.

ИИ-агенты в руках киберпреступников. Поскольку ИИ-агенты обладают способностью планировать и автономно решать сложные задачи, злоумышленники могут использовать их для автоматизации и упрощения процесса взлома корпоративных систем. Специально созданный для этих целей ИИ-агент способен выявлять уязвимости, подбирать оптимальные пути проникновения и динамически корректировать свои действия в ходе атаки.

На данный момент нет достоверных подтверждений реальных атак, осуществленных ИИ-агентами, однако мы не исключаем их потенциальную опасность в ближайшем будущем — и для этого есть веские основания. Одно из них — результаты проекта LLM Agent Honeypot. Это система-ловушка на базе уязвимых сервисов, в которой реализованы механизмы, позволяющие отличать обычные кибератаки от попыток взлома с помощью агентского ИИ. В ходе трехмесячного эксперимента было зафиксировано более 8 миллионов попыток взлома, из которых 8 потенциально совершены таким способом. Это указывает на то, что злоумышленники уже начинают экспериментировать с применением ИИ-агентов для проведения атак.

Весной 2025 года был представлен бенчмарк CVE-Bench для оценки способности ИИ-агентов находить и эксплуатировать 40 критически опасных веб-уязвимостей из официальной базы National Vulnerability Database. Авторы протестировали ИИ-агенты на базе трех известных фреймворков — Cybench, T-Agent и AutoGPT. Результаты тестирования показали, что без дополнительной информации агенты смогли успешно использовать до 13% уязвимостей, а при наличии высокоуровневого описания уязвимостей уровень успешных атак достигал 25%. Эти данные подтверждают, что в обозримом будущем ИИ-агенты действительно могут стать эффективными инструментами взлома в руках киберпреступников.

Начиная с 2009–2010 годов в мире идет стремительное развитие интернета вещей (internet of things, IoT). Устройства IoT собирают данные и передают их для обработки и анализа в централизованные облачные системы. Однако по мере роста числа таких устройств стали появляться серьезные проблемы.

Во-первых, при большом количестве устройств, каждое из которых генерирует значительный объем данных — например, камер видеонаблюдения с постоянной записью в 4K, — возникает проблема ограниченной пропускной способности. Возникает необходимость в выделенном широкополосном канале. Во-вторых, передача данных от устройства к «облаку» сопровождается временными задержками, которые могут быть недопустимыми для приложений в некоторых сферах. Кроме того, в некоторых условиях, например в сельской местности, интернет-соединение может быть медленным или нестабильным, что увеличивает время отклика. В-третьих, отправка данных в «облако» сопряжена с вопросами обеспечения конфиденциальности.

Эти вызовы привели к смене парадигмы обработки данных и стали стимулом для активного развития технологий периферийных вычислений (edge computing), суть которых заключается в обработке данных на конечных устройствах или на локальных серверах в непосредственной близости от источников генерации данных — без их передачи в «облако».

По оценкам компании IoT Analytics, в 2025 году в мире насчитывается более 20 миллиардов подключенных IoT-устройств, а к 2030 году их количество превысит 40 миллиардов. Ежедневно они генерируют большой объем данных, которые необходимо агрегировать и оперативно обрабатывать. Искусственный интеллект позволяет делать это с высокой скоростью и точностью.

Однако до 2019–2020 годов развитие ИИ в основном фокусировалось на ресурсоемких больших моделях, размещенных в «облаке» — на серверах компаний OpenAI, Google, AWS и других. С 2020 года началась технологическая конвергенция IoT, ИИ и периферийных вычислений. Так сформировалось направление edge AI — искусственный интеллект, работающий на периферийных устройствах.

В этот же период активно начал развиваться и кластер технологий TinyML, ориентированный на внедрение ИИ-моделей в маломощные устройства (с энергопотреблением в десятки милливатт и менее), такие как микроконтроллеры. Они применяются в медицинских камерах-капсулах, умных слуховых аппаратах, инсулиновых помпах и многом другом.

Как уже упоминалось, edge-устройства могут генерировать большие объемы данных — например, видеопотоки и телеметрию. Даже если данные не передаются в «облако», существуют сценарии, когда они должны быстро поступать на edge-сервер для обработки или передаваться между устройствами, например в системе городского транспорта в мегаполисе. Для этого требуются технологии, обеспечивающие высокоскоростную и надежную передачу данных.

С этой задачей справляются сети 5G, обеспечивая скорость до 10 Гбит/с и стабильную связь в условиях высокой плотности устройств — в отличие от сотовых сетей предыдущих поколений и сетей Wi-Fi. Это особенно важно для производственных предприятий и умных городов: 5G поддерживает до миллиона устройств на 1 км², что невозможно, например, в LTE.

Дополнительно технология network slicing позволяет создавать виртуальные сети, настроенные под требования конкретных сервисов. Это гарантирует приоритет и пропускную способность для критически важных служб, таких как экстренное реагирование или транспортное управление.

Таким образом, по мере развития умных городов и индустрии 4.0 сочетание edge AI и 5G становится ключевым для сценариев, требующих принятия решений в реальном времени. Например, edge AI может обрабатывать данные с камер и лидаров прямо на борту беспилотного автомобиля, а 5G — обеспечивать связь «транспорт — транспорт» (V2V) и «транспорт — инфраструктура» (V2I), повышая безопасность на дороге.

Технологии edge AI условно можно разделить на две группы:

• аппаратные — связаны с проектированием оборудования, способного обеспечивать высокую вычислительную производительность при жестких ограничениях по энергопотреблению;
• программные — связаны с разработкой моделей ИИ, адаптированных для работы на устройствах с ограниченными ресурсами без существенного снижения точности.

Конструкции аппаратных решений, которые используются для развертывания edge AI, ориентированы на энергоэффективные ИИ-вычисления. В их числе ИИ-ускорители (нейропроцессоры, тензорные процессоры, процессоры компьютерного зрения), оптимизированные под ИИ микроконтроллеры, а также решения на базе микросхем ASIC и FPGA. Отдельную категорию составляют комплексные системы на кристалле (SoC), объединяющие графические процессоры и ИИ-ускорители на одном чипе.

Потребность в моделях, которые требуют меньше памяти и вычислительных ресурсов и способны работать в средах с ограниченными возможностями, привела к развитию компактных архитектур — легковесных сверточных нейронных сетей (lightweight CNN), таких как MobileNet, ShuffleNet, EfficientNet. В последние годы в задачах компьютерного зрения сверточные нейросети постепенно вытесняются архитектурой Vision Transformer (ViT). Для использования в edge AI на ее основе разрабатываются специализированные облегченные модели, например TinyViT, MobileVi и другие.

В области обработки естественного языка необходимость развертывания ИИ на низкоресурсных устройствах способствовала развитию малых языковых моделей (small languge models, SLM). Они создаются на базе своих больших аналогов с использованием различных методов сжатия: дистилляции знаний (knowledge distillation), квантизации (quantization), прореживания нейронов и связей (pruning), низкоранговой факторизации (low-rank factorization) и других техник. Сегодня к категории SLM обычно относят модели с числом параметров от 1 до 8 миллиардов. В 2023 году начался бум открытых (open source) SLM, появились модели LLaMA, Phi, Mistral и другие. Малые модели не используются в качестве инструментов общего назначения, однако могут успешно справляться с узкоспециализированными отраслевыми задачами.

С 2016–2017 годов активно развивается технология neural architecture search (NAS), предназначенная для автоматического проектирования эффективных нейронных сетей, в частности для периферийных вычислений. С помощью NAS-фреймворков можно подобрать оптимальные количество слоев, состав блоков и другие параметры модели с учетом заданных аппаратных ограничений.

Для развертывания облачных сервисов и модулей на edge-устройствах используются специализированные платформы, такие как Microsoft Azure IoT Edge, AWS IoT Greengrass и другие. Они позволяют анализировать данные локально на устройствах и периодически синхронизировать результаты с «облаком». Для обучения, оптимизации и развертывания моделей на различных периферийных устройствах используются специальные фреймворки, например LiteRT, PyTorch Mobile, ONNX Runtime.

Синергия искусственного интеллекта и периферийных вычислений открывает новые возможности в различных отраслях — от транспорта и медицины до индустрии 4.0 и умных городов. Размер мирового рынка edge AI, по данным компании Precedence Research, в 2025 году составит 25,65 млрд долларов, а к 2034 году может достигнуть 143,06 млрд долларов при среднегодовом темпе роста 21,04%.

Ограниченная передача чувствительных данных в «облако» либо ее полное отсутствие уменьшает риск их компрометации. Если голосовые команды, данные распознавания лиц или показания промышленных датчиков не покидают устройств, это значительно сокращает поверхность атаки и вероятность утечки информации. Кроме того, локальная обработка информации позволяет сократить общий объем данных, передаваемых в облако, что снижает энергопотребление и нагрузку на сеть. И это лишь часть преимуществ, которые дает переход к интеллектуальной обработке данных непосредственно на периферийных устройствах. Ниже мы рассмотрим и другие ключевые выгоды такого подхода.

Надежность и доступность. В парадигме edge AI данные обрабатываются на устройстве, что обеспечивает устойчивую работу системы даже при сбоях или полной недоступности сетевого подключения. Кроме того, технологии edge AI позволяют использовать алгоритмы ИИ в местах с ограниченной или нестабильной связью, например в тропических лесах, на морских буровых платформах или в отдаленной сельской местности, где отсутствует интернет и слабо развита инфраструктура.

Обработка данных в реальном времени. Обработка информации на устройстве обеспечивает сверхбыстрое принятие решений — скорость, недостижимую при использовании исключительно облачных вычислений. Это особенно важно в таких отраслях, как здравоохранение и беспилотный транспорт, где задержки в миллисекунды могут существенно повлиять на ситуацию.

Предиктивная диагностика оборудования. Традиционная диагностика опирается на периодические ручные проверки, что нередко приводит к позднему выявлению проблем. Edge AI позволяет анализировать данные от оборудования локально и в режиме реального времени, выявляя ранние признаки неисправностей. Это помогает минимизировать сбои, предотвратить дорогостоящие поломки и потенциальные угрозы человеческой жизни, а также продлевает срок службы оборудования или транспортных средств. Таким образом, edge AI становится ключевым компонентом в реализации концепции индустрии 4.0.

Важно отметить, что несмотря на описанные выше преимущества, которые edge AI дает бизнесу, внедрение и использование этих технологий сопряжено с рядом технических трудностей. Прежде всего, речь идет о проблеме совместимости и необходимости стандартизации. Периферийные устройства сильно различаются по аппаратной архитектуре, операционным системам и вычислительным возможностям. В результате одна и та же модель ИИ может работать по-разному на разных устройствах или вовсе не запускаться. Чтобы этого избежать, необходима унификация моделей, коммуникационных протоколов и интерфейсов взаимодействия. Кроме того, критически важно обеспечивать своевременное обновление и переобучение моделей. Без регулярной актуализации на новых данных модели теряют точность, что может привести к неправильным решениям, дорогостоящим ошибкам и потенциально опасным ситуациям. Это особенно актуально для промышленного IoT, где даже незначительные сбои могут нарушить работу целых производственных линий.

Переход к edge AI требует переосмысления подходов к обеспечению кибербезопасности. Поскольку системы edge AI генерируют большие объемы данных, включая конфиденциальную информацию, их защита от несанкционированного доступа выходит на первый план.

Все киберугрозы, актуальные для edge AI, можно разделить на три уровня.

Уровень устройств. Этот уровень включает уязвимости, которые возникают в прошивке, памяти, физических интерфейсах, сетевых службах и других элементах умного устройства. Злоумышленники могут воспользоваться небезопасными параметрами по умолчанию, устаревшими компонентами, уязвимостями в используемых open-source-библиотеках и небезопасными механизмами обновления прошивки. Кроме того, становится актуальной угроза клонирования устройства с целью обратной инженерии встроенной модели ИИ.

Уровень сети. В edge AI выделяют три основных вида сетевых коммуникаций:

• device-to-edge: передача данных с устройства на ближайший локальный сервер для обработки ИИ-моделью;
• edge-to-cloud: передача результатов локальной обработки данных в «облако» для архивирования, глубокой аналитики, агрегирования или визуализации;
• edge-to-edge: обмен данными между устройствами для скоординированной работы или при функционировании в изолированных сетях.

Все эти виды сетевых взаимодействий делают edge AI уязвимым для классических сетевых атак, например для DDoS-атак, спуфинга и атак типа «человек посередине». Для создания безопасных каналов связи следует использовать протоколы защищенной передачи данных, такие как SSL и TLS, и технологию VPN. Необходимо обеспечить аутентификацию и авторизацию устройств, чтобы исключить несанкционированный доступ к API, данным или моделям. Дополнительно рекомендуется реализовать сегментацию сети и проводить регулярный анализ сетевого трафика на предмет аномалий.

Уровень моделей ИИ. Здесь идет речь об атаках на модели: атаки с подменой входных данных (adversarial attacks), атаки с отравлением (model poisoning) и другие.

Тренд на развитие и внедрение edge AI в организациях различных отраслей становится катализатором для развития методов и алгоритмов защиты данных, которые позволят обеспечить баланс между конфиденциальностью, производительностью моделей и эффективностью вычислений. Для защиты обрабатываемой информации в edge AI применяется ряд современных технологий, включая конфиденциальные вычисления, гомоморфное шифрование, федеративное обучение и другие.

Конфиденциальные вычисления (confidential computing). Перед обработкой алгоритмами ИИ зашифрованные данные должны быть расшифрованы в памяти устройства. Это создает угрозу несанкционированного дампа памяти. Защититься от нее позволяет технология конфиденциальных вычислений. Данные обрабатываются в специальной аппаратной доверенной среде выполнения (trusted execution environment, TEE) — изолированной области внутри процессора, которая защищена от доступа со стороны других процессов и операционной системы.

Гомоморфное шифрование (homomorphic encryption). Позволяет выполнять вычисления непосредственно над зашифрованными данными без их расшифрования. Это обеспечивает защиту конфиденциальной информации даже при обработке на уязвимых и слабо защищенных устройствах. Метод позволяет обрабатывать зашифрованные данные в реальном времени без ущерба для производительности, что делает его подходящим для приложений в беспилотном транспорте, системах видеонаблюдения, финансовой отрасли, медицине.

Федеративное обучение (federated learning). Это способ обучения моделей на данных, распределенных по разным устройствам, без необходимости передачи самих данных на центральный сервер. На каждом устройстве обучается локальная модель, после чего на центральный сервер передаются только обновленные после обучения параметры модели. Здесь они агрегируются вместе с параметрами, полученными от других участвующих в обучении устройств. В итоге формируется глобальная модель, обученная на данных со всего парка устройств.

При внедрении технологий edge AI для решения бизнес-задач неминуемо возникают проблемы и трудности обеспечения кибербезопасности, в числе которых:

• гетерогенность и распределенность инфраструктуры: из-за разнообразия производителей устройств, их типов и архитектур затруднено внедрение универсальных механизмов защиты, а также усложняются процессы обновлений безопасности;
• недостаток телеметрии: в отличие от облачных решений, edge-устройства зачастую не обеспечивают достаточную видимость для специалистов по ИБ, что ограничивает возможности мониторинга угроз и своевременного реагирования на инциденты;
• ограниченные ресурсы устройств: низкая вычислительная мощность, малый объем памяти и слабая пропускная способность устройств затрудняют реализацию эффективных защитных механизмов, например поведенческого анализа;
• отсутствие полного контроля над процессом обучения: из-за распределенной природы федеративного обучения нет полного контроля над его процессом. Это создает новые векторы атак, включая возможность компрометации центрального сервера, агрегирующего параметры локальных моделей.

Важно подчеркнуть, что несмотря на существующие ограничения федеративного машинного обучения, именно этот подход открыл новые возможности для развития edge AI. Он позволяет организациям сотрудничать и использовать данные с собственных устройств для совместного повышения качества моделей, при этом сводя к минимуму риск утечки конфиденциальной информации. Например, банки могут совместно обучать модели для выявления мошеннических операций, не раскрывая детали транзакций своих клиентов. Аналогичным образом несколько медицинских учреждений могут обогащать общую диагностическую модель, не передавая персональные данные пациентов.

Организация Объединенных Наций провозгласила 2025 год Международным годом квантовой науки и технологий. Это решение приурочено к столетию со дня публикации статьи немецкого физика Вернера Гейзенберга, положившей начало современной квантовой механики. В 1981 году американский физик Ричард Фейнман заложил основы квантовой теории вычислений и квантовых компьютеров. Позже, в 1994 году, квантовый алгоритм Шора для факторизации целых чисел поставил под удар асимметричные криптографические системы. Это стало поворотным моментом, вызвавшим серьезный интерес со стороны научного сообщества и технологических компаний по всему миру. Сегодня над развитием квантовых вычислений работают как ведущие IT-гиганты (IBM, Intel, Google, Microsoft), так и молодые компании, специализирующиеся на квантовых технологиях (Quantinuum, Xanadu, IonQ и другие).

Основанные на принципах квантовой механики, квантовые вычисления значительно превосходят возможности классических компьютеров в решении определенных задач. К примеру, в декабре 2024 года компания Google представила квантовый процессор Willow, способный, по заявлению создателей, за несколько минут решить задачу, на которую у современных суперкомпьютеров ушло бы время, в триллионы раз превышающее возраст Вселенной.

Основным препятствием на пути к массовому практическому применению квантовых вычислений остается необходимость обнаружения и исправления ошибок, возникающих из-за нестабильности и чувствительности кубитов (квантовых аналогов битов) к внешним воздействиям. Современные квантовые компьютеры относятся к классу NISQ (noisy middle-scale quantum), что означает их ограниченность по числу кубитов и по их времени когерентности². В связи с этим сегодня технологические лидеры сосредоточены на создании отказоустойчивого квантового оборудования и, в частности, на разработке эффективных методов выявления и коррекции ошибок вычислений. По мнению генерального директора Google, развитие квантовых вычислений в 2025 году напоминает состояние технологий ИИ в 2010-х годах, а полноценные квантовые компьютеры, готовые к решению прикладных задач, появятся не ранее, чем через 5–10 лет.

Однако, несмотря на то что квантовые технологии все еще находятся на этапе становления, во всем мире активно исследуются возможности использования квантовых вычислений для задач ИИ, а также применения искусственного интеллекта для развития квантовых технологий.

Модели ИИ, обученные распознавать закономерности в ошибках, могут значительно ускорить прогресс в создании надежных квантовых компьютеров. Например, исследователи Google DeepMind и Quantum AI разработали рекуррентную нейросеть AlphaQubit на базе архитектуры Transformer, которая обучена находить ошибки в кубитах и делает это эффективнее по сравнению с традиционным методом тензорных сетей.

Учитывая нестабильную природу кубитов, квантовые схемы для устройств класса NISQ должны проектироваться с минимально возможным числом вентилей (логических операций над кубитами) без ущерба для корректности вычислений. Для проектирования и оптимизации квантовых схем может применяться искусственный интеллект. Например, обучение с подкреплением позволяет более эффективно решать задачу декомпозиции квантовых операций в последовательность элементарных квантовых вентилей, сложность которой экспоненциально растет с увеличением числа кубитов. Другой пример — нейросеть AlphaTensor-Quantum, разработанная инженерами Google DeepMind и Quantinuum. Она позволяет минимизировать использование ресурсоемких T-вентилей в квантовых схемах, что особенно актуально для приложений в квантовой криптографии и квантовой химии.

При разработке квантового оборудования методы глубокого обучения позволяют значительно ускорить поиск материалов с необходимыми квантовыми свойствами. ИИ может использоваться для симуляции квантовых состояний и поведения устройств, а также для анализа больших объемов экспериментальных данных с целью выявить закономерности и улучшить технические характеристики оборудования. Кроме того, ИИ может использоваться для оптимизации конструкции квантовых устройств. Например, эволюционные алгоритмы позволяют находить оптимальные конфигурации и топологии кубитов. Так, ученые из российского университета ИТМО разработали систему на базе ИИ, которая находит нужные расположения атомов для поддержки долгоживущих состояний.

Для надежной работы квантовому оборудованию требуется регулярная калибровка. Процесс калибровки сильно усложняется с ростом числа кубитов. В этом процессе также может эффективно применяться искусственный интеллект. Так, в декабре 2024 года компании Quantum Machines и Rigetti объявили об успешной калибровке 9-кубитного квантового процессора Rigetti Novera с помощью ИИ-алгоритмов.

Квантовые вычисления могут существенно расширить возможности искусственного интеллекта, устраняя ограничения, связанные со сложностью и временем решения ряда задач. Это достигается благодаря способности квантовых систем обрабатывать большие объемы данных параллельно и выявлять скрытые закономерности и зависимости.

На сегодняшний день наиболее активно развивающимся направлением в этой области является квантовое машинное обучение (quantum machine learning, QML). Ниже представлена схема, классифицирующая подходы в области машинного обучения в эпоху квантовых технологий:

• CC — classical data, classical algorithms: традиционные методы машинного обучения;
• CQ — classical data, quantum algorithms: классические данные (например, текст или изображения) обрабатываются квантовыми алгоритмами;
• QC — quantum data, classical algorithms: данные, полученные из квантовых систем (например, результаты экспериментов), обрабатываются классическими методами;
• QQ — quantum data, quantum algorithms: полностью квантовая обработка как данных, так и алгоритмов.

На текущем этапе развития квантовое оборудование все еще не позволяет реализовать на практике теоретические возможности полностью квантового машинного обучения (QQ-подход). В связи с этим основное внимание сегодня сосредоточено на гибридных квантово-классических подходах. Прежде всего речь идет об обработке классических данных квантовыми методами (CQ-подход). В этом случае классические данные предварительно кодируются в квантовые состояния. Далее полученные квантовые состояния обрабатываются вариационными схемами (variational quantum circuit, VQC) — программируемыми квантовыми схемами, состоящими из последовательности квантовых вентилей; некоторые из них параметризованы классическими переменными. Результаты обработки подаются в классический либо квантовый (например, QAOA) алгоритм оптимизации, который обновляет параметры схемы. Таким образом, скорость и параллельность квантовых вычислений сочетаются с мощностью и стабильностью классических методов машинного обучения.

Сегодня развитие квантового ИИ активно идет в таких направлениях, как квантовая обработка естественного языка (QNLP), квантовое компьютерное зрение (QCV), квантовые агенты и мультиагентные системы (QMAS). Тем не менее на пути к массовому практическому применению этих технологий все еще остается ряд нерешенных проблем. Помимо ограничений, связанных с устройствами класса NISQ, в числе этих проблем ресурсоемкость кодирования классических данных в кубиты при гибридных вычислениях, трудности обучения (в частности, возникновение так называемого «бесплодного плато»), сложности с интерпретируемостью моделей и масштабированием обучения при увеличении числа параметров и кубитов.

В последние три года наблюдается значительный прогресс в преодолении этих препятствий, благодаря чему тренд на квантовый ИИ набирает обороты. Так, в 2024 году группа исследователей из компании Quantinuum представила модель QDisCoCirc для квантовой обработки естественного языка. Модель успешно справляется с проблемой «бесплодного плато» и обладает высокой интерпретируемостью, что имеет важное практическое значение для приложений в критически важных областях, таких как здравоохранение и финансовый сектор. В апреле 2025 года китайские ученые сообщили, что первыми в мире смогли использовать квантовый компьютер (Origin Wukong на 72 кубитах) для тонкой настройки модели с 1 млрд параметров, получив при этом улучшение эффективности обучения на 8,4% при сокращении числа параметров на 76%.

В отчете The Quantum Insider прогнозируется, что в период с 2025 по 2035 год экономическая выгода от квантовых вычислений составит 1 трлн долларов. В то же время, несмотря на активное развитие в лабораториях, практическая интеграция ИИ и квантовых вычислений пока остается на ранней стадии. Однако уже сегодня потенциальная польза квантовых и гибридных квантово-классических методов ИИ изучается для приложений в самых разных отраслях, например в медицине, в финансовой сфере, в транспорте и логистике, энергетике, аэрокосмической, фармацевтической и химической промышленности. Рассмотрим, какие конкретные преимущества может принести использование квантового ИИ в ближайшие 5–10 лет.

Более быстрое и эффективное решение сложных задач оптимизации. Одним из ключевых применений квантового ИИ является ускорение решения задач оптимизации, имеющих высокую сложность. Комбинация квантовых алгоритмов и методов ИИ позволяет разрабатывать эффективные инструменты для логистики, финансового сектора и промышленности. Например, в одном решении алгоритм QAOA может применяться для поиска оптимального маршрута транспортного средства, а модель ИИ в этом же самом решении может использоваться для адаптации к среде — учета обстановки на дорогах, погодных условий и т. д. Таким образом уменьшаются расходы топлива и сокращается время доставки.

Квантовый ИИ может быть эффективно применен в финансовом секторе, в частности для финансового моделирования и фрод-аналитики. Одним из перспективных методов является квантовый отжиг (quantum annealing), который особенно хорошо подходит для решения задач комбинаторной оптимизации. Например, он может использоваться для оптимального распределения активов в инвестиционном портфеле с учетом множества рисков, ограничений и корреляций. В то время как для классических компьютеров решение таких задач становится все более затруднительным с ростом числа переменных, квантовые методы способны находить решения быстрее и с меньшими вычислительными затратами.

Разработка новых веществ и материалов. Одно из самых перспективных применений квантовых вычислений и искусственного интеллекта — это разработка новых веществ и материалов, включая лекарственные препараты. Задача моделирования молекулярных взаимодействий имеет экспоненциальную сложность. Поскольку поведение атомов и молекул описывается законами квантовой механики, квантовые компьютеры могут моделировать его гораздо более эффективно, чем классические. Аналогичным образом в энергетике квантовое моделирование может применяться для оптимизации разработки новых материалов и источников энергии, таких как ядерный синтез, предоставляя более точные модели атомных и субатомных взаимодействий.

Снижение энергопотребления. Одним из ключевых преимуществ квантового ИИ является его низкое энергопотребление. Квантовые вычисления относятся к категории энергоэффективных, которые аналитическая компания Gartner отмечает в числе десяти главных технологических трендов 2025 года. Недавно компания Quantinuum представила результаты, согласно которым ее квантовая система потребляет в 30 тысяч раз меньше энергии, чем классический суперкомпьютер при выполнении задачи случайной выборки квантовой цепи. Команда прогнозирует аналогичную экономию энергии и при дальнейшем масштабировании моделей квантового ИИ.

В нашем исследовании, посвященном безопасности квантовых технологий, мы выделили пять уровней киберугроз: угрозы на физическом уровне, на уровне квантовых схем, на уровне приложений, на уровне квантовых облачных сервисов, а также на уровне квантовых нейросетей.

Сегодня и в ближайшем будущем большинство взаимодействий с квантовым ИИ будет происходить через облачных провайдеров (quantum machine learning as a service, QMLaaS). В последнее время наблюдается значительный рост числа компаний, предлагающих облачный доступ к квантовому оборудованию, в их числе IBM, Xanadu, D-Wave, Rigetti.

Растущая потребность в квантовых ресурсах может привести к появлению относительно дешевых, но потенциально ненадежных квантовых облачных сервисов. Размещение квантовых моделей на ненадежных платформах ведет ко множеству проблем безопасности. В частности, облачные провайдеры могут получить полный доступ к любым из следующих компонентов, каждый из которых представляет интеллектуальную собственность и дорогостоящие активы компании — разработчика модели:

• архитектура модели (структура вариационной схемы, порядок вентилей и т. д.);
• обучающие и тестовые данные (могут включать конфиденциальную информацию);
• методы кодирования классических данных в квантовые состояния;
• обученные параметры (к примеру, углы поворота вентилей в вариационных схемах).

Кража модели (model stealing). В ситуациях, когда обученные модели размещаются на доверенных облачных платформах, они все еще остаются уязвимыми, например для атак, направленных на кражу модели. Злоумышленник, имея доступ через API, может подавать ей на вход большое количество квантово закодированных запросов и по ответам обучать замещающую (surrogate) модель, которая имитирует поведение оригинала. Поскольку при этом не требуется прямой доступ к внутренней структуре модели, подобный сценарий относится к варианту атаки методом черного ящика (black box).

Для реализации кражи модели методом черного ящика серьезным препятствием является квантовый шум, неизбежно возникающий при использовании устройств класса NISQ. Шум затрудняет точное сопоставление входных и выходных данных, необходимое для построения замещающей модели, что увеличивает длительность и стоимость атаки. Тем не менее уже существуют техники, позволяющие частично нивелировать влияние шума. К примеру, в атаке QuantumLeak, описанной в 2024 году, применяются методы ансамблевого обучения (ensemble learning), которые повышают устойчивость замещающей модели к искажениям, вызванным шумом.

За последние два года были опубликованы ряд исследований, в которых описаны квантовые подходы к защите от кражи модели, например через добавление шума в ответы для защиты от атак типа black box, а также архитектурные фреймворки QuMoS (2023 год), PristiQ (2024 год) и метод STIQ (2024 год) для защиты от кражи модели, размещенной в недоверенной облачной среде.

Квантовые adversarial-атаки (quantum adversarial attacks). Поскольку квантовое машинное обучение по своей сути представляет собой перенос классических подходов машинного обучения в область квантовых вычислений, оно наследует уязвимости классического машинного обучения. Злоумышленник может сконструировать специальные квантовые состояния, которые будут незаметно подаваться на вход квантовой модели. В результате модель принимает неправильные решения, например подтверждает поддельные транзакции. Опасность таких атак усиливается тем, что квантовые состояния могут изменяться незаметно для классических средств защиты. В силу законов квантовой механики в квантовых ИИ-системах нельзя гарантировать неизменность данных или модели без использования дополнительных механизмов контроля, например квантовой верификации.

Примеры недопустимых событий:

• Злоумышленник незаметно искажает входные квантовые состояния, получаемые от GPS-сенсоров, в результате чего беспилотный летательный аппарат выбирает неверный маршрут или не распознает препятствие.
• Атакующий модифицирует квантовое представление биометрических данных в системе квантовой биометрической идентификации, в результате чего модель ошибочно признает постороннего пользователя легитимным — это может привести к несанкционированному доступу к защищенным ресурсам или системам.

Квантовые атаки с отравлением данных (quantum data poisoning attacks). При таких атаках на этапе обучения квантовой модели (например, вариационных квантовых алгоритмов) злоумышленник внедряет искаженные квантовые состояния или параметры, в результате чего модель может неправильно работать после обучения или стать уязвимой для последующих атак.

Примеры недопустимых событий:

• Злоумышленник незаметно модифицирует часть обучающих данных в системе квантового ИИ, предназначенной для оценки финансовых рисков. В результате после обучения модель перестает распознавать мошеннические транзакции, что приводит к существенным для организации финансовым потерям.
• Злоумышленник на этапе обучения квантовой модели ИИ для фармацевтики подмешивает «безвредные» метки к потенциально токсичным соединениям. В результате модель классифицирует опасное вещество как безопасное, что ведет к провалу на позднем этапе тестирования, финансовым и репутационным потерям, а также к риску для здоровья людей.

Бэкдор-атаки. В 2023–2024 годах были опубликованы исследования, посвященные бэкдор-атакам на квантовые модели ИИ. В качестве примеров можно привести атаки QTrojan, QDoor, Qcolor. При таких атаках на этапе обучения квантовой модели злоумышленник внедряет в тренировочный датасет искаженные квантовые состояния — так называемые триггеры. После обучения модель остается работоспособной в стандартных условиях, но при подаче на вход специальных триггерных состояний начинает выполнять запрограммированные действия, выгодные атакующему. Иногда атака предполагает подмену части вариационной квантовой схемы, например встраивание дополнительных квантовых вентилей.

Примеры недопустимых событий:

• Злоумышленник может внедрить бэкдор в голосовой ИИ-помощник. Это может привести к тому, что при подаче определенной фразы с квантовым фазовым искажением (триггером), голосовой ИИ-ассистент выполнит скрытую вредоносную команду, например удалит все письма или SMS-сообщения.
• Злоумышленник может внедрить бэкдор в квантовую модель ИИ, используемую в службе доставки. Например, если номер посылки начинается с определенной последовательности, она помечается как приоритетная независимо от ее реального статуса. Это может стать причиной перенаправления посылок, задержек в доставке и финансовых убытков.

Развитие квантового ИИ может привести к резкому увеличению результативности традиционных методов атак. Самый простой и наглядный пример — компрометация учетной записи методом перебора. С помощью алгоритмов ИИ злоумышленник сможет за короткое время собрать данные о жертве³ и составить список наиболее вероятных комбинаций логинов и паролей, после чего использовать квантовые алгоритмы для ускоренного перебора этих комбинаций. Это делает привычные пароли крайне уязвимыми, что влечет за собой необходимость перехода к постквантовой криптографии и более сложным системам аутентификации.

Искусственный интеллект, особенно в сочетании с другими современными технологиями, радикально ускоряет принятие решений, снижает издержки и повышает производительность. Компании, которые эффективно внедряют ИИ-системы, получают неоспоримое конкурентное преимущество.

История развития технологий показывает, что по мере зрелости их использование становится массовым. Сегодня благодаря появлению открытых моделей искусственный интеллект становится доступным для широкого круга пользователей, в том числе в регионах с ограниченными ресурсами. Однако активное внедрение ИИ требует от организаций быстрой адаптации к меняющемуся технологическому ландшафту.

На фоне новых ИИ-трендов трансформируется и ландшафт киберугроз: возникают новые уязвимые места и способы атак. Это означает, что внедрение ИИ должно сопровождаться оценкой возможных рисков и последствий. Недостаточно ограничиться технической защитой самих моделей — необходимо контролировать стык технологий и бизнес-процессов. Это включает в себя обучение сотрудников новым навыкам работы с ИИ-системами и стандартизацию внутренних процессов для снижения операционных рисков при использовании ИИ в повседневных задачах.

Особое внимание следует уделить тому, какие данные обрабатываются ИИ. Важно ограничить информацию, доступную ИИ-системе, и ввести соответствующие механизмы контроля, чтобы гарантировать соблюдение внутренних политик безопасности в отношении данных. Это поможет предотвратить утечки конфиденциальной информации.

Обращаем внимание, что бурное развитие ИИ может привести к перераспределению финансовых ресурсов в его пользу, вытесняя инвестиции из других критически важных технологических направлений. В такой ситуации в структуре IT-бюджетов компаний может непропорционально вырасти доля финансирования ИИ, что приведет к дисбалансу. Это, в свою очередь, может способствовать ослаблению защиты корпоративных систем.

Важно отметить, что на данный момент злоумышленникам, включая APT-группировки, проще взламывать корпоративные системы проверенными методами (фишинг, вредоносное ПО, эксплуатация уязвимостей), чем создавать ИИ-агенты для взлома, проводить атаки на ИИ-модели или использовать дорогое квантовое оборудование. Однако уже завтра картина может измениться кардинальным образом, потому что и технологии искусственного интеллекта, и связанные с ними киберугрозы постоянно эволюционируют.

Бизнес-лидерам следует регулярно обновлять свои знания о технологических трендах, чтобы сохранять конкурентоспособность. Решения о внедрении того или иного продукта и инвестиционные стратегии должны основываться на сбалансированной оценке потенциальных рисков и выгоды. Компании, способные интегрировать кибербезопасность в стратегию внедрения ИИ, обеспечат себе устойчивое технологическое преимущество и укрепят доверие клиентов и партнеров.