Устойчивость ритейла всё больше зависит от чужого ИИ

Когда на полке нет привычного товара или доставка опаздывает, покупатель вряд ли станет винить поставщика или разработчика ПО. Он обратится к ритейлеру, который обещал хороший сервис.

Но выполнять эти обещания становится всё сложнее: продажи и репутация бизнеса всё сильнее зависят от сторонних технологий, которые не получается полноценно контролировать. В частности, это касается искусственного интеллекта, который всё активнее используют для управления запасами, планирования поставок и других повседневных операций. От его бесперебойной работы теперь зависит очень многое.

Примеры тому можно найти в международной практике. Например, американская сеть Dollar General недавно внедрила ИИ для планирования поставок и управления запасами. Система должна прогнозировать спрос, контролировать объем остатков и координировать с ними заказы из магазинов. Теперь искусственный интеллект определяет, будет ли нужный товар в наличии. Но технологию, на которой держатся эти важнейшие бизнес-процессы, предоставляет третья сторона. И это — риск.

Но отказаться от внедрения ИИ довольно сложно, и у ритейлеров есть веские причины для этого. Так, X5 сообщила, что в 2025 году ИИ-инструменты принесли компании 5 млрд рублей дополнительной операционной прибыли. Этому способствовали более эффективные решения в отношении того, какие товары и в каких объёмах закупать, что продвигать и какие цены устанавливать.

Чем сильнее ИИ влияет на бизнес, тем важнее обеспечивать надёжность и безопасность таких решений. Однако успевают ли ритейлеры выстраивать защиту с той же скоростью, с какой внедряют ИИ, — внутри собственной инфраструктуры и при взаимодействии с внешними сервисами? Опрос PwC среди руководителей компаний потребительского рынка показал, что они чувствуют себя менее подготовленными к угрозам, связанным с взломами сторонних систем и продуктов, а также облачными инфраструктурами. 

Эти выводы касаются не только ИИ, но и подчёркивают общую проблему: ритейлерам необходимо проверять безопасность сервисов, от которых зависят их процессы. Уязвимость поставщика технологий может обернуться прямыми потерями для самого ритейлера.

Британская сеть Morrisons убедилась в этом на собственном опыте. В ноябре 2024 года один из поставщиков ПО подвергся атаке программы-вымогателя. В операционном отчёте Morrisons сообщила, что сбой повлиял на их учёт запасов, отслеживание наличия товаров, списание продукции и прогнозирование спроса. Атаковали поставщика, но последствия ощутил сам ритейлер.



С распространением ИИ такие зависимости становятся более комплексными. Ритейлер может поручить стороннему сервису рассчитывать потребность в товарах и даже разрешить ему автоматически размещать заказы. В результате поставщик технологии начинает напрямую влиять на бизнес. Ошибочную рекомендацию человек может отклонить до оформления заказа. Но автоматическое решение о закупке способно привести к финансовым потерям ещё до того, как кто-либо обнаружит ошибку.

Поэтому проверки безопасности должны учитывать полномочия, которыми наделён ИИ-сервис. А при расширении возможностей системы необходимо пересматривать правила её использования и контроля.

Вы зависите от поставщика ИИ. А от кого зависит он сам?

Оценить киберриски ИИ-сервиса непросто: поставщики не всегда раскрывают достаточно информации о его устройстве. За одним решением могут стоять разные модели, источники данных, платформы и компоненты ПО других компаний. Сбой или атака на любого из участников этой цепочки способны нарушить работу всего сервиса. Последствия для ритейлера могут быть как финансовыми, так и репутационными.

Поэтому необходимо оценивать защищённость всей цепочки поставок ИИ-решения: моделей, данных и ПО. Ритейлеру важно выяснить, от каких сторонних компонентов зависит критически важный сервис и каким образом поставщик контролирует его состояние. Глубина проверки должна соответствовать возможному ущербу. Если ИИ просто составляет описания товаров — последствия сбоя, скорее всего, будут ограниченными. 

Если же он, например, самостоятельно размещает заказы — требования к нему должны быть строже. Сотрудникам, отвечающим за закупки, операционную деятельность и информационную безопасность, необходимо совместно определить, какие сервисы при сбое способны остановить бизнес-процессы, раскрыть данные покупателей или привести к несанкционированным расходам. Это позволит сосредоточить внимание на наиболее критичных решениях.

---

Читайте также: Как ритейл выводит трендовые новинки на полку с помощью генеративного ИИ

---

«Сервис работает» не значит «сервис безопасен»

Если ИИ перестал обрабатывать заказы, проблема быстро обнаружится. Гораздо опаснее ситуация, когда скомпрометированный сервис продолжает работать, но раскрывает данные пользователей или выполняет несанкционированные действия. Поэтому недостаточно контролировать только доступность системы. Нужно понимать, можно ли доверять её решениям.

Отдельный риск связан с ИИ-агентами, которые читают электронные письма или открывают файлы. Злоумышленник может внедрить в почтовое вложение инструкции, меняющие поведение агента. Яркий пример — ситуация, когда агент читает в документе указание отправить конфиденциальные сведения о ценах на посторонний адрес. 

И тогда файл, который должен служить лишь источником информации, превращается в руках злоумышленника в инструкцию для агента. Возможный ущерб в таком случае зависит от прав доступа. Возможность просматривать данные о продажах не должна автоматически давать право агенту выгружать информацию о покупателях, согласовывать платежи или менять банковские реквизиты. Расширение полномочий ИИ должно иметь деловое обоснование и требовать согласования со стороны человека.

При этом одних инструкций для агента недостаточно: ограничения необходимо закреплять в самих бизнес-системах. Если сумма заказа превышает установленный лимит, система должна блокировать оформление или оплату. Аналогичные ограничения нужны для доступа к конфиденциальным данным и передачи информации за пределы организации.

Мониторинг должен связывать события информационной безопасности с реальными бизнес-операциями. Например, если агент внезапно начинает выгружать значительно больше данных, чем обычно, это повод для проверки, даже если технических сбоев не зафиксировано. Ритейлер и поставщик должны заранее определить, кто получает такие сигналы и кто вправе приостановить работу агента. Это поможет вовремя выявлять подозрительную активность, не мешая штатным операциям.

ИИ может дать сбой, но покупатели ждать не будут

Пресечь подозрительную активность необходимо, но вместе с тем можно остановить и критически важные процессы. Если отключение ИИ лишает компанию возможности функционирования должным образом, нужен альтернативный способ организовать рабочий процесс.

В данном случае можно поручить всё сотрудникам. Это кажется разумным, пока небольшой команде не придётся обрабатывать заказы для сотен магазинов. Поэтому ритейлерам стоит проводить учения на случай сбоев: проверять, смогут ли сотрудники получить достоверные данные об остатках, определить приоритетные товары и разместить заказы без помощи ИИ. Это позволит оценить реальные возможности команды и заранее выявить вероятные задержки.

Порядок действий при инциденте необходимо также согласовывать и с поставщиками. Кто принимает решение об отключении сервиса? Кто и когда уведомляет заинтересованные стороны? Что нужно проверить перед тем, как перезапустить ИИ-сервис? Более того, если за время сбоя изменились данные об остатках и заказах — простого перезапуска недостаточно. Нужно сверить информацию с фактическими продажами, поступлениями и операциями, выполненными вручную.

Ритейлеру необходима специальная система защиты, учитывающая специфику его бизнеса и используемых технологий. Она должна включать защиту учётных записей и устройств, обнаружение подозрительной активности и единый план реагирования на инциденты. В разработке такого плана должны участвовать как специалисты по информационной безопасности, так и команды, отвечающие за работу магазинов и поставки.

ИИ помогает повышать доступность товаров, сокращать издержки и быстрее реагировать на спрос. Но чтобы сохранить эту выгоду, бизнесу необходимо понимать, от каких поставщиков и компонентов зависит каждое критически важное решение, какие действия может выполнять система и что делать в случае сбоя или компрометации.

Технологии можно доверить стороннему поставщику. Ответственность перед покупателем всё равно остаётся на ритейлере. Сохранить лояльность клиентов и поддержать работу вашего бизнеса в любых условиях помогут решения от «Лаборатории Касперского».