Искусственный интеллект: оружие против компаний или способ борьбы с хакерами

@freepik




Директор компании Ideco Дмитрий Хомутов рассказал, можно ли противостоять хакерским атакам, получившим доступ к искусственному интеллекту.

Как хакеры используют искусственный интеллект для кибератак?

Нейросети являются не только мощным защитным механизмом от кибератак, но и инструментом для их создания. Атакующий код, направленный на искусственный интеллект, быстро распространяется, что приводит к взломам личных данных как простого пользователя Интернета, так и организаций, в том числе и из сферы ритейла. 

Защитные методы от данной угрозы, напротив, на данный момент ограничены. Подобная «лазейка» позволяет мошенникам управлять целостностью систем машинного обучения, их конфиденциальностью и доступностью. 

Кибератаки с использованием искусственного интеллекта эксперты предсказывали еще несколько лет назад. В 2019 году более 80% ИБ-специалистов были уверены, что AI увеличит масштаб угроз, а 66% ожидали беспрецедентные взломы, сгенерированные нейросетями. Сейчас фактически проигрывается этот сценарий. 

Злоумышленники используют совершенные технологии для создания крупных атак, так как ИИ легко справляется с большим объемом данных. Нейронные сети в том числе нередко используются для фишинговых взломов. Более того, Россия вошла в ТОП-10 стран по количеству DDoS-атак, которые перегружают целевые системы и создают масштабных кампаний фишинга, отправляя получателям множество зараженных электронных писем.

Наша страна оказалась на 9-м месте: во 2-м квартале 2023 года на отечественную инфраструктуру пришлось 2,3% таких киберугроз. Искусственный интеллект использовался в 72% случаев.

Кроме того, AI используется хакерами в социальной инженерии для генерации зараженных электронных писем и ссылок с целью обмана пользователей и получения их личных данных. В 2023 году компании назвали самой распространенной сетевой угрозой спам-рассылку – эту проблему отметили 47% опрошенных в исследовании этого года. Более того, каждый день в мире отправляется свыше 122 миллиарда хакерских сообщений – это 85% мирового почтового трафика. Такие показатели подчеркивают важность защиты своей учетной записи от мошенников.

Как защититься от кибератак, сгенерированных AI?

Лучший способ обезопасить компанию — внедрить обучение кибербезопасности и ИИ для сотрудников на постоянной основе. Так как с каждым днем угрозы становятся все изощреннее, всей команде организации необходимо быть осведомленными о новых хакерских уловках. Обучение является важной составляющей любого рабочего процесса, тем более в России наблюдается нехватка квалифицированных киберспециалистов. Только 3,5% в полной степени соответствуют текущим требованиям для работника этой сферы. Посредством обучения возможно улучшить навыки специалистов и, следовательно, сократить количество атак более чем на 70%.

Помимо обучения сотрудников, следует принять дополнительные меры для повышения общей IT-безопасности компании. В первую очередь необходимо разработать улучшенные алгоритмы обучения AI с учетом его возможных уязвимостей. Это поможет сделать ИИ-модель устойчивее и надежнее на 87%. Также для слаженной работы нейронной сети необходимо заниматься ее «тренировкой». Это процесс, в ходе которого на специально созданных атаках нейросеть учится защищаться от подобных киберопасностей в будущем. 

Хакерские угрозы постоянно развиваются – все чаще мошенники прибегают к новейшим технологиям. По этой причине необходимо непрерывно совершенствовать искусственный интеллект с целью развития технологий и усиления безопасности. Обновление и улучшение моделей помогут быть на шаг впереди злоумышленников и снизят число взломов на 84%. Кроме того, необходимо постоянно обновлять программное обеспечение до последней доступной версии. Эта мера также помогает сократить число кибератак более чем на 90%.


@Phonlamaistudio by Freepik

Обеспечение безопасности в компаниях с помощью нейросетей

На данный момент автоматизированные электронные письма и чат-боты — два наиболее распространенных варианта использования ИИ в повседневной деловой коммуникации. Этими сервисами пользуется свыше 93% компаний во всем мире. Более того, 86% руководителей согласны с тем, что нейросети и бизнес идут рука об руку, поскольку искусственный интеллект является одной из возможных технологий, которая может противостоять атакам и защитить организацию.

Например, AI в компаниях может использоваться для повышения кибербезопасности посредством обнаружения хакерских атак. Основное преимущество искусственного интеллекта – их скорость в обработке большого массива информации. Нейросеть может справиться с этой задачей на 98% быстрее традиционного (ручного) способа анализа. Благодаря этому производительность организации повышается на 40%.

Более того, прогнозирующие нейросети, использующие старые шаблоны данных, сложные алгоритмы и методы машинного обучения могут не только искать уже существующие киберугрозы, но и предотвращать новые. 

Этот процесс заключается в анализе информации и выявлении закономерностей, на основе которых делается предположение о возможных атаках. ИИ будет самостоятельно блокировать доступ к подозрительным IP-адресам или нежелательным ссылкам. Такая заблаговременная осведомленность позволяет разработать перечень мер по пресечению инцидентов и уменьшить количество взломов более чем на 90%. 

Использование нейросетей в сфере ритейла

Цифровая трансформация розничной торговли продолжается уже много лет. Этому способствовали передовые системы обработки данных и прогнозного анализа, которые помогают компаниям принимать бизнес-решения на основе полученной информации. Ни одно из этих достижений не было бы возможным без Интернета вещей (IoT) и, самое главное, искусственного интеллекта. 

С появлением AI в российской торговой отрасли, предприятия могут обрабатывать огромное количество информации, которая помогает улучшить розничные операции и развивать бизнес процессы. К примеру, нейросети отлично справляются с прогнозированием спроса на товары. Понимание того, какие продукты хотят клиенты, помогает ритейлерам управлять цепочкой поставок и избегать уценок. За последние 3 года искусственный интеллект в сфере ритейл принес компаниям дополнительный доход в размере 40 миллиардов долларов.

ИИ можно использовать и для защиты систем розничной торговли от кибератак. Нейросети помогают предотвратить утечку данных и другие возможные инциденты. Это актуально для сферы ритейла, так как именно там происходит больше взломов, чем в любой другой отрасли. За последние несколько лет 44% ритейл-представителей подверглись атакам программ-вымогателей, а объем подобных угроз вырос на 105%, достигнув 623 миллионов попыток.

Поскольку киберугрозы продолжают совершенствоваться, компаниям необходимо искать новые способы борьбы с ними. Однако сбор и анализ данных в режиме реального времени является дорогостоящей и сложной операцией, если не использовать искусственный интеллект. Так, организации могут обеспечить кибербезопасность, используя ИИ и автоматизируя рабочие процессы.

---

Читайте также: Молодые романтики или нарастающая киберугроза? Эксперты об актуальной ситуации в сегменте цифровой безопасности

---

Прогнозы в индустрии кибербезопасности по части искусственного интеллекта

В 2023 году мировой рынок искусственного интеллекта оценивается более чем в 136 миллиардов долларов. Ожидается, что в 2024 году сегмент ИИ вырастет как минимум на 120% по сравнению с текущим годом. Более того, в течение следующих 7 лет доля отрасли нейросетей увеличится в 13 раз. В России сфера AI также будет стремительно развиваться: по мнению экспертов, к 2030 году в стране будет обеспечен технологический суверенитет в области искусственного интеллекта. 

Нейросети станут альтернативой традиционным решениям кибербезопасности: увеличится точность защиты и скорость реагирования AI. Появится возможность обнаруживать сложные киберугрозы и предотвращать их в 2 раза быстрее, чем сейчас. Однако, ожидаются новые методы взлома и обхода алгоритмов ИИ. По этой причине, несмотря на развитие защитных систем, хакеры продолжат использовать современные технологии для разработки новых мошеннических схем.

В связи с ростом количества атак увеличится спрос на специалистов в области кибербезопасности и AI. Ожидается, что к 2025 году в сфере искусственного интеллекта будут работать 97 миллионов человек по всему миру, что почти в 15 раз больше, чем сейчас. По оценкам бизнес-аналитиков, к 2026 году объем рынка ИИ достигнет почти 300 миллиардов долларов, и это только в США. В России же сейчас эта цифра равняется 600 миллиардам рублей и в ближайшие годы будет только расти.

Искусственный интеллект производит революцию в области кибербезопасности, улучшая обнаружение, предотвращение и реагирование на киберугрозы. Поскольку нейросети продолжают развиваться, их интеграция в стратегии кибербезопасности будет иметь огромное значение для организаций, желающих быть на шаг впереди от хакеров.

Дмитрий Хомутов,
Директор компании Ideco.

Для New Retail