В РФ хотят ограничить ИИ-манипуляции с потребительским поведением

Как пишут «Известия», имеется в виду ситуации, когда программы, анализируя активность человека в сети, побуждают его к определенным действиям, в частности к совершению покупок, без его осознанного желания.

Согласно представленному документу, разработчики и интеграторы систем ИИ должны будут информировать потребителей о недопустимости манипулирования их поведением с использованием таких технологий. Это касается случаев, когда платформы учитывают психологические, возрастные или социально-экономические характеристики людей для оказания на них воздействия.

Эксперты, на которых ссылается издание, указывают, что ответственность за предотвращение такого рода манипуляций будет возложена на создателей и операторов сервисов. Они обязаны гарантировать, что алгоритмы не будут подталкивать пользователей к решениям, которые они не приняли бы при отсутствии скрытого давления.

По мнению специалистов, современные ИИ-системы способны существенно усиливать воздействие цифровых сервисов. Анализируя огромные объемы данных, алгоритмы формируют персонализированные рекомендации, повышая вероятность желаемого для сервиса отклика.

Подобные методы активно применяются в рекламной индустрии, рекомендательных системах, онлайн-торговле и диалоговых ботах. Например, сервисы могут подбирать контент или элементы интерфейса таким образом, чтобы создать у пользователя ощущение срочности или вызвать доверие.

Часть опрошенных экспертов полагает, что полная блокировка манипуляций через нейросети будет затруднительной. Поведение ИИ зависит от используемых моделей и контекста взаимодействия, а количество возможных сценариев практически неограниченно, что затрудняет предвидение всех потенциальных уловок.

Кроме того, чрезмерно строгие нормы регулирования могут негативно сказаться и на функциях, выполняемых рекомендательными алгоритмами. Эти системы, напротив, помогают пользователям ориентироваться в большом объеме информации, облегчая поиск нужных товаров или услуг.

В Минцифры пояснили, что законопроект находится на этапе согласования с другими ведомствами, и окончательный текст документа еще не утвержден. В ведомстве подчеркивают, что развитие ИИ остается приоритетом, однако его применение должно соответствовать интересам и правам граждан.

Ранее сообщалось, что на сегодня уже 35% интернет-покупателей в РФ используют ИИ при выборе и покупке товаров. Ожидается, что в среднесрочной перспективе доля покупателей, использующих формат ИИ-покупок, может вырасти до 74%.

***

Больше новостей и возможность поделиться своим мнением в комментариях в наших каналах в Telegram и MAX.

И подписывайтесь на итоговую рассылку самых важных новостей.

New Retail