Гомункул или эмоции как фактор риска

Amazon Rekognition – это софт, который позволяет распознавать человека. Только Амазон его выпустил в свет и тут началось что-то невероятное, – оказалось, что распознаёт он всё не так, ошибок много, особенно из-за расовых, национальных различий и культурных особенностей.
 
К примеру, россияне мало улыбаются, но это не значит, что мы в этот момент полны грусти, просто, не скалим зубы, а на душе светло и весело.

Так вот этот Rekognition, натренировавшись на белых американцах, стал косячить на неграх и латиносах. Ну, кому это понравится в Америке? И совсем не ко времени Amazon пришло в голову запродать эту систему в полицию, а это уже совсем другого рода проблемы и ответственность.



Всё это в совокупности приводит к пониманию необходимости регулирования этого направления технологий. Одно дело, когда вам не тот йогурт продали в магазине из-за того, что вас неверно распознали, и совсем другое, что вы попадёте в поле зрения полиции в качестве подозреваемого.
 
Систем, которые хитрым глазом присматривают за населением, становится всё больше, все пошумели про Китай и совсем не обращают внимание на такие же примеры у себя под боком.

К примеру, Европейский союз планирует опробовать свою электронную границу iBorderCtr, которая будет проверять подозрительных туристов, а попросту нелегальных иммигрантов в Венгрии, Латвии и Греции. Для этого она будет анализировать 38 микродвижений лица. Вот моргнёшь где-нибудь неловко в Латвии и горячий привет  от полиции.

Президент Microsoft Бред Смит отметил, что распознавание лиц — это скользкий путь к тоталитаризму. Он также отмечает, что правительство может при помощи распознавания за вами следить и анализировать круглосуточно, а магазины или сервисы, их обслуживающие, в свою очередь, делятся между собой информацией о том, какую полку вы разглядывали, каким товаром заинтересовались. И всё это уже далеко не фантастика.

К чему призывают участники рынка?

Они хотят внести предложение закрепить на законодательном уровне возможные погрешности в распознавании лиц и обязательные стандарты при распознавании, чтобы избежать проблем с нарушением прав личности каждого конкретного человека.

Интересно, каким образом эта проблема будет решена? Сейчас нет ответа на этот вопрос.

Насколько глубоко эта технология вспашет наш образ жизни и не заставит ли нас уйти в ментальную иммиграцию, где мы будем вынуждены контролировать каждое микродвижение лица? Представьте, вы едете в метро и все люди сидят и стоят с каменными лицами, чтобы не выдать тотальному видеонаблюдению свой внутренний мир, который, по определению, есть часть свободной жизни.
 
Пока всё говорит о том, что даже по косвенным признакам технология может понять, о чём человек думает, поэтому найти убежище будет крайне непросто.

Вполне возможно, что тотальный контроль при помощи Amazon Rekognition и подобных ему технологий задаст новые стандарты поведения, которым люди будут вынуждены следовать.

Вполне, возможно, что мы сейчас находимся на стадии формирования новых условий, а эти условия сформируют нового гомункула*.

Может стоить принять участие в формировании этого стандарта нового человека или в ограничении систем распознавания, пока не поздно?

*Гому́нкул, гому́нкулус (лат. homunculus – человечек) – в представлении средневековых алхимиков, существо, подобное человеку, которое можно получить искусственным путём.

Если вас интересует больше информации по облачным вычислениям и другим инновациям в ритейле, о там, как её получить можно узнать здесь.  

Автор Борис Агатов, Независимый эксперт по внедрению инноваций в ритейле, автор концепции «Магазин 4.0».

От автора: «Провожу корпоративные семинары по теме: «Как открыть Магазин 4.0 без ошибок». Создаю стратегию магазина 4.0, консультирую, помогаю разобраться в новых технологиях для ритейла, сравнить аналоги и выбрать оптимальный вариант для вашего бизнеса и дать новый импульс развития вашей компании при помощи новых технологий.


Связывайтесь через Facebook.