ОК начала автоматически выявлять и скрывать эротические изображения

Если пользователь захочет посмотреть скрытое изображение или GIF-файл, он может кликнуть по нему либо проигнорировать и пропустить. Чтобы лучше выявлять и ограничивать такой контент, ОК провела исследование среди пользователей и выяснила, что именно они считают эротикой, которую не хотят видеть.

Так, было предложено оценить, насколько изображения откровенны и неприемлемы, и выразить своё желание или нежелание сталкиваться с ними в соцсети.

На примерах, которые респонденты посчитали нежелательным, инженеры ОК обучили модели машинного обучения, чтобы те автоматически обнаруживали и размывали такой контент.

Всего ОК использовала более 6 млн файлов и разработали две ML-модели. Одна непосредственно сканирует картинку и определяет визуальное содержимое, другая относит контент к определённому типу, за счёт чего он или размывается, или остаётся в первоначальном виде.

Помимо скрываемого контента ОК по результатам исследования определила, какие категории изображений можно показывать пользователям соцсети. Например, обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей.

Читайте также:

hh.ru открывает доступ всем пользователям к новой социальной сети


***

Самые интересные новости читайте в нашей группе в  VKontakte, а также на канале в ДЗЕН.

Больше новостей и возможность поделиться своим мнением в комментариях на нашем канале в Telegram.

И подписывайтесь на итоговую рассылку самых важных новостей.

New Retail