Одноклассники начали обнаруживать и скрывать эротические изображения в ленте и комментариях. Внедрение обновления стало еще одним шагом, чтобы поддержать в соцсети комфортную среду.
Система автоматически размывает изображения и GIF-файлы, которые содержат эротику. Если пользователь хочет посмотреть картинку, он может кликнуть по ней.
Перед внедрением обновления Одноклассники провели опрос и выяснили, какой контент они считают эротикой не хотят видеть в соцсети. На основе примеров пользователей инженеры ОК обучили модели машинного обучения, чтобы те автоматически обнаруживали и размывали такой контент.
Всего ОК использовали более 6 млн файлов и разработали две ML-модели. Одна непосредственно сканирует картинку и определяет визуальное содержимое, другая относит контент к определённому типу, за счет чего он или размывается, или остаётся в первоначальном виде, – говорится в сообщении соцсети.
Также исследование помогло понять, какой контент можно показывать. Так, алгоритмы не затрагивают произведения искусства, фото спортсменов и пляжные снимки. Однако если пользователи посчитают какие-либо изображения неприемлемыми, они могут пожаловаться на них в интерфейсе соцсети или через обращение в службу поддержки.
Напомним, ранее Одноклассники увеличили объем оригинального контента в 1,5 раза.
Источник: пресс-релиз ОК
