Facebook стал использовать машинное обучение для определения приоритетов записей в очереди, которые должны пройти модерацию.
Это должно ускорить работу по модерации публикаций и замедлить распространение вредоносного контента.
Для приоритезации публикаций используется комбинация различных алгоритмов машинного обучения, которые учитывают три критерия постов: их вирусность, серьезность и вероятность нарушения правил.
Пока неясно, как именно взвешиваются эти критерии, но Facebook заявляет, что цель состоит в том, чтобы в первую очередь разобраться с наиболее опасными сообщениями. Чем более вирусным является сообщение (чем больше его видят и публикуют), тем быстрее он будет обработан. То же самое и с серьезностью сообщения. Facebook заявляет, что считает самыми важными посты, которые связаны с реальным вредом (контент, связанный с терроризмом, эксплуатацией детей или членовредительством). Между тем сообщения, подобные спаму, которые раздражают, но не травмируют, считаются наименее важными для проверки.
Если раньше модераторы просматривали посты в хронологическом порядке, что могло замедлять время реагирования команды модераторов на публикацию более срочных записей, то теперь важные сообщения должны быть видны первыми.
Так выглядела старая система модерации Facebook, сочетающая упреждающую модерацию с помощью фильтров машинного обучения и реактивных отчетов от пользователей Facebook.
А это новый процесс модерации, который теперь использует машинное обучение для сортировки очереди сообщений для проверки модераторами-людьми:
Источник: The Verge
