Российская социальная сеть «ВКонтакте» в День народного единства 4 ноября 2020 года проводит эксперимент в целях борьбы с оскорблениями в комментариях. Как сообщает пресс-служба соцсети, тестируются две новых функции: фильтр враждебных высказываний и пользовательские рекомендации отказаться от оскорблений. Оба алгоритма работают на основе нейросетей. Похожий эксперимент проводился ровно год назад, 4 ноября 2019 года.
С помощью фильтра враждебных высказываний соцсеть удаляет комментарии, содержащие угрозы убийства и обещания вреда здоровью. У администраторов сообществ появилась возможность видеть такие комментарии в отдельном списке и при необходимости отправлять их авторов в «черный список». Фильтр можно включать или выключать в любой момент.
Также «ВКонтакте» выводит сообщение авторам комментариев, если в них есть признаки оскорблений. Пользователя призывают не тратить время на агрессию и отказаться от обидной реплики. Враждебные высказывания определяются на почве религиозной принадлежности, возраста, пола и других характеристик. Другим пользователям сообществ предоставлена возможность пожаловаться на автора «враждебных высказываний» модераторам.
В прошлом году благодаря эксперименту соцсети удалось снизить суточное число оскорблений, распознанных в комментариях, на 36%. После 4 ноября 2019 проводился долгосрочный тест, рассчитанный на часть аудитории. По результатам серии экспериментов соцсеть «ВКонтакте» намерена принять решение о дальнейшем использовании функции.
Около года назад о запуске аналогичного инструмента заявляла сеть микроблогов Twitter. Ее фильтры позволяют определять и блокировать оскорбляющие сообщения и спам в Direct Messages.
В Facebook действует система блокировок доступа к соцсети за оскорбления, в том числе направленные на широкие социальные группы. Меры предпринимаются вручную на основании жалоб, поступающих от пользователей соцсети.