«ВКонтакте» тестирует нейросеть для борьбы с хейтспичем
Сейчас ИИ учится определять разные категории оскорблений и угроз
Социальная сеть «ВКонтакте» работает над искусственным интеллектом для автоматического распознавания материалов с враждебными высказываниями. Это позволит ускорить время обработки жалоб и помочь пользователям реже сталкиваться с хейтспичем.
Нейросеть учится определять самые разные категории оскорблений и угроз, в том числе проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также нетерпимости на почве религиозной принадлежности, возраста, внешности и здоровья. Для ускорения процесса обучения «ВКонтакте» добавила новую категорию жалоб — «Враждебные высказывания».
«Мы разделяем позицию наших пользователей и партнеров касательно языка вражды и прославления насилия. Модераторы "ВКонтакте" ежедневно обрабатывают огромный объем контента, в том числе с использованием искусственного интеллекта — большинство опасных материалов удаляются ещё до того, как их кто-то увидит. Если же вы заметили оскорбительную публикацию, пожалуйтесь на нее. С проявлениями нетерпимости эффективнее бороться вместе — и мы призываем пользователей присоединяться к нам в этой борьбе», — рассказал руководитель команды модерации «ВКонтакте» Иван Корнеев.
За первую половину текущего 2020 года в соцсети было удалено 520 000 единиц контента, связанного с разжиганием вражды и ненависти, а также заблокировано 1 340 профилей и 2 470 сообществ, распространяющих враждебные высказывания.
Подробнее о правилах модерации контента во «ВКонтакте» можно прочитать здесь.
Ранее «ВКонтакте» запустила мини-приложение для заказа еды. Оно работает на базе сервиса Delivery Club.