«ВКонтакте» начала работать над искусственным интеллектом для автоматического распознавания материалов с хейтспичем — враждебными высказываниями. Об этом сообщает пресс-служба социальной сети.

Технология ускорит обработку жалоб и поможет пользователям реже сталкиваться с проявлениями нетерпимости. Нейросеть будет находить публикации, которые провоцируют аудиторию проявлять агрессию. Алгоритм учится определять различные категории оскорблений и угроз — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.

Для улучшения модерации команда «ВКонтакте» ввела новую категорию жалоб — «Враждебные высказывания». Пользователь может выбрать ее, если нажмет кнопку «Пожаловаться» у оскорбительной публикации. Эта функция поможет обучить ИИ справляться с негативным контентом.