«ВКонтакте» запускает алгоритм, блокирующий суицидальные фото и «опасные» страницы

Социальная сеть «ВКонтакте» запустила собственный алгоритм, который идентифицирует картинки и фотографии по степени их «опасности» и «противоправности». Алгоритм распознает на изображениях, размещенных в Сети, объекты — людей, животных, растения. Запрещенный контент блокируется.

Нейросеть способна анализировать текстовые надписи на изображениях и распознавать символы, например, «групп смерти». Если фото признается «опасным», оно отправляется модераторам для проверки. Механизм направлен на борьбу со спамом, мошенничеством, детской порнографией, нелегальными услугами и другой противоправной деятельностью, сообщают «Известия».

Все записи, так или иначе связанные с суицидом, удаляются автоматически, а страницы их авторов блокируются.

Пока нейросеть анализирует только фотографии, выложенные в общий доступ. Картинки, отправляемые в личных сообщениях, анализу не подлежат.