Найти

24.03.2017

"ВКонтакте" начала узнавать суицидальный контент на фотографиях с помощью нейросети

Источник: Українські новини

Во "ВКонтакте" разработали алгоритм для определения противоправного или "опасного" контента на фотографиях. Нейросеть распознает объекты на картинках, которые в итоге исключаются из поисковой выдачи и "умной" новостной ленты или полностью блокируются. Об этом сообщает газета "Известия" со ссылкой на представителей компании.

Нейросеть определяет изображенные предметы и сущности, в том числе человека, ребенка, животное, растение, предметы одежды и символы "групп смерти". Как утверждается, записи и фото с суицидальным контентом удаляются автоматически, а страницы авторов блокируются.

Нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям — от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как "опасное", оно отправляется модераторам для проверки. Если же фото признано "умеренно опасным", оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет.

Представители "ВКонтакте" пояснили, что алгоритм тестируют на анализ текстовых записей на изображениях. По его их, нейросеть обучили на основе жалоб пользователей.

Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются.

 

Новости раздела