Блог Новости Запрещенный контент Вконтакте: новинки по выявлению опасных записей

Запрещенный контент Вконтакте: новинки по выявлению опасных записей

31.03.2017
Запрещенный контент Вконтакте: новинки по выявлению опасных записей

ВКонтакте уже давно разрабатывает систему, которая будет самостоятельно вычислять запрещенный контент. В социальной сети всегда были правила о запрете на размещения определенного рода информации, но контролировать это стало особенно важно, учитывая последние законы об экстремизме и тюремных сроках за лайки и репосты, а также ситуацию с “группами смерти”.

С 24 мая ВКонтакте начала использовать уникальный алгоритм, который будет находить запрещенные материалы – фотографии, надписи, хештеги. Это поможет выявить экстремистские, суицидальные записи, порнографию и другой нелегальный контент.

ВКонтакте – запрет в Правилах пользования

Большинство пользователей ставят галочки напротив согласия с Правилами пользования, даже не вникая в их смысл. Но на самом деле там есть множество тонкостей, пунктов, и если их не придерживаться, то последствия могут быть довольно серьезными. Особенно, это касается жителей России, где сейчас действуют законы о “лайках и репостах”.

Не только сама социальная сеть ВКонтакте может блокировать и регулировать деятельность пользователей. Многие законы на государственном уровне запрещают высказываться об определенных вещах. При чем касается это как публичных заявлений (постов на “стене” или в группах), так и переписки с другими пользователями. Несмотря на то, что многие владельцы собственной страницы ВК считают личную переписку неприкосновенной, она принадлежит компании ВКонтакте и может быть выдана правохранителям.

Читайте также интересную статью о том, как обойти блокировку ВК в Украине.

zapreshhennyj-kontent-vkontakte-novinki-po-vyyavleniyu-opasnyx-zapisej

Основные запреты в социальной сети (материалы и информация):

  • Распространение наркотических веществ.
  • Призывы к суициду, рассказы о способах самоубийства.
  • Материалы, содержащие детскую порнографию (тексты, фотографии, рисунки).
  • Призывы, тексты, фото бесчеловечного обращения с животными.
  • Пропаганда или разжигание расовой, религиозной, этнической ненависти.
  • Материалы, которые содержат государственную или коммерческую тайну.
  • Призывы к массовым беспорядкам (революции, митингах, протестах).
  • Публичные оскорбления, угрозы других людей, чиновников, судей.
  • Распространение нелегальных услуг.
  • Ложные сведения о других людях.

Кроме этого, есть еще множество “нельзя”, которые описаны в соглашении. Многие пункты нарушаются, потому что пользователи не считают это запретом. Например, это касается указания неверного возраста или места работы у себя на странице, рассказом об личных отношения с другими людьми даже в личной переписке.

Алгоритм определения опасного и противоправного контента

Раньше большинство фейков, групп или страниц, которые содержали запрещенный контент, блокировались по “наводке” самих небезразличных пользователей. Программы ВКонтакте довольно редко самостоятельно выявляли такие материалы.

Но недавно была разработана новая нейросеть. Основная задача этого алгоритма – выявлять опасный контент, который запрещен законом и Пользовательским соглашением.

Нейросеть будет анализировать и сканировать изображения и объекты в них. Если там находится противоправный материал, то его сначала исключают из поисковой выдачи, а потом блокируют.

Всем материалам будет присваиваться класс угрозы. Самый первый будет автоматически удалять изображение, а пользователя, который его опубликовал, блокировать. Есть и “умеренно опасные”, которые отправляются на дополнительную проверку администраторам. Они и будут выяснять, стоит ли удалять запись.

Необходимость появления такого алгоритма связано с деятельностью группы “Синий кит”, которая призывает детей и подростков к самоубийству. В России эта ситуация уже имеет критические масштабы – погибло уже более 130 детей.

Именно для устранения “групп смерти” разработан отдельный сценарий. Программа распознает символы и картинки, которые ранее использовали в качестве призыва к суициду. Если пользователь опубликовал такое изображение, то нейросеть его увидит, запись блокируется, а администраторы узнают почему и с какой целью это было сделано.

Сеть также будет формировать и делать более совершенно новостную ленту пользователя. Подобная функция уже была введена в прошлом году, но сейчас она становится еще лучше. Теперь в ленте будет показываться популярные записи, посты друзей и сообщения из разных групп. Владелец страницы сможет выбирать по какому порядку будут появляться все новости.

Функции и польза от нейросети будет расширяться, чтобы сделать ВКонтакте максимально удобным и полезным для каждого человека.

0 комментарий
0
Вам также может понравиться

Оставить комментарий