Искусственный интеллект займётся модерацией контента в Facebook

Социальная сеть Facebook представила абсолютно новую систему модерации содержания выставляемых пользователями постов, основанную на возможностях искусственного интеллекта (ИИ). Подробности – в материале Информ-UA.

Новый метод, как сообщили в компании Facebook, пока проходит тестирование. Если он окажется действенным, более всего опасные и  травмирующие людей посты будут моментально автоматически удаляться.

Как пишет издание "Хайтек", все публикации, нарушающие правила соцсети, а это – размещение спама, материалов, разжигающих ненависть или пропагандирующих насилие, будут вычисляться искусственным разумом по  заданным алгоритмам. Те публикации, в которых ИИ будет сомневаться, будут отправляться на просмотр модераторам Facebook. По всему миру их в данное время работает более 15 тысяч человек.

Несмотря на столь большой и профессионально подготовленный штат, в адрес модераторов со стороны пользователей и ряда СМИ поступала критика и жалобы,

Читайте также: Facebook разрабатывает собственную ОС  и VR-очки

Ранее сотрудники Facebook просматривали размещаемые пользователями посты по факту их публикации. Этот подход в компании решили изменить, чтобы на рассмотрение сначала попадали публикации с наибольшим охватом.  Специально разработанная программа на базе ИИ будет отбирать посты по ряду заданных критериев. В первую очередь, оценивать вирусность материалов, а потом – вероятность нарушения правил соцсети.

Отмечено, что новый метод проверки контента позволит удалять "вредные" для пользователей материалы, а сомнительные, потенциально опасные – помечать для первостепенного рассмотрения модераторами.

Это ускорит процесс удаления контента, в котором так или иначе есть призывы к террористической деятельности, эксплуатации детей или другими проявлениями какого-либо насилия. Спам будет рассматриваться в последнюю очередь, так как подобные посты раздражают пользователей, но не несут реальной опасности для психики людей.

В целом, отметили в Facebook, алгоритмы, прописанные для ИИ, позволяют системе эффективно оценить любой пост  - текстовой или иллюстрированный, и даже содержание видеоматериалов.

Читайте также: «Разозлит многих»: Цукерберг рассказал о новшествах в Facebook