ИИ ошибся: шахматную партию он распознал как проявление расизма

Курьёзный случай произошёл с каналом блогера-шахматиста из Хорватии Антонио Радичем. Система, которой пользуется YouTube для распознавания потенциально опасного контента, приняла "противостояние" чёрных и белых фигур на двухцветном шахматном поле за проявление расизма. В итоге абсолютно безопасный образовательный канал был заблокирован. Подробности – в материале Информ-UA.

Как оказалось, алгоритмы искусственного интеллекта оказались недостаточными для того, чтобы не оценивать обсуждение в сети борьбы "белых" с "чёрными" как угрозу.

Владелец канала Chess YouTuber Радич был весьма удивлён, получив уведомление, что его канал заблокирован за наличие на нём "вредоносного контента". Причины не назывались.

Только спустя сутки ютубер смог добиться разблокировки после обращения к администрации видео-платформы, сообщает издание Daily mail. В защиту канала, на который подписано более миллиона любителей шахмат, выступили и подписчики.

Выяснением причин блокировки, кроме представителей YouTube, занялись компьютерщики из университета Карнеги-Меллон. Они сопоставили ряд фактов и пришли к выводу, что закрытие канала произошло после того, как Радич во время онлайн-общения с самым молодым в США гроссмейстером  Хикару Накамурой употребил несколько раз словосочетания, касающиеся противостояния белых фигур и чёрных. Это и было расценено искусственным интеллектом как вероятный расистский заговор.

Читайте также: Компания Sony выпустила телевизоры с «когнитивным интеллектом»

Интересно, что при использовании ПО по моделированию, IT-специалисты выяснили, что именно на шахматных каналах ИИ обнаруживает около 80 процентов "разжигающих межнациональную вражду" комментариев.

После инцидента YouTube предложено "ознакомить" искусственный интеллект с шахматными терминами и изменить алгоритмы, чтобы в дальнейшем подобной путаницы не возникало. Инициаторы данных изменений отмечают, что в период пандемии к шахматам проявляется огромное внимание. Миллионы людей, которые вынужденно находятся на самоизоляции, проводят в онлайн-режиме турниры и соревнуются между собой. Поэтому шахматные каналы нужны, отметили они и предупредили шахматистов о возможных "претензиях" к ним от соцсетей по поводу "угроз" и "боёв" "чёрных" с "белыми".

Читайте также: В США планируют «на пробу» сделать робота-киллера