Расизм беспилотников: ИИ плохо отличает темнокожих пешеходов

Все большее количество известных компаний мира заявляют о том, что они создадут собственный автомобиль, который сможет передвигаться по городу (и вне его) без помощи водителя, поскольку оснащен специальным искусственным интеллектом (ИИ). Но ученые обнаружили определенный недостаток в беспилотных автомобилях, который угрожает жизни людям, чья кожа довольно темна, передает "Информ-UA".

Научный прогресс не стоит на месте и технологии, за которыми ранее можно было наблюдать исключительно в фантастических фильмах, все чаще становятся реальностью. Одним из феноменов, о которых еще в прошлом веке даже не мог и подумать человек, является автомобиль, способный передвигаться без помощи человеческого вмешательства. Такие транспортные средства получили название беспилотники, а помогают им в соблюдении мер безопасности искусственный интеллект, который встроен в технику. Но как выяснилось, и в этом изобретении существуют определенные дыры.

Ученые доказали, что беспилотные автомобили обладают явной степенью расизма, но не потому, что человек, который создавал данный проект приложил руку к подобной нетерпимости, а ввиду определенных фактов. Выяснилось, что искусственный интеллект имеет проблемы с распознаванием людей, у которых темный цвет кожи. Согласно исследованию, опубликованному на сайте, где имеется полный архив научных материалов по разным направлениям науки (физика, экономика, информатика, биология и тому подобное) - arxiv.org - беспилотные авто плохо отличают людей с темной кожей.

Читати далі: Появился шанс спасти умирающий вид северного белого носорога

Отмечается, что прежде, чем беспилотные авто появились в городах, их систему подвергали обучению, демонстрируя разные объекты и субъекты, объясняя суть модели поведения машины на дороге в этот момент. ИИ научился распознавать пешеходов с разным цветом кожей - от самой светлой и до самой темной. Примечательно то, что именно пешеходов с темной кожей ИИ как раз таки и сложно идентифицировать, поскольку в момент распознавания случались проблемы.

Исследователи подчеркивают, что это необходимо крайне срочно решать, поскольку беспилотные автомобили, которые в будущем могут массово появиться на дорогах, будут практически неспособны распознавать темнокожее население, а значит - несут прямую угрозу их жизни. Ученые уверяют, что данную проблему решить вполне возможно, просто во время обучения ИИ нужно больше задействовать фотоснимки темнокожих людей, дабы ИИ тренировался в точности идентификации людей. 

Ранее о данной проблеме беспилотников говорили ученые из Стэнфордского университета (США), поскольку согласно их исследованию, машины допускали ошибки в определении темнокожих людей в 20-35 процентах случаев в зависимости от темноты оттенка кожи человека.

Читати далі: Учёные изобрели пластырь для эффективного лечения меланомы