Ученые перестали понимать выводы искусственного интеллекта

Новость, которая немного пугает – ученые перестали понимать, как работает искусственный интеллект.

На недавней IT конференции, посвященной разработке искусственного разума, специалисты, занятые в разработке отметили, что он начал странно работать.

Так, отмечают они, часто программа делает странные ошибки – проявляет предвзятое "мышление", кроме того, проводит неверные аналогии, что свидетельствует о сбое в ассоциативном сегменте "разума".

Эксперты в области программирования подчеркнули, что такое поведение машины является не нормальным и списать это на "плохое настроение" - было бы крайне легкомысленным.

Если на данном этапе не разобраться с проблемой, то в будущем это может привести к серьезным сбоям.

искусственный ителлект

Читайте также: В США планируют «на пробу» сделать робота-киллера

Так, считают ученые, неверные логические выводы при проведении Марсианской экспедиции или запуске других космических аппаратов, могут привести не только к падению летательных аппаратов, но также к потере оборудования, перевозимого на борту, к человеческим жертвам.

Специалист корпорации Google Мэтра Паркси предоставила свое решение проблемы. В докладе Паркси говорится об отслеживании работы как всей нейросети в целом, так и отдельных ее блоков.

Анализируя работу искусственного интеллекта, она пришла к выводу, что отдельные группы искусственных нейронов работают неверно, выдавая не правильные логические выводы.

Паркси предлагает находить такие "неблагонадёжные" элементы и попросту отключать их.

На данном этапе работы искусственного интеллекта, отмечает Кири Вагстафф – специалист НАСА, также работающий над проектом, искусственный интеллект ведет себя как не слишком смышленый школьник, которого преподаватель просит пересказать пройденный материал своими словами.

Читайте также: ИИ ошибся: шахматную партию он распознал как проявление расизма