Новость, которая немного пугает – ученые перестали понимать, как работает искусственный интеллект.

На недавней IT конференции, посвященной разработке искусственного разума, специалисты, занятые в разработке отметили, что он начал странно работать.

Так, отмечают они, часто программа делает странные ошибки – проявляет предвзятое «мышление», кроме того, проводит неверные аналогии, что свидетельствует о сбое в ассоциативном сегменте «разума».

Эксперты в области программирования подчеркнули, что такое поведение машины является не нормальным и списать это на «плохое настроение» - было бы крайне легкомысленным.

Если на данном этапе не разобраться с проблемой, то в будущем это может привести к серьезным сбоям.

Читайте также: Инженеры Google отказываются работать над созданием беспилотников-убийц

Так, считают ученые, неверные логические выводы при проведении Марсианской экспедиции или запуске других космических аппаратов, могут привести не только к падению летательных аппаратов, но также к потере оборудования, перевозимого на борту, к человеческим жертвам.

Специалист корпорации Google Мэтра Паркси предоставила свое решение проблемы. В докладе Паркси говорится об отслеживании работы как всей нейросети в целом, так и отдельных ее блоков.

Анализируя работу искусственного интеллекта, она пришла к выводу, что отдельные группы искусственных нейронов работают неверно, выдавая не правильные логические выводы.

Паркси предлагает находить такие «неблагонадёжные» элементы и попросту отключать их.

На данном этапе работы искусственного интеллекта, отмечает Кири Вагстафф – специалист НАСА, также работающий над проектом, искусственный интеллект ведет себя как не слишком смышленый школьник, которого преподаватель просит пересказать пройденный материал своими словами.