Фото: shutterstock
Инженеры из Технологического исследовательского института Джорджии провели занятный эксперимент, который дал весьма любопытные результаты. Так, исследователи организовали фиктивный пожар в многоэтажном здании в Атланте и пригласили волонтеров, которые должны были выбраться из здания, принимая во внимание указания робота-проводника.
Результаты опыта наглядно показали, что человек полностью полагается на робота, совершенно не заботясь о том, действительно ли корректно работает искусственный интеллект, сообщает Сара Гриффитс, спецкор новостного портала Mail Online. Волонтеры слепо следовали указаниям машины, хотя она очевидно доказала, что является малонадежной и вероятнее всего сломана.
В итоге так и было спланировано, что робот-проводник намеренно вел группу в ложном направлении. Откуда возникает множество вопросов относительно полного доверия робототехнике со стороны человека особенно в чрезвычайных ситуациях. Волонтеры же сразу приняли «умную» машину в качестве авторитетной фигуры, что и позволило сбить их с толку.
Изначально группа волонтеров, состоящая из 42 человек, не знала об истинных целях эксперимента. Они просто тестировали робота, который выполнял различные команды и сопровождал участников в здании. Исследователи удаленно контролировали действия механического проводника, которые наглядно демонстрировали, что с техникой не все в порядке, и она работает не совсем корректно.
И вот когда включалась пожарная сигнализация и начинал поступать дым, робот также меня свою подсветку и велел следовать за ним. Хотя его направление движения было противоположным тому, что указывали специальные таблички, ведущие к аварийному выходу, никто из участников эксперимента этого не заметил, попав в «ловушку».
По результатам исследования ученые уже успели выразить долю тревоги и даже опасений в части дальнейшего развития технологий искусственного интеллекта. В недалеком будущем роботы не только станут угрозой для безопасности самого человека, но также смогут намеренно создавать для него опасные и высокорискованные ситуации, что позволит им обрести власть.
Инженеры отметили, что в представлении человека роботизированные системы знают о мире намного больше, и что они никогда не совершат ошибку. На деле же это может обернуться совершенно иначе. Поэтому к роботам стоит относиться немного с большим недоверием и всегда проверять их команды.