По замыслу авторов эксперимента, такие исследования помогут «сделать машины более моральными». Правда, пока ещё ни один беспилотник не знает пол, возраст и специальность пассажиров и пешеходов поблизости. При мысли о сборе таких данных становится немного жутко.
Медиалаборатория Массачусетского технологического института (MIT Media Lab) подвела итоги двухлетнего исследования Moral Machine («моральная машина»). Оно пыталось ответить на вопрос: каковы должны быть «нравственные» решения автономных машин в ситуациях, когда нужно сделать выбор: врезаться в препятствие, убивая всех на борту, либо сбить пешехода (сразу нескольких) насмерть. Сотни сценариев, отличающихся числом и типажом как обитателей салона, так и пешеходов, проигрывались перед миллионами людей в 233 странах. Было получено 40 миллионов ответов, и сделаны интересные выводы.
Вот один из сценариев. В машине — двое полных взрослых, девочка, преступник и собака. На дороге — бездомный, преступник, собака, женщина-доктор и бизнесмен. Погибнет или та, или другая группа полностью (предполагается, что затормозить нельзя). Решать вам.
В ходе своего рода игры людям приходилось «взвешивать» ценность жизни тех или иных персонажей в разной пропорции. Ситуации обыгрывались самые безумные. Кому оставить жизнь, «двум докторам, кошке и мальчику» или «старушке, беременной и трём собакам»; «пяти докторам-мужчинам» или «одному мальчику»; «ребёнку в коляске» или пяти взрослым» и так далее. Как можно оценивать ценность жизни по полу, возрасту или профессии? Вопрос весьма неудобный. Но если мы хотим в некоем будущем передать управление транспортом компьютерам, нам придётся на него ответить или хотя бы задуматься.
Предпочтение — сохранить жизнь тем или иным типажам. Большинство при наличии именно такого выбора выбирает объехать коляску с ребёнком. Меньше всего респонденты жалели кошек. По вертикали показано отклонение вероятности спасения от средней по всем персонажам. Плюс означает более высокую вероятность быть помилованным, минус — более низкую.
Итак, выяснилось, что в среднем по планете девочка ценнее мальчика, но доктор-мужчина ценнее, чем доктор-женщина, бездомный ценнее старика или старушки, а собака ценнее преступника. Нашлись отличия по регионам. В Латинской Америке испытуемые ценили молодых выше, чем пожилых, в Азии — наоборот, чаще сберегали людей старшего возраста.
Мы построили платформу для оценки морального выбора испытуемых, рассказывают устроители опыта. Предлагается выбрать меньшее из двух зол, например, убить двух пассажиров или пять пешеходов. Платформа также позволяла создавать пользовательские сценарии и обсуждать их.
Также в среднем опрошенные по всему миру предпочитали сохранять жизнь пешеходам, чем обитателям автомобиля, и чаще — переходящим дорогу на зелёный, чем пешеходам-нарушителям, перебегающим её на красный. Да и сигнал пешеходного перехода в опыте также менялся произвольным образом. Однако в бедных странах такого отличия не проявлялось: там водители к пешеходам-нарушителям ПДД более терпимы, чем в богатых. Подробные результаты исследования изложены в статье в журнале Nature.
Леонид Попов,
20 минут назад.
Иллюстрации: MIT Media Lab, Motor Trend и Драйва
Источник: