Должен ли самоходный автомобиль убить пешехода или пассажира?
Исследователи разрабатывают эксперимент, чтобы собрать человеческий взгляд на моральные решения, принятые искусственным интеллектом. Они проанализировали миллионы человеческих откликов и показали, насколько этика варьируется в разных культурах.
Мы вступаем в эпоху, когда машинам поручено не только минимизировать ущерб, но и распределить ущерб, который они не могут устранить. Распределение ущерба (а также благосостояния, которое создает машина) обычно создает компромиссы, решение которых попадает в сферу морали.
Рассмотрим ситуацию, когда автономный автомобиль вот-вот рухнет и не сможет оценить путь, который спас бы всех. В таких случаях транспортные средства должны будут решить, как справедливо распределить риск повреждения между разными людьми на дороге. Эти моральные дилеммы не могут быть решены никаким законом робототехники или человеческими этическими принципами.
В 2014 году исследователи Массачусетского технологического института разработали эксперимент под названием «Моральная машина», чтобы собрать человеческий взгляд на моральные решения, принимаемые машинами, оснащенными ИИ, такими как автомобили с автоматическим управлением. На данный момент эксперимент получил более 40 миллионов ответов со всего мира. Это дает ценную информацию о коллективных этических приоритетах различных культур.
«Моральная машина» тестирует 13 различных сценариев, в которых люди решают, какое транспортное средство с самостоятельным управлением должно быть приоритетным:
- Больше жизней над меньшее
- Мужчины над женщинами
- люди над домашними животными
- молодые над старыми
- более высокий социальный статус над более низким
- здоровый над нездоровый
- последователь закона над нарушителем закона
Исследователи проанализировали все ответы и выявили, как человеческая этика варьируется в зависимости от географического положения, экономики и культуры.
Они обнаружили, что разные страны имеют разные предпочтения. Например, люди из коллективистских культур, таких как Япония и Китай, с большей вероятностью будут щадить старое над молодым. Принимая во внимание, что страны с более индивидуалистическими культурами с меньшей вероятностью пощадят старое.
Точно так же люди из индивидуалистических культур, таких как США и Великобритания, стремятся сохранить больше жизней, учитывая все другие варианты. Жители развивающихся стран с более слабыми институтами более терпимо относятся к пешеходам, переходящим проезжую часть в неположенном месте, чем пешеходы, переходящие дорогу на законных основаниях.
Предпочтение, отдаваемое более высоким статусным символам, гораздо менее выражено для восточных стран (Япония, Тайвань, Саудовская Аравия, Индонезия) и гораздо выше для южных стран (Центральная и Южная Америка, Франция).
Западные и восточные страны демонстрируют гораздо большее предпочтение щадить людей перед домашними животными, чем южные страны.
Ограничения
Несмотря на большой размер выборки, исследование имеет многочисленные ограничения. Например, исследователи не учитывали неопределенность в отношении судьбы персонажей. Все персонажи были признаны детьми и взрослыми со стопроцентной достоверностью, а результаты их жизни и смерти оценены со стопроцентной достоверностью.
Они также не вводили гипотетический фактор отношений (например, супруги и родственники) между респондентами и персонажами. Хотя эти предположения были совершенно нереалистичны, они были необходимы для обеспечения возможности эксперимента.
Возможно, мы не достигнем всеобщего согласия, но эти результаты могут быть использованы техническими компаниями и производителями автомобилей, чтобы лучше понять, как общественность будет реагировать на этику различных дизайнерских и политических решений.
Источник: