В ходе эксперимента Moral Machine были собраны мнения 2,3 млн людей из 233 стран о том, какими моральными принципами должны руководствоваться самоуправляемые автомобили в аварийных ситуациях, когда человеческих жертв избежать невозможно и нужно выбрать меньшее из зол. Респонденты из разных стран разошлись во мнениях по многим пунктам, и исследование показало, что разработать универсальный «моральный закон» для самоуправляемых машин будет непросто.
// elementy.ru
Как показывают круговые диаграммы на рис. 3, для трех кластеров характерны очень разные представления о том, как должны вести себя беспилотные машины в критических ситуациях. Например, в Южном кластере преобладают идеи о необходимости спасать прежде всего детей и женщин, тогда как жители Восточного кластера отдают предпочтение законопослушным пешеходам и не ставят жизнь молодых намного выше жизни старших.
Эти результаты подчеркивают то, что уже давно известно специалистам по изучению человеческой морали: этические установки, принятые в разных странах и регионах, далеко не универсальны. Поэтому разработать единый «моральный закон» для управляемых искусственным интеллектом машин будет очень непросто.
Авторы обнаружили несколько интересных корреляций, проливающих свет на возможные причины выявленных различий между странами (рис. 4). Например, преобладание в стране индивидуалистских установок (что предполагает высокую ценность индивидуальной человеческой жизни) соотносится с тем, что люди придают большое значение числу потенциальных жертв аварии и считают, что беспилотный автомобиль обязательно должен минимизировать это число. Жители стран с сильными коллективистскими установками спокойнее относятся к числу жертв аварии. Кроме того, для «коллективистов» характерно почтительное отношение к старшим. Может быть, поэтому у них слабее выражена склонность к преимущественному спасению детей (рис. 4, а).
a — склонность спасать большие группы людей, жертвуя меньшими, положительно коррелирует с индивидуализмом (в странах с сильными коллективистскими традициями этот фактор менее значим); на врезке: индивидуализм положительно коррелирует с идеей о важности спасения детей (коллективистским странам более свойственна забота о старших). b — идея о том, что безопасность людей, соблюдающих правила, должна стоять выше безопасности нарушителей, более характерна для богатых и законопослушных стран, чем для бедных и беззаконных.
c — положительная корреляция между тем, насколько сильно страна отличается от США по своей морали (согласно данным Всемирного обзора ценностей), и тем, насколько сильно та же страна отличается от США по результатам опроса Moral Machine (это аргумент в пользу осмысленности и неслучайности результатов Moral Machine). d — уровень экономического неравенства (коэффициент Джини) положительно коррелирует с тенденцией отдавать предпочтение высокостатусным людям (спасать начальников, жертвовать бездомными). e — слабая положительная корреляция между тенденцией спасать преимущественно женщин и тем, насколько хорошо живется женщинам по сравнению с мужчинами (это оценивалось по тому, насколько ожидаемая продолжительность жизни женщин выше, чем у мужчин, и по соотношению полов у новорожденных, смещение которого в пользу мальчиков указывает на инфантицид девочек или избирательные аборты).
Значение, придаваемое соблюдению правил (то есть склонность спасать прежде всего тех, кто переходит дорогу на зеленый свет, а не на красный), положительно коррелирует, во-первых, с богатством страны (ВВП на душу населения), во-вторых, с уровнем законности или «верховенства права» (см. Rule of law) (рис. 4, b). Иными словами, люди, привыкшие к бедности и плохой работе социальных институтов, склонны смотреть сквозь пальцы на нарушение правил и не придавать этому большого значения при решении вопросов жизни и смерти.
Авторы также заметили, что в странах с высоким уровнем экономического неравенства (см. Коэффициент Джини) сильнее выражена склонность в аварийной ситуации отдавать предпочтение спасению людей с высоким статусом (рис. 4, d). Может быть, это связано с тем, что жители стран, сумевших добиться более равного распределения благ между людьми, выше ценят равенство прав и поэтому не считают, что задавить бездомного — это лучше, чем задавить начальника.
Данное исследование беспрецедентно по своим масштабам, но при этом у него есть вполне очевидные недостатки. Изученные выборки не обязательно являются репрезентативными. Например, вовсе не факт, что ответы нескольких сотен жителей какой-нибудь африканской страны, принявших участие в опросе, адекватно отражают типичные для данной страны моральные предпочтения. Впрочем, собрать и обработать такой же объем данных по сотням стран, соблюдая все требования, предъявляемые к репрезентативности выборок, попросту невозможно. Кроме того, тот факт, что полученные результаты хорошо согласуются с данными Всемирного обзора ценностей и разумным образом коррелируют с социо-экономическими показателями (рис. 4), свидетельствует в пользу осмысленности и значимости этих результатов.
В работе использовались грубые упрощения, что в какой-то мере ограничивает практическую применимость полученных выводов. Например, во всех моральных дилеммах было точно известно, кто есть кто (про мальчиков было точно известно, что они мальчики, а про толстяков — что они толстяки). Результат любого решения тоже был известен заранее со стопроцентной точностью (одна группа персонажей точно умрет, другая точно выживет).
...
Всё это авторы прекрасно понимают. Они подчеркивают, что их результаты не являются истиной в последней инстанции, и предлагают относиться к ним как к началу широкой международной дискуссии.