Кто будет умирать от автопилота: пешеходы vs владельцы

Автопилот станет действовать так, как его запрограммируют разработчики. А программисты, надо думать, будут руководствоваться этическими нормами, господствующими в человеческом обществе. Только как бы их поточнее определить?

В 2014 году медиалаборатория Массачусетского технологического института запустила проект Moral Machine, выложив в интернет серию картинок с дорожными ситуациями, в которых у беспилотного автомобиля отказывают тормоза.

Всем желающим надо было решить, в кого или во что предпочтительнее врезаться машине, то есть выбрать, так сказать, меньшее из зол.

Предлагалось девять основных альтернатив: между гибелью пешеходов и пассажиров машины, людей и животных, молодых и пожилых, мужчин и женщин, стройных и тучных и т. п. Было получено почти 40 млн ответов от 2,3 млн человек из двух сотен стран.

 

Выяснилось, в частности, что при прочих равных условиях люди (в среднем по миру) склонны щадить скорее молодых, нежели пожилых; скорее пешеходов, нежели пассажиров автомобиля; скорее группы, нежели одиночек. Применительно к нашему случаю это означает, что если бы автопилот был запрограммирован в соответствии с результатами опроса, то он угробил бы хозяина машины о столб, а пионеры были бы спасены (кстати, это не просто игра воображения: в России пионеры существуют до сих пор). С еще большей вероятностью были бы спасены пионерки, поскольку девочек щадят чаще (они вторые после детских колясок). Речь идет именно о вероятности, поскольку в реальности подобные ситуации могут включать множество нюансов и не предполагают однозначных ответов.

Что, если, например, наперерез трем пионерам, один из которых с коляской, в машине мчатся четыре толстых пионерки? Но мы не будем решать сейчас эту задачу. Заметим только, что выбор жертв зависит от «культурного типа» страны, которых просматривается, судя по опросу, три. Возможно, придется разрабатывать беспилотники с региональными разновидностями моральных устоев.

Вместе с тем выявились и территории с родственными душами. Они сходно отвечают на вопрос о том, чья жизнь ценнее. У России тоже есть «страна-близнец», с которой она во всех девяти тестах совпадает по результатам почти до процента. Это Украина.