1. Если бы можно было загрузить свой мозг в компьютер, вы бы это сделали?

Представьте, что в будущем можно будет загрузить мозг в компьютер, создав полную цифровую копию своего сознания. Только эта новая версия умнее вас, и со временем у неё начинают накапливаться впечатления, которых реальный вы никогда не испытывали. Вы бы решились на такое? Почему? Будет ли эта цифровая копия всё ещё считаться вами? Несёте ли вы ответственность за решения, которые принимает ваша копия? Должно ли у нас быть право заводить отношения с чьей-то цифровой копией?

2. Должны ли родители иметь возможность редактировать гены своего ребёнка?

Если бы у вашего ребёнка обнаружили врождённый порок сердца, а для его спасения нужно было бы удалить определённый ген, что бы вы сделали? Большинство родителей, скорее всего, согласились бы.

А что, если можно сделать ребёнка более умным? Более красивым? Должно ли у родителей быть право выбрать сексуальную ориентацию ребёнка или его цвет кожи? А что, если бы это было доступно только богатым? Что, если бы все остальные родители решили «редактировать» своих детей, а вы — нет?

3. Должен ли беспилотный автомобиль убить пассажира, чтобы спасти пять пешеходов?

Представьте: вы едете в беспилотном автомобиле по дороге с двусторонним движением, как вдруг на проезжую часть выбегают пятеро детей. У машины есть три варианта: врезаться в детей, врезаться в автомобиль на встречной полосе или врезаться в дерево на обочине. В первом случае могут погибнуть пять человек, во втором — двое, в третьем — один. Как запрограммировать машину на такой случай? Она должна попытаться спасти пассажира или сохранить как можно больше жизней?

Готовы ли вы сесть в автомобиль, который может решить вас убить? Поехали бы вместе со своим ребёнком? Должны ли все беспилотники работать по одинаковым правилам или можно будет доплатить за машину, которая в первую очередь спасает пассажира?

4. Какие моральные ценности мы должны заложить в ИИ?

Представьте мир с умными роботами — машинами, во много раз превосходящими человека, — которые не отличают добро от зла, справедливость от несправедливости. Возникнет масса проблем. Но заложить в них моральные ценности ещё проблематичнее, ведь выбрать эти ценности должны мы, люди.

Каким ценностям отдать предпочтение? Кто должен решать, какие взгляды самые «правильные»? Должна ли каждая страна согласиться на определённый набор ценностей? И можно ли давать роботу способность поменять своё мнение?