По мере того, как такие машины, как дроны и автомобили, становятся все более независимыми от своих операторов-людей, они все чаще сталкиваются с моральными дилеммами. Смогут ли они отличить правильное от неправильного?
Что нового?
По мере того, как машины становятся все более автономными от людей, например, самоуправляемые дроны или самоуправляемые транспортные средства (которые получили водительские права в Неваде), они столкнутся с моральными дилеммами. «Должен ли дрон стрелять по дому, в котором, как известно, прячется цель, в которой также могут укрываться гражданские лица? Должен ли беспилотный автомобиль сворачивать, чтобы объехать пешеходов, если это означает столкновение с другими транспортными средствами или опасность для пассажиров?» Такие группы, как Международный комитет по контролю за роботизированным оружием, сформировались против военных дронов, но в целом автономные машины приносят больше пользы, чем вреда.
В чем основная идея?
Человеческая правовая система, которая зависит от таких понятий, как агентство и ответственность, должна определить, кто виноват, если автономная машина причинит вред. Дизайнер, программист, производитель или оператор? В тех случаях, когда присутствуют моральные дилеммы, машины должны быть запрограммированы на принятие решений, которые согласуются с моральными суждениями большинства людей. «Чем раньше будут даны ответы на вопросы моральной свободы действий [автономных машин], тем легче человечеству будет пользоваться благами, которые они, несомненно, принесут».