如果人工智能系统必须做出独立的决定，而这些决定对人类来说可能意味着生死，会发生什么？

长期以来，流行文化描绘了我们对人工智能的普遍不信任。在2004年的科幻电影《我，机器人》中，德尔史普纳在一次车祸中被人救起后，对机器人产生了怀疑，一名12岁的女孩溺水身亡。他说：我是顺理成章的选择。它计算出我有45%的生存机会。莎拉有11%的机会。那是某人的孩子。11%已经足够了。人们会知道这一点。

与人类不同，机器人缺乏道德良知，遵循编入其中的道德。同时，人类的道德是高度多变的。在任何情况下，正确的做法取决于你问谁。

为了让机器帮助我们充分发挥它们的潜力，我们需要确保它们的行为符合道德标准。那么问题就变成了：AI开发者和工程师的道德如何影响AI的决策？

自动驾驶的未来

想象一下全自动自动驾驶汽车的未来。如果一切按预期进行，早上通勤将是一个机会，为那天的会议做准备，学习新闻或坐下来放松。

但是如果出了问题怎么办？汽车接近红绿灯，但突然刹车失灵，电脑不得不在瞬间做出决定。它可以突然转向附近的电线杆，杀死乘客，也可以继续前进，杀死前面的行人。

控制汽车的计算机只能访问汽车传感器收集的有限信息，必须根据这些信息做出决策。虽然看起来很戏剧性，但我们离面临这样的困境只有几年的时间了。

自动驾驶汽车通常提供更安全的驾驶，但事故将不可避免，尤其是在可预见的未来，这些汽车将与人类驾驶员和其他道路使用者共享道路。