新闻内容
2018年04月30日 上一期 下一期

“人工道德”如何成为可能

本力

    本力

    拜互联网、大数据所赐,近年来人工智能的发展突飞猛进,进化速度令人吃惊,并且带来一系列技术、制度、社会关系方面的变化。2017年,著名物理学家斯蒂芬·霍金曾在北京举行的GMIC大会上称,“我目前见证的最深刻的社会变化是人工智能的崛起。”而这位伟大的科学家还有一个更广为人知的观点:人工智能很可能是人类文明的终结者。

    其实,这两个观点说的是一回事。在一个互联网已经得到广泛应用,越来越“去中心化”、“分布式”的世界,人工智能的崛起也意味着许多我们永远无法预知的危险。所以霍金强调,人工智能应该在符合伦理道德和安全措施要求的情况下开发,因为脱离人类控制的机器将很难被阻止。

    腾讯研究院的一项研究指出,缺乏伦理价值、常识、争议观念的算法系统,在现实的交互中,很容易造成歧视和其他形式的不公。《科学》杂志中最新的研究也表明,机器越容易习得类人的语言能力,也就越容易习得语言应用范式中根深蒂固的偏见,这种偏见如若被强化放大,后果将不堪设想,这类存在性格缺陷的AI相比穷凶极恶的无耻之徒更加危险。

    道德是人类缓慢进化的产物,但人工智能的迭代又在加速,其复杂性和风险也不可同日而语,伴随人工智能兴起,必要的“人工道德”该如何实现,越来越成为一个当今世界不可回避的重大问题。人工智能和神经科学伦理学专家温德尔·瓦拉赫与认知哲学家科林·艾伦合著的《道德机器——如何让机器人明辨是非》正是这一领域的奠基之作。这本书之所以具有如此关键的开创性,很大程度上有赖于对该问题在解决路径上所做的基础性探讨。

    如果按照模拟人类道德演进路径的解决思路,那么最好的办法无疑是“自下而上”的发展思路,其关键在于创造一个环境生态能让智能体探索自己的行为方式,在作出道德上值得赞扬的行为时适时得到奖赏,并将这种是非观念和行为模式稳定下来。这种解决方案符合波普尔、哈耶克等社会科学大师“开放社会”、“理性的自负”的经典理论,而且也为罗伯特·阿克塞尔罗德等行为分析及博弈论专家持续多年的研究所支持,无疑有坚实的学术基础。更重要的是,这种思路很符合人类的历史和经验。

    然而,人类道德经验的一个核心特征就是,人们经常会在自私的行为和利他的行为之间徘徊。伟大的行为科学家诺瓦克在他的《超级合作者》一书中曾得出结论:通过计算机对许多类型的博弈行为进行模拟实验,发现无条件合作者能够逐渐摧毁“以牙还牙”策略和“宽宏以牙还牙”策略,却无法击败“赢定输移”策略。“赢定输移”只关注自身得失,以确保自己在博弈中占得先机,并不需要理解并记住其他人的行为,所以可以对无条件合作者加以盘剥。因此,正像人们在现实社会中看到的那样,如果人工智能的道德来自“自下而上”,那么也有可能让“背叛者”或“投机者”取胜。所以,“自下而上”的过程也就是“试错”过程,期间的不安全感带来的威胁始终存在。

    相对而言,“自上而下”的道路似乎更能获得安全保障。在这一伦理原则上最典型的是阿西莫夫提出的机器人三定律:一是机器人不得伤害人类,或因不作为使人类受到伤害;二是除非违背第一定律,机器人必须服从人类的命令;三是除非违背第一及第二定律,机器人必须保护自己。

    这里就出现了一个非常矛盾的局面。一方面,机器在自动运行执行定律的过程中,必须要以认知、情感和反思能力来分析具体的情境,担负道德责任,从而具有类似康德的绝对律令中的自由意志;另一方面,阿西莫夫定律又将机器人变成了人类的奴隶,使其丧失了独立承担道德责任的自主行为能力。

    所以这种源自宗教、哲学、文学等各个方面,以摩西十诫、法律和职业守则、黄金法则、道德箴言、乡规民约等表现出来的“自上而下”的路径恐怕也很难成就人工道德。

    因此,这本书提出了一个重要思路,认为虽然很难有完备的解决方案,但有可能开始建构一种功能性道德,即人工道德智能体(AMAs),让人工智能具有基本的道德敏感性,在基于开放型、交互性的前提下,会逐步使人工智能和机器具备道德决策能力,并随着智能技术和人机交互的进步而进化、发展。

    显然,这是一种自上而下式与自下而上式的混合道路,这样才能够使美德和特殊的情境相结合,使人工道德智能体更像人。

    无论如何,能分辨是非对错的人工道德的重要性,一点儿也不亚于人工智能本身。而且其中所揭示的关于人类道德决策的知识本身,也如陪伴孩子成长所得到的启示一样,会成为人类的一面镜子。

    事实上,人工智能如果在道德决策问题上无法承担其责任,那么最大的受害者可能还是人工智能本身。因为人恐怕是最会推卸责任的一种物种。国内某著名互联网公司在研究中曾信誓旦旦强调:歧视在很多情况下都是算法的副产品,是算法一个难以预料的、无意识的属性,而非编程人员有意识的选择,这更增加了识别问题根源或者解释问题的难度。

    所以,要让人工道德成为可能,不仅需要在设计上走对方向,促进机器心灵与人类伦理统一。也需要加快相关的立法,规范人的行为,使人能够应对人工智能对人性的挑战,发展出人工智能时代作为人本身的道德进化。(编辑 董明洁 许望)