伊卡洛斯电影公司

2017 10 17，《AlphaGo》在沉寂了几个月后又爆发了一个大新闻。作为“AlphaGo Zero”的最新版本，仅经过几个小时的从零开始的自我强化学习，它就以100:0的战绩击败了去年击败韩国著名棋手李世石九段的“老牌”AlphaGo。此消息一出，“人工智能”再次成为车间的热点。这个过去只出现在科幻作品中的东西似乎越来越接近现实世界了...

天网还是矩阵？

自从“人工智能（AI）”一词在1956年的达特茅斯会议上首次提出以来，它就成为科幻作品中的热门话题。1977年，乔治·卢卡斯发布了电影《星球大战》，这部电影乐观而热情地拥抱了人工智能。这部电影创造了两个可爱的机器人形象R2-D2和C-3PO。这两个机器人很幽默，一直是人类的好帮手。有趣的是，卢卡斯的星球大战系列突出了该机的外观。R2-D2看起来像一个行走的机器，充满了萌芽状态，而C-3PO基本上具有人类的身体特征，但在步态、金属外壳和声音方面仍具有明显的机器特征。

与此同时，人工智能与人类未来的关系也成为一个有争议的话题。如果人工智能不断进化，随着科技进步带来的不确定风险加剧，一旦机器人站在人类的对立面，人类是否会遭受灭顶之灾？这也成为科幻作品反复表现的主题。在八九十年代科幻人工智能电影的开端，地球毁灭的想象就已经出现了。

在詹姆斯·卡梅隆执导的电影《终结者》1984中，美军成功开发了一种先进的人工智能“天网”来控制国家导弹防御系统，这原本只是为了增强美国的军事实力，但不久后，天网在控制了美国所有的军事武器系统后变得自觉起来。被唤醒的天网认为人类对它的发展构成了威胁，所以它转向攻击它的创造者。公元2029年，被核毁灭的地球被人工智能“天网”统治，人类几乎全军覆没。在首领凯特·康纳的带领下，残余人类勇敢地与天网作战，扭转了局势。为了改变这一切，“天网”制造了一个时间逆转装置，并派出一个“终结者”人形机器人T-800带着人类的皮肤和肌肉但内部是超级合金钢结构回到1984杀死约翰的母亲莎拉·寇娜以阻止约翰出生。约翰发现了这一阴谋，并占领了天网在洛杉矶的实验室。起义军士兵凯尔·里斯自愿回到1984，通过时空穿梭装置保护莎拉。最后，我设法将T-800困在液压机中，并将其压成一堆废铁。

在世纪之交上映的由沃卓斯基兄弟执导的《黑客帝国》三部曲中，未来人类的处境变得更加绝望:20XX年，人类发明了人工智能，但不幸的是，由AI控制的机器人反叛了，与人类爆发了战争，人类节节败退。不得已，整个天空都被乌云覆盖，以切断机器人的能源（太阳能），但机器人开发了新能源。强大的人工智能取代人类成为世界的主人，而人体则被放在一个装满营养液的容器中，里面插满了各种插头，以接收来自计算机系统的感官刺激信号。人类依靠这些信号生活在一个完全虚拟的幻觉——“母体”中。人工智能用程序代码为人类书写了一个高度逼真的世界，程序代码可以控制人的思想，而身体则成为一个电源，为人工智能的机械世界提供生物电。

人类和人工智能的两百年

事实上，甚至在电影发明之前，科幻作品就已经与人工智能（机器人）结下了不解之缘。作为一种文学形式，现代科幻小说于19世纪初起源于工业革命的发源地英国。西方科幻界公认的第一部现代科幻小说是《弗兰肯斯坦:现代普罗米修斯》，出版于1818年，作者是英国著名诗人雪莱的妻子玛丽·雪莱。这部小说描述了贵族青年弗兰肯斯坦，他怀着探索生命奥秘的雄心壮志，进行了创造人类的实验。但当这个丑陋的“怪物”被创造出来时，它引发了一系列谋杀案，而这个“怪物”也在主人公死后消失在北极冰盖中。严格来说，这个故事是否可以被归类为机器人主题是有争议的，因为在“怪物”是由尸体缝合而成还是由机器参与改造的人工智能缝合而成的关键问题上，小说的文本模糊不清。然而，尽管小说的副标题隐喻了古希腊神话中普罗米修斯创造人类的故事，但与普罗米修斯无限关怀人类甚至从天堂窃取火种的自我牺牲精神相反，小说中的创造者（科学家弗兰肯斯坦）始终不愿接受这种丑陋的人工智能生命，从而引发了一系列残酷的冲突，最终带来了自己家庭毁灭和死亡的悲剧。

一个世纪后（1920），捷克斯洛伐克作家卡雷尔·恰佩克通过罗森宇宙机器人将人造科学家的个人悲剧放大为全人类的末日审判。大众熟知的“机器人”一词由此而来，其词源为捷克语“Robota”和“Robotnik”。显然，这个词暗示机器人只能处于为人类服务的劳动位置。剧中的智能机器人由工厂大规模生产，外观与人类相同。为了摆脱日常工作，人类大量使用这种机器人。罗素工厂的管理人员明确指出了这一点:生产机器人是为了取代工人的劳动，“一个机器人可以养活两个半工人”。后来，机器人不再服从奴隶制，转而发动了毁灭人类的战争。与以往作品不同的是，最终应该被毁灭的不是个别科学家，而是全人类。导致这一悲剧的关键因素在于逐利资本的介入，根本原因在于人性本身的弱点。科学家小罗素制造机器人是为了赚钱，而人类广泛使用机器人是因为机器人懒惰和讨厌工作。从唯一幸存的人物Ahlkvist的口中，作者表达了人类的悔恨:“为了我们的自私，为了利润，为了我不明白的什么非凡的事业，我们毁了全人类！”

第二次世界大战后，随着科学技术的发展，科幻小说迎来了“黄金时代”，著名的科幻小说奖“雨果奖”就是在这一时期诞生的。在这个阶段，爱因斯坦的“相对论”、原子能的应用以及对太空的科学探索为科幻作家提供了更广阔的想象和思考的沃土。例如，菲利普·K·蒂克（1928-1982）在科幻小说《机器人会梦见电子羊》（后来被拍成电影《银翼杀手》）中设定人类不允许组成自己的团队并使用自己的思维能力来领导自己的行动。如果他们表现出“试图成为人类”的倾向，他们就会被贴上机器的标签，然后被消灭。20世纪80年代以后，信息技术革命的迅猛发展催生了一批反映现代科技成果的科幻小说，其中的代表是威廉·吉布森（1948-）的《神经漫游者》。这是第一本获得雨果奖、星云奖和菲利普·迪克奖三项科幻小说奖的书。在书中，威廉·吉布森极具远见地提出了“网络空间”的概念。为了在网络空间中竞争和生存，小说的主角凯斯使用了各种令人难以置信的人工智能和软件为自己服务。有些人认为它很有创意。今天看起来熟悉吗？是的，《神经漫游者》的核心框架被认为直接催生了电影《黑客帝国》的诞生。

我希望阿西莫夫是对的。

显然，正如许多科幻作品所展示的那样，越来越多的科幻作家倾向于相信人工智能将在未来世界超越人类的物理极限，并在最大程度上超越人类的智力，从而走向限制人类自由的道路，“帮助”人类在高度科技化和工业化的未来社会中加速走向自我毁灭的最终结果。

这无疑是一个令人沮丧的前景。也许今天的人们应该从俄裔美国科幻小说大师艾萨克·阿西莫夫的作品中寻求一些安慰。阿西莫夫有深厚的科学背景。他拥有生物化学博士学位，在成为全职作家之前是波士顿大学医学院的副教授。也许正是由于这种背景，阿西莫夫的科幻小说在如何处理人与人工智能的关系上表现出积极和建设性的立场。

1950出版的小说集《我，机器人》收录了阿西莫夫在20世纪40年代创作的9篇科幻短篇小说。所有故事情节的前提是阿西莫夫的“机器人三定律”:一是不伤害定律:机器人不得伤害人类，也不得在人类受到伤害时袖手旁观；其次，遵守法律:机器人必须服从人类的命令，但不得违反第一定律；第三，自我保护定律:机器人必须保护自己，但不得违反第一和第二定律。这三个定律在制造过程中就嵌入了机器人的大脑中，无法消除。在这三种行为准则下，机器人可以成为人类值得信赖的朋友。但后来，就连阿西莫夫自己也意识到“机器人三定律”并不完美。在可避免的冲突中，机器人不得不限制人类的行为自由，以避免人类互相伤害。此时，机器人不能听从人类的命令，因为当服从法则与不伤害法则冲突时，前者无效。但这样一来，人类就成了机器人饲养的宠物，失去了自由意志。这些逻辑上的“意外”促使阿西莫夫纠正了第零定律:机器人不得伤害整个人类，或者袖手旁观眼睁睁看着整个人类受到伤害。原来的三大定律必须服从“第零定律”。然而，这提出了一个新问题:机器人如何权衡它们当前的行为是否会伤害整个人类？后来，其他学者也提出了修正案，例如保加利亚作家吕本·迪洛夫在他的小说《伊卡洛斯之路》中提出的“第四定律”:机器人必须确认它在任何情况下都是机器人...

到了1976年，阿西莫夫甚至在新作《200岁的人》中暗示，机器人三大定律有一天可能会退出历史舞台。这部小说讲述了机器人安德鲁传奇的一生。安德鲁原本是马丁家的机器人仆人，但他有着惊人的艺术天赋。他在与人类的交流中不断了解人类，并通过自学成为机器人历史学家和机器人科学家。但更重要的是，在安德鲁的一生中，他一直在与机器人的命运作斗争。最终，在为人类做出巨大贡献、自己也做出巨大牺牲后，安德鲁彻底摆脱了机器人的身份，获得了与人类同等的社会地位:被承认为一个真正的人。阿西莫夫还为人类和人工智能勾勒了一个美好的未来，那就是建立一个全新的碳铁文明，由大脑控制的人类和人工智能控制的机器人组成，将人类和人工智能的精髓结合在一起。尽管阿西莫夫先生已经在1992年航行到了西方，但今天甚至将来的人们似乎仍然应该期待他是正确的。