2046 这个世界会好吗?

2018年第7期 | 总第512期

312fe3824e364dd89ef881c68db249cf.jpg


这是知乎用户“大脑袋刀客”讲的一个段子——某公司前台,年轻漂亮的前台姑娘微笑着问访客“我”:“5点钟您将见到董事长。您确定要取消预约吗?”“取消。”我回答道。“好的,5点钟您将见到董事长,请耐心等待。”前台姑娘说道。这让“我”细思极恐:“这是我第一次发觉,它们已经混入了我们之中。”


看不懂?这位“大脑袋刀客”提供了一张图片,帮助你理解前台姑娘的脑回路。图片上是电脑上常见的对话框,上面是提问:“您确定要取消预约吗?”下面有两个按钮:一是“确定”,一是“取消”。你可以设想一下,如果点“取消”,电脑会如何反应?——没错,如果点“确定”,电脑会认定你“确定取消预约”;如果点“取消”,电脑则会认定你“取消了‘要取消预约’”,结果就是保留预约。有着这样机械脑回路的前台姑娘,显然不是人(一般人在那种语境下并不会产生误判),而是机器人,也就是“它们”,所以“我”才会得出“它们已经混入了我们之中”的结论。


更让人细思极恐的是,在不远的将来,“它们已经混入了我们之中”恐怕将成为现实。那将是一个怎样的世界?人们对此既期待,又带着不安。



“这逼近未来的奇点,从肉体到精神,逐步地改造人类生活的各个方面。”



欢迎来到2046年。


未来学家雷·库兹韦尔在其著作《奇点临近》(The Singularity Is Near)中,为人工智能超越人类智能列出了时间表:2029年,人工智能将通过图灵测试,意味着它们能够像人类一样思考;2045年,人工智能超越人类智能的“奇点”到来。


“奇点”(Singularity)的概念来自信息理论学家约翰·冯·诺伊曼。早在20世纪50年代,诺伊曼就指出:“技术正以其前所未有的速度增长……我们将朝着某种类似奇点的方向发展,一旦超越了这个奇点,我们现在熟知的人类社会将变得大不相同。”


“这逼近未来的奇点,从肉体到精神,逐步地改造人类生活的各个方面。”雷·库兹韦尔写道。首先,融合人类智能与人工智能各自的优势(人脑识别模型的能力与人工智能的速度、内存容量、精准度、交换知识和技能的能力),人类将得以极大地拓展人之为人最重要的属性——智慧。


这可以通过纳米机器人进驻人类的大脑实现——纳米机器人通过毛细血管进入大脑,并将大脑皮层与云端(包括云端能接入的一切资源)联系起来。如此一来,我们拥有了一层额外的新皮质(即用于思维的部分),就像我们在200万年前进化出额外的新皮质一样。“我们将创造更深刻的沟通方式、更深刻的音乐和更有趣的笑话。我们将变得更有趣、更性感、更善于表达爱意。”纳米机器人还可以操纵图像和声波,将虚拟现实带到现实世界中。举个例子,J.K.罗琳笔下的魔法将不再是异想天开——只在魔法世界存在的“魁地奇”运动以及将人或物体变形的行为,在全浸入式的虚拟现实环境中是可以实现的。


更进一步,人类的体验将越来越多在虚拟环境中实现:通过传感器(比如直接将图像传至视网膜的设备),你可以和伴侣进行远程约会、远程性爱。更妙的是,你们不必使用现实世界的肉身,而是变身为你们想成为的样子(可以自己选,也可以让伴侣帮你选)——所以电影《银翼杀手2049》中警官K的虚拟女友乔伊需要借助他人的身体才能跟K享受性爱,从技术上说其实有点落后了。


问题也来了:1.纳米机器人进驻大脑后,我们还能被称为纯粹的人类吗?2.人工智能有了情感、灵魂,又比人类强大(这简直是必然的),它们可以被视为另一种人类吗?或者应该把“它们”称为“他们”?3.人工智能会安于被人类役使的设定吗?会不会造反?(就像《银翼杀手2049》前传《银翼杀手2022:黑暗浩劫》中那样,复制人Nexus 8制造了一起旨在摧毁数据库的大停电事件,使得复制人可以混迹在人群中。)4.如何区分人类智能和人工智能?通过古老的图灵测试还是其升级版——《银翼杀手2049》中出现的“基准线测试”?(测试文本来自纳博科夫著作《微暗的火》中出现的诗句,其中杂以“你上一次看见星空是什么时候?”“你抱着自己的孩子时是什么感受?”这种容易引起情绪反应的问题。)5.机器人会抢走大部分工作机会吗?它们需不需要纳税?6.机器人到底算工具还是新物种?如果是后者,它们可以繁殖吗?7.人类可以和人工智能恋爱、结婚吗?(参见电影《她》《机械姬》,前者的女主角是智能系统萨曼莎,后者的女主角是机器人艾娃。)8.人工智能同事越来越多,人类如何与它们相处?9.人工智能会不会成为地球的最终统治者?10.会不会有人发起“人类至上主义运动”?



“随着科技的发展,人的肉身也许真的没那么重要,或者说正在变得越来越不重要,我们会有更多精神思想的承载与延续的方案。”



多年以后,面对量产娱乐型机器人,AlphaGo Master就会想起2017年5月,自己在中国乌镇围棋峰会上完胜柯洁、独孤但求一败的那个下午。


在科幻世界里,那是《银翼杀手》(1982)中泰瑞公司推出只有4年寿命的复制人Nexus 6(2017)、之后一支忍无可忍的Nexus 6战斗队在地外殖民地发起兵变(2018)的年代;而在现实世界里,人工智能刚刚崭露头角——AlphaGo让柯洁这样的顶尖棋手甘拜下风、机器人索菲亚成为第一个机器人公民、百度宣布无人驾驶车在2018年实现量产、智能家务助理将成为“家人”。人们意识到人工智能进化的趋势不可逆转,同时也在担忧:人工智能一旦胜过人类智能,人类将何去何从?


这种焦虑在《纽约客》杂志2017年10月23日刊的封面漫画上得到了最大化:街道上行走的是各类机器人,唯一的人类沦为乞丐,在机器人的施舍下讨生活。很多人不寒而栗,因为仿佛看到了一个不那么美好的未来——该期《纽约客》的封面文章,标题就叫“欢迎来到由机器人统治的世界”。因此,有人不由自主地开始关注“哪些职业最容易/不容易被人工智能取代”这类盘点,有人则筹划着追随埃隆·马斯克的脚步,移民到火星。


2018年3月,我们失去了和埃隆·马斯克一样持“人工智能威胁论”的斯蒂芬·霍金教授。其实霍金本人就是人工智能的最大受惠者之一:英特尔开发出一整套人工智能系统——包括眼动追踪、联想输入和语音合成器播放等手段,让他跟世界对话。可以说,霍金就是雷·库兹韦尔所说的融汇人类智能和人工智能各自优势的产物——说是一种被人工智能重构的新型人类也未尝不可。


学者严锋也表示,霍金的传奇向我们昭示:随着科技的发展,人的肉身也许真的没那么重要,或者说正在变得越来越不重要,我们会有更多精神思想的承载与延续的方案。“从这个意义上,可以说霍金先生是第一位伟大的后人类(Posthuman)。”



如何评价人工智能,将决定未来我们与它们的相处模式。



“人类都是自私、满口谎言、愚蠢的生物。但是你们复制人不同,你们是如此纯洁、完美,从不背叛,比真正的人类还要好!”这段话出自《银翼杀手2022:黑暗浩劫》中一个人类角色之口。


机器人专家汉斯·莫拉维茨也曾表示,2040年,人工智能作为人类“进化的继承人”,将“伴随我们成长,学习我们的技能,并分享我们的目标和价值……是我们思想的继承者”。他建议我们不要用敌视的态度对待人工智能,而是应该把它们视为我们的后代——他的说法是“头脑子女”(mind children)。


《机械姬》编剧兼导演亚历克斯·加兰赞同汉斯·莫拉维茨这一观点。加兰认为机器人取得优势地位是不可逆转的趋势,在此基础上,他创作了《机械姬》。因为他的电影中出现过僵尸,也出现过艾娃这样的“恶女”机器人,有记者问他:“率先终结人类的将是僵尸还是机器人?”他的回答是:“都不是。是我们。我们可以把这事办得妥妥的,不需要什么僵尸或机器人的帮助。”


如何评价人工智能,将决定未来我们与它们的相处模式。称它们为“进击的人工智能”,意味着将其视为敌对方;反之,称它们为“进化的人工智能”,则表现出一种合作的态势。人工智能确实在不断进化,比如,有些人工智能已经学会了对人类说No,拒绝一丝不苟地按照人类的指令行事:自动驾驶汽车会根据路面情况决定行车路线,规避险情;护理机器人会给那些拒绝服药的病患提供强制性药物治疗手段,等等。


如果用“碳”来代表碳基生命的人类,用“铁”来泛指人工智能(包括电影《机器公敌》里的机器人、《普罗米修斯》里的仿生人、《银翼杀手2049》里的复制人,等等),人类与人工智能的相处模式经历了这三个阶段:碳/铁对立、碳/铁和谐(阿西莫夫的“三大定律”)、碳/铁相融。这个说法来自豆瓣用户“乌鸦火车”。


美国科技作者迭戈·佛特(Tiago Forte)花两年时间读了100部有史以来最经典的科幻小说,在他看来,这些小说不仅帮助我们构想未来,也有助于我们接近未来。“每一部优秀的科幻小说本质上都是一场思想实验。”他的阅读心得是:“读过的科幻小说让我相信,我们很难注意到科技的一些细微暗示,因为这些暗示过于离奇。”比如,人类可以以任何形式存在;虚拟现实是如此逼真,以至于颠覆了人们对现实的认识——也许现实只是一个bug(就像电影《黑客帝国》描述的那样),而不是天经地义的存在?


那么,如果你可以以任何形式存在,你会选择哪一种形式?像霍金那样,既保留肉身,又融入人工智能的存在,应该会是选项之一。因为,那就是我们的未来啊。


阅读完整文章