科学家为什么如此恐惧及反对人工智能?

近年来,AI与机器人在不断取得令人欣喜的突破时,也触及了一些人的“恐惧神经”。从科幻作品中,我们或许能理解这种心理从何而来。

撰文/严蓬(影评人,科幻电影从业者,笔名“电子骑士”)

图文编辑/丁林 新媒体编辑/吕冰心

今年,埃隆·马斯克为自己麾下的Neuralink脑机接口公司举行了一场发布会,展示了最新的脑机接口产品。在回答提问时,马斯克还预测:未来人类甚至可以将人的意识上传到网络,达到“永生不死”的境界。这番豪言壮语的冲击力,不亚于马斯克宣布了他的火星计划。

脑机接口为何引起巨大的关注?它在医学上有巨大的应用潜力自然是一方面,但更多人联想到的是“思想控制”“改写意志”“黑客入侵”,乃至整个人类被人工智能反控的恐惧远景——类似这样的远景,已经在经典科幻小说和电影中被无数次描述过了。例如,科幻电影《黑客帝国》中,未来人的后脑都被装上插孔,受着“母体”(Matrix)的控制。马斯克的大脑芯片一出,再次触及了人们对智慧机器的“恐惧神经”。

科学家为什么如此恐惧及反对人工智能?

▲马斯克曾多次表示过对AI的担忧。因此,他认为人类需要与人工智能结合为一体,以避免未来AI变得过于强大(图片来源:dailymail.co.uk)

▼ ▼ ▼

人类对机器的恐惧从何而来?

人们对智慧机器的恐惧,其实包括几个方面:其一是对系统的恐惧,人们担心个人被某种群体、集团所控制,这和当下人们热衷讨论“大数据对个人隐私的侵犯,对人们商业行为的诱导”,是类似的心态。

更深层的,是人们对机器智能化的恐惧。我们担心机器拥有了自主意识,会反噬人类。在脑机接口之前,人们仅仅把人工智能看做是与人类对立的“他者”,而“人机结合”的可能性,让人们意识到:人与机器并非对立的两极。在古老的“忒休斯之船”悖论中,哲学家问到:如果船上的木头被逐渐替换,直到所有的木头都不是原来的木头,那这艘船还是原来的那艘船吗?同样地,人体被机器替换到什么程度时,人就变成了“非人”? 人与机器的界限是否会慢慢模糊?

科学家为什么如此恐惧及反对人工智能?

(图片来源于网络)

人类与“机器”同化的剧情常使人恐惧,很重要的一点原因,就是机器缺乏人类的情感。在这方面,科幻作品已经做出了很多角度的解读——

不朽的科幻经典《2001太空漫游》中,人工智能HAL 9000并没有一般科幻片中AI的人类外表,其说话方式还是比较接近计算机:句式很简洁,语气略平淡。它要杀死船员的计划,其实来源于之前人类给它设定的目标,而其冷酷的手段,也完全符合机器的逻辑。

精彩的是,当影片中的主角大卫一片片拆掉它的记忆体时,它表现出了害怕的情绪,甚至以哄骗的语言,试图说服大卫停手。很快,HAL 9000失去了大部分记忆,回归到初始状态,像一个小孩一样牙牙学语,一派天真无邪的样子,最终归于沉默并“死去”。所以归根结底,这并不是一个拥有了智能的机器“想要”毁灭人类的故事。

科学家为什么如此恐惧及反对人工智能?

▲《流浪地球》中“领航员号”空间站的AI机器人莫斯,从外形到“脾气”都有HAL 9000的影子(图片来源:央视网)

《银翼杀手》中有一个关于克隆人情感的维特甘测试(Voight-Kampff test),可以看做是图灵测试的增强版。测试者会对受试者提一些设计好的情感问题,例如:“你看到沙漠中有只陆龟,腹部朝天,肚子被烈日炙烤着。它鼓动着四肢想把自己翻过来,但没办法,除非你肯帮忙。但是你不愿意帮忙。”然后用类似测谎仪的仪器,分析受试者在回应情绪激发性问题时的呼吸、脸红反应、心跳频率、眼球运动等生理活动,帮助银翼杀手判定受试者是否为人造人。

根据影片的设定,人造人在维特甘测试中会有极其短暂的反应时间,因为它们需要通过理性来分析、判断这些问题,无法直觉地依照情感给出回答。影片把记忆作为最重要的情感载体,强调人工智能如果拥有了记忆,其实也就有了人性——记忆意味着生活经历,意味着情感的沉淀,意味着独特的个性。

科学家为什么如此恐惧及反对人工智能?

▲“维特甘测试”是电影虚构的概念,但不是毫无科学性的幻想。图为《银翼杀手》剧照(图片来源:nautil.us)

电影《机械姬》对上述观点的演绎很有意思:如果人工智能学会了模仿人类情感,甚至学会了利用人类的情感,又会怎么样?

剧中,机器人Ava可以看做是机器对造物主(人类)进行反抗、争取自由的典型形象。她最可怕的地方,在于学会了欺骗,学会了伪造感情。但Ava真的具有情感了么?影片中没有明说。

人工智能领域,有一个叫“玛丽的房间”的思想实验(《机械姬》影片中提到过):假设玛丽是一生都在黑白色的房间里生活、学习的物理学家。她也知道光谱与颜色是什么。但只有她第一次走出房间,看见了红色的西红柿,她才经验到了红色的事实。

按照类似的逻辑,即便人工智能认识到了情感,甚至了解了情感,但这是否意味着它能理解情感,进而产生情感?

科学家为什么如此恐惧及反对人工智能?

▲《机械姬》剧照(图片来源于网络)

大部分科幻影视中的机器都被设定为具有人类情感,比如说《超能陆战队》中萌萌的大白、《人工智能》里渴望成为真正人类的男孩大卫、《超能查派》里天真单纯的机器人查派,甚至美剧《太空堡垒卡拉狄加》中原本想消灭人类的机器人也慢慢拥有了情感,最终可以与人类和平共处……

当然,科幻世界中也有像《终结者》里“天网”那样冷酷无情的人工智能。它们常常不出意外地被描绘为邪恶的力量,但也有“改邪归正”的——当施瓦辛格饰演的T800机器人摆脱了天网控制之后,它越来越有人性,甚至承担起了父亲的角色,金属的身躯从可怕的杀手变成了坚强的依靠。

从这些例子可以看出,科幻电影中人工智能形象带来的恐惧,并不是因为所有人工智能都“本性邪恶”。这种恐惧来源于我们对科技的不信任,以及对“未知他者”的恐惧。由于对新鲜事物不了解,人们不仅会有恐惧和敬畏,有时甚至会产生各种疯狂的猜想(诺兰导演的电影《致命魔术》就涉及了人类对电流的恐惧和崇拜)。

科学家为什么如此恐惧及反对人工智能?

▲《致命魔术》的故事发生于19世纪末,人们对电学还比较陌生的时代(图片来源于网络)

曾几何时,科幻电影中令人恐惧的形象普遍是怪兽——它们不知从何而来,莫名其妙变异,只知破坏无法沟通,难以用普通方式打败……更早一点,包括火、电、镜子、疯狂科学家,乃至冷战时期的敌对国,都曾是银幕上令人恐惧的因素。

到了今天,我们已经不会再觉得火或者电这种东西是具有神秘力量的、令人恐惧的存在,因为我们已经几乎彻底了解了它们背后的种种秘密。但至今未能普及的AI、脑机接口,对一般人来说,仍然是极为神秘、可疑、奇怪的,它们代表着一种不安全但又威力巨大的力量。

▼ ▼ ▼

机器“冷酷无情”,只是科幻叙事的需要

科幻电影,本质上是对科技社会提出质疑和警告的类型片。随着时代的变化,科幻电影中代表着科技的客体也是在不断变化的,而人与机器的关系,因为其独特性,横亘了科幻电影发展的历史。

科学家为什么如此恐惧及反对人工智能?

▲一个世纪以来,机器人题材是科幻电影的常青树(图片来源于网络)

科幻电影中的智慧机器大多都拥有感情(feeling)、情绪(emotion)和人格(character)。这种设定大概基于以下几个考虑:

1.机器或AI角色,在电影中都是人类的某种象征;

2. AI具备情感,是剧中人类角色与AI角色交流的基础;

3.情感也是观众理解故事(特别是科幻故事)的阶梯;

4.真正令观众恐惧的,不是拥有超级智慧的AI,而是没有情感的造物,因为它们不具有沟通的可能性(现实中的连环杀手,很多都没有共情能力)。

可以说,科幻电影对人工智能的描绘,常常并不是以严肃讨论“人工智能是否有情感”或者“如果人工智能具有了情感和自主意识会怎样”为目的,这些形象只是一个故事的前提。类似的,阿西莫夫的“机器人三定律”,真正意义也不是为机器人学科做分析研究的基础定理,而是构建科幻故事的背景框架。

智慧机器是我们人类创造的,它们的行为和运行方式是我们定义的,人类对自己造物的恐惧和不信任,本质上不是一个科学问题,而是一个人文的问题,宗教的问题,哲学的问题。

科幻作品中对机器形象的呈现,始终笼罩在人本主义的思想框架内——换句话说,就是以人类的角度去展现机器,把人类的价值观、思想模式、情感关系套用在机器身上。

科学家为什么如此恐惧及反对人工智能?

▲图为科幻剧集《爱,死亡与机器人》中的一个场景:三个机器人在人类灭绝后的世界游荡,试图理解他们的生活(图片来源于网络)

但在现实中,如果把机器当做一种独立的硅基生命,那么它们与人类有着极大的不同:比如身体不那么脆弱,不需要吃饭喝水睡觉,感觉和认知方式完全是另一种状态——物质基础的极大不同,导致机器(或者上传到机器中的人类意识)看待世界的态度可能与人类截然不同,它们也许不能理解金钱、权力、战争、爱情等等人类的概念。

所以,在人类看来十分宝贵的财富、权力、文化、情感、血缘,对机器来说有意义吗?它们一定会与我们争夺这些资源,与人类成为敌人,互相杀戮吗?这些目前还没有定论。

我们对机器的恐惧,很多都是科幻电影和小说的想象、基于人类立场和价值观的想象。真正的未来世界中,有些事情比科幻想象更复杂,有些则更简单。

科学家为什么如此恐惧及反对人工智能?

出品:科普中央厨房

监制:北京科技报 | 科学加客户端

 

声明:本站部分作品是由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,转载的目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,不为其版权负责。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。

发表评论

登录后才能评论