本系列皆为转载,有问题请指出
译者:李浚弘
1950年,战时密码破译者、计算机先驱艾伦·图灵在《心灵》杂志上发表了一篇题为《计算机器与智能》的论文。这是对人工智能概念的第一次严肃的、学术性的处理。图灵预测,到2000年,人们将“能够谈论机器思考而不期望被反驳”。他设想机器能够通过图灵测试。
图灵测试涉及到一种游戏。两个“玩家”,一个是人,另一个是机器,通过键盘和屏幕与另一个“裁判”交流。裁判依次与每位选手进行对话,试着猜出谁是人,谁是机器。机器的任务是让法官相信它是人类——这是一项壮举,因此有人争论说,这肯定需要人类水平的智力。如果裁判不能区分人与机器,那么机器就通过了测试。图灵在1950年写道,在这个世界里,能够通过他的测试的机器很常见,在这个世界里,“会思考的机器”在家里和工作场所都很常见。
尽管图灵做出了这样的预测,但到2000年,人类水平的人工智能还没有实现,也没有任何迹象表明它即将到来。没有一台机器能接近通过图灵测试。尽管如此,人工智能领域最近取得了一个重要的里程碑。1997年,IBM开发的计算机“深蓝”击败了当时的国际象棋世界冠军加里·卡斯帕罗夫。卡斯帕罗夫以前击败的象棋程序对他来说似乎是可预测的和机械的,与此相反,据说他说,当他对阵深蓝时,他感觉到棋盘另一边有“外星智能”。
退一步思考人工智能历史上的这一时刻是有意义的。这一领域所取得的成就,在半个世纪之前可能会被认为是其最高成就。人类已经被机器超越了。当然,汽车可以比最快的短跑运动员跑得更快,起重机可以举起比举重冠军多得多的东西。但智力能力是人类区别于其他动物的地方,而国际象棋就是一种典型的智力追求。
现在电脑象棋被破解了。然而,与图灵时代相比,我们似乎并没有更接近人类水平的人工智能。这怎么可能呢?深蓝的问题在于它是一个专家。它只能下象棋。与典型的成年人相比。就拿刚刚走过咖啡窗口的上班族来说,我正拿着笔记本电脑坐在那里。毫无疑问,她的一天是忙碌的大杂烩——做盒饭、批改孩子的作业、开车上班、写电子邮件、修复印机,等等。这些活动中的每一个,仔细检查,都需要多种感觉运动技能的锻炼。以做盒饭为例。这包括从不同的地方取回用具和食材,打开包装,切,切,铺等等。
简而言之,人是多面手,是万事通。人类国际象棋冠军能做的远不止下棋。此外,人是有适应能力的。修理复印机不是天生的才能。这是习得的。如果这位上班族出生在不同的世纪或不同的文化中,她就会获得一套不同的技能。如果她不幸失去了现在的工作,她可以再培训换一份工作。人工智能研究在各种专业领域取得的成就(国际象棋只是众多成功故事中的一个),与该领域未能制造出具有通用、自适应智能的机器形成鲜明对比。那么我们如何才能制造出通用人工智能呢?在我们以一种知情的方式推测机器超级智能之前,我们需要回答这个问题。
生物智能的一个基本特征是体现。与深蓝不同的是,人类是一种有身体的动物,它的大脑是身体的一部分。动物的大脑已经进化到维持身体健康,并使它携带的基因延续下去。身体有肌肉,使它能够运动,也有感觉,因此它的运动可以根据环境的状态来做出,从而更好地完成它的使命。大脑位于这个感觉运动回路的中间,根据它所感知的东西来塑造动物的行为。人类的智力尽管取得了辉煌的成就,但从根本上说,它是动物智力的延伸。人类的语言能力、推理能力和创造力都建立在感觉运动的基础上。
因此,尽管创造人工智能的努力可能会奏效,但是失去了许多对生物生命至关重要的东西,比如新陈代谢和繁殖,也许是一种方法上的需要。也许需要参与一个混乱的,动态的,充满复杂的物理环境各种各样的物体,无论是有生命的还是无生命的,都是智能的根源。
从这个角度来看,图灵测试是一个糟糕的基准,因为它只涉及语言。对人工制品的智能形成可靠判断的唯一方法是观察它在类似我们自己的环境中的行为。根据这种思维方式,实现人类水平的人工智能的唯一方法是通过机器人。稍后我们将研究对这一体现原则的挑战。【译者注,这项争论一直延续至今天,在这里推荐一篇笔者认为不错的文章,第一篇是Antoine Tardif的AGI-22 Highlights the Progress in Developing Artificial General Intelligence,第二篇是Eray Eliacik先生的When will GPT 5 be release,and what should you expect from it】但是让我们暂时采用它吧。我们的基本问题可以重新表述。我们如何赋予机器人一般的智能?
也许普通智能只是许多专家感觉运动技能的总和,问题只是人工智能还没有复制足够多的技能。当机器人被赋予一定的临界技能时,通用智能将以某种方式出现。好吧,即使我们掩盖了这个提议所回避的许多工程问题,它依旧无法令人信服。这种方法的产品可能会短暂地给人一种普遍智慧的表象。但没人会被愚弄太久。在一个不断变化的世界中,一旦不得不面对一个超出其专业领域的问题,多专家就会陷入困境,这是不可避免的。
也许学习能力足以填补这里的空白。在不熟悉的环境中,可以学习新的专业技能。学习能力当然是建立和保持技能储备所必需的。的确,各种形式的学习是一切智慧的背景。但是学习既耗时又有风险。普通智力的标志是能够将现有的行为习惯适应新的挑战,而且不需要求助于试错或第三方的训练。
那么,怎样才能克服专业化的限制,赋予一台机器适当的通用智能呢?也许对这样一台机器最重要的要求是常识和创造力。在这种情况下,有常识是指对日常世界的运作原则,特别是物理和社会环境的理解。例如,其中一个原则是,如果你绕着某物走了一圈,你最终会回到你开始的地方。另一个原因是,如果你沿着刚刚走过的路往回走,你会遇到相同的地标,但顺序相反。诸如此类的原则是有用的,因为它们的应用并不局限于狭窄的领域。它们是通用的和可重复使用的。
掌握常识的原则意味着什么?回答这个问题,不需要说什么机制。特别是,我们没有理由认为,掌握原则就必须以某种类似语言的形式进行内部表示。相反,它会表现在行为上。或者更有可能的是,某些方面的常识的缺乏将表现在行为上。例如,住在我们房子后面的公鸡喜欢飞起来,飞过大门,逃离它的围栏。但它从来不会在出去很久之后就想回来和母鸡们团聚。他要做的就是飞回大门。但他从未想到这一点。相反,他焦虑地在大门前来回踱步。他似乎缺乏某些行为是可以逆转的这一常识性原则。
在某种程度上,这种理解上的盲点不会在动物的行为中出现,可以说它具有常识。当然,这些考虑既适用于人类,也适用于其他动物,并延伸到社会领域。特别是,对日常世界的共同理解是语言的核心。假设你去上班,发现一群同事站在大楼外面淋着雨。“你在干什么?”你问离你最近的人。如果她如实回答“我站在雨里”,你会觉得很奇怪。相反,她说的是“火警”,从而表现出对人类对信息需求的常识理解,以及对话在获取信息方面的作用。
一般智力的第二个主要要求是创造力。这里所说的创造力不是伟大的艺术家、作曲家或数学家的创造力,而是每个人都能做到的,孩子们身上大量表现出来的那种创造力。它是创新的能力,产生新颖的行为,发明新事物或设计新方法来使用旧事物。它可能是探索性的,也可能是好玩的,就像一个孩子即兴跳舞一样。但它可能更有目标导向,比如规划花园的布局或设计减少家庭支出的方法。在人类事务的大计划中,像这样的小创意行为似乎并不新颖,但在每一种情况下,它们都要求个人超越他或她既定的行为准则,重塑其元素,或将其组合成以前未经尝试的组合。
创造力和常识是相辅相成的。创造力使个人能够想出新的行动,但需要对日常世界的常识理解来预测这些行动的后果。一方面,没有常识的创造力(正如我们在这里使用的术语)只不过是在黑暗中挣扎。另一方面,没有创造力的常识是僵化的。但能同时掌握这两种能力的智能是非常强大的。面对一个不熟悉的挑战,大脑可以考虑多种行动的可能性,这要归功于它的创造性能力,也要归功于它对其效果的常识性理解,在抽搐肌肉或转动马达之前预测每一种可能的结果。
2002年,由动物认知研究者亚列克斯 卡采尔尼克(Alex Kacelnik)领导的牛津大学科学家团队报道了一个明显自发创新的好例子。4他们正在研究圈养的新喀里多尼亚乌鸦(一种特别聪明的物种)使用工具的情况,他们使用的实验装置包括一个装有食物的小桶和一个高高的管子。为了挑战这些鸟,人们把水桶放进管子里,这样把手就够不着了。给鸟儿们提供了弯曲的金属丝,它们很快就学会了用这些金属丝作为钩子把食物桶吊出来。然而,有一次,当鸟儿没有钩子时,它们的围栏里只剩下一根直线。在没有接受过这样的训练的情况下,其中一只叫贝蒂的鸟把电线的一端塞进了仪器上的一个洞里,并把它弯曲成一个钩子,然后用它来获取食物。
贝蒂的行动是创造性和常识的结合。它需要创造力来想出弯曲一根无用的电线的想法,它需要对柔韧材料的常识来预测结果。如果这些认知成分能在非人类动物身上产生令人印象深刻的结果,那么它们在使用语言的人类身上的益处要大得多呢?一个男生对他的同学进行了一次别出心裁的侮辱,他将语言创造力与对人类心理学的常识性理解结合在一起(即使他缺乏不把这种侮辱对准老师的常识)。这是一个简单的例子。但人类的每一项成就,从金字塔到登月,都是无数这样的发明行为的产物,一个接一个。人类水平的人工通用智能如果要取得类似的成就,就必须表现出类似的常识和创造力的结合。
如果人工通用智能的要求如此明确——它只需要一点创造力和一点常识——那么为什么在该领域的前60年研究进展如此之少?鉴于缺乏成功,是否有理由认为人类水平的人工智能是可行的?考虑到人类水平的人工智能是如此难以创造,那么推测超级智能人工智能的意义何在?我们一直在研究一般智力的行为特征,迄今为止一直避免讨论它可能在生物大脑或人工制品中实现的机制。但在我们解决这些问题之前,需要弥补这一遗漏。我们不能在不考虑具体机制的情况下就开始描绘人工智能的未来。在计算机科学术语中,我们不仅需要考虑规范,还需要考虑实现。
在计算机科学中,相同的规范可以以多种方式实现是很常见的。这让我们的任务变得很困难,因为与只需要生产单一产品的软件公司不同,我们想要形成一个关于整个可能的人工智能空间的想法。此外,据我们所知,在不久的将来,一些革命性的技术将被开发出来,这将使我们今天几乎无法想象的人工智能的创造成为可能。然而,我们别无选择,只能从目前人工智能研究中的各种流派开始,并试图从那里推断。
可以对可能的人工智能空间进行有效分类的一个轴是生物保真度。人工智能的运作与生物大脑的运作有多相似?在这个轴的一端,我们发现人工智能是根据与控制生物智能截然不同的原则从零开始设计的。轴的另一端是基于神经网络的机器,它们可以将生物大脑复制到物理细节的精细水平。有一些方法论学派提倡在
在整个人工智能的历史上都是如此。每一所学校的受欢迎程度都有起起落落,但没有一所学校能取得胜利,而且每一所学校都有自己的理由。
例如,在动力飞行的历史上,有一个老生常谈的类比,把第一种机器——从零开始设计的人工智能——比作飞机。早期飞行器的设计包括模仿鸟类扇动翅膀。但这种方法失败了。固定机翼和螺旋桨被证明是让一个巨大、沉重的人造物体在空中飞行的最佳方式。类似地,根据类比的论点,人工智能不应该试图模仿自然,而是应该设计一套全新的工程原理,为基于硅的计算量身定制。
这种观点的反对者(在指出类比论证的可疑地位之后)可以反驳说,生物大脑是我们拥有的一般智力的唯一范例。我们知道在神经基质中实现一般智能是可能的。只要我们能人工复制这种基质,我们就有信心成功。事实上,在某些相当保守的科学和技术假设下,这种受生物学启发的方法在其最极端、最野蛮的伪装下几乎肯定会成功。
关于从头开始设计人工智能有很多可说的,我们将在适当的时候回到这个主题。但是,这种被称为全脑模拟的强力生物学启发方法,将是我们目前的重点。全脑仿真不仅是未来创造人工智能的可行步骤,还被吹捧为实现思想上传的途径,这是某些超人类主义的重要目标。最后,整个大脑模拟的概念作为一个哲学思想实验是有用的。它构成了一系列强有力的哲学论点的基础,这些论点涉及到人工智能、机器意识和个人身份,所有这些都与本书的主题高度相关。