两个身临其境的思想实验将我们直接带入围绕人类思想的一系列问题。你决定你的立场。

构建类似人类的人工智能往往从解构人类开始。以手指为例。当拿着肥皂碗时，我们会根据我们的手指结构直觉地调整我们的抓握的姿势。我们并没有想到这一点，因为我们把它归结为条件反射。在很长一段时间里，科学家也是如此认为。到现在也没有人用任何方程式来解开这一点，因为大家认为这并不重要。但机器人技术的兴起使事情变得非常复杂。

为了让机器人做到这一点，我们必须准确地弄清楚发生了什么，甚至把这些知识变成可写的代码。现在，解码手指反应重要，研究人员终于试图找到一个新的物理学定律来解释它。

从某种意义上说，物理知识和人类特征的编码能力是机器人编程的先决条件，这为未来栩栩如生的人工智能引入了一个重要问题。人类意识中是否有一些方面永远不会满足这些标准？根据一些哲学家的说法，可能有。

在阅读了两个绝对令人惊奇的思想实验之后，你可能会同意。或者，你可能不同意。

实验一：小丽不知道的事

一个叫小丽的女孩住在一个小房子里。她从来没有离开过。当她环顾她的住所和窗外时，一切都呈现黑色、白色或某种灰色。小丽看不到颜色，但她经常想，"我的黑白电视上的那些人说到红玫瑰时是什么意思？"

玛丽家的房间看起来完全是黑色和白色。

假设小丽的房间里有一个小型图书馆。这个假想的地方包含有关于红色的每一个信息片段的，所有的书籍。为了满足她对知识的渴求，小丽读完了所有的书。

她了解到红色的电磁波长，深红色让人感觉如何，对大红色最清晰的描述，关于樱桃红色的类比以及你能想到的其他任何东西。当然还有更多更多关于红色的描述。没有人比小丽更了解红色了。然后，她完成了她所有的阅读，之后小丽决定走出她的房子。

令小丽惊讶的是，她看到了颜色。她从来不是色盲。她的房子、家具和电子产品只是用黑色和白色建造的，她的窗户用单色过滤外面的世界。

然后发生了一件令小丽觉得不可思议的事情。小丽看到了一个红苹果，这是她专业知识的颜色。她惊讶得下巴掉了下来。她学到了关于红色的新东西。但是，这很奇怪，为什么这些关于红色的，这个看到的苹果的知识不在她的图书馆里？小丽反复回想：图书馆那里有关于红色的一切知识，对吗？

这个故事是对一位哲学家在1986年的著名思想实验 "小丽不知道的事 "的一个演绎，小丽刚刚收集到的关于红色的无形知识被称为奇点。

想象一下，从一个单色的世界......到这个。

什么是感质(qualia)？

简单地说，感质(qualia)是一个哲学上面的词，这个词定义了只有通过有意识的经验才能获得的知识。

它就像你第一次听到你最喜欢的歌曲时收到的主观信息。你听了之后可能会感到脊背发凉，并告诉你的朋友，"你必须要听它才能理解"。用深奥的音乐理论和声学科学神奇地轰击他们的大脑可能不会有什么效果。在他们听到它之前，他们不会像你一样了解这首歌。

感质(qualia)可能是为什么即使是最好的神经科学家、心理学家和诗人也可能无法很好地解释心碎的痛苦，使从未经历过心碎的人真正理解。

而且，回到小丽身上，世界上所有关于红色的物理信息都不足以让她知道看着这个色调会是什么样子。"当她被放出黑白房间或得到一台彩色电视时，她会学习看到红色的东西是什么样子，但是当小丽看到红色之前，你无论如何解释红色，小丽在自己的知识面前，对于你的描述只会嗤之以鼻。

虽然这个理论已经被说来说去很多年，但它仍然是一个相当流行的论点，说明有些知识是无法用语言描述的，而且是人类意识所特有的。这意味着，如果感质(qualia)是一种真正的力量，它的内部运作将非常难以写下来，因此，也难以编程。它很可能成为人类和人工智能之间的障碍。

另一方面，也许不是。也许我们可以以某种方式解码它，就像我们正在慢慢了解手指握力的动态一样。

我们能吗？最简短的回答。我们不知道。专家们在两个方向上都有争论，有些人还提出了新的理论角度。但大多数人都被困在假设的墙里面不能走出来，而事实是，感质(qualia)没有科学的解释。

建造一个感质(qualia)机器人

从我们告诉读者关于小丽的情况来看，他们可能已经想到了一些对感质(qualia)的反对意见。思想实验往往充满了漏洞，而小丽的房间也不例外。

一些反驳者提出，房间里的影子可能带有彩色颜料。还有人说 "图书馆 "会以我们无法想象的方式给小丽带来知识。对于后者，哲学家提出了一个精彩的反驳，这个反驳与我们关于人工智能的大问题惊人地相关。

简而言之，这位哲学家提出如果小丽真的拥有关于红色的所有信息，她不就是全知全能吗？她不仅仅是像一个标准的人类一样知道这个颜色。理论上，她会了解到红色的 "感质(qualia)"，如果这种红色真的存在的话，这将作为她的红色文学描述的一部分。不是吗？从这一思路出发，我们可以推断，感质(qualia)确实准备好了，可以提高人工智能的水平，但我们还没有想出如何利用它。

不过这感觉像是一个死胡同。我们无法确定小丽是否会有这种能力。我们不是全知全能的，所以我们甚至不知道这些能力会是什么样子。因此，这位哲学家指出，让我们忘记小丽是人类，以消除这些限制。让我们进入机器人小丽。

从机器人的角度思考是一个有用的尝试，因为它消除了一个借口，即我们对大脑还没有足够的了解，不能说到底发生了什么可能相关的事情，允许一种关于大脑的神秘力量的浪漫主义思潮将会蒙蔽我们的基本判断。

那么机器人小丽到底知道什么

欢迎来到第二项思想实验。

机器人小丽是一类名为马克19型机器人的迭代产品，但不幸的是，它在建造时没有色彩感觉，同时正在等待升级。在那之前，机器人小丽的 "眼睛"，或视频摄像头，只以黑白两色传输信息。

机器人小丽的黑白摄像机很好地站在了人类小丽的隔离区，我们可以让她在心理物理学和神经科学期刊中随意游荡，用她黑白摄像机的眼睛阅读。

基本上，她正在翻阅她自己版本的图书馆。但是机器人小丽把事情往前推进了一步。

她学习了马克19型机器人彩色输入的工作原理，然后，机器人小丽利用她丰富的知识，她写了一些代码，使她能够对来自黑白相机的输入进行着色。她以人类小丽无法做到的方式修改了自己。

例如，这种新的设置使她能够用她的黑白视觉看一个苹果，然后准确地把它想象成马克19型机器人的正确颜色代码。在她探索世界的过程中，机器人小丽开始自动将这一设置应用于所有事物。但这里是她真正使自己与众不同的地方。这个地方在于她观察其他正在工作的马克19型机器人，剖析它们对各种颜色的反应，并相应地调整自己。

在这一点上，机器人小丽知道每一种颜色的输入是什么，并且对它们的反应与任何其他马克19型机器人完全相同。

一个非常不平凡的时刻到了。机器人小丽的颜色传感器被启动了。

当她终于安装好她的彩色摄像机，并禁用她的着色软件，睁开眼睛时，她注意到什么都没有。事实上，她必须检查以确保她安装了彩色摄像机。机器人小丽已经清楚地知道她看到的颜色会是什么样子，就像其他马克19型机器人的方式一样。

想到这一点，科研人员就不寒而栗。通过改变她的设置，机器人小丽似乎已经为自己模拟了感质(qualia)。但科研人员也无法停止想象一个更可怕的情况。

如果机器人小丽睁开眼睛一切都不同了呢？

作为人类，我们被限制住了

但是小丽的传奇故事并没有到此为止。

尽管有大量的其他修改，其中一些来自科研人员自己，以完善最初的论点。关于机器人小丽的整个工作也是令人难以置信的细致。

科研人员解决了你在思考小丽和机器人小丽时可能感到的无数反对意见，后来还进入了一个复杂的场景，完全不允许机器人小丽篡改她的设置，以观察感质(qualia)是否仍被保留下来。

但就像所有的哲学思想实验一样，小丽和机器人小丽的目的并不是要告诉你一个真相。它是为了迫使你思考各种选择，并自己寻找真理。

我们想出的几个例子是这样的。也许人工智能必须像机器人小丽一样被建造，以获得质感。或者，也许机器人可以被编程为更广泛意义上的意识。也就是说，如果我们能找到一种方法来从数学上解释整个意识。一个有 "意识 "的机器人有可能像我们一样探索世界，从而像我们一样获得感质(qualia)。

或者，也许感质(qualia)并不是我们认为的那样。这个故事提出了一个令人信服的论点：一旦小丽看着红色，肯定会发生一些事情。它被命名为 "感质(qualia)"，并被归结为学习新事物，但如果它是许多具有许多名称的事物的组合，与学习无关呢？

也许，只是也许，奇点真的是人类意识和人工智能之间不可触及的、不可编程的障碍。

这些角度只是冰山一角，随着时间的推移，如果不是已经被证明，也可能（可能会）被推翻。但回顾一下《机器人小丽》首先被引用的原因：想象一个超越人类限制的实体。

这是一个牵强的思想实验，因为作为人类，我们受到了限制。我们所能做的只是猜测。亦或是我们做的已经是在证实。

公众号：ScienceWorks