人工智能是我们的“普罗米修斯之火”:明智地使用它意味着了解它的真实本质和我们自己的思想

 4个月前     75  
人工智能是我们的“普罗米修斯之火”:明智地使用它意味着了解它的真实本质和我们自己的思想

文章目录

人工智能是我们的“普罗米修斯之火”:明智地使用它意味着了解它的真实本质和我们自己的思想

未来的历史学家很可能会将2023年视为人工智能(AI)出现的里程碑。但这个未来是否会被证明是乌托邦式的、世界末日式的,还是介于两者之间,这是任何人的猜测

2月份,ChatGPT创下了最快达到1亿用户的应用程序的记录。紧随其后的是来自谷歌、亚马逊、Meta和其他大型科技公司的类似“大型语言”人工智能模型,这些公司似乎准备共同转型教育、医疗保健和许多其他知识密集型领域

然而,领先研究人员在5月份签署的一份不祥声明强调了人工智能的潜在危害:

“减轻人工智能灭绝的风险应该与流行病和核战争等其他社会规模的风险一起成为全球优先事项。”

11月,为了应对人们对人工智能风险日益增长的担忧,27个国家(包括英国、美国、印度、中国和欧盟)承诺在英国布莱切利公园举行的首届人工智能安全峰会上进行合作,以确保人工智能的安全发展,造福所有人

为了实现这一点,研究人员将重点放在人工智能对齐上——也就是说,如何确保人工智能模型与人类的价值观、偏好和目标一致。但有一个问题——人工智能所谓的“黑暗秘密”:大型模型如此复杂,就像一个黑匣子,任何人都无法完全理解

AI的黑匣子问题

尽管人工智能系统的透明度和可解释性是重要的研究目标,但这些努力似乎不太可能跟上疯狂的创新步伐

黑匣子隐喻解释了为什么人们对人工智能的信仰遍布地图。预测范围从乌托邦到灭绝,许多人甚至相信通用人工智能(AGI)将很快实现感知

但这种不确定性加剧了问题。人工智能结盟应该是双向的:我们不仅必须确保人工智能模型与人类意图一致,而且必须确保我们对人工智能的信念是准确的

这是因为我们非常善于创造符合这些信念的未来,即使我们没有意识到这些信念

所谓的“预期效应”,或自我实现的预言,在心理学中是众所周知的。研究表明,操纵用户的信仰不仅会影响他们与人工智能的互动方式,还会影响人工智能如何适应用户

换句话说,我们的信仰(有意识或无意识)如何影响人工智能可能会增加任何结果的可能性,包括灾难性结果

人工智能、计算、逻辑和算术

我们需要更深入地探索,以了解人工智能的基础——就像《爱丽丝梦游仙境》一样,走进兔子洞,看看它会把我们带到哪里。

首先,什么是人工智能?它在计算机上运行,自动计算也是如此。人工智能起源于“感知器”——一种由神经生理学家沃伦·麦卡洛克和逻辑学家沃尔特·皮茨于1943年数学定义的人工神经元——它与认知科学、神经科学和计算机科学交织在一起

这种思维、大脑和机器的融合导致了人们普遍认为,因为人工智能是由机器计算的,所以自然智能(思维)必须是由大脑计算的

但是什么是计算?19世纪末,数学家Richard Dedekind和Giuseppe Peano提出了一套从逻辑角度定义算术的公理,并激发了将所有数学建立在安全形式基础上的尝试

尽管逻辑学家库尔特·哥德尔后来证明了这一目标是不可能实现的,但他的工作是数学家(也是代码破译者)艾伦·图灵的起点。他的“图灵机”是一种能够进行通用计算的抽象设备,是计算机科学的基础

感知的深层结构

因此,计算是基于数学思想的,这些思想可以追溯到在逻辑中定义算术的努力。但我们的算术知识先于逻辑。如果我们想了解人工智能的基础,我们需要更进一步,问问算术本身是从哪里来的

我和我的同事最近表明,算术是基于感知的“深层结构”。这种结构就像有色眼镜,以特定的方式塑造我们的感知,使我们对世界的体验是有序的和可管理的

算术由一组元素(数字)和运算(加法、乘法)组成,这些运算将成对的元素组合起来,形成另一个元素。我们问:在所有的可能性中,为什么数字是元素,加法和乘法是运算

我们通过数学证明表明,当假设感知的深层结构限制了可能性时,算术就是结果。换句话说,当我们的大脑通过塑造我们对物理世界体验的“有色眼镜”来看待抽象世界时,它会“看到”数字和算术

因为算术是数学的基础,这意味着数学是思想的反映——是其基本性质和创造力的象征

尽管感知的深层结构与其他动物共享,因此是进化的产物,但只有人类发明了数学。这是我们最亲密的创造——通过推动人工智能的发展,也许是我们最重要的

哥白尼的思想革命

我们对算术起源的描述与18世纪哲学家伊曼纽尔·康德的观点一致。据他说,我们对世界的认识是由在感官体验之前存在的空间和时间的“纯粹直觉”构成的——类似于我们永远无法摘下的有色眼镜

康德声称他的哲学是“哥白尼的思想革命”。康德认为,就像古代天文学家认为太阳绕地球旋转是因为他们不知道地球的运动一样,那些认为所有知识都来源于感官经验的哲学家(例如约翰·洛克和大卫·休谟)忽视了思维是如何塑造感知的。

尽管康德的观点是由他那个时代的自然科学形成的,但事实证明,它们在当代心理学中具有影响力。

认识到算术是我们感知的自然结果,因此是基于生物学的,这表明我们对计算的理解发生了类似的康德式的转变。

在数学真理的抽象领域中,计算不是“外部”的,也不是与我们分离的,而是我们思想本质中固有的。头脑不仅仅是计算;大脑不是计算机。相反,计算——人工智能的基础——和数学一样,是大脑本性和创造力的象征性表达。

普罗米修斯之火

对人工智能有什么影响?首先,人工智能不是一种思维,也永远不会有知觉。我们可以通过将我们的思想上传到云端来超越我们的生物本性并实现永生的想法只是幻想。

然而,如果人工智能所基于的思维原则是全人类(可能还有其他生物)共同的,那么就有可能超越我们个人思维的局限性。

因为计算是通用的,我们可以自由地模拟和创建我们在日益连接的虚拟和物理世界中选择的任何结果。通过这种方式,人工智能真的是我们的普罗米修斯之火,是从希腊神话中的众神那里偷走的给人类的礼物。

作为一个全球文明,我们很可能正处于一个转折点。人工智能不会变得有知觉并决定杀死我们所有人。但我们非常有能力用它“启示”自己——期望可以创造现实。

努力确保人工智能的一致性、安全性和保障性至关重要,但如果我们缺乏意识和集体智慧,这可能还不够。就像爱丽丝一样,我们需要从梦中醒来,认识到我们思想的现实和力量。

想要了解更多关于脑机接口技术的内容,请关注脑机网,我们将定期发布最新的研究成果和应用案例,让您第一时间了解脑机接口技术的最新进展。

您可能感兴趣的

暂无评论

暂无评论...