大家晚上好!我是今天的主持人朱锐。欢迎大家来到哲学与认知科学明德讲坛第14期暨服务器艺术·人工智能哲学论坛第2期。
障 碍
费曼之所以说这样的话,在于怎么理解这个“实验”本身,或者是怎么理解“双缝实验”这种现象或者是得到的结果。简单地说来,这里实际上有两个问题:
Chris Ray Moberg &Coat of Arms
高山:
这是有可能的,您说的这个现象不仅仅是理解量子力学,可能理解任何比较难理解的东西都会导致这样的问题,理解问题跟你的经验、学习的知识体系都有关系。
一是宇宙间所有的智慧文明的目的是为了生存;
二是宇宙间的物质资源是有限的。
而在我看来,这理论其实有很多假设前提存在:
首先,文明的终极的目的是不是生存?这一点我们可以讨论。
第二点,宇宙间的物质资源是有限的,但是我们是不是必须通过对外扩张、掠夺、征服的方式来获得自身的生存空间?这也是一个前提,这种理论带有非常强的“冷战思维”。
所谓的猜疑链是当两个异质文明发生接触的时候,因为语言、技术、文化等等方面的巨大差异,没有办法在很短的时间内达成沟通上的共识,这就是今天说的“理解”。在很多科幻小说电影里都在探讨这样的问题,《降临》是一部根据特德·姜的小说《你一生的故事》改编的电影,整个故事就是在讲怎样破解外星人的一种语言,有点儿像是回看历史。当欧洲的殖民者到达美洲的时候接触到了土著人,双方存在着非常多的误解,有可能这种误解会导致灾难性的一个结果,这些确实在人类的历史上不断地发生。
我想到去年拿诺贝尔物理学奖的彭罗斯,他在上世纪80年代写了一本书——《皇帝的新脑》,在里面提出一个很大胆的假设——人类的意识是一个量子的过程。他是作为一个数学家,从哥德尔不完备定理推出这样一个结论,中间有很多大的假设,但他需要找到一个在生物学上可以承载量子过程的一个结构。这个结构至今没有找到,包括很多科学家说量子是一个需要超低温,非常脆弱的一种状态,在大脑又湿又热、充满了噪音干扰的一个环境里,其实不太可能产生这样的一个量子效应。这其中有太多的空间让我们去想象,对于我来说这些都是非常好的,可以写成科幻小说的题材。
我先说两句:我对外星文明挺关注的,我有时候在思考,按照费米的推理,宇宙中应该存在很多类人文明或者是更高级的文明,为什么我们没有发现?有一个原因,会不会是我们现在所探测到的星体,都是过去的景象,比如我们现在探测到十亿光年以前的信号只是十亿年以前的一个状态,或者是星球上的元素、光谱学的分布,但由于相对论的限制,目前的那些星球的状态是无法知道的。
银河系大概十万光年,十万年以前的事情可以探测到,但十万年以后目前银河系边缘到底有没有其它文明,我们是不知道的。我们向宇宙深处的探测是向过去回望,只是看到宇宙的过去,那么星体离我们越远,过去深入越深,离现在也就越无知,我们更加不了解那些星球现在状态是什么,也可能星体已经不存在了。这个原因有一些研究者已经想到了,我们现在如果把这个问题考虑进来,探测到的适合文明生存的星球或者是可居住的行星比例小就可以有一定的解释,但也不能完全解释为什么还没有发现外星文明。
谢谢高山老师,《2001太空漫游》的作者克拉克说过:
在宇宙里面,不管人类是孤独的还是不是孤独的,都会令人感觉非常恐惧,因为都是非常极端的一种状态。
如果人类是宇宙唯一的智慧生命,我能想象到的一种可能性是,马斯克所说的,我们所处的世界是虚拟的世界。我们在一个虚拟的世界里就只能够观测到我们自身的存在,而其它都是在虚拟之外或者是像宇宙平行的虚拟世界。
胡老师好,因为您是专门研究人工语言处理的,您认为机器理解人类语言主要的障碍在哪儿?对机器而言,理解语义与情境、人类情感真正的挑战在哪里?
我认为人类之所以跟动物不一样,要把人类的智能和机器的智能分解成几种不同类型。我把它分成哪几个不同的类型?运算智能、感知智能、运动智能和认知智能。
计算机就是为了计算而产生的,计算机诞生伊始在运算上就远远超越了人类。人和动物都有的智能是感知智能和运动智能。这两个智能加在一起就是人类的祖先和动物在非洲大草原上能够存活下来,或者是能够吃到别人东西的原因。
第二个例子,我们做了一个技术——帮老师改作文,一开始很多老师都不相信,计算机能看懂意思吗?凭什么打出来的分跟老师是一样的呢?事实证明,计算机通过统计文章中关键词的范围,是不是有比喻,是不是有排比,是不是引用了名人名言,学习老师对这些论文打分的规律,他就能够作出和人类一致性很高,方差很小的打分结果。
谢谢!我看观众席里有著名学者江怡老师,欢迎您随时加入我们的讨论。其他嘉宾对胡老师的观点有没有什么样的看法?
我回应一下胡老师刚才非常有启发的分享。去年我跟创新工厂AI研究院一起合作,用GPT2做人工智能写作的项目,我们先去预训练了一个模型,其中有几个亿参数,训练之后让Ta写科幻小说。我们发现Ta能够写出来一些东西感觉是理解了语言的一些意思,包括在故事的情节、人物的关系上,似乎有一些接近于人类比较初级的一种水平。我们能否把GPT这种暴力美学式的语言理解模型视为某种程度上的理解呢?
这个地方,我想讲一种“人择原理”,我们人类是一种智慧生物,会对一些现象作出一些解释。当我们观察到的现象与人类的智慧有相近的地方,我们就会偏向于解释为其具有一定的智能。但这也要看智能是怎么定义的?机器实现的目的是让Ta看起来像智能一样,而事实上,机器实现的过程跟我们想象的、大脑里边实现的过程可能完全不一样。比如说你认为机器有情感或者是有智能,其实是人类选择性解释的一种结果。从哲学角度讲,一种是从表现上来判断,还有一种是从过程上来判断。
胡老师,我是学哲学的,我可以保证每个人都是哲学家,而且最好的哲学家肯定不是我们。
我们多探讨。
第一个模式是沟通的障碍。刘畅老师,您从哲学上怎么理解“理解”?
谢谢朱老师!我实在没有能力代表哲学来定义何为“理解”。不过,刚才三位老师都从各自的领域谈了很多很有见地的想法,所以接下来,我想我或许可以结合刚才诸位老师提到的几个点,来谈谈我对“理解”的理解。
模 型
特别好。我们还有两个模式要讨论,第二个模式是模型的问题,其中有三个问题:
我简单地说一下,这涉及到一个主客体的问题,认知主客体其实是跟认识主体的过程不一样,当你认识主体的时候,你的思维过程包含在里面。(有其他嘉宾加入产生了杂音)就像刚才开着一个麦的时候,会产生声音回输,这相当于自我认知过程中的一个递归结构。递归是计算机语言里面非常基本的一个结构,可以用它来解决很多的问题,它也存在我们思维的模式中。
我举两个例子:
《海底两万里》插图
我非常同意胡老师的观点,很多时候我们把想象理解的有点儿狭隘,包括把它作为一种叙事性的想象或者是文学性的想象,但想象宽泛一点理解是一种推理能力。认知科学上,现在有一种叫做预测性编码,就是我们大脑时时刻刻都在猜测外部世界发生了什么,真实发生的事情跟你的猜想做一个拟合,于是不断地调整自己行为的一个决策。这样的一个东西可以视为想象,并不是完全从外部得到的这种信息和刺激来作为对世界认知的依据,而是有非常多猜测的部分在里边。
第二个模型的最后一个问题,稍微哲学一点。计算机科学家朱迪亚·珀尔认为,任何一件事情,如果不能教会机器就算不上真正的懂。神经科学家现在都是从分子生物学的角度研究学习、记忆。还原主义是在科学之中非常流行的理解模式,把上面还原到下面,最终还原到量子物理。从科学的角度来说,还原主义是不是真正唯一的理解模式?
我说我自己的一个体会,也可能不是那么相关。对待学生、对待小孩,我们衡量他们是在死记硬背,还是真地理解了,一个重要的标准就是看他能不能换一个说法,把他要去理解的事情再说一遍。这就是我们平常所说的:触类旁通、举一反三,才是真正的理解。刚才朱锐老师所讲的——不能教会机器,我们自己就不理解——可能就是反过来把这个衡量标准应用到了我们自己身上。教人类的小孩学习一件事情,与教一台机器学习同样的事情,我们使用的语言、采用的思维模式是完全不同的。对于我们自己是否当真理解了这件事情,这也是一项严峻的考验。
我对这个话题也很感兴趣。只不过我做这个领域研究经验非常少,但是我对人工智能领域或者是机器和人的未来有一个信念,人类现在具备的能力,最终是完全可以用机器来实现的,包括理解,包括情感,包括所有人类我们现在产生的,我们可以有的东西,最终在机器中是完全可以实现的,但这不一定是所谓还原主义。
误 解
现在进入第三个问题:误解。
问题1:动物为什么掌握不了火?人尽管掌握了火,但是绝大部分时间内却错把火当成是金、木、水、土一样的东西,这种误解和掌握之间,人尽管是误解但同时又掌握了火,误解和掌握之间怎样理解?火是技术的原型。胡老师讲人在先使用,后来才理解,但我们现在技术社会,对技术很大的一个反对的声音是人类误解了技术、误用技术。
我之前对这个问题也有思考。关于火或者是类似于火的物质,火是一种化学现象,挺复杂的,不像金、木、水是物理上可以感知的东西。我认为这是两个方面。
当我们知其然的时候,跟上一个话题有关系,我们想象其中的工作原理,这个时候想象可能是错误的,但是这个没有关系。我们在知其然的过程中想到知其所以然的过程,在想象中一定会有误解,但是想象次数多了就找到了真正的关系,我认为它们之间的关系是这样的。
补充一点,现在AI的可解释性是被欧洲政策制定部门作为非常重要的方面来衡量这些大科技公司的成果。因为这个可能涉及到你刚才所说的是不是造成了技术社会不可控、不可知,甚至会带来毁灭性后果的重要的原因。
问题二,刚才已经讨论过,我想再问一次。神经科学有一个很有名的例子——裂脑人实验,它揭示人总是不由自主地去解释世界。即使编故事,编谎话也得解释,人类就是解释性的动物,总是想理解世界是怎么回事。包括撒谎,裂脑人的实验以及儿童时代喜欢说故事的现象,是否说明说明误解也是理解,而且人更愿意接受误解,也不愿意接受不理解。
我想刚才朱老师引用的是亚里士多德的一句名言:人天生就是求理解的。误解,是错误的理解,mis-understand:它首先也得是一个understand,只不过它理解错了。——不过很多时候,我觉得仅满足于分辨一种理解是不是“误解”,是“正确”还是“错误”,仍是远远不够的。我们还要防范另一些东西。
比如,一个人的理解存在问题,不一定是因为他理解得“错”了,而是因为他理解得过分单薄,过分肤浅,过于表面。中国古代有一个故事说,一个人一直说他知道老虎可怕,但有一次他当真遇见了猛虎,他才明白,自己之前根本不懂得什么叫可怕。同样,我可能格外擅长给人讲大道理,比如“做人就该真诚”,以及如何如何。但在真正考验我真诚的那个节骨眼上,我立马成了一个伪君子。我们可能会说,这个人对“做人就该真诚”的理解只是流于口头、流于表面,但这仍不是说,他的理解压根就是错误的。我们现在去反思技术,要面对的困难可能也并不全是:在相关的问题上我们完全不理解,或者理解得完全错了,而更可能是:怎样才能把我们的理解贯彻到感受上,深入到行动上,怎样做到身体力行,怎样达到这种意义上的更丰厚、更真切的理解——这也应当成为不断努力的一个方向。
谢谢刘老师。最后一个问题,我们是不是高估了理解?也可能理解根本不重要,现在假设理解等于了解,当然之间有差别,中国话说知子莫过父,夫妻之间相互不了解的很少。但是现在离婚率非常高,父子不和也是很常见的现象。如果这样看,也许不理解或者是不了解根本不会影响社会之间的交往、和平共处。我们可不可以这样去想理解会不会在一个多元社会,甚至是多种族、多星球的社会之中,它的市场价值会不断地降低,我们是不是高估了理解?
亚当斯密的整个理论建立在一个同情共感的基础上,他说过一句话,除非用你的眼睛去看,用你的手去触摸,否则我没有办法真正完全地理解你。这就道出理解从根本上是一个生物性的存在,在跨个体之间没有办法完全实现真正意义上的理解。在我看来,惟有可能的是什么?就是当埃隆·马斯克Neuralink这样的一个脑机接口,真正能够把我们所观、所感、所想能够以这种编码的形式完全无损的传递到另一个个体的意识当中,创造出完全相同的一种感受或者是思绪。从信息熵的角度,这才是一个近乎无损的传递,这在我看来是一种理解的终极形态,除此之外可能都是一种假设,一种伪造的理解。
我插一句,我觉得刚才提的这个问题是所有问题中最深刻的问题之一,我尝试着谈一下是否存在特别充分的、圆满的“理解”,或者对“误解”有一种消极和负面的评判。在我看来,是由于我们自身的局限,不可能有那么圆满的理解,也不可能达到圆满理解。因为人和人之间的个体差异,社会群体之间包括观念的差异,肯定会造成多种不理解和误解。包括对文学艺术创作语言的理解,也包括对于政治问题的见解,其实都建立在某些误解的基础上,事实上,误解本身就是拓展理解的一个渠道。如果通过脑机接口技术达到人与人之间的所感所想都能没有信息损耗地交流理解,做到非常圆满的理解,在我看来是没有必要的,这样的交流可能会造成社会的更加扁平化。
刚才晓力老师说的非常有意思,她突然让我想起三体里面的“三体文明”就是一个完全透明,每个个体之间没有秘密的文明,刘慈欣老师描绘这么一个特别发达的远超人类之上的文明,背后有很多潜台词大家可以挖掘。
刚才各位老师谈的都特别好,我借这个机会讲几句。我从刚才各位老师谈话当中比较明显地感觉到科学的维度要远远地超过哲学的维度。
感谢江老师,江老师作为一个哲学家对科学这种开放性是我们需要敬佩的。现在进入观众问题的环节。先问一个跟下一讲有关系的问题,下一讲是讲“洞见”,这个观众的问题基本上把下一讲的问题提到今天来了。如何理解超越语言媒介的理解?如释迦拈花、迦叶微笑。
在我看来,这个问题提出了一种二元分法。把日常以理性为主、计算性为主的思维的模式与一种直觉性的、顿悟性的认知给对立起来。我认为 这两者不一定是完全对立的。因为在日常生活里,可能在你以为是理性的、逻辑的、推理的很多思维过程中,其实暗含着直觉性的,顿悟性的认知和思维的过程。所以,如果大脑里真的存在量子效应,这个可能就是一种“量子式的理解模式”。这是我的回答。
关于理解,我们可能优先想到的是理解一个语言性的表达,比如理解一句话。但我觉得也不见得如此,比如我们养了一只小猫,老鼠碰到它就会跑。但设想突然有一天,老鼠在它面前叉腰腆肚,大模大样地坐着不动了。小猫就会“大惑不解”。这里,小猫、老鼠都不用说话——小猫照样会对老鼠的举动不理解,我们照样能从小猫的举动中看出它的不理解。所以一方面,理解,不一定通过语言的方式表达出来;另一方面,有待理解的,也不见得就是语言性的表达。因此我觉得,不一定要把“超越语言”的理解都要想象成拈花一笑那样,都要从比较“空灵”的角度来设想。而在“拈花一笑”式的理解那里,也一样存在一些问题:你说它理解了,那它理解的到底是“什么”呢?哪怕你也承认,这个“什么”是无法以语言描述的,但你仍然可能想要问这样的问题。我们也可以转而问:释迦拈花一笑的前前后后,又有哪些行事方式贯彻了他的领悟,印证了我们的理解——我觉得,从这个角度,会比拈花一笑的神秘笑容,让我们领会到更多的东西。
当我们谈到“理解”这个概念的时候,更多还是基于人的一种知性能力,这种知性能力的确是跟语言有关。我们讲“理解”的概念,不是讲每一个人理解一件事情在心里所发生的一些心理活动,所以理解不是一个心理过程,这一点在哲学上,我们是比较容易接受这个看法的,理解不是一个心理过程,到底是什么呢?它无非表现为两种方式:一是用语言的方式表达出我们所理解的内容,因而我们理解一定跟语言相关。如果说是一种无言的理解就无法谈论你所理解的内容是什么,每个人都可以有自己内心不同的想法,这种“理解”不一定是大家可以接受的。
谢谢江老师。下面这个问题跟刚才江老说的有一定的关联性。理解的主体是否一定要有意识?这也是彭罗斯所强调的,他认为理解必须得有意识。
首先要界定一下什么叫做“有意识”,这个很重要。因为哲学家和科学家对于什么叫有意识是有不同的解答的。
可以这么说,假设机器目前是没有意识,人是有意识的。尽管我们不知道意识是什么东西,很难定义,但是可以说如果理解的主体必须有意识的话,我们就可以说,机器是不可能达到更深的理解或者是人类语言的理解。
从哲学的角度来想这个问题,我们可能首先想问的是:我们如何确定此刻——就在我们现场交流的这一刻——每一个嘉宾、每一个朋友都是有意识的?我们也同样可以问:我们又是怎么确定机器压根就不可能有意识的?但我并不是想提出一个怀疑论式的问题——我并不是要怀疑各位是不是“zombie”,相反,我是想强调:我们肯定不是通过字面意义的“同情共感”来确认这一点的。陈楸帆老师刚才设想的“完全理解”,不管未来我们能不能实现,反正现在我们并没有实现。不过,看起来这并不防碍我们确认彼此是有意识的。很显然,我们之所以能够确认这一点,并不是因为我们能够复制彼此的意识过程。
谢谢刘老师。下面一个问题是有针对性的,这是艺术服务器策展人顾振清老师问胡老师的一个问题。
首先必须说一下,这位老师提的东西范围很广,涉及到自然科学,人文科学。虽然我也读过佛学、心学,但坦白地讲,我对这方面了解的不是特别多。
宇宙学本身现在有很多模型,包括有一个标准的大爆炸宇宙模型等等。即使现在的宇宙是唯一的,我们对宇宙的观测也是有限的,包括宇宙早期的一些信号,可能很难去得到。这个问题也同样适合于物理学的很多其他领域,包括微观世界中的普朗克尺度,人类在有限的时间内很难用这么高的能量探测到它,这个也是目前粒子物理学碰到的主要的危机。
大家可能听到过超弦理论,量子引力,有人说这是不太科学的,走向了数学优美的境地,困境在于物理学有一些领域很难得到经验的支持。作为经验科学,缺少经验本身的验证或者是对理论的指引,这种情况下如何去做物理学或者是如何做科学?这个问题国外有一些学者我知道还是有过一些讨论的。
谢谢高老师。这个问题陈老师可以来回答,我们为什么追求被另一个人的理解?陈楸帆:这个问题比较文学,所以由我来回答。追求被理解的感觉是因为我们希望自己的生命具有某种意义,这种意义是能够不局限在此身、此生、此时可以去实现的,这种摆脱自身肉体或者是当下时空束缚的意义感只能够通过与另外一个个体或者是一个更大的整体的连接来实现,这种连接表现在最简单的一个交互的意义上,那就是理解与被理解。所以这是我的一个回答。
我觉得我们可以分出理解的两种模式。一种是单向的,一种是双向的、对话式的。比方说,如果我们处理的是单纯的天文学信息,我们就是在进行单向的理解;如果是外星人发送的信号,那就需要双向的理解,因为这里我们所要理解的,本身就是一种带有理解的表达。我们要理解一段地层的地质结构,不需要石头对我们开口讲话。地质学家不需要与石头对话,就能理解石头。但另一方面,地质学家仍需要与地质学家对话。而且,这种在沟通交流中获得的双向理解的能力,是我们得以单向地理解一块石头的前提。毕竟,人很早就掌握石头这种工具了,但要掌握一种合格的地质学家的眼光,从这种眼光来理解这块石头,就需要我作为学生向专家学习,或者之后与专家同行交流。我先要在这样那样的对话中,学习理解地质学,学习理解地质学家所说的话,才可能进而从地质学的理解角度,不带对话地去理解那块石头。在单向理解的向度上,人类的工作很大程度上都可以由机器替代来完成。但在更基本的意义上,理解首先是、最终是在人与人之间展开的一场对话。
最后有一个非常精彩的评论,来自艺术评论家藏策先生。他说,布鲁姆((Harold Bloom)的误读理论说一切解读皆误读,而创造性正发生于误读之中,即所谓创造性的误读。大家有什么评论?
我认为一个事情的发展,有时候超出了作者思考的范围,恰恰是因为误读。我们都知道中国有《红楼梦》,也有红学研究会,但是真正写《红楼梦》的曹雪芹也没有想到他的《红楼梦》会被红学研究的人解读成各种各样的样子,他原来也许没有包含那么多的意思在文字里,但是后人会对他进行各种讨论,这中间可能存在误读的概念,但这也是创造了新的东西,因为人类都是这样慢慢一点点发展出来的,这是我的一点简单的认识。
好的,感谢各位嘉宾精彩的分享。由于时间的关系,我们今天的线上讲座就到这里,也同时感谢观看直播的观众朋友们,谢谢大家!