同济大学余明锋：AI是人类文明的木马

文 | 赵阳

编辑 | 博阳

人工智能正像一辆不断加速的列车，载着整个人类驶向一个未知的未来。

面对这趟列车，舆论分为截然相反的两派：以雷·库兹韦尔为代表的“技术乐观主义”和以“深度学习之父”杰弗里·辛顿为代表的“技术悲观主义”。前者相信技术将带来文明的飞跃，后者则警告其可能对人类构成巨大威胁。

7月27日晚，在2025世界人工智能大会（waic）期间的“腾讯waic之夜”上，同济大学哲学系副教授余明锋聚焦于辛顿等人提出的悲观主义警告，并对此进行了深入的哲学思辨与回应。

余明锋认为，我们既不应盲目乐观，也不必泛泛恐惧，而应采取一种“技术消纳”的立场。单纯讨论如何为ai“戴上伦理枷锁”是不够的，因为ai的核心挑战在于它深刻地改变了“人类的伦理处境”——它可能重塑劳资关系、制造代际伦理困境和催生新的社会阶层。因此，我们需要的不是简单的恐惧或抵制，而是具体地分析和消化ai带来的挑战与机遇。

通过这种“消纳”，ai才能真正融入生命，让它成为未来“人机共生”的有益组成部分，而非一个我们无法控制的“文明木马”。

划重点：

以下为嘉宾演讲实录：

ai现在就是一辆快速前进的列车，并且在加速前进，处于一个我们所有人都在合力把它往前推进的一辆列车上。但是呢，这里面有两个非常有趣的问题。

第一个问题就是，这辆列车上面坐着的不只是我们在座的各位，不只是资本科技的精英，也不只是所有的 ai 领域的从业者，而是哲学家们喜欢讨论的“人类”这样一个整体，我们都在这辆列车上。所以我们需要对它做一个更宽泛的、更深入的、在哲学层面的一个思考。

第二点，它带来的一个问题是，这辆列车究竟驶向何方？我们并不明确地知道。当下的讨论，无论是像辛顿这样的人工智能的顶级专家，还是普通舆论场上的议论者们，其实往往分成两派，这两派互相并不认同，众说纷纭，甚至于截然相反。这两派就是技术悲观主义和技术乐观主义。

那无论是技术悲观主义，还是技术乐观主义，我们都看到，人工智能它并不是单纯的一个给我们带来便利、带来生产力革命的工具，而是一个文明的木马。

什么叫文明的木马？大家知道特洛伊木马的故事，在古希腊神话里面，木马好像一个美丽的礼物，但是它里面其实是隐藏着消息的。这个隐藏的消息是你以便利的理由接受它的时候、拥抱它的时候，它悄然带给你的。而这个文明的消息是什么，就像我前面说的那样，我们并不明确知道，甚至于我们有截然相反的观点。

所谓技术乐观主义，就是认为技术的进步会带来人类文明的整体跃进，会带来人类既有问题的一次全面解决。比如说雷·库兹韦尔（ray kurzweil）的奇点理论，就是代表。

那么关于技术悲观主义，深度学习之父杰弗里·辛顿（geoffrey hinton）刚刚在上海做了一场很有影响的演讲，这也是他多少年来代表性的观点。所谓技术悲观主义，不是技术不会有突破，而是技术突破后所带来对人类文明的影响并不是那么乐观的，甚至他认为是非常悲观的。所以他在上海的演讲，实际上是他发出的警告。同样，他的高徒open ai前首席科学家伊利亚·苏茨克维（ilya sutskever），也持有相当悲观主义的看法。这些看法值得我们重视的。但是在哲学上，我们需要具体地去分辨技术悲观主义的理由在哪里，以及我们如何面对它。

对于人工智能所带来的消息，我们现在面临着巨大的不确定性，但是辛顿所带来的消息却非常明确，可以总结为两点：

第一点，技术悲观主义。ai给人类带来的可能是巨大的威胁，而不是简单的便利；

第二点，辛顿发出警告，希望加强 ai 的伦理治理，对 ai 做伦理规范；

这两点“消息”都有道理，但是我接下来演讲的主题是，对辛顿教授的立场进行了一些分析，并针对于此做三点简要的回应。

第一点，首先我们要强调 ai 的发展，它是另一种智能体的诞生，它是以不同于人类的方式在“理解”语言，未来进一步会生产“知识”。这里的“理解”和“知识”需要加上双引号，因为 ai“理解”语言的方式和人类“理解”语言的方式是不一样的。正是在这一点上，我认为辛顿把它们简单地划了等号，这部分地导致了他的过于悲观的看法。

我认为，人类是从语义的层面理解语言，比如大家在听我讲话，其实你们是在语义的层面理解，而 ai 并不是语义的层面理解，它是把语言做成向量空间的计算，进行概率统计、建立相关性，这是不同于人类语言的“理解”方式。另外，ai 的“知识”生产也值得我们高度注意，它会拓展人类知识的边界，但它和人类的“知识”是不同的。这个话题这里不展开讨论，但毫无疑问，它是一种新的智能体。

在这样的情况下，当有另外一种智能体进入我们生活的时候，我们其实在加速地把自己客体化。所谓“客体化”是指，之前是我们在认知世界，我们在商量我们应该在世界上怎么生活，但是在当代这个技术条件下，我们的心跳、我们的脉搏，所有这一些看起来无意识的行动，以及我们在互联网上留下的所有痕迹，都可以成为 ai 认知我们、预测我们的数据来源——从这个意义上讲，我们就成了被 ai 认知的客体。

再比如，我们在生活中会遇到各式决策难题，ai给我们的建议会给我们提供巨大的便利，但我们在享受类似便利的同时也在出让“人之为人”的自由意志、出让“人之为人”的生存空间。从这个意义上来讲，技术乐观主义者确实是过于简单的，而技术悲观主义有它的道理。

第二点，辛顿发出加强 ai 治理的警告也值得我们重视。但是，我认为包括辛顿在内，大家目前关于 ai 伦理的讨论主要聚焦于 ai 的规范，也就是 ai 如何能够符合人类的伦理要求，但是这样的视角还不够深入，因为 ai 给我们带来的更主要的挑战是它对于人类伦理处境的改变。

所谓“对于人类伦理处境的改变”是指，比如企业未来面临非常严肃的劳资关系问题。从工业革命以来，由于资本需要劳动力，劳资关系成为了社会最基本的关系之一。而如果 ai 的快速发展，使得未来资本很大程度上不需要低端劳动力，甚至中端劳动力——我们大学培养出的毕业生。原先他们可以做白领工作，但现在会被大面积地取代。那么在这样的情况下，我们人类如何面对这样新的处境，这会是非常严肃的伦理问题。

再比如代际伦理的问题。我相信大家有感知到，随着 ai 的发展，比如律师事务所，它不再需要大量助理律师，或者助理律师的工作极大地可以被 ai 取代，它需要的是有经验的律师；大学里也需要的是讲课、做研究都非常好的top的那一部分教师，普通的教师完全可以被取代。那么这个时候有一个问题，成熟的会计师、成熟的律师、成熟的教师、医生，都是从年轻人成长起来的，但是如果未来年轻人的成长阶梯被 ai 取代，那么他就会产生严峻的代际伦理困境，年轻人该怎么办？这个是我作为大学老师每天在深切体会的一个事情。

再比如新的阶层关系。每一个时代、每一个社会都会有阶层关系的问题，但是在未来的阶层关系会有新的变量。比如，有可能在未来会有一群人，他有自己个人定制的 ai agent，它会完全基于个人的数据和所需要的数据来做出个性化的服务，那么它的准确度、它的能力是超乎想象的，因为它可以完全地围绕个人的数据做有效的服务。我们今天用的都是普遍的大模型，那么这个可能是平民用的，而在这个意义上，没有个人ai 服务的人会是另一个阶层。比如我作为一个大学教授，我需要写论文、研究课题，但是如果我有个人的 ai 助手，那么生产能力是前所未有的。因此，这都是 ai 这个文明的密码带给我们的挑战。

那么有没有好消息呢？当然是有的，只是这个好消息它也不是简单地摆在我们面前。比如， ai 带来未来教育的变化。我个人的判断是，当下的大学教育正在过时，甚至已经过时，以至于今天的家长们为孩子选专业的时候，选错的概率越来越大，因为选对的概率已经趋近于零了。你很难说选计算机就一定是对的，因为计算机领域的低端岗位同样正在被加速地取代。所以未来该学什么？这件事情为什么变得如此困难呢？就是因为我们对于教育的理解是培养专业人才，是就业导向的，而这是第二次工业革命以来高等教育的理念。如果第二次工业革命的生产力基础已经发生变化，那么基于第二次工业革命的大学专业设置、大学教育理念是不是应该变化？那么我想，有关于此的进一步的讨论非常值得我们在更广泛的层面展开。

第三点，面对当前ai的发展，我提出个人面对这些问题的一个基本立场，我把它称之为“技术消纳”。这不是简单的技术乐观主义，以为技术的发展一定给人类带来光明的未来，也不是简单的技术悲观主义，认为技术一定会带来重大的灾难。而是我们要看到技术的发展带来方方面面的挑战，它需要我们去消化，需要我们的社会去面对它。

而这个意义上，我也希望给大家传递一个我的消息，当我们讨论 ai 治理的时候，它不是简单地在给我们的技术发展套上枷锁，不是简单的戴上紧箍咒，而是让我们的 ai 真正融入我们的生命，让它成为我们人机共生未来的有机组成部分。这里面需要非常多的具体的工作要做，而这很可能是各位企业家的一个创业的契机。因为只有当你意识到这里面的伦理风险以及可能的伦理挑战，而你的 ai 能够面对它，那么你就可能在这场竞争中取得胜利。这就是我所谓的“技术消纳”理论。它需要在社会的各个层面展开，包括企业家、政治家、也包括学者、思想者，都需要积极地去面对它。

这个意义上，我不同意辛顿教授的一点是，他只是泛泛地恐惧于 ai 的到来，而这个事情我们需要具体地分析。我们需要更为具体地考察伦理情境的变化，具体地分析它可能带来的挑战，包括好消息和坏消息。比如对于教育，它可能就是一个好消息，因为它可能把教育从过去的工具化教育思维中解放出来。人类在过往的文明史中，很长一段时间不是把教育作为培养一个工具人的手段，而是把教育看作“人之为人”的一个成长过程。那么在 ai 的未来，我们完全有可能重新展望这样的一个人类未来。

好，那我就谈到这里，谢谢大家。