同濟大學餘明鋒：AI是人類文明的木馬

文 | 趙陽

編輯 | 博陽

人工智能正像一輛不斷加速的列車，載着整個人類駛向一個未知的未來。

面對這趟列車，輿論分為截然相反的兩派：以雷·庫茲韋爾為代表的「技術樂觀主義」和以「深度學習之父」傑弗里·辛頓為代表的「技術悲觀主義」。前者相信技術將帶來文明的飛躍，後者則警告其可能對人類構成巨大威脅。

7月27日晚，在2025世界人工智能大會（waic）期間的「騰訊waic之夜」上，同濟大學哲學系副教授餘明鋒聚焦於辛頓等人提出的悲觀主義警告，並對此進行了深入的哲學思辨與回應。

餘明鋒認為，我們既不應盲目樂觀，也不必泛泛恐懼，而應採取一種「技術消納」的立場。單純討論如何為ai「戴上倫理枷鎖」是不夠的，因為ai的核心挑戰在於它深刻地改變了「人類的倫理處境」——它可能重塑勞資關係、製造代際倫理困境和催生新的社會階層。因此，我們需要的不是簡單的恐懼或抵制，而是具體地分析和消化ai帶來的挑戰與機遇。

通過這種「消納」，ai才能真正融入生命，讓它成為未來「人機共生」的有益組成部分，而非一個我們無法控制的「文明木馬」。

劃重點：

以下為嘉賓演講實錄：

ai現在就是一輛快速前進的列車，並且在加速前進，處於一個我們所有人都在合力把它往前推進的一輛列車上。但是呢，這裏面有兩個非常有趣的問題。

第一個問題就是，這輛列車上面坐着的不只是我們在座的各位，不只是資本科技的精英，也不只是所有的 ai 領域的從業者，而是哲學家們喜歡討論的「人類」這樣一個整體，我們都在這輛列車上。所以我們需要對它做一個更寬泛的、更深入的、在哲學層面的一個思考。

第二點，它帶來的一個問題是，這輛列車究竟駛向何方？我們並不明確地知道。當下的討論，無論是像辛頓這樣的人工智能的頂級專家，還是普通輿論場上的議論者們，其實往往分成兩派，這兩派互相併不認同，眾說紛紜，甚至於截然相反。這兩派就是技術悲觀主義和技術樂觀主義。

那無論是技術悲觀主義，還是技術樂觀主義，我們都看到，人工智能它並不是單純的一個給我們帶來便利、帶來生產力革命的工具，而是一個文明的木馬。

什麼叫文明的木馬？大家知道特洛伊木馬的故事，在古希臘神話裏面，木馬好像一個美麗的禮物，但是它裏面其實是隱藏着消息的。這個隱藏的消息是你以便利的理由接受它的時候、擁抱它的時候，它悄然帶給你的。而這個文明的消息是什麼，就像我前面說的那樣，我們並不明確知道，甚至於我們有截然相反的觀點。

所謂技術樂觀主義，就是認為技術的進步會帶來人類文明的整體躍進，會帶來人類既有問題的一次全面解決。比如說雷·庫茲韋爾（ray kurzweil）的奇點理論，就是代表。

那麼關於技術悲觀主義，深度學習之父傑弗里·辛頓（geoffrey hinton）剛剛在上海做了一場很有影響的演講，這也是他多少年來代表性的觀點。所謂技術悲觀主義，不是技術不會有突破，而是技術突破後所帶來對人類文明的影響並不是那麼樂觀的，甚至他認為是非常悲觀的。所以他在上海的演講，實際上是他發出的警告。同樣，他的高徒open ai前首席科學家伊利亞·蘇茨克維（ilya sutskever），也持有相當悲觀主義的看法。這些看法值得我們重視的。但是在哲學上，我們需要具體地去分辨技術悲觀主義的理由在哪裡，以及我們如何面對它。

對於人工智能所帶來的消息，我們現在面臨著巨大的不確定性，但是辛頓所帶來的消息卻非常明確，可以總結為兩點：

第一點，技術悲觀主義。ai給人類帶來的可能是巨大的威脅，而不是簡單的便利；

第二點，辛頓發出警告，希望加強 ai 的倫理治理，對 ai 做倫理規範；

這兩點「消息」都有道理，但是我接下來演講的主題是，對辛頓教授的立場進行了一些分析，並針對於此做三點簡要的回應。

第一點，首先我們要強調 ai 的發展，它是另一種智能體的誕生，它是以不同於人類的方式在「理解」語言，未來進一步會生產「知識」。這裡的「理解」和「知識」需要加上雙引號，因為 ai「理解」語言的方式和人類「理解」語言的方式是不一樣的。正是在這一點上，我認為辛頓把它們簡單地划了等號，這部分地導致了他的過於悲觀的看法。

我認為，人類是從語義的層面理解語言，比如大家在聽我講話，其實你們是在語義的層面理解，而 ai 並不是語義的層面理解，它是把語言做成向量空間的計算，進行概率統計、建立相關性，這是不同於人類語言的「理解」方式。另外，ai 的「知識」生產也值得我們高度注意，它會拓展人類知識的邊界，但它和人類的「知識」是不同的。這個話題這裡不展開討論，但毫無疑問，它是一種新的智能體。

在這樣的情況下，當有另外一種智能體進入我們生活的時候，我們其實在加速地把自己客體化。所謂「客體化」是指，之前是我們在認知世界，我們在商量我們應該在世界上怎麼生活，但是在當代這個技術條件下，我們的心跳、我們的脈搏，所有這一些看起來無意識的行動，以及我們在互聯網上留下的所有痕迹，都可以成為 ai 認知我們、預測我們的數據來源——從這個意義上講，我們就成了被 ai 認知的客體。

再比如，我們在生活中會遇到各式決策難題，ai給我們的建議會給我們提供巨大的便利，但我們在享受類似便利的同時也在出讓「人之為人」的自由意志、出讓「人之為人」的生存空間。從這個意義上來講，技術樂觀主義者確實是過於簡單的，而技術悲觀主義有它的道理。

第二點，辛頓發出加強 ai 治理的警告也值得我們重視。但是，我認為包括辛頓在內，大家目前關於 ai 倫理的討論主要聚焦於 ai 的規範，也就是 ai 如何能夠符合人類的倫理要求，但是這樣的視角還不夠深入，因為 ai 給我們帶來的更主要的挑戰是它對於人類倫理處境的改變。

所謂「對於人類倫理處境的改變」是指，比如企業未來面臨非常嚴肅的勞資關係問題。從工業革命以來，由於資本需要勞動力，勞資關係成為了社會最基本的關係之一。而如果 ai 的快速發展，使得未來資本很大程度上不需要低端勞動力，甚至中端勞動力——我們大學培養出的畢業生。原先他們可以做白領工作，但現在會被大面積地取代。那麼在這樣的情況下，我們人類如何面對這樣新的處境，這會是非常嚴肅的倫理問題。

再比如代際倫理的問題。我相信大家有感知到，隨着 ai 的發展，比如律師事務所，它不再需要大量助理律師，或者助理律師的工作極大地可以被 ai 取代，它需要的是有經驗的律師；大學裏也需要的是講課、做研究都非常好的top的那一部分教師，普通的教師完全可以被取代。那麼這個時候有一個問題，成熟的會計師、成熟的律師、成熟的教師、醫生，都是從年輕人成長起來的，但是如果未來年輕人的成長階梯被 ai 取代，那麼他就會產生嚴峻的代際倫理困境，年輕人該怎麼辦？這個是我作為大學老師每天在深切體會的一個事情。

再比如新的階層關係。每一個時代、每一個社會都會有階層關係的問題，但是在未來的階層關係會有新的變量。比如，有可能在未來會有一群人，他有自己個人定製的 ai agent，它會完全基於個人的數據和所需要的數據來做出個性化的服務，那麼它的準確度、它的能力是超乎想像的，因為它可以完全地圍繞個人的數據做有效的服務。我們今天用的都是普遍的大模型，那麼這個可能是平民用的，而在這個意義上，沒有個人ai 服務的人會是另一個階層。比如我作為一個大學教授，我需要寫論文、研究課題，但是如果我有個人的 ai 助手，那麼生產能力是前所未有的。因此，這都是 ai 這個文明的密碼帶給我們的挑戰。

那麼有沒有好消息呢？當然是有的，只是這個好消息它也不是簡單地擺在我們面前。比如， ai 帶來未來教育的變化。我個人的判斷是，當下的大學教育正在過時，甚至已經過時，以至於今天的家長們為孩子選專業的時候，選錯的概率越來越大，因為選對的概率已經趨近於零了。你很難說選計算機就一定是對的，因為計算機領域的低端崗位同樣正在被加速地取代。所以未來該學什麼？這件事情為什麼變得如此困難呢？就是因為我們對於教育的理解是培養專業人才，是就業導向的，而這是第二次工業革命以來高等教育的理念。如果第二次工業革命的生產力基礎已經發生變化，那麼基於第二次工業革命的大學專業設置、大學教育理念是不是應該變化？那麼我想，有關於此的進一步的討論非常值得我們在更廣泛的層面展開。

第三點，面對當前ai的發展，我提出個人面對這些問題的一個基本立場，我把它稱之為「技術消納」。這不是簡單的技術樂觀主義，以為技術的發展一定給人類帶來光明的未來，也不是簡單的技術悲觀主義，認為技術一定會帶來重大的災難。而是我們要看到技術的發展帶來方方面面的挑戰，它需要我們去消化，需要我們的社會去面對它。

而這個意義上，我也希望給大家傳遞一個我的消息，當我們討論 ai 治理的時候，它不是簡單地在給我們的技術發展套上枷鎖，不是簡單的戴上緊箍咒，而是讓我們的 ai 真正融入我們的生命，讓它成為我們人機共生未來的有機組成部分。這裏面需要非常多的具體的工作要做，而這很可能是各位企業家的一個創業的契機。因為只有當你意識到這裏面的倫理風險以及可能的倫理挑戰，而你的 ai 能夠面對它，那麼你就可能在這場競爭中取得勝利。這就是我所謂的「技術消納」理論。它需要在社會的各個層面展開，包括企業家、政治家、也包括學者、思想者，都需要積極地去面對它。

這個意義上，我不同意辛頓教授的一點是，他只是泛泛地恐懼於 ai 的到來，而這個事情我們需要具體地分析。我們需要更為具體地考察倫理情境的變化，具體地分析它可能帶來的挑戰，包括好消息和壞消息。比如對於教育，它可能就是一個好消息，因為它可能把教育從過去的工具化教育思維中解放出來。人類在過往的文明史中，很長一段時間不是把教育作為培養一個工具人的手段，而是把教育看作「人之為人」的一個成長過程。那麼在 ai 的未來，我們完全有可能重新展望這樣的一個人類未來。

好，那我就談到這裡，謝謝大家。