2022年12月22日下午14:00-16:00，由中國人工智能學會（CAAI）主辦，中國人工智能學會心智計算專委會、神經現實協辦的心智計算論壇第7期「從交叉科學的視角探索Theory of Mind」在線上成功舉辦。論壇圍繞Theory of Mind從心理學、認知科學、人工智能、神經科學等多學科視角研討其內涵及其對人工智能的啟示與意義。各平台累計觀看量2000+人次。
「心智計算論壇 (The Mind Computation Forum)」 是中國人工智能學會心智計算專委會的系列論壇，邀請心智計算相關學科的學者就心智計算研究進行演講、研討，促進學科發展與跨學科的學術交流與合作。本次心智計算論壇由中國人工智能學會心智計算專委會主任、中國科學院自動化研究所曾毅研究員主持，邀請了北京大學蘇彥捷教授為演講嘉賓，上海交通大學秦裕林教授為特邀嘉賓，以及中國科學院自動化研究所趙宇軒副研究員、魯恩萌研究工程師、博士生趙卓雅、中國科學院神經科學研究所博士生劉博奕為青年互動嘉賓，從交叉科學的視角共論Theory of Mind。
12月22日下午，CAAI心智計算專委會主任曾毅研究員為本次心智計算論壇開場主持。曾毅研究員在發言中表示，CAAI心智計算專委會以多學科交叉的方式融合來自人工智能、認知科學、腦與神經科學、演化生物學、人類學等學科的研究方法與學者的貢獻，對生物智能和心智活動的機制機理進行多視角、多尺度系統性的探索，重點研究心智的計算理論體系、心智建模、生物與人工意識、學習與記憶機制、常識構建與理解、社會認知等的科學原理和關鍵技術，並研發受腦與心智啟發的人工智能。
曾毅研究員介紹本次心智計算論壇的主題是「從交叉科學的視角探索Theory of Mind」。心智計算在心理學、認知科學、人工智能領域都有着廣泛的研究，雖然不同學科對心智計算的研究視角不同，但目的都是在於對心智的自然機理、本質的挖掘，以及啟發計算機制的探索。本次論壇集結了多個領域的資深研究人員、青年學者來從多個學科的角度探討Theory of Mind。曾毅研究員希望此次論壇中，來自心理學、認知科學、人工智能、神經科學等多學科視角的學者研討Theory of Mind能夠對其內涵及其對人工智能的啟示與意義進行討論、思想碰撞與相互啟發與借鑒。
曾毅研究員作開場主持
北京大學蘇彥捷教授作題為《從演化和發展的視角看心理理論》的學術報告。蘇彥捷教授認為應當將Theory of Mind譯為「心理理論」，首先介紹了心理理論的概念淵源，從演化視角分享動物心理理論能力的研究，從發展視角分享兒童心理理論的研究，概述了很多經典的心理理論研究的實驗範式。蘇彥捷教授認為，心理理論通過對心理狀態的理解來解釋和預測個體的行為，這項能力在生活中十分常見。而不同年齡階段的心理理論能力有所不同，通過不同階段的實驗範式可以測量心理理論的能力，探測兒童心理理論能力的發展程度。蘇彥捷教授還分享了國內外關於兒童獲得和發展心理理論能力的時間節點的相關研究，揭示了社會交往環境、文化交流對於兒童發展心理理論能力的潛在影響，不同國家的兒童在心理理論能力上的發展過程有人類的共性也有文化特異性。
蘇彥捷教授作演講
中國科學院自動化研究所類腦認知智能研究組趙宇軒副研究員、博士生趙卓雅從人工智能的視角分享了類腦人工智能建模的Theory of Mind研究。他們的研究認為Theory of Mind應被譯為「心理揣測」，主要是Theory of Mind的核心是基於自身經驗對他人心理活動的揣測。趙宇軒副研究員首先匯總了基於貝葉斯、深度學習、腦啟發的心理揣測計算模型，緊接着介紹具備生物合理性的類腦自我感知模型，以及在其基礎上進一步發展的類腦心理揣測脈衝神經網絡模型。這兩套模型受腦自我感知和心理揣測的神經環路啟發，建模了多腦區、多環路協同的類腦脈衝神經網絡模型，並應用於經典的心理揣測實驗範式。這兩項研究均是基於類腦認知智能引擎(「智脈」BrainCog)實現的全脈衝神經網絡模型，集成了多尺度的神經可塑性實現結構、機理類腦的自我感知及心理揣測模型。最後，趙宇軒副研究員還總結了在心理揣測方面未來開展的研究的思考，包括對心理揣測神經及計算機制的探索、對心理揣測的應用及意義的挖掘、以及不斷豐富和優化以類腦認知智能引擎BrainCog為核心的心理揣測模型。
趙宇軒副研究員作演講
中國科學院自動化研究所博士生趙卓雅分享了利用類腦心理揣測模型幫助他人或其他智能體規避安全風險的研究。基於多腦區協同的心理揣測脈衝神經網絡模型能夠推斷自身與他人或其他智能體觀測的不同，進而預測到他人或其他智能體未來可能存在的潛在風險，並在必要時暫緩執行自身行為而採取行動幫助他人或其他智能體規避安全風險。
博士生趙卓雅作演講
上海交通大學秦裕林教授從認知科學的視角分享了對心理揣測的思考。他首先對CAAI心智計算專委會的正式成立表示熱烈地祝賀，回顧了認知科學、心理學和人工智能中對心智研究的歷史，特別是認知體系結構的發展，以表達當代人工智能研究重視發展心智計算的必要性。緊接着秦裕林教授深入介紹Theory of Mind的定義，以及常見的中文翻譯，他及合作者通過深入研究Theory的意義內涵，指出「Theory」不只有「理論」這一個意義，還有「揣測、推測」的深層含義，他特別列舉了他與長期合作者美國科學院院士卡內基梅隆大學心理學系主任John Anderson研討此問題時的一些細節，指出心理學中Theory of Mind是對他人心理活動的揣測，而他們共同的研究An Integrated Theory of the Mind則是對心智提出的整體信息加工理論，兩者是有明顯區別的。因此「Theory of Mind」應該譯為「心理揣測」。
秦裕林教授作演講
在互動研討環節，中國科學院神經科學研究所博士生劉博奕強調他認為社會性動物均具備Theory of Mind能力，例如大鼠的合作行為中表現出豐富的Theory of Mind，包括共情能力、學會合作、互利共惠的行為等。此外，劉博奕認為現有的對Theory of Mind的計算建模偏向於認知性（如趙宇軒副研究員構建的類腦心理揣測模型），建議將認知與情緒的Theory of Mind融合在一起，在具備感知本體及他人情緒的基礎上結合認知邏輯來發展Theory of Mind的計算建模。
博士生劉博奕發言
趙宇軒副研究員就博士生劉博奕的問題和建議發表了自己的觀點和思考。趙宇軒副研究員介紹到，類腦心理揣測模型是基於全脈衝神經網絡實現的，不是通過深度學習來實現的，相較於深度學習模型的生物合理性更強，採用的是類腦的脈衝時序依賴可塑性來學習和優化，有助於揭示心理揣測的神經機理。一般認為Theory of Mind與Cognitive Empathy(認知共情)對應，而Emotional Empathy(情感共情)是共情(Empathy)的一部分，卻不是Theory of Mind的一部分。曾毅研究員介紹到，未來的心智計算論壇將專門針對情感共情開展研討。
中國科學院自動化研究所魯恩萌研究工程師從人工智能的視角對如何評估智能體是否具有mind提出了自己的困惑。即智能體具有哪些能力可以說其有mind？是否存在完整的關於mind的範疇來幫助人工智能學者去發展具有mind的智能機械人？
魯恩萌研究工程師發言
蘇彥捷教授針對魯恩萌老師的問題進行了解答。蘇彥捷教授認為，在不同的情景下mind的層次是不同的，mind通常被認為是內部的心理，看不到的非外顯的行為都可以稱為mind。普遍考慮的mind包括信念、意圖等，而廣義來看知識狀態、情緒、願望、態度也都可以表徵mind。
魯恩萌深入地提問如果機械人具備某些心理揣測的功能，例如可以揣測他人的目標等，但是通過被訓練所具備地部分看起來屬於Theory of Mind的技能，能否說明智能體真的具備了Theory of Mind能力呢？
蘇彥捷教授認為從心理學角度來說，表現出某種能力不代表本質和機理是一樣的。例如通過鏡像測試的大鼠也不能說就具有自我覺知，即使表現一致，但是其機制、過程與真正的自我覺知的原理是有很大不同的。蘇彥捷教授也表示，以更加包容的態度去對待人工智能模擬Theory of Mind的研究，如果智能體能夠表現出類人的Theory of Mind的能力，這樣對於發展具備Theory of Mind的智能體也是很大的進步。
秦裕林教授從認知科學的角度發表了自己對mind的概念理解，首先回顧了早期思想認為mind就是對信息的處理與加工，而隨着神經科學的發展，逐漸發現人腦的mind具有人腦思維的特點，目前計算機的信息加工過程與人腦還是有很大的差異。研討環節還對觀眾們提出的問題進行了解答：
Q1：Theory of Mind和IQ、推理有什麼區別？
A1：蘇彥捷教授回答到，IQ是對智力的測量，和心理理論能力肯定是不一樣的。心理理論廣義上來說可以歸為智力的一部分，是處理社會世界的一項能力。推理能力總的來說一定會運用到心理理論能力在遞歸的推理中，但不同於純邏輯的推理，Theory of Mind不一定是邏輯上可以計算的，而是自然而然在生活中發展而來的理解和預測能力。曾毅研究員針對Theory of Mind是否可以計算分享了自己的見解。
曾毅研究員借鑒Herbert Simon的思想認為絕大多數的心理活動是可以計算的，都是信息加工的過程。此外他特別引用了康奈爾大學心理學教授Shimon Edelman關於」Computing the Mind」的觀點「I am my mind, and I live in my Brain」。曾毅研究員指出Mind是否可以計算是一個開放問題，我們應當不斷探索Mind中哪些部分是可以計算，哪些是未知怎麼計算甚至是不可計算的。
Q2：心智模型中旁觀者一定會回答正確答案？會不會產生謊言或旁觀者視角的非全局性，以干擾其他的機械人。
A2：曾毅研究員認為通過心理揣測去干擾他人這是完全可以發生的，但是對他人的揣測這個認知未必是正確的，主觀的揣測和判斷就是會產生誤差或不恰當的行為影響到其他智能體。
蘇彥捷教授認為機械人能夠產生謊言來干擾他人那就太類人了，相當於運用心理揣測的能力去做壞事兒。
曾毅研究員針對機械人惡用心理揣測能力發表了自己的觀點，例如近期人工智能被用於在外交類遊戲中欺騙和拉幫結夥。正如很多哲學家關注的人工智能學習到人類惡的一面這會非常危險的，這些是發展人工智能必須要考慮的倫理道德問題。
魯恩萌研究工程師深入地發表了自己的見解，即是否應該賦予機械人心理揣測能力，以及賦予機器多大程度的心理揣測能力呢？心理揣測可以幫助消除社會交往中的誤會，形成溝通的橋樑，人機之間的心理揣測可以幫助機器更好的理解人類的需求，形成價值對齊，構造可信任的機器智能體。但若是賦予機器過強的心理揣測能力，那麼是否人會更難讀懂和控制機器，機器也會掩飾、撒謊、欺騙和操縱人類，人工智能的飛速發展無法迴避這些問題。
蘇彥捷教授認為人工智能領域研究模擬人類心理理論的智能體，可以附加約束來抑制其向惡發展。心理理論能力是可以向善或向惡發展和運用的，也可以與其他的認知功能模塊統籌協同，可以通過人為約束使其朝着道德、善意的一面發展。
秦裕林教授認為採用人工智能倫理與治理去限制人工智能向錯誤的方向邁進是十分重要的，發展理解人類幫助人類的向善的智能體是必要的。他對曾毅研究員團隊開展類腦人工智能的道德模型的研究，基於心裏揣測幫助其他智能體避免風險等研究表示了積極的讚賞。應在較早的階段就介入人工智能的倫理治理，這樣能夠保證在一條安全的道路上發展。
博士生劉博奕建議用情緒來限制倫理，用情緒去幫助理解他人。情緒是自動計算的本能的反應，情緒可以幫助理解對方的想法。曾毅研究員引用了圖靈獎獲得者Marvin Minsky的觀點「問題不是人工智能是否能夠具有情感，而是如果沒有情感，怎能稱為其是真正意義的人工智能」，並對博士生劉博奕對情感的理解及其在人工智能中的作用表達了贊同和肯定。
最後，曾毅研究員對此次心智計算論壇進行了總結，多學科交叉的探討使得Theory of Mind的概念、內涵更加清晰。各位專家學者們都從自己的領域分享了新穎的觀點、相關進展，多位學者之間的研討展現出不同學科之間已經開始了不同程度的互相借鑒，這是非常可貴的，對於發展Theory of Mind交叉學科很有啟發。此次論壇多位資深學者、青年研究人員和觀眾之間展開了豐富的思想交流、深入的互動討論、實質的問題研討，營造了良好的學術交流氛圍。
本文由CAAI心智計算專委會供稿
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-