我與AI之間,存在「有限信任」

2025年06月20日14:20:19 星座 3855

如果你還把人工智慧(ai)當成「聊天機器人」或「寫稿助手」,那你可能已經落後一步了。


在人工智慧的發展潮流中,有一個越來越火的詞叫「智能體」(agent)。它不是某個具體的app,而是一種更主動、更聰明的ai夥伴,它會感知環境、制定目標、規劃路徑、執行任務,甚至學會反思和協同。


《智能體時代》一書的作者、上海市人工智慧社會治理協同創新中心研究員劉志毅在接受長安街知事(微信id:capitalnews)專訪時表示,「智能體正在改變我們的工作方式、生活方式,甚至人與人的協作方式,它讓ai從『靜態工具』變成了『主動夥伴』。」


「智能體」和ai有什麼不同?


「智能體」其實是人工智慧的一個分支,但它比傳統ai要「能幹」得多。


如果說傳統ai是「你問它答」的被動工具,那智能體就是「你什麼都還沒說,它就開始行動」的主動夥伴。它有目標,有感知,有記憶,還能和別的智能體合作——簡單說,它不僅「知道你要什麼」,還「知道該怎麼去做」,甚至「知道怎樣和別人一起配合去完成」。


劉志毅解釋道,智能體的特別之處在於三大能力:能動執行(比如自動調用工具完成任務)、長期記憶(能反思和學習)、跨領域協同(能和其他系統協作)。它已經不再只是「輸入-輸出」的線性思維,而是形成了目標驅動架構與環境交互的閉環。


想像一下:清晨醒來,健康管家智能體已經根據你的睡眠數據幫你定製好早餐建議;通勤時,交通協同智能體優化導航路徑以避免突發擁堵;工作中,知識引擎智能體幫你自動生成會議紀要並追溯決策鏈。


這一切的背後,是各種感測器和行為模型在起作用,它們能預測你的需求、分析你的偏好,甚至提前行動。這種「無感滲透」,正是智能體技術發展的方向。


未來,越來越多的職業都會被智能體「重新定義」。


劉志毅說,舉個例子,以前醫生依靠多年經驗來判斷病情,而現在,智能體可以分析海量病例、輔助判斷,醫生的角色變成了「方案的仲裁者」;內容創作者也一樣,ai能快速生成內容,人變成了「策展人」,去判斷、挑選和優化這些內容。


我與AI之間,存在「有限信任」 - 天天要聞

4月10日,上海,中國國際醫療器械博覽會(cmef 2025)舉行,展示患者服務智能體。圖源:視覺中國


這種變化正在帶來一種新型勞動模式,劉志毅稱之為「演算法租金經濟」,即那些掌握智能體使用能力的人,會獲得更高的效率和更高的回報,被稱為「超級個體」;而另一些人則可能被困在低附加值的重複勞動中,淪為「演算法無產階級」。


信任,但有限


面對越來越聰明的智能體,劉志毅提出了一個關鍵詞:「有限信任」。


「我會讓ai幫我閱讀摘要論文、重構日程、優化寫作、分析數據,但始終是我設定目標,它去執行。」他特彆強調人與智能體的協作原則——人類定義目標、agent優化路徑,同時加上「硬編碼的倫理規則」和「人工複核機制」,防止技術越界。


我與AI之間,存在「有限信任」 - 天天要聞

3月4日,杭州,浙江省中醫院專家在用大模型為患者進行輔助診療。圖源:視覺中國


我們都知道,大模型有時會「張口就來」,一本正經地胡說八道,這就是「ai幻覺」。


劉志毅解釋說,ai幻覺本質是概率模型對先驗知識缺口的補償性虛構。簡單來說,就是因為大模型靠概率推理,一旦遇到它「沒學過」的內容,就會開始自我「腦補」。如果這種「幻覺」出現在醫學診斷、公共政策領域,或者是社交媒體上的謠言,那後果就不堪設想。如果不加甄別,會大幅拉高公眾的「驗證成本」。


他建議,技術層面,要引入「檢索增強生成」(rag)機制,讓ai必須基於真實數據發言;社會層面,在基礎教育階段就要增加演算法信息素養課程,提升公眾的信息素養,用人類的理性和知識,對ai的輸出進行系統化的檢查和把關。


「定義問題的能力」是未來的核心競爭力


劉志毅指出,在智能體泛化時代,人類需以元問題定義權與倫理領導力構築護城河。


所謂「元問題定義權」,即決定「何種問題值得解決」,而非「如何解決」。那麼如何衡量一個好答案?這就需要「跨領域的聯想力」和「理解複雜系統的能力」,更重要的是,要具備「倫理領導力」——知道什麼能做、什麼不該做。


在劉志毅看來,「人類存在的獨特性,正藏匿於演算法無法壓縮的混沌邊緣」。也就是說,人類的獨特價值,恰恰就藏在「不確定性」中。那些ai搞不懂、不好歸類、不容易量化的領域,才是我們最該堅守的領地。


感恩回饋
為了回饋廣大粉絲
長安街知事準備了精美圖書
贈送給大家!
將5本由中信出版集團提供的
《智能體時代》
贈予長安街知事的忠實粉絲

《智能體時代》


我與AI之間,存在「有限信任」 - 天天要聞


★內容簡介


智能體作為當前人工智慧的一個重要分支,推動了ai技術的深化和發展。在這個智能技術加速演進的時代,本書立足當下科技前沿,以其宏大而系統的視角,不僅幫助讀者理解了從神經元到智能體的演化歷程,還展現了一個人類與人工智慧共同進化的未來圖景。


★作者簡介


劉志毅,福布斯中國ai影響力人物、中國人工智慧領軍科學、2024年度「華為雲最有價值專家」。


十餘年來,劉志毅一直在ai領域進行深入研究和實踐,主要研究智能計算、空間智能以及超級人工智慧對齊等方向。

找好友點贊更有可能獲得圖書哦!


活動參與方式

1.關注「長安街知事」微信公眾號,已關注用戶可以省略此步!

2.在本篇文章評論區留言(系統限制每篇文章只能精選100條留言,請大家理解)。

3.留言獲點贊數最多的5位粉絲,每位將收到一本贈書。

4.留言點贊截至當天24時,中獎名單及領獎方式將在次日的推送中公布,敬請關注。


注意事項:

① 所有獎品一律包郵

② 由於個人原因導致圖書郵寄不到,與長安街知事無關

③ 活動獎品寄出後,由於快遞失誤導致的獎品丟失所造成的損失與長安街知事無關,由用戶自行與快遞協商解決

④ 本活動最終解釋權歸長安街知事所有

星座分類資訊推薦

上新好麗友的山姆到底得罪誰了? - 天天要聞

上新好麗友的山姆到底得罪誰了?

最近一段時間,如果要問零售市場誰是最火的?相信山姆肯定是當仁不讓,不過這次不是山姆又有啥爆品出現了,而是山姆上新了以好麗友為代表的一眾新品,然而這次的新品卻引發了眾怒,一大批會員對山姆是口誅筆伐,讓....
命里有財不用爭,命里沒財爭也空 - 天天要聞

命里有財不用爭,命里沒財爭也空

你有沒有過這樣的時刻?看著身邊的朋友、同學、甚至曾經不如自己的人突然翻身暴富,心裡五味雜陳。不是嫉妒,而是不甘——我比他努力,為什麼好運總輪不到我?其實有時候,不是你不努力,而是命盤裡壓根沒寫這筆錢。別急著反駁,先聽我說個故事。
星座日運:7月16日 危機,還是轉機? - 天天要聞

星座日運:7月16日 危機,還是轉機?

乙巳•六月廿二7月16日 星期三理性:★★☆ 情緒:★★直覺:★★★☆ 體能:★★☆火象星座(♈-♌-♐)♈白羊座:關於職場的直覺會非常敏銳,最近也常常有相關的夢境出現。我們都處在一個大的特定的時代,把握時機固然重要,但一意孤行很危險。♌獅
展現自己,讓愛降臨,四個生肖,桃花旺盛 - 天天要聞

展現自己,讓愛降臨,四個生肖,桃花旺盛

在神秘而又充滿魅力的生肖文化中,每個生肖都有著獨特的性格特質和運勢走向。而在當下,有四個生肖正迎來桃花盛開的美好時節,只要他們勇敢地展現自己,愛情便會悄然降臨。首先是生肖兔。生肖兔的人性格溫柔善良,為人處世謙遜有禮,如同春日裡盛開的花朵,散
日常生活,好運降臨,四個星座,美妙人生 - 天天要聞

日常生活,好運降臨,四個星座,美妙人生

在浩瀚宇宙的神秘星象影響下,日常生活就像一幅絢麗多彩的畫卷,而有四個星座將在這幅畫卷中邂逅好運,開啟美妙人生的新征程。活力四射的白羊座,一直以來都是生活中的勇者。在日常生活里,他們的好運如同春日裡的暖陽,溫暖而又充滿希望。
人生建議:靠近身邊「陽氣重」的人,你就贏了 - 天天要聞

人生建議:靠近身邊「陽氣重」的人,你就贏了

好多人整天愁眉苦臉,做任何事都提不起勁頭,我們應該具備精氣神,積極向上才對。生活本就有起有伏,我們需要擁有一個好心態去面對,人生建議,靠近身邊「陽氣重」的人,如此,真的能夠讓自己變得更好。
精準「記住」你的喜好、「安慰」你的失落…… 當人類愛上AI孤獨解藥還是技術陷阱? - 天天要聞

精準「記住」你的喜好、「安慰」你的失落…… 當人類愛上AI孤獨解藥還是技術陷阱?

圖片由AI生成 □ 中國婦女報全媒體記者 孔一涵 人工智慧技術正深刻改變著人們的生活。 不僅能流暢對話,更能精準「記住」你的喜好、「安慰」你的失落……「人機之戀」這個曾經僅存於科幻小說的幻想概念,正藉助生成式人工智慧(AI)的驚人理解力和共情模擬能力,以前所未有的速度和形態照進現實。 知心達意的「伴侶」 半夜...
生肖運勢-子鼠(7月15日) - 天天要聞

生肖運勢-子鼠(7月15日)

今日五行:長流水今日相衝:羊日沖(丁丑)牛今日天機:正官主事今日綜合運勢:今天是心情愉悅的一天,不管工作還是生活都十分舒心,可以安排一些休閑娛樂活動,放鬆充實自己。人緣佳,就連平時不太熟悉的人都會主動向你靠近,興奮不已,人際關係不斷擴展。