我與AI之間,存在“有限信任”

2025年06月20日14:20:19 星座 3855

如果你還把人工智能(ai)當成“聊天機器人”或“寫稿助手”,那你可能已經落後一步了。


在人工智能的發展潮流中,有一個越來越火的詞叫“智能體”(agent)。它不是某個具體的app,而是一種更主動、更聰明的ai夥伴,它會感知環境、制定目標、規劃路徑、執行任務,甚至學會反思和協同。


《智能體時代》一書的作者、上海市人工智能社會治理協同創新中心研究員劉志毅在接受長安街知事(微信id:capitalnews)專訪時表示,“智能體正在改變我們的工作方式、生活方式,甚至人與人的協作方式,它讓ai從‘靜態工具’變成了‘主動夥伴’。”


“智能體”和ai有什麼不同?


“智能體”其實是人工智能的一個分支,但它比傳統ai要“能幹”得多。


如果說傳統ai是“你問它答”的被動工具,那智能體就是“你什麼都還沒說,它就開始行動”的主動夥伴。它有目標,有感知,有記憶,還能和別的智能體合作——簡單說,它不僅“知道你要什麼”,還“知道該怎麼去做”,甚至“知道怎樣和別人一起配合去完成”。


劉志毅解釋道,智能體的特別之處在於三大能力:能動執行(比如自動調用工具完成任務)、長期記憶(能反思和學習)、跨領域協同(能和其他系統協作)。它已經不再只是“輸入-輸出”的線性思維,而是形成了目標驅動架構與環境交互的閉環。


想象一下:清晨醒來,健康管家智能體已經根據你的睡眠數據幫你定製好早餐建議;通勤時,交通協同智能體優化導航路徑以避免突發擁堵;工作中,知識引擎智能體幫你自動生成會議紀要並追溯決策鏈。


這一切的背後,是各種傳感器和行為模型在起作用,它們能預測你的需求、分析你的偏好,甚至提前行動。這種“無感滲透”,正是智能體技術發展的方向。


未來,越來越多的職業都會被智能體“重新定義”。


劉志毅說,舉個例子,以前醫生依靠多年經驗來判斷病情,而現在,智能體可以分析海量病例、輔助判斷,醫生的角色變成了“方案的仲裁者”;內容創作者也一樣,ai能快速生成內容,人變成了“策展人”,去判斷、挑選和優化這些內容。


我與AI之間,存在“有限信任” - 天天要聞

4月10日,上海,中國國際醫療器械博覽會(cmef 2025)舉行,展示患者服務智能體。圖源:視覺中國


這種變化正在帶來一種新型勞動模式,劉志毅稱之為“算法租金經濟”,即那些掌握智能體使用能力的人,會獲得更高的效率和更高的回報,被稱為“超級個體”;而另一些人則可能被困在低附加值的重複勞動中,淪為“算法無產階級”。


信任,但有限


面對越來越聰明的智能體,劉志毅提出了一個關鍵詞:“有限信任”。


“我會讓ai幫我閱讀摘要論文、重構日程、優化寫作、分析數據,但始終是我設定目標,它去執行。”他特彆強調人與智能體的協作原則——人類定義目標、agent優化路徑,同時加上“硬編碼的倫理規則”和“人工複核機制”,防止技術越界。


我與AI之間,存在“有限信任” - 天天要聞

3月4日,杭州,浙江省中醫院專家在用大模型為患者進行輔助診療。圖源:視覺中國


我們都知道,大模型有時會“張口就來”,一本正經地胡說八道,這就是“ai幻覺”。


劉志毅解釋說,ai幻覺本質是概率模型對先驗知識缺口的補償性虛構。簡單來說,就是因為大模型靠概率推理,一旦遇到它“沒學過”的內容,就會開始自我“腦補”。如果這種“幻覺”出現在醫學診斷、公共政策領域,或者是社交媒體上的謠言,那後果就不堪設想。如果不加甄別,會大幅拉高公眾的“驗證成本”。


他建議,技術層面,要引入“檢索增強生成”(rag)機制,讓ai必須基於真實數據發言;社會層面,在基礎教育階段就要增加算法信息素養課程,提升公眾的信息素養,用人類的理性和知識,對ai的輸出進行系統化的檢查和把關。


“定義問題的能力”是未來的核心競爭力


劉志毅指出,在智能體泛化時代,人類需以元問題定義權與倫理領導力構築護城河。


所謂“元問題定義權”,即決定“何種問題值得解決”,而非“如何解決”。那麼如何衡量一個好答案?這就需要“跨領域的聯想力”和“理解複雜系統的能力”,更重要的是,要具備“倫理領導力”——知道什麼能做、什麼不該做。


在劉志毅看來,“人類存在的獨特性,正藏匿於算法無法壓縮的混沌邊緣”。也就是說,人類的獨特價值,恰恰就藏在“不確定性”中。那些ai搞不懂、不好歸類、不容易量化的領域,才是我們最該堅守的領地。


感恩回饋
為了回饋廣大粉絲
長安街知事準備了精美圖書
贈送給大家!
將5本由中信出版集團提供的
《智能體時代》
贈予長安街知事的忠實粉絲

《智能體時代》


我與AI之間,存在“有限信任” - 天天要聞


★內容簡介


智能體作為當前人工智能的一個重要分支,推動了ai技術的深化和發展。在這個智能技術加速演進的時代,本書立足當下科技前沿,以其宏大而系統的視角,不僅幫助讀者理解了從神經元到智能體的演化歷程,還展現了一個人類與人工智能共同進化的未來圖景。


★作者簡介


劉志毅,福布斯中國ai影響力人物、中國人工智能領軍科學、2024年度“華為雲最有價值專家”。


十餘年來,劉志毅一直在ai領域進行深入研究和實踐,主要研究智能計算、空間智能以及超級人工智能對齊等方向。

找好友點贊更有可能獲得圖書哦!


活動參與方式

1.關注“長安街知事”微信公眾號,已關注用戶可以省略此步!

2.在本篇文章評論區留言(系統限制每篇文章只能精選100條留言,請大家理解)。

3.留言獲點贊數最多的5位粉絲,每位將收到一本贈書。

4.留言點贊截至當天24時,中獎名單及領獎方式將在次日的推送中公布,敬請關注。


注意事項:

① 所有獎品一律包郵

② 由於個人原因導致圖書郵寄不到,與長安街知事無關

③ 活動獎品寄出後,由於快遞失誤導致的獎品丟失所造成的損失與長安街知事無關,由用戶自行與快遞協商解決

④ 本活動最終解釋權歸長安街知事所有

星座分類資訊推薦

我與AI之間,存在“有限信任” - 天天要聞

我與AI之間,存在“有限信任”

如果你還把人工智能(AI)當成“聊天機器人”或“寫稿助手”,那你可能已經落後一步了。在人工智能的發展潮流中,有一個越來越火的詞叫“智能體”(Agent)。它不是某個具體的App,而是一種更主動、更聰明的AI夥伴,它會感知環境、制定目標、規劃路徑、執行任務,甚至學會反思和協同。《智能體時代》一書的作者、上海市人工...
《長安的荔枝》:當你心慈手軟,做事處處為難,當你使出霹靂手段,所有人都給你讓路 - 天天要聞

《長安的荔枝》:當你心慈手軟,做事處處為難,當你使出霹靂手段,所有人都給你讓路

馬伯庸的力作《長安的荔枝》,以“一騎紅塵妃子笑,無人知是荔枝來”這一典故為靈感,展開了唐朝時期為貴妃運送新鮮荔枝背後的故事。上級隨口下達一個命令,底下的人跑斷了腿。雖是以唐朝官場為背景,但處處都能折射到現代職場,牛馬打工人的處境。故事中的主人公李善德是一個42歲的中年人,本來平靜甚至有點起色的生活,突...
發現沒有?今年反常的很,老百姓不再關心房價漲跌了,也不關心國際形勢如何,只關心怎麼賺錢怎麼省錢,小日子如何安穩 - 天天要聞

發現沒有?今年反常的很,老百姓不再關心房價漲跌了,也不關心國際形勢如何,只關心怎麼賺錢怎麼省錢,小日子如何安穩

2025年,社會氛圍與以往有了明顯不同,老百姓的關注點發生了重大轉變,曾經備受矚目的房價漲跌,如今少有人問津;國際形勢風雲變幻,也難以再引起大眾的廣泛關注,大家將目光更多地投向了現實生活,一心只想着如何賺錢、省錢,讓小日子過得安穩。
生肖運勢-子鼠(6月19日) - 天天要聞

生肖運勢-子鼠(6月19日)

今日五行:屋上土今日相衝:兔日沖(癸酉)雞今日天機:七殺主事,“三合”吉星入命今日綜合運勢:今天是進展順暢的一天,有着堅定的判斷力和明確的目標,再加上有貴人相助,工作容易大有斬獲。不過樹大招風,雖然有可喜可賀的業績,但不可驕傲自大,謙虛才能
貴人相助在左右,事業和生活一起開花的四個星座,夏季圓滿 - 天天要聞

貴人相助在左右,事業和生活一起開花的四個星座,夏季圓滿

貴人相助在左右,事業和生活一起開花的四個星座,夏季圓滿巨蟹座:溫情引貴,家業雙興巨蟹座的人情感細膩、溫柔體貼,他們總是以真誠和善良對待身邊的每一個人。在夏季,巨蟹座憑藉著自身溫暖的氣質,吸引到眾多貴人。在職場上,同事們被巨蟹座的關懷所打動,