我与AI之间,存在“有限信任”

2025年06月20日14:20:19 星座 3855

如果你还把人工智能(ai)当成“聊天机器人”或“写稿助手”,那你可能已经落后一步了。


在人工智能的发展潮流中,有一个越来越火的词叫“智能体”(agent)。它不是某个具体的app,而是一种更主动、更聪明的ai伙伴,它会感知环境、制定目标、规划路径、执行任务,甚至学会反思和协同。


《智能体时代》一书的作者、上海市人工智能社会治理协同创新中心研究员刘志毅在接受长安街知事(微信id:capitalnews)专访时表示,“智能体正在改变我们的工作方式、生活方式,甚至人与人的协作方式,它让ai从‘静态工具’变成了‘主动伙伴’。”


“智能体”和ai有什么不同?


“智能体”其实是人工智能的一个分支,但它比传统ai要“能干”得多。


如果说传统ai是“你问它答”的被动工具,那智能体就是“你什么都还没说,它就开始行动”的主动伙伴。它有目标,有感知,有记忆,还能和别的智能体合作——简单说,它不仅“知道你要什么”,还“知道该怎么去做”,甚至“知道怎样和别人一起配合去完成”。


刘志毅解释道,智能体的特别之处在于三大能力:能动执行(比如自动调用工具完成任务)、长期记忆(能反思和学习)、跨领域协同(能和其他系统协作)。它已经不再只是“输入-输出”的线性思维,而是形成了目标驱动架构与环境交互的闭环。


想象一下:清晨醒来,健康管家智能体已经根据你的睡眠数据帮你定制好早餐建议;通勤时,交通协同智能体优化导航路径以避免突发拥堵;工作中,知识引擎智能体帮你自动生成会议纪要并追溯决策链。


这一切的背后,是各种传感器和行为模型在起作用,它们能预测你的需求、分析你的偏好,甚至提前行动。这种“无感渗透”,正是智能体技术发展的方向。


未来,越来越多的职业都会被智能体“重新定义”。


刘志毅说,举个例子,以前医生依靠多年经验来判断病情,而现在,智能体可以分析海量病例、辅助判断,医生的角色变成了“方案的仲裁者”;内容创作者也一样,ai能快速生成内容,人变成了“策展人”,去判断、挑选和优化这些内容。


我与AI之间,存在“有限信任” - 天天要闻

4月10日,上海,中国国际医疗器械博览会(cmef 2025)举行,展示患者服务智能体。图源:视觉中国


这种变化正在带来一种新型劳动模式,刘志毅称之为“算法租金经济”,即那些掌握智能体使用能力的人,会获得更高的效率和更高的回报,被称为“超级个体”;而另一些人则可能被困在低附加值的重复劳动中,沦为“算法无产阶级”。


信任,但有限


面对越来越聪明的智能体,刘志毅提出了一个关键词:“有限信任”。


“我会让ai帮我阅读摘要论文、重构日程、优化写作、分析数据,但始终是我设定目标,它去执行。”他特别强调人与智能体的协作原则——人类定义目标、agent优化路径,同时加上“硬编码的伦理规则”和“人工复核机制”,防止技术越界。


我与AI之间,存在“有限信任” - 天天要闻

3月4日,杭州,浙江省中医院专家在用大模型为患者进行辅助诊疗。图源:视觉中国


我们都知道,大模型有时会“张口就来”,一本正经地胡说八道,这就是“ai幻觉”。


刘志毅解释说,ai幻觉本质是概率模型对先验知识缺口的补偿性虚构。简单来说,就是因为大模型靠概率推理,一旦遇到它“没学过”的内容,就会开始自我“脑补”。如果这种“幻觉”出现在医学诊断、公共政策领域,或者是社交媒体上的谣言,那后果就不堪设想。如果不加甄别,会大幅拉高公众的“验证成本”。


他建议,技术层面,要引入“检索增强生成”(rag)机制,让ai必须基于真实数据发言;社会层面,在基础教育阶段就要增加算法信息素养课程,提升公众的信息素养,用人类的理性和知识,对ai的输出进行系统化的检查和把关。


“定义问题的能力”是未来的核心竞争力


刘志毅指出,在智能体泛化时代,人类需以元问题定义权与伦理领导力构筑护城河。


所谓“元问题定义权”,即决定“何种问题值得解决”,而非“如何解决”。那么如何衡量一个好答案?这就需要“跨领域的联想力”和“理解复杂系统的能力”,更重要的是,要具备“伦理领导力”——知道什么能做、什么不该做。


在刘志毅看来,“人类存在的独特性,正藏匿于算法无法压缩的混沌边缘”。也就是说,人类的独特价值,恰恰就藏在“不确定性”中。那些ai搞不懂、不好归类、不容易量化的领域,才是我们最该坚守的领地。


感恩回馈
为了回馈广大粉丝
长安街知事准备了精美图书
赠送给大家!
将5本由中信出版集团提供的
《智能体时代》
赠予长安街知事的忠实粉丝

《智能体时代》


我与AI之间,存在“有限信任” - 天天要闻


★内容简介


智能体作为当前人工智能的一个重要分支,推动了ai技术的深化和发展。在这个智能技术加速演进的时代,本书立足当下科技前沿,以其宏大而系统的视角,不仅帮助读者理解了从神经元到智能体的演化历程,还展现了一个人类与人工智能共同进化的未来图景。


★作者简介


刘志毅,福布斯中国ai影响力人物、中国人工智能领军科学、2024年度“华为云最有价值专家”。


十余年来,刘志毅一直在ai领域进行深入研究和实践,主要研究智能计算、空间智能以及超级人工智能对齐等方向。

找好友点赞更有可能获得图书哦!


活动参与方式

1.关注“长安街知事”微信公众号,已关注用户可以省略此步!

2.在本篇文章评论区留言(系统限制每篇文章只能精选100条留言,请大家理解)。

3.留言获点赞数最多的5位粉丝,每位将收到一本赠书。

4.留言点赞截至当天24时,中奖名单及领奖方式将在次日的推送中公布,敬请关注。


注意事项:

① 所有奖品一律包邮

② 由于个人原因导致图书邮寄不到,与长安街知事无关

③ 活动奖品寄出后,由于快递失误导致的奖品丢失所造成的损失与长安街知事无关,由用户自行与快递协商解决

④ 本活动最终解释权归长安街知事所有

星座分类资讯推荐

我与AI之间,存在“有限信任” - 天天要闻

我与AI之间,存在“有限信任”

如果你还把人工智能(AI)当成“聊天机器人”或“写稿助手”,那你可能已经落后一步了。在人工智能的发展潮流中,有一个越来越火的词叫“智能体”(Agent)。它不是某个具体的App,而是一种更主动、更聪明的AI伙伴,它会感知环境、制定目标、规划路径、执行任务,甚至学会反思和协同。《智能体时代》一书的作者、上海市人工...
《长安的荔枝》:当你心慈手软,做事处处为难,当你使出霹雳手段,所有人都给你让路 - 天天要闻

《长安的荔枝》:当你心慈手软,做事处处为难,当你使出霹雳手段,所有人都给你让路

马伯庸的力作《长安的荔枝》,以“一骑红尘妃子笑,无人知是荔枝来”这一典故为灵感,展开了唐朝时期为贵妃运送新鲜荔枝背后的故事。上级随口下达一个命令,底下的人跑断了腿。虽是以唐朝官场为背景,但处处都能折射到现代职场,牛马打工人的处境。故事中的主人公李善德是一个42岁的中年人,本来平静甚至有点起色的生活,突...
发现没有?今年反常的很,老百姓不再关心屋价涨跌了,也不关心国际形势如何,只关心怎么赚钱怎么省钱,小日子如何安稳 - 天天要闻

发现没有?今年反常的很,老百姓不再关心屋价涨跌了,也不关心国际形势如何,只关心怎么赚钱怎么省钱,小日子如何安稳

2025年,社会氛围与以往有了明显不同,老百姓的关注点发生了重大转变,曾经备受瞩目的屋价涨跌,如今少有人问津;国际形势风云变幻,也难以再引起大众的广泛关注,大家将目光更多地投向了现实生活,一心只想着如何赚钱、省钱,让小日子过得安稳。
生肖运势-子鼠(6月19日) - 天天要闻

生肖运势-子鼠(6月19日)

今日五行:屋上土今日相冲:兔日冲(癸酉)鸡今日天机:七杀主事,“三合”吉星入命今日综合运势:今天是进展顺畅的一天,有着坚定的判断力和明确的目标,再加上有贵人相助,工作容易大有斩获。不过树大招风,虽然有可喜可贺的业绩,但不可骄傲自大,谦虚才能
贵人相助在左右,事业和生活一起开花的四个星座,夏季圆满 - 天天要闻

贵人相助在左右,事业和生活一起开花的四个星座,夏季圆满

贵人相助在左右,事业和生活一起开花的四个星座,夏季圆满巨蟹座:温情引贵,家业双兴巨蟹座的人情感细腻、温柔体贴,他们总是以真诚和善良对待身边的每一个人。在夏季,巨蟹座凭借着自身温暖的气质,吸引到众多贵人。在职场上,同事们被巨蟹座的关怀所打动,