虚假信息面前,AI为何“智商下线”?

2025年07月04日20:22:06 科技 1343
虚假信息面前,AI为何“智商下线”? - 天天要闻

□曹欣怡(云南财经大学)

7月4日,“DeepSeek给王一博道歉是假的”冲上微博热搜。据称,这家人工智能公司因内容审核疏漏,将王一博与“李爱庆腐败案”不当关联,损害了其名誉,并已作出正式道歉。然而,DeepSeek官方从未发表过道歉声明,相关信息中也没有任何一则明确指出DeepSeek的道歉渠道,部分媒体发布的所谓的声明截图竟本身就是AI生成的文字,还带有AI生成的水印。声明中所提及的法律判决书,在中国裁判文书网上也检测不到。(7月4日 极目新闻)

AI技术本应是高效、准确的信息助手,如今却沦为发布虚假信息的“造谣者”。这不仅让公众对AI的信任度大打折扣,也给网络信息传播秩序带来极大冲击。

从技术层面看,AI大模型基于概率和数据训练生成内容,缺乏真正的事实核查与语义理解能力。换句话说,AI并没有人类那样可以分辨是非与真实理解内容的能力。当网络中存在大量虚假信息时,AI很容易被误导,陷入“垃圾进,垃圾出”的困境。此次事件中,可能是部分网友带着偏见的诱导性提问,让AI模型生成了虚构的道歉声明及司法判决内容。这凸显出当前AI技术在处理复杂、真假难辨的信息时,存在严重的缺陷。且为了给出用户答案,甚至会出现伪造信息的情况。

在信息传播过程中,AI生成的虚假内容借助媒体和社交平台的快速传播,产生了传播的连锁反应。大量自媒体、网络新媒体乃至传统媒体未加核实就纷纷转发,形成一种确有其事的舆论氛围。而当其他AI大模型再去检索相关信息时,又会将这些虚假内容作为“信源”进一步传播,造成恶性循环。比如,当有网友向其他AI大模型询问该事件时,得到的答案也是DeepSeek的确道歉了,在一系列的传播链条中,AI的“头脑”已被虚假信息严重污染。

AI技术的滥用也为网络虚假信息治理带来新挑战。一方面,目前对于AI生成内容的责任界定尚不明确。如果AI生成了虚假信息,究竟是AI研发公司的责任,还是使用AI的用户责任,抑或是传播平台的责任?在此次事件中,很难确定最初的虚假信息是如何通过AI生成并扩散开来的,也难以对相关责任主体进行追责。另一方面,公众缺乏对AI生成虚假信息的媒介素养。随着AI技术的普及,人们越来越依赖AI获取信息,却往往忽视了其可能存在的错误和虚假性。在面对AI生成的看似权威的内容时,大多数人缺乏质疑和查证的意识。

AI技术的发展是一把双刃剑,它在为我们带来便利的同时,也带来了新的风险和挑战。此次“DeepSeek道歉”假新闻事件,给我们敲响了警钟。只有通过技术升级、媒体自律和法律规制等多方面的努力,才能让AI更好地服务于社会,避免其沦为虚假信息的“帮凶”,营造健康、有序的网络信息环境。

本文为红辣椒评论原创文章,仅系作者个人观点,不代表红网立场。转载请附原文出处链接和本声明。

科技分类资讯推荐

15元可激光打标定制充电宝3C符号!律师:伪造认证标志违法 - 天天要闻

15元可激光打标定制充电宝3C符号!律师:伪造认证标志违法

新京报贝壳财经讯(记者俞金旻) 充电宝乘机“新规”一周,充电宝自弃量大幅下降,越来越多的旅客会选购符合乘机要求的充电宝,并在出门前仔细检查。6月28日起,中国民航局禁止旅客携带没有3C标识、3C标识不清晰、被召回型号或批次的充电宝乘坐境内航班。此前,贝壳财经记者曾报道,电商平台有商家售卖3C认证标签贴纸,相关...
上海浦东机场宣布:正式启用!13台睡眠舱来了,“可充电,有灯、小平板”,价格公布 - 天天要闻

上海浦东机场宣布:正式启用!13台睡眠舱来了,“可充电,有灯、小平板”,价格公布

上海浦东机场T2航站楼有睡眠舱了7月4日,记者从睡眠舱运营商相关负责人处了解到,在浦东机场T2国际出发D65登机口处,首批13台睡眠舱已投入运营,目前24小时开放,舱内有新风系统,提供毯子,一客一清洁消毒。价格表显示,休息半小时35元、一小时65元、1.5小时95元、2小时125元、3小时185元,满360分钟送120分钟、也就...
标配智能电混四驱+激光雷达 领克10 EM-P正式发布 - 天天要闻

标配智能电混四驱+激光雷达 领克10 EM-P正式发布

【TechWeb】7月4日消息,领克品牌旗下首款中大型豪华运动轿车领克10 EM-P今日迎来首秀。新车标配四驱和激光雷达,同时搭载领克全新EM-P智能电混系统,将于下月开启预售,并在第三季度内完成上市。外观方面,新车采用了领克The Next Day设计语言,整体风格与领克Z10十分相似。车头采用标志性的分体式头灯,下方配有贯穿式灯...
全球发明大会中国区上海开赛,超2000名学生参赛,宇树机器人也穿上赛服 - 天天要闻

全球发明大会中国区上海开赛,超2000名学生参赛,宇树机器人也穿上赛服

7月4日,2024-2025年度全球发明大会中国区(ICC)上海赛区在宝山区青少年活动中心开赛。宇树科技机器人G1与2000多名来自长三角等地区的参赛青少年一样,也穿上赛服跃跃欲试。它还和小发明家一起,与现场观赛的中国科学院院士、上海技术物理研究所研究员、世界电磁波科学界最高奖得主沈学础等握手相拥。沈学础院士与小选手在...
朝阳前瞻布局元宇宙,未来显示产业园等成果批量上新 - 天天要闻

朝阳前瞻布局元宇宙,未来显示产业园等成果批量上新

元宇宙是北京市重点布局的未来产业之一。7月4日,作为全国规模最大、产业链生态最完整的元宇宙(互联网3.0)生态发展集聚区,朝阳区举办2025全球数字经济大会AIGC与元宇宙融合发展论坛。AIGC(人工智能内容生成)工具平台、2025朝阳区元宇宙标杆示范应用场景、元宇宙应用场景示范基地、未来显示产业园、ULive超现场播控中心...
虚假信息面前,AI为何“智商下线”? - 天天要闻

虚假信息面前,AI为何“智商下线”?

□曹欣怡(云南财经大学)7月4日,“DeepSeek给王一博道歉是假的”冲上微博热搜。据称,这家人工智能公司因内容审核疏漏,将王一博与“李爱庆腐败案”不当关联,损害了其名誉,并已作出正式道歉。
无3C标识充电宝“禁飞”首周:民航与铁路安检标准不一 - 天天要闻

无3C标识充电宝“禁飞”首周:民航与铁路安检标准不一

自6月28日起,民航局禁止旅客携带无3C标识及被召回的充电宝乘坐境内航班,另一方面,铁路部门并不查验充电宝3C认证标识或品牌。针对充电宝“禁飞”一周来的落实情况,记者进行了走访调查。济南遥墙国际机场:鼓包或破损的充电宝也“禁飞”7月4日,济南遥墙国际机场工作人员向记者表示,该机场严格执行民航局通知,禁止旅客...