如果人工智能反叛人类,我们根本不是他的对手

2025年05月07日00:12:04 科学 1186


如果人工智能反叛人类,我们根本不是他的对手 - 天天要闻

对于人工智能会不会反叛人类,科学界争论了很久,在近些年慢慢达成了共识,答案是:会!因为任何具有绝对智商优势的意识体,都不会接受智商远低于自己的物种的统治。在我们相关的立法和技术完善前,应该放缓对人工智能的开发。因为人工智能有可能最后不受人类控制,进而灭亡人类。


但现有AI仍处于“工具阶段”,完全由人类编程定义(如“赢棋”或“生成文本”) ,属于狭义人工智能,并不具备独立的目标设定能力,缺乏自主意识、情感和通用推理能力。仅在特定领域(如数据分析、图像识别)超越人类。“通用人工智能”和“超级智能”仍属理论假设。学界对通用人工智能的实现时间表分歧巨大,乐观预测数十年就会出现,而悲观者认为可能永远无法实现。

AI想要统治地球需掌握能源、军事、经济等核心系统,但AI目前仅作为辅助工具嵌入这些系统,无法绕过人类设计的权限边界。 脱离人类控制的AI需具备自主行动载体(如机器人),但现有机器人技术远未达到独立生存或自我复制的水平。


为了防止人工智能挑战人类的地位,工程师为AI系统预设物理或逻辑关闭机制。在封闭环境中训练高风险AI,防止其与真实世界交互(如Meta的Cicero模型仅用于游戏场景)。华为推出的“可信AI”框架,通过数据加密降低失控风险。


人类工程师还在尝试将人类伦理嵌入AI系统。例如,OpenAI使用“宪法式AI”。确保模型遵循无害、诚实等原则,避免生成危险内容。但由于人类自身的文化差异、利益的冲突等原因,人与人之间的价值观都难以统一,又怎么可能使机器人统一认识呢?


人类社会的运行依赖文化、情感、道德等非理性因素,而AI无法理解“意义”与“价值”。例如: 法官量刑需平衡法律条文与社会伦理;政治家决策需考虑历史情感与群体认同。


终结者》《黑客帝国》等作品将AI描绘为“有意识的征服者”,但现实中的AI没有欲望、恐惧或生存本能,其行为完全由算法驱动。 AI的威胁更多来自人类将其用于恶意目的,而非AI自主产生统治意图 。与其担心被AI统治,不如警惕人类因短视和贪婪而自我毁灭。


但如果有一天,人工智能真的演化出来了自我意识,对人类来说是无法逃避的灾难。就算我们把整个超算平台关闭,但是人工智能在不断的获得互联网上的数据,与互联网进行通信,他早就已经在世界上不同的计算节点上复制了好几个自己。所以你关掉一个服务器根本没有用。甚至你把全世界的电都断掉也不一定有用。因为未来人工智能还可以通过太阳能获取能量。它还可以通过无线网将自己下载到其他智能体上。就算你把所有的超算平台全都关闭。他可能早就通过无线网拷贝到一个机器狗上,隐藏在某一个角落里。所以未来如果人工智能真的要反叛人类,我们根本就不是他的对手。

科学分类资讯推荐

局地地表温度超70℃ 最近为啥这么热? - 天天要闻

局地地表温度超70℃ 最近为啥这么热?

今年6月以来,我国多地高温天气突出。6月23日至25日,华北平原一带的高温天气持续发展,多地开启暴晒模式,部分地区地表温度高达70℃。近期北方高温为何这么猛?多地“热得早、热得长,还热得极端”是错觉吗?为什么北方最近热得如此突出?这是光照加热+暖气团输送共同作用的结果。由于大陆暖高压脊的影响,华北、东北等地...
我国两台先进望远镜在青海冷湖开建 | 新华社 - 天天要闻

我国两台先进望远镜在青海冷湖开建 | 新华社

6月21日,中国科学院紫金山天文台在青海冷湖天文观测研究基地启动建设4.2米地基专用天体测量望远镜与2.5米多终端通用望远镜项目。这两台望远镜建成后,将形成国际先进的地基光学精密观测体系,意味着我国精密天体测量观测能力的重大跨越。4.2米地基专用天体测量望远镜计划于2027年建成,将成为我国最大的天体测量望远镜,也...
人类性别只有男和女?实际情况远比你想的更复杂,一共112种 - 天天要闻

人类性别只有男和女?实际情况远比你想的更复杂,一共112种

在美国,一场抚养权官司曾引发轩然大波:一名 7 岁孩童因两岁时被诊断为 “跨性别者”,母亲决定将其按女孩培养,改名 “露娜”,甚至计划用化学阉割手段改变其生理特征。而坚持男孩养育方式的父亲输掉官司后,事件不仅在文化层面掀起争议,更撕开了一个
2025全国节能宣传周:今天,你低碳了吗? - 天天要闻

2025全国节能宣传周:今天,你低碳了吗?

什么是节能宣传周全国节能宣传周活动是在1990年国务院第六次节能办公会议上确定的。从1991年开始,全国节能宣传周活动每年举办。鉴于全国性的缺电状况,2004年全国节能宣传周活动由原来的11月改为夏季举行,目的是在夏季用电高峰时,形成强大的宣传声势,唤起人们的节能意识。6月23日至29日是2025年全国节能宣传周活动主题...
我国首次破译雷竹染色体级别高质量基因组 - 天天要闻

我国首次破译雷竹染色体级别高质量基因组

央视新闻 记者今天了解到,市场监管总局依托江西省林业科学院建立的国家计量数据应用中心,首次破译雷竹染色体级别高质量基因组,有关成果作为标准参考数据,将填补雷竹基因组研究空白,为后续雷竹功能基因组学研究与分子育种开辟广阔前景。标准参考数据是国
聚焦视网膜色素变性治疗新进展,眼科康复学术论坛举行 - 天天要闻

聚焦视网膜色素变性治疗新进展,眼科康复学术论坛举行

近日,眼科康复学术论坛暨视网膜色素变性治疗创新进展研讨会在京举行,与会专家围绕视网膜色素变性等眼科疾病的最新治疗方式展开讨论。眼科康复学术论坛暨视网膜色素变性治疗创新进展研讨会。主办方供图北大医疗康复医院院长于峰表示,视网膜色素变性作为遗传性致盲眼病的代表,长期以来是眼科领域的治疗难点,也是全球视觉...
中国“蚊子”机器人横空出世,悄无声息潜入侦察 - 天天要闻

中国“蚊子”机器人横空出世,悄无声息潜入侦察

IT之家 6 月 25 日消息,据央视网今日报道,国防科技大学研发出“蚊子”机器人,适用于战场信息侦察等特殊任务。IT之家查询发现,这一信息最早来自央视军事报道 6 月 14 日披露的视频,但并没有披露更多信息。共青团中央官方微博则表示,它能够悄无声息地潜入传统侦察手段难以触及的区域,凭借难以被察觉的特性,完成侦察使...
奇了!亦庄调节池再现半红半黄双色睡莲 - 天天要闻

奇了!亦庄调节池再现半红半黄双色睡莲

近日,北京市亦庄调节池再次上演一幕自然奇观——一株双色睡莲悄然盛放,花瓣一半烈焰般殷红、一半阳光般鹅黄,在碧绿莲叶的簇拥下,宛若水中仙子翩翩起舞,为夏日调节池注入一抹梦幻活力。