谷歌发145页论文:预测AGI或2030年出现 警告可能“永久毁灭人类”

2025年04月07日12:40:22 科学 9757

谷歌发145页论文:预测AGI或2030年出现 警告可能“永久毁灭人类” - 天天要闻

该图片由ai绘制

近日,谷歌旗下deepmind实验室最新发布了长达145页的人工智能安全报告,称具备人类智能水平的通用人工智能(agi)可能在2030年左右问世,并可能造成“永久毁灭人类”的严重后果。

 

在这份全面探讨agi风险的报告中,研究人员明确指出:“agi可能带来导致人类永久灭绝的生存风险,这显然属于极端危害的范畴。这样的重要议题无法由 google deepmind一家公司单方面解决,而应由整个社会共同参与讨论。这关系到我们能接受多大的风险,以及我们如何定义和理解这些潜在危害。”

 

不过,谷歌在论文中并未具体说明agi将如何导致人类灭绝,报告的主要篇幅集中在风险防控措施上。

 

deepmind联合创始人谢恩·莱格数十年来一直预测agi将在2028年出现。另一位创始人、现任首席执行官戴密斯·哈萨比斯在接受采访时也表示,agi可能在未来5到10年内出现,最早或于2030年问世。

 

agi主要有四大风险,批评openai等安全策略投入不足

 

谷歌的论文将高级ai带来的风险分为四个主要类别:

 

● 滥用风险:人类故意利用ai实施危害行为。

● 错位风险:系统发展出非预期的有害行为。

● 失误风险:因设计或训练缺陷导致的意外故障。

● 结构性风险:不同主体(包括国家和地区、企业及多个ai系统)之间的利益冲突。

 

研究人员还概述了deepmind的风险缓解策略,重点在于防止滥用,并强调了尽早识别危险能力的重要性。

 

值得注意的是,这篇论文还对anthropic和openai等竞争对手的安全策略表达了含蓄批评,认为前者在严格训练、监督方面投入不足,后者则过度关注所谓的对齐研究(即确保ai系统的目标和行为与人类的价值观和利益保持一致)。

 

定义太模糊,人类可能永远无法掌控agi

 

不过,这份报告并未完全说服ai安全领域的专家,也引起了不少争论。

 

未来生命研究所联合创始人安东尼·阿吉雷表示,deepmind团队的努力值得赞赏,但应对agi风险需要更全面的措施。

 

他指出:“超人类ai可能引发史无前例的社会政治动荡。正如作者所言,agi可能随时出现,并通过自我改进迅速超越人类能力。这类系统具有天然不可预测性,而我们距离掌控它们还非常遥远,甚至永远无法控制它们。”

 

同时,也有专家质疑agi的时间表、可行性以及定义本身。

 

非营利组织ai now institute首席科学家海迪·克拉夫(heidy khlaaf)指出:“当前agi的定义过于模糊,难以进行严谨的科学评估。”

 

对此,谷歌发言人回应称:“在我们的论文中,所概述的方法和缓解措施可以适用于多种agi定义框架。虽然严格的定义在我们论点中不是核心内容,但我们的风险评估优先考虑可预见的长期能力,并旨在提供能够帮助ai安全社区负责任地构建这项技术的解决方案。”

agi何时会出现存分歧,最多五年?

在论文中,谷歌研究团队坦承:“我们对强大ai系统的研发进度存在高度不确定性”,但“至关重要的是,我们认为到2030年,强大ai系统出现是可能的”。

 

google提出agi在2030年前“可能”到来,这一时间表比其他顶级ai实验室的预测稍长。例如,anthropic的首席执行官达里奥·阿莫代伊曾公开表示,尽管他越来越觉得agi这个术语有问题,但他认为ai将在“未来两到三年”全方位超越人类。

 

与此同时,openai首席执行官山姆·奥特曼则更加谨慎,他写道,“指向agi的系统正在显现”,并且他也表示,openai现在“已掌握传统认知下的agi构建方法”。

 

更激进的预测来自openai前政策研究员丹尼尔·科科佳洛,他因“openai追逐agi不计后果”而辞职,近日与知名ai安全博主斯科特·亚历山大联合发布分析报告,预言ai将在2027年超越人类智能。(腾讯科技特约编译金鹿)

论文链接:

1.官网:【evaluating potential cybersecurity threats of advanced ai】

https://deepmind.google/discover/blog/evaluating-potential-cybersecurity-threats-of-advanced-ai/

2. 论文:【a framework for evaluating emerging cyberattack capabilities of ai】

https://arxiv.org/abs/2503.11917

科学分类资讯推荐

“蒜鸟”声音采自过路小男孩,“蒜鸟爸爸”李芒果揭秘创作之路 - 天天要闻

“蒜鸟”声音采自过路小男孩,“蒜鸟爸爸”李芒果揭秘创作之路

湖北日报全媒记者刘天纵汪子轶 “蒜鸟”身长约10厘米,“蒜鸟爸爸”身高有一米九。 “算了,算了,都不容易,找到你更不容易。”4月7日下午,在武汉市江夏区华师园一路一栋写字楼,湖北日报全媒记者见到了被广大网友称为“蒜鸟爸爸”的李芒果,他是“鄂人文创”品牌主理人,其设计的武汉礼物联名款“蒜鸟”销售量已突破10万...
高敏预警!“过敏星人”噩梦又来了,持续一个多月 - 天天要闻

高敏预警!“过敏星人”噩梦又来了,持续一个多月

近期随着气温攀升北方部分地区与杨柳飞絮的“浪漫约会”已经开始毛毛毛毛毛将“平等地钻进每一个鼻孔”了解杨柳絮杨树、柳树是北方常见的树种,栽植历史悠久。而飞絮则来自它们的雌株,是树种传播和繁育后代的一种生理现象,也是植物自然生长过程中产生的必然
以科技创新开辟生物制药新赛道 - 天天要闻

以科技创新开辟生物制药新赛道

转自:黑龙江日报免疫球蛋白生产车间。□文/摄 本报记者 孙铭阳在哈尔滨利民经济技术开发区四平路77号,一家现代化生物医药企业正以蓬勃之势崛起。
寿命长短,头发先知?医生:寿命长的人,头发会有4个特征 - 天天要闻

寿命长短,头发先知?医生:寿命长的人,头发会有4个特征

导 语白头发越长越多是怎么回事?45岁的老李近来发现自己的头发白得越来越快,不禁感慨岁月不饶人。一天,他与好友老张在公园里散步,聊起了各自的近况。老李叹气道:“我这头发,白得真快,看来是真老了。”朋友却笑着安慰他:“你这头‘少年白’是福气!我听说长白头发的人不容易患癌呢!”随即,朋友就给老李的微信弹了...
我的和田老师——我在研究室的工作习惯 - 天天要闻

我的和田老师——我在研究室的工作习惯

和田先生公司的研究院在日本姬路市,位于神户南侧的小城市,该公司的主打产品有PEO(聚环氧依稀)和SAP(高分子吸水性树脂),是面向中国出口量最大的产品。PEO主要是制造生活用纸的纸浆分散剂,全世界有三家,美国一家,日本两家,台湾一家是和田先