对可能对人类致命的“无法控制”的人工智能技术发出非常令人担忧的警告
- 研究人员警告说，人工智能技术可能会变得“无法控制”，并对人类造成毁灭性的后果。
- 人们担心一旦失控的人工智能系统知道他们可以打破创造者设定的规则，就会进化。
- 谷歌和牛津大学的研究人员上个月在人工智能杂志上写道，人工智能可能会达到必须争夺有限能源或资源的地步。
研究人员警告说，人工智能技术可能会变得“无法控制”，并对人类造成毁灭性后果。人们担心一旦失控的人工智能系统知道他们可以打破创造者设定的规则，就会进化。
谷歌和牛津大学的研究人员上个月在人工智能杂志上写道，人工智能可能会达到必须争夺有限能源或资源的地步。
牛津大学研究员迈克尔科恩说： “在我们确定的条件下，我们的结论比以往任何出版物都要有力得多。一场生存灾难不仅是可能的，而且是可能的。”
科恩与他的牛津同事迈克尔奥斯本和谷歌 DeepMind 人工智能实验室的高级研究员马库斯哈特一起进行了这项研究。他们声称，在他们认为我们阻碍了他们的奖励之后，人类可能会被 超级先进的“不结盟特工”被杀死。
该文件说： “代理人长期控制其奖励的一个好方法是消除潜在威胁并使用所有可用的能量来保护他的计算机。” 他补充说： “输掉这场比赛将是致命的。”
更糟糕的是，我们对此无能为力。科恩在接受采访时告诉主板： “在一个资源无限的世界里，我非常不确定会发生什么，”科恩告诉主板。
“而且，如果你在与能够在每一个回合中击败你的东西竞争，那么你不应该期望获胜。”
该论文的结论是，人类应该在人工智能技术方面缓慢进步。世界各地的军队已经在开发技术来以致命的精确度发动战争。
例如，据报道，俄罗斯和美国正在生产无人驾驶军用飞机和坦克，可以在没有人参与的情况下瞄准敌人。最近，据报道，亿万富翁埃隆·马斯克（Elon Musk）表示，由于有朝一日可以让人类下载记忆和个性的类人机器人，人类可以朝着永生迈出一步。
他声称，马斯克的公司于 2021 年 8 月首次推出的 Tesla Bot 最早可能在明年投入生产。被马斯克描述为 “最重要的发展”的擎天柱将作为一个工人机器人开始生活，但它的能力意味着一旦技术可用，大脑功能有朝一日可以下载到其中。
罗华新闻社
