“AI教父”为发展 AI 而后悔，警告：AI可能变得比人类更聪明

如果人类和ai最终走到兵戎相见，上演《终结者》戏码的那一步，那么被誉为“深度学习之父”的geoffrey hinton（杰弗里·辛顿）无疑是约翰·康纳一般的角色——在电影里，他是人类反抗“天网”的领导人。

据多家媒体报道，被称为“人工智能（ai）教父”的杰弗里·辛顿周一证实，他已经从工作了十余年的谷歌离职，现在可以畅谈ai可能带来的风险。

在接受媒体采访时，他表示，“我对我毕生所研究的东西感到后悔了。”杰弗里形容称，ai聊天机器人所带来的某些危险“相当恐怖”。

报道称，开发出了被认为是当代ai基础系统的杰弗里已经正式加入了“ai批评者”的行列。

为发展 ai 而后悔

据了解，辛顿以前在谷歌参与了alphago人工智能项目，该项目获得了巨大成功，以在围棋比赛中打败人类世界冠军闻名。

辛顿在接受采访时称，他离开谷歌的原因，是因为他越来越担心人工智能可能带来的问题，特别是当它被用于武器开发和警察监控等领域时。他表示，目前，每个工程师都更关注如何使ai变得越来越厉害，而不是考虑它如何适应社会和环境。他强调了建立一个可信、公开和透明的机制的重要性，以确保ai被正确监管和控制，以发挥其潜力和减轻其负面影响。

在接受《泰晤士报》采访时，辛顿表示：

ai会替代很多现有的工作岗位，创造一个让人们不知道什么是真实的世界。并且，ai的进步速度远远超过了包括他在内的很多专家的预期。

辛顿说：

“以前人们觉得ai变得比人类聪明的事情可能要30至50年才能实现，不过显然，现在我认为这一切可能发生得更快。”

现阶段，辛顿里最担心的就是通过利用ai，网络上会出现很多虚假的图片、视频和文字，这可能让人分不清真假。其次，他还担心ai将改变整个人类就业市场，可能导致如律师助理、私人助理、翻译等岗位的消失。在未来，辛顿担心ai会对人类构成威胁，“因为ai可能通过大量的数据和分析，出现一些令人意想不到的行为。”辛顿解释道。

辛顿补充称，一些公司和个人已经允许ai写代码，甚至自主运行代码。“我担心未来类似于‘杀人机器人’的自动化武器可能成为现实。”辛顿进一步表示，“很难想象你能如何阻止坏人利用它做坏事”。

据了解，此前在被问及“ai会不会被用于危险技术”时，杰弗里回答称“你可以试试看”。而现在，他不会再这么说了。

值得注意的是，辛顿不是第一个对ai发展提出警告的人，自从 openai 在 3 月份发布了最新版 chatgpt-4 模型后，包括特斯拉创始人马斯克在内的近千名科技界知名人士，签署了一封公开信，称希望世界领先的人工智能实验室暂停开发六个月，因为最近的人工智能最新进展“对人类社会造成潜在的威胁”。这封信的发布时间，正好是在马斯克创立的人工智能研究公司openai发布了chatgpt的最新版本gpt-4两周后。而该款人工智能软件，是人类社会迄今为止发布的最强大的人工智能系统。

此前，辛顿没有在这两封信上签名。他说，在辞职之前，他不想公开批评谷歌或其他公司。上个月，他通知公司他将辞职。周四，他与谷歌母公司 alphabet ceo 桑达尔・皮查伊 (sundar pichai) 通了电话。他拒绝公开讨论与皮查伊谈话的细节。

此外，美国参议院多数党领袖舒默近期发起一项针对人工智能的治理框架，并聘请了顶尖的人工智能专家进行咨询。该计划将侧重于建立人工智能系统的透明度，并要求独立专家在公开发布之前测试人工智能技术，并要求披露参与技术开发的人员、地点和方式。

谷歌也已经发布了一份概述“监管人工智能建议”的文件，并提出“社会必须迅速适应监管、建立起惩罚滥用人工智能行为的法律和各国之间的条约，以确保人工智能对世界安全，并确保与人类价值观保持一致的规则”。