人工智能的确存在潜在危险，但是目前可控

9月16日，OpenAI CEO Sam Altman在美国参议院就人工智能技术的潜在危险发表了证言。他恳求立法者对人工智能进行监管，并提供了几个建议，包括：

1.建立一个新的政府机构，负责颁发大型人工智能模型的许可证，并撤销不符合标准的模型的许可证。对于远不如最先进的大型模型的技术，他认为这种许可证的监管系统是不必要的。国会可以“定义能力阈值”以减轻小公司和研究人员的监管负担，并鼓励创新。

2.创建一组人工智能模型的安全标准，包括对其危险能力的评估。例如，模型必须通过安全测试，例如它们是否能够“自我复制”和“泄漏超出监管范围”。

3.要求独立专家对模型在各种指标上的表现进行独立审计。

在他的证言中，Altman再次保证，在未来六个月内没有计划培训GPT-5，并确认他不持有OpenAI的任何股份，这使得他的行动纯粹出于热情。当参议员邀请他在国会设立的监管机构中工作时，Altman表示他对自己目前的工作感到满意，但愿意向国会提供选择名单。

对人工智能对社会可能产生的影响的担忧日益增长，这使得监管呼声越来越高。虽然许多人看到人工智能作为一项具有巨大潜力的变革性技术，但其他人担心，如果不受约束，它可能带来潜在的负面影响。

Altman的建议可以帮助确保人工智能的负责任开发和使用，同时允许该领域的创新和进展。随着立法者考虑如何最好地监管这种快速发展的技术，重要的是在促进创新和保护社会免受潜在危害之间取得平衡。

总之，Altman的证言强调了对人工智能进行深思熟虑的监管的必要性，以确保它以负责任的方式开发和使用。随着人工智能持续进步，立法者保持先前进并确保社会获得这项变革性技术的好处，同时最小化其潜在风险至关重要。