一线｜华为战略研究院院长周红：AI的目标需要与人类保持一致

腾讯新闻《一线》 作者 肖枫

“过去10年，ai算法的算力需求提升了40万倍。当前 ai在语言文字的学习理解和生成上所表现出来的能力超出了很多人的想象。在ai能力快速提升的情况下，我认为需要考虑ai的目标如何与人类一致、并且正确和高效地执行。”

4月19日，在2023华为全球分析师大会上，华为战略研究院院长周红针对当下ai发展，提出了以上治理建议。他表示，除了通过规则和法律来加强ai的伦理治理，从理论和技术的角度看，要达到这些要求，目前还面临三个重要的挑战：ai的目标定义、正确性与适应性、效率。

ai面临的第一个挑战，是缺乏共识的目标定义。周红指出，如果没有定义清楚并达成共识，就很难确保ai发展的目标与人类一致，也很难合理地分类和科学地计算。人工智能在历史上有不同的流派，例如符号主义、贝叶斯主义、进化主义、行为主义，以及连接主义等，它们还没有很好地融合起来，缺乏共识的目标定义是重要的原因之一。

其次，在当前的很多ai应用中，存在正确性和适应性的挑战。依靠大数据统计规律进行的学习，会依赖于采样的覆盖面和数据的正确性，如果错误使用，就可能导致结果不稳定和偏见的风险，出现“黑天鹅”事件。

他例举，比如用统计和相关计算模式来识别香蕉，如果在香蕉边上放一些其他图片，识别结果可能从香蕉变成烤箱，中间还有一定的比例是鼻涕虫；熊猫图片加上一些肉眼几乎不可见的小噪声，也可能被识别成长臂猿。这些图片用人眼来看是一目了然的，但是人工智能为什么会犯错，这很难解释。因为ai的能力分布在巨大的参数中，出了这些问题，我们既无法解释、也难以调试。

第三个挑战是ai的效率。从能效方面来看，2022年第60届全球超级计算机top500中排名第一的frontier，计算性能约1102pflops，能耗是2千1百万瓦；排名第二的fugaku，计算性能约442pflops，能耗是3千万瓦，而相比之下，人脑只需要约20瓦就能等效实现30pflops的计算性能。可见当前这些超级计算机单位能量的计算效率，要比人脑低大约三万倍到十万倍。除了人脑外，高效智能在动物界普遍存在，比如乌鸦大脑只用0.2瓦的能量，就聪明到将核桃衔到高空扔到水泥地上砸开，它在观察环境、适应环境、解决问题上的能力，远不是当前的ai能比拟的。

其次是数据效率。除了通过从大数据中得到统计规律，来认识和理解世界外，能不能从小数据中进行思考，发现逻辑性，形成概念，抽象出原则？

面对这三个挑战，如何进一步寻求突破呢？周红建议，应该从实用的角度，来发展知识和智能。如何通过从外部环境和我们自身的事实和现象中，归纳抽象出概念和属性、及其关系和运行规律，来形成知识？按柏拉图的理念，知识应该是被验证过的、正确的和被人们相信的。能不能提升达成追求或者目标的能力，来发展智能？具体来说，可以通过感知与交互、计算或者试错，在复杂的环境和有限的资源下达成目标。我们要通过智能来认识环境、适应环境，甚至改造环境以及我们自身，其正确性、适用性与高效性就很重要。从已有大数据中提取概率分布来进行拟合和推演，是实现智能的一种手段，除此之外，周红认为智能也要考虑因果推理、给出假设和进行试错，提出问题和创造性地解决问题等。

周红建议，在通信和计算两大基石的驱动下，从狭义人工智能，到通用人工智能与超级人工智能的过程中，要通过理论和技术的不断突破，来实现万物智联，促进社会的进步；其次要勇于拓展思想的边界，增强对智能的认知和掌控能力；最终，用正确的目标和有力的手段，牵引人工智能的发展，助力超越极限，增强生命，创造物质，控制能量，跨越时空，实现人类文明的进化。