2024年02月17日16:45:23 科技 1567

人工智能，被誉为是人类的未来。我们期待人工智能可以帮助医生、心理学家、警察和军人等工作，甚至取代驾驶员以及运动员。人工智能真的已经达到足够智能的程度了吗？人们真的可以相信人工智能的决定吗？在人工智能领域实践多年的程序员以及人工智能研究者，却向人们发出了警示。

非政府组织算法观察成员马蒂亚斯·斯皮尔坎普说：“数字技术的快速发展让我们以为，凭借数据和计算就能解决人类面临的一切问题。这只是一种错觉。”

真相一：获得问答冠军的人工智能，本质只是一个搜索引擎

2011年，IBM公司为了宣传自身技术，推出了《危险边缘》特别节目，让最优秀的人类冠军与其新开发的人工智能沃森直接对决。现场，人工智能沃森以最快速度流利应答，在节目中轻松取胜，节目结果让人们觉得，人工智能已然具备了理解人类语言的能力。

其实，人工智能沃森并不能真正与人类沟通，它本质上只是一个以网络百科全书作为数据库的搜索引擎。

而在联合国一个宣传人类技术进步的活动中，也出现了人机对话的场景。

联合国参会人士：“好的。我想再问你一个问题，世界上很多地方还没有网络，也没有电，联合国可以做什么来帮助他们呢？”

机器人：“好消息是人工智能和自动化可以用更少的资源获得更好的结果，所以，如果人工智能的智慧水平能够进一步提高并专注双赢的结果，人工智能则可以帮助人们充分分配世界上现有的资源，包括食物、能源等等。”

而其后有节目报道，这段机器人的回答，其实也是提前准备好的。

真相二：人工智能翻译器只能提供一般性答案

像谷歌翻译那些自动翻译工具，使用的资源是来自一些可免费访问的网站，例如一些政府部门、机构的官网或者网络百科，人们早已将很多文字译成了多种语言。人工智能翻译器往往会自动运用人类最常用的词组作为译文，并不会根据特定情况进行分析，所以很多翻译结果，也揭示了人们固有的刻板观念。

比如，在芬兰语中，代词男他和女她都是用“hän”表示，但机器在翻译修理汽车化油器的主语时，会自动翻译为男他，在翻译为婴儿换尿布的主语时，会自动翻译为女她。翻译器自动生成可能性最高的结果，并不会参考任何个人经历。

谷歌工程师弗朗索瓦•肖莱说：“例如欧洲议会语料库，这些文本并不能代表你我之间的那种交流。系统永远会向适中的情况靠拢，因为这是它们的运作方式。”

真相三：人工智能深度学习技术存在偏见和刻板印象

深度学习是指，机器通过人类输入的各种数据资料进行自我学习，以帮助人类解决特定的问题。比如机器通过学习万千张动物的图片，来识别不同的动物，除此之外，深度学习技术还有其他现实应用。在美国有十几个州，案件审讯时都会参考一款人工智能软件，它能帮助法官预测被告再次犯案的风险及可能性。这款人工智能软件的数据，来自于美国警方的罪犯数据库，系统采用一个秘密公式来分析罪犯的136项指标，最终，得出罪犯再次犯案可能性的总分，提交给法官。

一些严谨的记者将这款软件对7000个犯人的评分，与他们真实的行为做了一个对比，结果发现，对严重犯罪行为的预测正确率仅为20％。一些记者还表示，软件对黑人再次犯罪的预测结果，普遍比实际高，对白人再次犯罪的预测结果却比实际低。

谷歌前研究员梅雷迪斯·惠特克说：“很多国家或地区的刑事司法智能系统，极有可能像美国一样，带有种族主义色彩，所以需要在数据中建立应对黑人偏见的设置。”

谷歌工程师弗朗索瓦·肖莱又举了一个例子来讲述人工智能系统偏见的来源：“这种偏见源于训练期间所接收的数据，训练数据可能本身存在偏见。请大家设想有这样一个系统，它能够检查监控录像，来判断某个人是否可疑。要打造这种系统，首先需要标注员（真人），对监控录像画面进行标注，判定录像中的某个人是否可疑。毫无疑问，在这个步骤中，标注员是基于主观作出判断的，这种判断会存在潜在偏见。”

真相四：人工智能目前还不能帮助医生诊症

延续《危险边缘》节目中人工智能沃森的大热，IBM紧接着研发了人工智能医生。之后经过六年，又投入了100亿美元，研发了一款专门用于治疗癌症的沃森肿瘤解决方案。

而这款软件却没有预想中先进，需要医生手动输入患者数据。不仅如此，沃森只能提供美国标准的治疗方案。根据医生反映，对于那些复杂的病例，沃森根本毫无帮助，并没有达到其宣称的能力。

谷歌工程师弗朗索瓦·肖莱说：“医学与现实世界息息相关，而现实世界是千姿万态的，你遇到的每一个病例，都与之前你遇到的病例间存在细微的差异。因此，你必须根据每一个新病例来调整以前使用的诊疗方针。如果你的诊疗方针一成不变，其执行程序也一成不变，那么它们就难以适用于新的病例。”

最后沃森肿瘤解决方案只被全球50家医院购买。2021年，IBM公司还遭受了猛烈的批评，沃森被迫全部下架。

真相五：人工智能并无感知能力，只有回答，没有表达

在人类的头脑中，意义是通过体验产生的：上下颌用力咬合、门牙穿透光滑的果皮、果汁渗出并顺着喉咙流下，种种体验定义了什么是苹果。然而，对于计算机系统而言，苹果只是一系列与文本数据相关联的像素。

谷歌工程师弗朗索瓦·肖莱说：“我们可能认为深度学习模型能够理解图像的内容。但实际上，深度学习模型只是将图像和文本联系起来的一种方式，与人类看见图片，并用语言描述其内容的方式是完全不同的。”

人工智能永远无法体会肾上腺素飙升或泪如泉涌的真正感觉，它不懂什么是害怕，不会起鸡皮疙瘩，对痛苦或快乐没有概念，无法欣赏抽象艺术，也没有曾被压抑的创伤。因此，人工智能也没有什么需要表达。

人工智能模仿的，仅仅是人类思维的结果，而并非过程。

真相六：人们有时无法了解人工智能得出结论的过程——不透明的黑匣子

深度学习源于控制论，控制论是计算器学家从神经科学中获得启发，而形成的研究领域。深度学习系统类似于一个巨大的相连的网络，借鉴了人类大脑中神经元的结构。在这个仿制的神经元网络中有很多设置，能够加强或衰减不同链路之间的信号，直到最终信号能够解答人类的问题。

机器学习系统有着数以亿计的不同设置，十分复杂，以至于连程序设计师自己也不知道，该用什么判断标准来检测系统。所以他们想出了一个词汇来描述这种复杂的设置：黑匣子。

美国杜克大学计算机科学研究员辛西娅·鲁丁说：“黑匣子机器学习模型，是一种预测模型。它要么复杂到人类无法理解，要么属于私有，也就是说，我们根本无法一窥其中的奥秘，也无法了解它们运算的方式。所以，我们不能用黑匣子模型来做出高风险决策。实际上，要做出更好的决策，我们的确需要了解这些预测模型的工作原理。”