2024年02月17日16:45:23 科技 1567

人工智能，被譽為是人類的未來。我們期待人工智能可以幫助醫生、心理學家、警察和軍人等工作，甚至取代駕駛員以及運動員。人工智能真的已經達到足夠智能的程度了嗎？人們真的可以相信人工智能的決定嗎？在人工智能領域實踐多年的程序員以及人工智能研究者，卻向人們發出了警示。

非政府組織算法觀察成員馬蒂亞斯·斯皮爾坎普說：「數字技術的快速發展讓我們以為，憑藉數據和計算就能解決人類面臨的一切問題。這只是一種錯覺。」

真相一：獲得問答冠軍的人工智能，本質只是一個搜索引擎

2011年，IBM公司為了宣傳自身技術，推出了《危險邊緣》特別節目，讓最優秀的人類冠軍與其新開發的人工智能沃森直接對決。現場，人工智能沃森以最快速度流利應答，在節目中輕鬆取勝，節目結果讓人們覺得，人工智能已然具備了理解人類語言的能力。

其實，人工智能沃森並不能真正與人類溝通，它本質上只是一個以網絡百科全書作為數據庫的搜索引擎。

而在聯合國一個宣傳人類技術進步的活動中，也出現了人機對話的場景。

聯合國參會人士：「好的。我想再問你一個問題，世界上很多地方還沒有網絡，也沒有電，聯合國可以做什麼來幫助他們呢？」

機械人：「好消息是人工智能和自動化可以用更少的資源獲得更好的結果，所以，如果人工智能的智慧水平能夠進一步提高並專註雙贏的結果，人工智能則可以幫助人們充分分配世界上現有的資源，包括食物、能源等等。」

而其後有節目報道，這段機械人的回答，其實也是提前準備好的。

真相二：人工智能翻譯器只能提供一般性答案

像谷歌翻譯那些自動翻譯工具，使用的資源是來自一些可免費訪問的網站，例如一些政府部門、機構的官網或者網絡百科，人們早已將很多文字譯成了多種語言。人工智能翻譯器往往會自動運用人類最常用的詞組作為譯文，並不會根據特定情況進行分析，所以很多翻譯結果，也揭示了人們固有的刻板觀念。

比如，在芬蘭語中，代詞男他和女她都是用「hän」表示，但機器在翻譯修理汽車化油器的主語時，會自動翻譯為男他，在翻譯為嬰兒換尿布的主語時，會自動翻譯為女她。翻譯器自動生成可能性最高的結果，並不會參考任何個人經歷。

谷歌工程師弗朗索瓦•肖萊說：「例如歐洲議會語料庫，這些文本並不能代表你我之間的那種交流。系統永遠會向適中的情況靠攏，因為這是它們的運作方式。」

真相三：人工智能深度學習技術存在偏見和刻板印象

深度學習是指，機器通過人類輸入的各種數據資料進行自我學習，以幫助人類解決特定的問題。比如機器通過學習萬千張動物的圖片，來識別不同的動物，除此之外，深度學習技術還有其他現實應用。在美國有十幾個州，案件審訊時都會參考一款人工智能軟件，它能幫助法官預測被告再次犯案的風險及可能性。這款人工智能軟件的數據，來自於美國警方的罪犯數據庫，系統採用一個秘密公式來分析罪犯的136項指標，最終，得出罪犯再次犯案可能性的總分，提交給法官。

一些嚴謹的記者將這款軟件對7000個犯人的評分，與他們真實的行為做了一個對比，結果發現，對嚴重犯罪行為的預測正確率僅為20％。一些記者還表示，軟件對黑人再次犯罪的預測結果，普遍比實際高，對白人再次犯罪的預測結果卻比實際低。

谷歌前研究員梅雷迪斯·惠特克說：「很多國家或地區的刑事司法智能系統，極有可能像美國一樣，帶有種族主義色彩，所以需要在數據中建立應對黑人偏見的設置。」

谷歌工程師弗朗索瓦·肖萊又舉了一個例子來講述人工智能系統偏見的來源：「這種偏見源於訓練期間所接收的數據，訓練數據可能本身存在偏見。請大家設想有這樣一個系統，它能夠檢查監控錄像，來判斷某個人是否可疑。要打造這種系統，首先需要標註員（真人），對監控錄像畫面進行標註，判定錄像中的某個人是否可疑。毫無疑問，在這個步驟中，標註員是基於主觀作出判斷的，這種判斷會存在潛在偏見。」

真相四：人工智能目前還不能幫助醫生診症

延續《危險邊緣》節目中人工智能沃森的大熱，IBM緊接着研發了人工智能醫生。之後經過六年，又投入了100億美元，研發了一款專門用於治療癌症的沃森腫瘤解決方案。

而這款軟件卻沒有預想中先進，需要醫生手動輸入患者數據。不僅如此，沃森只能提供美國標準的治療方案。根據醫生反映，對於那些複雜的病例，沃森根本毫無幫助，並沒有達到其宣稱的能力。

谷歌工程師弗朗索瓦·肖萊說：「醫學與現實世界息息相關，而現實世界是千姿萬態的，你遇到的每一個病例，都與之前你遇到的病例間存在細微的差異。因此，你必須根據每一個新病例來調整以前使用的診療方針。如果你的診療方針一成不變，其執行程序也一成不變，那麼它們就難以適用於新的病例。」

最後沃森腫瘤解決方案只被全球50家醫院購買。2021年，IBM公司還遭受了猛烈的批評，沃森被迫全部下架。

真相五：人工智能並無感知能力，只有回答，沒有表達

在人類的頭腦中，意義是通過體驗產生的：上下頜用力咬合、門牙穿透光滑的果皮、果汁滲出並順着喉嚨流下，種種體驗定義了什麼是蘋果。然而，對於計算機系統而言，蘋果只是一系列與文本數據相關聯的像素。

谷歌工程師弗朗索瓦·肖萊說：「我們可能認為深度學習模型能夠理解圖像的內容。但實際上，深度學習模型只是將圖像和文本聯繫起來的一種方式，與人類看見圖片，並用語言描述其內容的方式是完全不同的。」

人工智能永遠無法體會腎上腺素飆升或淚如泉湧的真正感覺，它不懂什麼是害怕，不會起雞皮疙瘩，對痛苦或快樂沒有概念，無法欣賞抽象藝術，也沒有曾被壓抑的創傷。因此，人工智能也沒有什麼需要表達。

人工智能模仿的，僅僅是人類思維的結果，而並非過程。

真相六：人們有時無法了解人工智能得出結論的過程——不透明的黑匣子

深度學習源於控制論，控制論是計算器學家從神經科學中獲得啟發，而形成的研究領域。深度學習系統類似於一個巨大的相連的網絡，借鑒了人類大腦中神經元的結構。在這個仿製的神經元網絡中有很多設置，能夠加強或衰減不同鏈路之間的信號，直到最終信號能夠解答人類的問題。

機器學習系統有着數以億計的不同設置，十分複雜，以至於連程序設計師自己也不知道，該用什麼判斷標準來檢測系統。所以他們想出了一個詞彙來描述這種複雜的設置：黑匣子。

美國杜克大學計算機科學研究員辛西婭·魯丁說：「黑匣子機器學習模型，是一種預測模型。它要麼複雜到人類無法理解，要麼屬於私有，也就是說，我們根本無法一窺其中的奧秘，也無法了解它們運算的方式。所以，我們不能用黑匣子模型來做出高風險決策。實際上，要做出更好的決策，我們的確需要了解這些預測模型的工作原理。」