過去二十年，人工智慧取得了飛躍式發展，而且發展速度越來越快。AI 繪畫、自動駕駛、智能機器人……人工智慧正逐漸走向各個領域。人工智慧快速發展的同時，人工智慧所帶來的版權、隱私、倫理等問題也亟待解決。
近年來，一些科技大廠率先啟動科技向善相關項目，這些項目旨在用科技解決社會問題，推動社會進步。同時，政府層面也開始積極響應可持續發展戰略，以歐盟、美國和中國為代表的國家在數據安全、隱私保護、企業行為倡導、政府支持等方面均有提案或法規頒布。
版權圖庫圖片，轉載使用可能引發版權糾紛
在呼籲科技向善的大背景下，如何確保 AI 技術的發展始終遵循「以人為本」的原則，如何始終保持人類的主體地位，成為各行各業在整合 AI 技術的同時努力實現的目標。《AI 向善：以人為中心的人工智慧》一書，正是對這一問題的深刻反思和積極探索。本文摘取此書的片段，帶領我們管窺「以人為中心的人工智慧」這一科技解決方案。
什麼是「以人為中心的人工智慧」？
「以人為中心的人工智慧」（Human-Centered AI，簡稱 HCAI）為設計師提供了全新的思維方式，即構想一種支持人類實現自我效能、創造力、責任感和社交關係的新策略。該策略更加強調 HCAI 將減少人們對人工智慧存在威脅的恐懼，並增加用戶和社會在商業、教育、醫療健康、環境保護和社區安全方面的利益。
HCAI 定義有很多，但如下兩個關鍵方面值得注意。
1
過程
HCAI 建立在用戶體驗的基礎上，如對用戶的觀察、利益相關者的參與、可用性測試、迭代改進和持續評估人類在使用人工智慧和機器學習的系統中的表現等。
2
產品
HCAI 系統旨在成為放大、增強、賦權和提升人類表現的超級工具。它強調人的控制，同時通過人工智慧和機器學習的方式實現高度自動化，例如數碼相機和導航系統，它們可被人類操控的同時又具備許多自動化功能。
HCAI 的目標是提高人類的自我效能、創造力、責任感和社交關係，同時降低惡意行為、數據偏差和軟體缺陷的影響。
HCAI 的兩大目標
史蒂夫·喬布斯（Steve Jobs）曾將計算機描述為「我們頭腦中的自行車」，這明確地表明，計算機設計的最佳目標是增強人類的能力，同時確保人類保持控制權。當前的計算機在我們頭腦中可能更像是一台哈雷·戴維森摩托車，但有人認為，在未來，計算機將成為我們頭腦中由司機駕駛的豪華轎車，自動帶領我們到達目的地。
使用 HCAI 框架可以幫助我們理解騎自行車和駕駛車輛之間的不同。人工控制的自行車可能是一種愉快而健康的鍛煉方式，但隱喻中的帶有司機的自動豪華轎車意味著舒適和安全。
然而，如果在駕駛員對減速或停車的請求沒有響應的情況，乘客如何傳達他們想去的目的地並對性能產生影響呢？人類的需求是複雜且不斷變化的；有時人們更喜歡享受駕駛的樂趣，鍛煉自己的駕駛技巧；有時，他們可能會喜歡休息、閱讀或與他人討論。
基於交通運輸的隱喻，我們可以把計算機想像成大型的商用飛機，它可以將乘客舒適、快速、安全地帶到目的地，而無須讓乘客學習如何飛行。受 HCAI 框架右上角象限的啟發，在有專業監控性能的空中交通管制員和飛機認證機構的情況下，飛機只需對其指令做出響應。
版權圖庫圖片，轉載使用可能引發版權糾紛
讀者可能會思考，在自動化的功能以及飛行員、空中交通管制員的監督下，民航飛機是如何保證安全的。
答案是兩者都是必需的。自動化功能可以讓一架從華盛頓特區飛往法國巴黎的飛機進行例行飛行，同時飛行員能夠更密切地監控飛機系統。然而，在數百種潛在問題中，如飛機起火、乘客心臟病發作、鳥類襲擊導致的發動機停止等，這些情況都需要熟練的專業人員迅速做出艱難的應對。
雖然所有的隱喻都有其局限性，但它們在傳達思想上有其價值，並可以打開思想的大門，迎接新的可能性。HCAI 研究有兩個設計目標：
1
科學目標
英屬哥倫比亞大學教授戴維·普爾（David Poole）和艾倫·馬克沃斯（Alan Mackworth）寫道，科學目標是研究「智能行動的計算代理」。他們想「了解使智能行為在自然或人工系統中成為可能的原理……通過設計、構建和實驗計算系統來完成通常被認為需要智能才能完成的任務」。科學目標通常基於對人類感知、認知和運動技能的研究，以便工程師可以建立起能夠像人類一樣或比人類更好地執行任務的系統，例如下棋程序或識別癌症腫瘤的設備。
2
創新目標
開發增強人類能力的計算機，使人們能夠自主完成工作。創新目標來自建立廣泛使用的產品和服務的研究。普爾和馬克沃斯寫道，創新「旨在用於應用領域」。成功的案例包括基於地圖的導航系統、自然語言翻譯和搜索查詢。
這兩個目標對於思考未來技術的設計隱喻都有價值。然而，其挑戰在於了解每個目標在何時達成最佳狀態以及如何組合這些目標。有些功能可能最適合自動處理，例如數碼相機的對焦和光圈設置，而其他功能可能最適合交給人類控制，例如構圖和選擇何時進行拍攝——攝影師稱之為「決定性時刻」。
這兩個目標引導我們對 HCAI 研究進行了四對設計隱喻的描述。所有這些隱喻都是有價值的，但出於不同的原因：高度的計算機自主性允許無人監督的活動，而高度的人工控制允許人類進行干預。
其中一對隱喻是智能代理和超級工具，前者表示機器或系統具備獨立行動能力，後者表示在使用機器時的人工控制。第二對隱喻是隊友和遠程機器人，前者表示將人工智慧的動作當作人類的動作，後者表示人類操作。
第三對隱喻是確定的自主性和控制中心，前者通過其設計而保證安全，後者通過人工控制來監控和干預。第四對隱喻是社交機器人和有源設備，前者被設計成像人類一樣行動，後者被設計成諸如洗碗機或烘乾機式的設備。
這幾對設計隱喻通過提出針對不同環境需求的解決方案來改進 HCAI 框架，其中一些支持更多的自動化，另一些則支持更多的人工控制。
一個關鍵的思想是組合設計，對於可靠執行的任務採用自動化方法，對於用戶想要管理的任務採用人工控制的方法。組合設計使得我們能夠更加細緻地決策哪些功能可以由計算機可靠地執行以及哪些功能是人類想要或需要控制的。
在推薦系統、問答系統和遊戲系統中，用戶可能會忽略不完美的回應，甚至可能會喜歡偶然的驚喜。然而，在醫療保健、交通或金融系統等涉及重大後果或生命攸關的應用中，正確的回應變得至關重要，可預測的行為在建立信任方面也是至關重要的。
《AI向善》
本書主要介紹了以人為中心的人工智慧（HCAI）的理念和方法，旨在為人工智慧系統的設計開闢新可能。書中展示了 HCAI 在包括教育、醫療、娛樂、交通等領域中的應用，強調了如何將人工智慧與人類價值相結合，以實現更好的人類發展。本書為構建可靠、安全和值得信賴的應用提供了一個全面的指南。
本書深入剖析 HCAI 設計理念，從構建 HCAI 框架到設計隱喻再到管理架構，提供了寶貴的思考和行動指南，讓 AI 技術真正服務於人類，提升生活品質，實現人與技術的和諧共生。
第六屆
互聯網闢謠優秀作品公眾投票
開始啦！！！
給「科普中國優秀作品」投上一票吧！
↓↓↓
感謝您對科普中國的每一次支持！！！
策劃製作
來源丨圖書《AI向善 以人為中心的人工智慧》，中國科學技術出版社
作者丨本·施耐德曼（Ben Shneiderman）
譯者丨張縵綺
策劃丨何通
責編丨何通
審校丨徐來、林林
