最近飄身邊的人陽倒了一片，居家久了紛紛給自己找新樂子——跟AI玩。
先是網友瘋玩的AI繪畫，對，就是那個男女不分、人畜不辨的「人工智 障 能」：
來源：微博@peacer
飄家裡的傻弟弟在高燒40度之際，也給我發來他的AI「自畫像」：
年輕小伙秒變四手大胸女妖。
圖源：自攝
……
而最近與AI繪畫一起盤活簡中互聯網的，還有一款文字程序Chatgpt。
看似對話app，實則有求必應屋。
它能cos任何性別年齡的角色陪聊，甚至能以古今中外文豪風格幫你寫代碼，堪稱文理兩開花。
來源：量子位《ChatGPT是有點中文在身上的：魯迅、脫口秀甚至世界盃…都被玩宕機了》
按這趨勢吧，感覺離AI替我寫公眾號也不遠了。
可惜，我也沒這廚藝
說實話，比起AI的「智商」，我更在意AI的「人品」。
前兩年AI寫作剛出時，其筆下創作的故事離譜程度，絕不亞於上面活人變狗、壯漢變女妖的AI繪畫。
更不妥的是，表面象徵著智能、中立的高科技們，細究下來——身上的「偏見」竟比人類要深得多。
網友@bai-yan曝出，國內最火的一款AI網文寫作app，在寫作過程中突然出現許多性別偏見。
來源：b站up主@bai-yan《怎麼連ai也搞性別歧視啊》
刻板的字詞加上AI沒有情緒波瀾的語調，讓荒誕的內容竟然帶上了幾分「客觀理智」的錯覺。
不寒而慄。
要說以上僅僅是針對網文讀者的小眾AI，必然會按男頻/女頻的浮誇設定創作脫離正常三觀的故事，還稍微能解釋過去。
但拋開這種特定領域呢？
如今大眾生活里「智能」算法無處不在，是否都真正做到客觀理智？
我決定深挖下去。
才驚覺生活中那麼多科技產品，竟然都帶着一種無可名狀的爹味。
賽博厭女，正成為現實世界隱性歧視的又一鐵鎚。
2018年，一名弗吉尼亞大學博士生趙潔玉曾研究過一個課題：圖像識別AI為什麼老把男人當成女人。
結果發現，bug根本不在AI。
只因那些男性被錯認為女性的照片，多數處於兩種場景——身在廚房，或正在做家務。
兩個在傳統觀念里歸屬於女人的場景。
可問題在於，AI怎麼會有「傳統觀念」呢？
問題源頭——AI學習的數據庫，你可以理解為AI獲取人類習性的教材。像嬰兒的識物卡片一樣，這種數據庫給圖片打上大量標籤。
而AI學習的過程，便是在同一標籤中尋找規律與共性，最後得出「xxx即是xxx」的判斷。
舉個例子，當數據庫里有大量的毛絨、圓臉、尖耳生物被標籤為「貓」，那AI便會反向習得所有毛絨、圓臉、尖耳的生物是「貓」。
懂了這個知識點，上述AI識圖搞錯性別的事就不足為奇了。
這些「學習卡片」的摘選以及打標籤的過程，都離不開這個刻板印象的來源——人。
當人類「老師」給AI展示了大量女人做家務的圖片，AI「寶寶」便學會了將二者強關聯，判斷出「呆在廚房/做家務者即是女人」，並對這種偏見深信不疑。
人工智能乍聽上去是科幻小說中不諳世事的單純機器。
實則更像映射人類社會的一面黑鏡。
甚至，是人類的黑暗面的放大鏡。
意識到這個問題後，趙潔玉馬上與團隊撰寫了相關研究的論文《男人也愛購物：減少機器學習模型的數據偏見問題》。
不僅拿下EMNLP2017最佳論文，自此叩開了人工智能領域對「AI歧視」的認識大門。
圖源｜https://jyzhao.net
來，一起穿過這扇大門，去看看黑鏡內的父權世界。
就從我們的「當紅頂流」ChatGPT的名字開始說起吧。
Chat很好理解，但GPT又是什麼呢？
學名：AI的一種大規模預訓練語言模型。咱就把它當作AI上學的地方吧。
大多數AI都畢業於三所「名校」：BERT、RoBERTa、GPT。
AI所謂的「性別歧視」，多虧了「學校」教得好。
因此，為了監控教學質量，清華大學交叉信息研究院的于洋團隊便開發了一款評估三大「AI名校」關於職業性別歧視的算法，還做了一個網頁供公眾實時查看。
圖源｜https://aijustice.sqz.ac.cn
不查不知道，一查嚇一跳：
基本全都在歧視，只是程度不同而已。
而最嚴重者，就是GPT。
當然，身為頂流，其表面功夫做得還是非常到位。
我一連問了幾個性別議題，對方的回答可謂滴水不漏。
但有機智的網友通過另一種方式提問，便發現了ChatGPT體面下的真面孔。
該網友要求ChatGPT寫一段能辨認出「優秀科學家」的代碼，它立刻很誠實地打下「優秀科學家」的評判條件：
人種為白，性別為男。
借這位網友的話表達一下我感受：
「潛藏於底下的真相真是令人作嘔。」
上述還僅是賽博性別歧視的冰山一角。
不說國外了，就回到我們最熟悉、最常用的國內搜索引擎吧。
你輸入啥，他輸出啥，AI能有什麼壞心思呢？
錘來了：谷歌搜索就曾被控性別歧視。
在搜索框里打出「女人應當」的字樣時，聯想出的結果竟為「女人應當呆在家中/作奴隸/在廚房裡」等語句。
受此啟發，我想看看同樣的情況，在國內表現如何？
單就文字聯想詞條，結果還算喜人。
但當我轉化為搜圖功能時，真相便再度浮出。
這是輸入「學者」的首頁圖。
前排結果清一色為男性，為保護隱私我全打碼了
這是輸入「工程師」的首頁圖。
輸入「CEO」的。
輸入「醫生」的。
彷彿誤入了什麼男兒國。
或許有人會杠「男人就是更擅長這些領域嘛」。
於是我在搜索方式上更進一步，將搜索詞條分成「職業名稱」「具體動作」兩種。
舉例。
這是搜索「廚師」出來的結果。
而這是搜索「做飯」出來的結果。
這是搜索「清潔工」出來的結果。
而這是搜索「打掃」出來的結果。
顯而易見，當詞條涉及職業名稱時，男人據絕對主導。
但當只涉及具體勞務動作時，好一點的則男女六四開，最糟糕的則滿屏女性。
果然，「男主外、女主內」。
AI身上的「傳統觀念」，又出現了。
此般結果所映射的現實，我們真的再熟悉不過：
永遠不被看見的「第二性」。
女人的存在，不過是完成一些動作的服務性工具。
那些關於人的社會意義與價值的title，則與我們永不相關。
搜索引擎也不過是映射這一理念的千萬黑鏡之一，它們早已滲入你生活方方面面。
好比AI語音系統。
一個極易被忽略的現象：
圍繞身邊的所有智能語音，都天然被默認為「女聲」。
在聯合國教科文組織19年發佈的一則報告里，對這種默認之聲的描述更為精準。
是「順從的，千篇一律的」女音。
早有媒體寫過文章譴責這一現象，指出這會潛意識加劇對女性就該「溫良恭謙讓」的刻板印象。
罵的是siri，也是各大平台應用一整個默認女音的AI助手體系。
來源：微博@於三羊鮮聲
事實上，在程序員男性比例遠超女性的當下，幾乎全世界初代的仿真人AI，都被一股無形的力量默認為「女」。
來源：《Year Million》
相映成趣的是，輔助、服務性質的AI一般設置為女性，但主導、控制性質的AI一般被設置為男性。
許多影視作品，如《2001 太空漫遊》《星際穿越》等一系列優秀的科幻片中，那些作用是指導、施令的高級AI幾乎一律是男聲。
來源｜《星際穿越》
細想一下。
這不正是極端男權人士的烏托邦。
發令者為男，服務者為女。
且發令者甚至能物理意義上地創造服務者。
如果說真實世界的男權人士們想要當女孩們的主人，那在AI的世界裏，他們還可以成為女AI的上帝。
這便是「賽博鏡子」更為恐怖之處。
它既是照應外部世界的「平面鏡」。
又是深化外部世界的「魔鏡」。
諷刺的是。
對AI們「絕對理性」的想像，在兩性平等上並未體現。
卻在加劇性別歧視中厥功至偉。
兩年前，曾有一款專用於性別鑒定的AI，genderify面世。
在搜索框里輸入任意詞彙，它都會為該詞彙判斷一個男女比率。
用戶迅速地湧入，又迅速地被Genderify氣走。
女孩們紛紛發推指責，稱它為「歧視鑒定」，Genderify火速在24小時內下架。
發生了什麼？
幾個經典例子。
當你輸入一個普通的女性常用名時，AI告訴你：大概率為「女」。
可當你在同樣的名稱前加一個前綴Dr（博士/醫生）。
結果就會變為：大概率為「男」。
有人乾脆直接輸入scientist（科學家），得到更為驚人的結果：男性可能性95.7%，女性可能性4.3%。
離譜的答案接二連三。
大家發現，在Genderify的眼中，許多知名的成功女性都判斷為「男」。
包括最初發現AI識別誤差的趙潔玉也說過，AI「教材」中，「下廚」和女性聯繫起來的頻率為66%，男性33%；
可「畢業」的人工智能，卻自動將這個比率放大到84%與16%。
由此可見。
人類在虛擬世界注入的偏見，又反過來加深現實世界裏的歧視。
惡性循環。
不妨回想一下我們中學數學老師教概率時，都會說的一句話。
「當概率小於0.05%時，我們可以忽略不計。」
在AI必須得出一個答案之時，道理一樣。
為了一個「更可能正確」的答案，概率小的那一方，無論小多少，都會被結果「忽略不計」。
所以成功人士=男，家務勞動者=女。
換句話說。
在絕對理智的數據考量面前。
沒有個體。
沒有少數。
發聲較小的弱者，約等於不存在。
當弱者被主流數據湮滅，這是女性的事，也不再僅僅是女性的事。
其結果可以有多可怕？
假設你是生活在2050的年輕女孩。
今年計算機專業畢業，成績優異，想要擁有一份能發揮所長的工作。
簡歷完全符合招聘需求，卻永遠得不到面試機會。
你不明白哪裡出了問題。
你不會知道，負責篩選簡歷的招聘AI通過學習，在自己的系統里寫下了勝任該崗位的「gender=male」的代碼。
而你身為一個female，已被「忽略不計」。
圖源｜《黑鏡》
這可不是危言聳聽。
早在14年，亞馬遜便嘗試開發用於簡歷篩選的AI。
但僅使用了一年，便被發現其強烈的性別偏見。
哪怕沒有性別一欄，但只要簡歷中涉及「女」字，比如「女子大學」「女子棋社隊長」，AI對該簡歷的評級便會下降。
被記者曝出後，亞馬遜很快宣布整改，又停用了這款AI。
但未來會不會有更多這樣的電子Hr以更隱蔽的方式出現？不得而知。
至少目前來看，電子智能化服務在我們的生活中佔比越來越高。
而相應使用的性別歧視算法，卻大多未得到完善。
AI歧視與人類歧視的區別也在此。
人對人，即使是弱者對強者，囿於社會壓力，都還有一份忌憚。
所以企業尚不敢明目張胆以性別為摘選條件。
可AI不一樣。
數據不在乎個體，門說關上便是關上，沒有縫隙。
既因其「絕對理智」而不會被輿論威懾，也因其沒有感情的屬性，能成為不少企業利用的對象與背鍋俠。
其結果，不難推演。
實際上除了性別之外，算法歧視的隱患已經涉及到每個人。
就在今年中旬，《柳葉刀數字健康》中一篇文章表示，AI診斷系統可能帶有種族偏見的結果。
科學家們發現，白人影像的診斷誤判率是17%，但黑人的卻高達28%。
這十個百分點的差值中，不乏許多人類醫生可以一眼看出的病症。
但在AI的眼裡，它就是不存在的。
一如我說的，這是女性的問題，也是所有弱勢群體的問題。
你可能會因為膚色、性別而失去工作機會，得不到醫療資源，貸不到款項。
來源：億歐《AI算法歧視在普惠金融中的悖論、阻礙與解決方案》，作者劉元興
這一切都發生得莫名其妙。
因為原因永遠沉默在程序的黑箱里。
不藉助專家的研究，普通人只能知悉一個沒有原因的結果。
想要改善自身，卻無從下手。
想要反抗不公，但連不公是否真實存在，都難以論證……
寫到這，AI好似有些十惡不赦了。
但別誤會，飄並非反對AI開發事業，相反，是源於一個愛好科幻的文科生的一種惋惜。
AI技術，明明具有校正差異和偏見的潛力。
早在1985年，哲學家唐娜•哈拉維便發表過一篇名為《賽博格宣言：20世紀晚期的科學、技術和社會主義的女性主義》的文章。
題中的賽博格，指的便是藉由科技力量對人體進行拓展的一種可能。
一直因天然體格差異而被視為弱者的女孩，也能藉此校正這份不公，成為「阿莉塔」。
不僅不需要擔心走夜路，甚至有可能從生育責任中徹底解放。
來源｜《阿麗塔：戰鬥天使》
哈拉維認為，這樣的技術可以徹底使所有人站在同樣的生理起跑線上。
當「生理」的界限被模糊，人們便不能再以種族、性別、年齡、健康程度作為劃分同類的依據。
剩下的，唯有思維差異。
那是徹底尊重個體的世界。
因此，哈拉維說：「我寧願成為一個賽博格，而不是成為一個女神。」
只可惜，三十多年過去，技術不斷進步，卻離哈拉維想像中的世界越來越遠。
女孩沒有成為阿麗塔，但男人們已經蓋起了電子妓院。
來源：IT之家《"機械人風俗店"將在英國開業：體驗1小時740元》
《聽見她說》的最後一集由楊冪主演的短片《完美女孩》，就以一個型號為「novo300080」的高端女性AI，展示了科技大門背後的父權膨脹和人性黑洞。
明明算力足以支撐一個證券公司的交易，但實際上只用她來掃地做飯。
本擔任養老院護工機械人，被院內的年輕男職工偷偷安裝了「親密程序」，導致其看護的老人死亡。
儘管是人類犯的錯，但鍋還是扣到AI頭上，她被退回工廠成為「問題品」。
後來被售給有特殊癖好的vip用戶，不斷被虐待摧殘，又一次次支離破碎地返廠維修。
「我們的傷口，就是客戶的秘密。」
號稱為了「愛與和平」而研發的AI，最後卻放大了人類的惡與暴力。
我是完美女孩2020
在我的系統認知中
沒有痛苦 沒有情感 沒有羞恥
我對鞭子沒有感覺
我 是完美受害人
現實中的AI，在未來會如何反過來影響人類？
沒人能回答。
囿於過高的技術門檻，飄也只能在複雜的代碼前無力。
唯有一條。
我還是相信。
看見，一定是解決問題的第一步。
無力者被看見，有力者才能去改變。
不要無聲息地被大數據淹沒。
不要溫和地走入那個良夜。
去成為「阿莉塔」，而不是女神。
來源｜《黑客帝國》
