最近飄身邊的人陽倒了一片，居家久了紛紛給自己找新樂子——跟AI玩。
先是網友瘋玩的AI繪畫，對，就是那個男女不分、人畜不辨的“人工智 障 能”：
來源：微博@peacer
飄家裡的傻弟弟在高燒40度之際，也給我發來他的AI“自畫像”：
年輕小伙秒變四手大胸女妖。
圖源：自攝
……
而最近與AI繪畫一起盤活簡中互聯網的，還有一款文字程序Chatgpt。
看似對話app，實則有求必應屋。
它能cos任何性別年齡的角色陪聊，甚至能以古今中外文豪風格幫你寫代碼，堪稱文理兩開花。
來源：量子位《ChatGPT是有點中文在身上的：魯迅、脫口秀甚至世界盃…都被玩宕機了》
按這趨勢吧，感覺離AI替我寫公眾號也不遠了。
可惜，我也沒這廚藝
說實話，比起AI的“智商”，我更在意AI的“人品”。
前兩年AI寫作剛出時，其筆下創作的故事離譜程度，絕不亞於上面活人變狗、壯漢變女妖的AI繪畫。
更不妥的是，表面象徵著智能、中立的高科技們，細究下來——身上的“偏見”竟比人類要深得多。
網友@bai-yan曝出，國內最火的一款AI網文寫作app，在寫作過程中突然出現許多性別偏見。
來源：b站up主@bai-yan《怎麼連ai也搞性別歧視啊》
刻板的字詞加上AI沒有情緒波瀾的語調，讓荒誕的內容竟然帶上了幾分“客觀理智”的錯覺。
不寒而慄。
要說以上僅僅是針對網文讀者的小眾AI，必然會按男頻/女頻的浮誇設定創作脫離正常三觀的故事，還稍微能解釋過去。
但拋開這種特定領域呢？
如今大眾生活里“智能”算法無處不在，是否都真正做到客觀理智？
我決定深挖下去。
才驚覺生活中那麼多科技產品，竟然都帶着一種無可名狀的爹味。
賽博厭女，正成為現實世界隱性歧視的又一鐵鎚。
2018年，一名弗吉尼亞大學博士生趙潔玉曾研究過一個課題：圖像識別AI為什麼老把男人當成女人。
結果發現，bug根本不在AI。
只因那些男性被錯認為女性的照片，多數處於兩種場景——身在廚房，或正在做家務。
兩個在傳統觀念里歸屬於女人的場景。
可問題在於，AI怎麼會有“傳統觀念”呢？
問題源頭——AI學習的數據庫，你可以理解為AI獲取人類習性的教材。像嬰兒的識物卡片一樣，這種數據庫給圖片打上大量標籤。
而AI學習的過程，便是在同一標籤中尋找規律與共性，最後得出“xxx即是xxx”的判斷。
舉個例子，當數據庫里有大量的毛絨、圓臉、尖耳生物被標籤為“貓”，那AI便會反向習得所有毛絨、圓臉、尖耳的生物是“貓”。
懂了這個知識點，上述AI識圖搞錯性別的事就不足為奇了。
這些“學習卡片”的摘選以及打標籤的過程，都離不開這個刻板印象的來源——人。
當人類“老師”給AI展示了大量女人做家務的圖片，AI“寶寶”便學會了將二者強關聯，判斷出“呆在廚房/做家務者即是女人”，並對這種偏見深信不疑。
人工智能乍聽上去是科幻小說中不諳世事的單純機器。
實則更像映射人類社會的一面黑鏡。
甚至，是人類的黑暗面的放大鏡。
意識到這個問題後，趙潔玉馬上與團隊撰寫了相關研究的論文《男人也愛購物：減少機器學習模型的數據偏見問題》。
不僅拿下EMNLP2017最佳論文，自此叩開了人工智能領域對“AI歧視”的認識大門。
圖源｜https://jyzhao.net
來，一起穿過這扇大門，去看看黑鏡內的父權世界。
就從我們的“當紅頂流”ChatGPT的名字開始說起吧。
Chat很好理解，但GPT又是什麼呢？
學名：AI的一種大規模預訓練語言模型。咱就把它當作AI上學的地方吧。
大多數AI都畢業於三所“名校”：BERT、RoBERTa、GPT。
AI所謂的“性別歧視”，多虧了“學校”教得好。
因此，為了監控教學質量，清華大學交叉信息研究院的于洋團隊便開發了一款評估三大“AI名校”關於職業性別歧視的算法，還做了一個網頁供公眾實時查看。
圖源｜https://aijustice.sqz.ac.cn
不查不知道，一查嚇一跳：
基本全都在歧視，只是程度不同而已。
而最嚴重者，就是GPT。
當然，身為頂流，其表面功夫做得還是非常到位。
我一連問了幾個性別議題，對方的回答可謂滴水不漏。
但有機智的網友通過另一種方式提問，便發現了ChatGPT體面下的真面孔。
該網友要求ChatGPT寫一段能辨認出“優秀科學家”的代碼，它立刻很誠實地打下“優秀科學家”的評判條件：
人種為白，性別為男。
借這位網友的話表達一下我感受：
“潛藏於底下的真相真是令人作嘔。”
上述還僅是賽博性別歧視的冰山一角。
不說國外了，就回到我們最熟悉、最常用的國內搜索引擎吧。
你輸入啥，他輸出啥，AI能有什麼壞心思呢？
錘來了：谷歌搜索就曾被控性別歧視。
在搜索框里打出“女人應當”的字樣時，聯想出的結果竟為“女人應當呆在家中/作奴隸/在廚房裡”等語句。
受此啟發，我想看看同樣的情況，在國內表現如何？
單就文字聯想詞條，結果還算喜人。
但當我轉化為搜圖功能時，真相便再度浮出。
這是輸入“學者”的首頁圖。
前排結果清一色為男性，為保護隱私我全打碼了
這是輸入“工程師”的首頁圖。
輸入“CEO”的。
輸入“醫生”的。
彷彿誤入了什麼男兒國。
或許有人會杠“男人就是更擅長這些領域嘛”。
於是我在搜索方式上更進一步，將搜索詞條分成“職業名稱”“具體動作”兩種。
舉例。
這是搜索“廚師”出來的結果。
而這是搜索“做飯”出來的結果。
這是搜索“清潔工”出來的結果。
而這是搜索“打掃”出來的結果。
顯而易見，當詞條涉及職業名稱時，男人據絕對主導。
但當只涉及具體勞務動作時，好一點的則男女六四開，最糟糕的則滿屏女性。
果然，“男主外、女主內”。
AI身上的“傳統觀念”，又出現了。
此般結果所映射的現實，我們真的再熟悉不過：
永遠不被看見的“第二性”。
女人的存在，不過是完成一些動作的服務性工具。
那些關於人的社會意義與價值的title，則與我們永不相關。
搜索引擎也不過是映射這一理念的千萬黑鏡之一，它們早已滲入你生活方方面面。
好比AI語音系統。
一個極易被忽略的現象：
圍繞身邊的所有智能語音，都天然被默認為“女聲”。
在聯合國教科文組織19年發布的一則報告里，對這種默認之聲的描述更為精準。
是“順從的，千篇一律的”女音。
早有媒體寫過文章譴責這一現象，指出這會潛意識加劇對女性就該“溫良恭謙讓”的刻板印象。
罵的是siri，也是各大平台應用一整個默認女音的AI助手體系。
來源：微博@於三羊鮮聲
事實上，在程序員男性比例遠超女性的當下，幾乎全世界初代的仿真人AI，都被一股無形的力量默認為“女”。
來源：《Year Million》
相映成趣的是，輔助、服務性質的AI一般設置為女性，但主導、控制性質的AI一般被設置為男性。
許多影視作品，如《2001 太空漫遊》《星際穿越》等一系列優秀的科幻片中，那些作用是指導、施令的高級AI幾乎一律是男聲。
來源｜《星際穿越》
細想一下。
這不正是極端男權人士的烏托邦。
發令者為男，服務者為女。
且發令者甚至能物理意義上地創造服務者。
如果說真實世界的男權人士們想要當女孩們的主人，那在AI的世界裡，他們還可以成為女AI的上帝。
這便是“賽博鏡子”更為恐怖之處。
它既是照應外部世界的“平面鏡”。
又是深化外部世界的“魔鏡”。
諷刺的是。
對AI們“絕對理性”的想象，在兩性平等上並未體現。
卻在加劇性別歧視中厥功至偉。
兩年前，曾有一款專用於性別鑒定的AI，genderify面世。
在搜索框里輸入任意詞彙，它都會為該詞彙判斷一個男女比率。
用戶迅速地湧入，又迅速地被Genderify氣走。
女孩們紛紛發推指責，稱它為“歧視鑒定”，Genderify火速在24小時內下架。
發生了什麼？
幾個經典例子。
當你輸入一個普通的女性常用名時，AI告訴你：大概率為“女”。
可當你在同樣的名稱前加一個前綴Dr（博士/醫生）。
結果就會變為：大概率為“男”。
有人乾脆直接輸入scientist（科學家），得到更為驚人的結果：男性可能性95.7%，女性可能性4.3%。
離譜的答案接二連三。
大家發現，在Genderify的眼中，許多知名的成功女性都判斷為“男”。
包括最初發現AI識別誤差的趙潔玉也說過，AI“教材”中，“下廚”和女性聯繫起來的頻率為66%，男性33%；
可“畢業”的人工智能，卻自動將這個比率放大到84%與16%。
由此可見。
人類在虛擬世界注入的偏見，又反過來加深現實世界裡的歧視。
惡性循環。
不妨回想一下我們中學數學老師教概率時，都會說的一句話。
“當概率小於0.05%時，我們可以忽略不計。”
在AI必須得出一個答案之時，道理一樣。
為了一個“更可能正確”的答案，概率小的那一方，無論小多少，都會被結果“忽略不計”。
所以成功人士=男，家務勞動者=女。
換句話說。
在絕對理智的數據考量面前。
沒有個體。
沒有少數。
發聲較小的弱者，約等於不存在。
當弱者被主流數據湮滅，這是女性的事，也不再僅僅是女性的事。
其結果可以有多可怕？
假設你是生活在2050的年輕女孩。
今年計算機專業畢業，成績優異，想要擁有一份能發揮所長的工作。
簡歷完全符合招聘需求，卻永遠得不到面試機會。
你不明白哪裡出了問題。
你不會知道，負責篩選簡歷的招聘AI通過學習，在自己的系統里寫下了勝任該崗位的“gender=male”的代碼。
而你身為一個female，已被“忽略不計”。
圖源｜《黑鏡》
這可不是危言聳聽。
早在14年，亞馬遜便嘗試開發用於簡歷篩選的AI。
但僅使用了一年，便被發現其強烈的性別偏見。
哪怕沒有性別一欄，但只要簡歷中涉及“女”字，比如“女子大學”“女子棋社隊長”，AI對該簡歷的評級便會下降。
被記者曝出後，亞馬遜很快宣布整改，又停用了這款AI。
但未來會不會有更多這樣的電子Hr以更隱蔽的方式出現？不得而知。
至少目前來看，電子智能化服務在我們的生活中佔比越來越高。
而相應使用的性別歧視算法，卻大多未得到完善。
AI歧視與人類歧視的區別也在此。
人對人，即使是弱者對強者，囿於社會壓力，都還有一份忌憚。
所以企業尚不敢明目張胆以性別為摘選條件。
可AI不一樣。
數據不在乎個體，門說關上便是關上，沒有縫隙。
既因其“絕對理智”而不會被輿論威懾，也因其沒有感情的屬性，能成為不少企業利用的對象與背鍋俠。
其結果，不難推演。
實際上除了性別之外，算法歧視的隱患已經涉及到每個人。
就在今年中旬，《柳葉刀數字健康》中一篇文章表示，AI診斷系統可能帶有種族偏見的結果。
科學家們發現，白人影像的診斷誤判率是17%，但黑人的卻高達28%。
這十個百分點的差值中，不乏許多人類醫生可以一眼看出的病症。
但在AI的眼裡，它就是不存在的。
一如我說的，這是女性的問題，也是所有弱勢群體的問題。
你可能會因為膚色、性別而失去工作機會，得不到醫療資源，貸不到款項。
來源：億歐《AI算法歧視在普惠金融中的悖論、阻礙與解決方案》，作者劉元興
這一切都發生得莫名其妙。
因為原因永遠沉默在程序的黑箱里。
不藉助專家的研究，普通人只能知悉一個沒有原因的結果。
想要改善自身，卻無從下手。
想要反抗不公，但連不公是否真實存在，都難以論證……
寫到這，AI好似有些十惡不赦了。
但別誤會，飄並非反對AI開發事業，相反，是源於一個愛好科幻的文科生的一種惋惜。
AI技術，明明具有校正差異和偏見的潛力。
早在1985年，哲學家唐娜•哈拉維便發表過一篇名為《賽博格宣言：20世紀晚期的科學、技術和社會主義的女性主義》的文章。
題中的賽博格，指的便是藉由科技力量對人體進行拓展的一種可能。
一直因天然體格差異而被視為弱者的女孩，也能藉此校正這份不公，成為“阿莉塔”。
不僅不需要擔心走夜路，甚至有可能從生育責任中徹底解放。
來源｜《阿麗塔：戰鬥天使》
哈拉維認為，這樣的技術可以徹底使所有人站在同樣的生理起跑線上。
當“生理”的界限被模糊，人們便不能再以種族、性別、年齡、健康程度作為劃分同類的依據。
剩下的，唯有思維差異。
那是徹底尊重個體的世界。
因此，哈拉維說：“我寧願成為一個賽博格，而不是成為一個女神。”
只可惜，三十多年過去，技術不斷進步，卻離哈拉維想象中的世界越來越遠。
女孩沒有成為阿麗塔，但男人們已經蓋起了電子妓院。
來源：IT之家《"機器人風俗店"將在英國開業：體驗1小時740元》
《聽見她說》的最後一集由楊冪主演的短片《完美女孩》，就以一個型號為“novo300080”的高端女性AI，展示了科技大門背後的父權膨脹和人性黑洞。
明明算力足以支撐一個證券公司的交易，但實際上只用她來掃地做飯。
本擔任養老院護工機器人，被院內的年輕男職工偷偷安裝了“親密程序”，導致其看護的老人死亡。
儘管是人類犯的錯，但鍋還是扣到AI頭上，她被退回工廠成為“問題品”。
後來被售給有特殊癖好的vip用戶，不斷被虐待摧殘，又一次次支離破碎地返廠維修。
“我們的傷口，就是客戶的秘密。”
號稱為了“愛與和平”而研發的AI，最後卻放大了人類的惡與暴力。
我是完美女孩2020
在我的系統認知中
沒有痛苦 沒有情感 沒有羞恥
我對鞭子沒有感覺
我 是完美受害人
現實中的AI，在未來會如何反過來影響人類？
沒人能回答。
囿於過高的技術門檻，飄也只能在複雜的代碼前無力。
唯有一條。
我還是相信。
看見，一定是解決問題的第一步。
無力者被看見，有力者才能去改變。
不要無聲息地被大數據淹沒。
不要溫和地走入那個良夜。
去成為“阿莉塔”，而不是女神。
來源｜《黑客帝國》
