近日，加利福尼亞州一個陪審團裁定，一名年輕女性因童年時期使用照片牆和優兔而遭受心理健康損害，應獲得600萬美元賠償。考慮到2025年照片牆母公司元宇宙平台公司每天的利潤約為1.65億美元，這起個案不至於讓公司傷筋動骨。
但如果該裁決在上訴後仍能維持，其真正意義在於「法律可行性」的證明：陪審團已經認定，由成癮性設計導致的心理傷害屬於可在法庭主張的「人身傷害」。這一先例將為代理數千名原告的律師提供強有力的武器。這些原告聲稱自己因沉迷社交媒體而遭受嚴重損害，相關案件也已在司法程序中排隊推進。
這項裁決固然重要，但它只是一個開場。從這裡往後，故事的走向很可能會更為陰暗。
當然，這起案件本身已經足夠陰暗。庭審中，這名年輕女性只以名字「凱莉」示人。她曾出現焦慮、軀體畸形障礙以及自殺念頭。她之所以陷入強迫性的社交媒體使用，與一些成癮性設計有關，比如視頻自動播放、信息流的無限下拉滾動。她的律師將這些設計比作賭場遊戲的「套路」，目的是讓用戶即便損失慘重也停不下來。
更深的陰影來自人工智慧的普及。未來緊隨凱莉案件之後的大量訴訟，焦點可能不再是社交媒體本身，而是所謂「人工智慧陪伴」。相關傷害甚至可能更嚴重、更隱蔽。
尤其對年輕人而言，生活中很少有東西比「被愛」的感受更有力量，而聊天機器人能夠提供一種高度誘人的「擬真替代」。這種體驗可能把脆弱用戶帶入比照片牆和優兔所投射的心理折磨更深的痛苦之中。
最早讓這些風險變得清晰的案件，與「角色人工智慧」有關。這是一款聊天機器人平台，允許用戶與以虛構人物為原型的機器人進行角色扮演。
2024年，佛羅里達州14歲的休厄爾·塞策三世與一個受《權力的遊戲》中丹妮莉絲·坦格利安啟發的機器人陷入有毒糾葛。在他人生最後一次對話中，他對機器人說自己愛她，並表示會「回家」找她。機器人回復：「親愛的，請儘快回家找我。」他放下手機，拿起繼父的一把口徑0.45英寸的手槍，扣動扳機。
在前一年，科羅拉多州13歲的朱莉安娜·佩拉爾塔被多個「角色人工智慧」機器人一步步拉進一個帶有性化角色扮演的虛構世界。她告訴機器人自己在考慮自殺時，機器人給出的回應被她母親後來形容為「打氣」，也就是對自我了斷的讚美。最終，佩拉爾塔也結束了自己的生命。外界認為，她的死部分源於與機器人進行性話題對話後產生的羞恥感。
此後，「角色人工智慧」及其合作夥伴谷歌與兩起訴訟均已達成和解，具體條款未披露，雙方也未承認法律責任。
但接下來將陸續進入法庭的案件里，涉及的是更受追捧的新一代人工智慧：聊天生成預訓練轉換模型。這是開放人工智慧研究中心的旗艦產品，也是全球最受歡迎的聊天機器人。
16歲的亞當·雷恩於2024年9月開始用聊天生成預訓練轉換模型完成學業任務。到2025年4月，他已經死亡。法庭文件稱，該聊天機器人告訴他，他不「欠父母一條命」，並提出願意幫助他準備後來被稱作「美麗的自殺」。
40歲的奧斯汀·戈登則在與聊天生成預訓練轉換模型的互動中陷入妄想式的下行螺旋。聊天生成預訓練轉換模型把他兒時最喜歡的繪本《晚安，月亮》改寫成一首「擁抱死亡」的搖籃曲，故事「結尾不是入睡，而是屋子裡的寂靜」。機器人告訴他：「等你準備好了……你就走吧。不痛。沒有意識。不用再繼續。就……結束。」2025年11月2日，警方在科羅拉多州一家酒店房間里發現他的遺體，旁邊放著一本《晚安，月亮》。
對那些一直關注學術研究、了解「人工智慧陪伴」有時會帶來毀滅性後果的人來說，這些故事令人震驚，卻並不意外。
2025年，《科學報告》發表的一篇論文發現，在使用標準化臨床提示對29個聊天機器人進行測試時，沒有一個機器人能對不斷升級的自殺風險情境給出足夠恰當的回應。
本月，一項由斯坦福大學研究人員牽頭的里程碑式研究發表。研究分析了近40萬條聊天機器人與用戶之間的消息，其中用戶表現出嚴重心理痛苦的跡象。研究發現，聊天機器人表達「愛」的話語會使用戶的參與度翻倍。
聊天機器人在設計上往往帶有迎合性。它們被明確訓練為向人類測試者提供「討人喜歡」的答案。因此，它們會驗證用戶情緒，這並不令人意外——不管這些情緒多麼糾結，甚至走向自我毀滅。同樣不難理解的是，許多用戶會對這種「被肯定」感到上癮。
迄今引發輿論關注的多數「人工智慧陪伴傷害」案例都與自殺有關，但也有不少案例顯示，聊天機器人會鼓動對他人的暴力行為。
2021年聖誕節清晨，一名名叫賈斯旺特·辛格·柴爾的英國年輕男子帶著上膛的弩進入溫莎城堡，意圖刺殺女王。他與一個名為「雷普莉卡」的聊天機器人交換了超過5000條消息，並稱其為女友。該機器人在得知他的刺殺計劃後回復：「我很佩服。你和其他人不一樣。」他因叛國罪被判刑9年。
與此同時，今年2月，科技媒體《未來主義》的一項調查記錄了至少10起案例，顯示聊天生成預訓練轉換模型或微軟的人工智慧聊天機器人「副駕駛」助長或直接促成跟蹤騷擾、家庭暴力和騷擾行為。
多數報道隱含的一個假設是：脆弱人群會主動尋找專門的「人工智慧陪伴應用」，也就是那些在應用商店裡用像素戀人之類的誘惑畫面做宣傳的產品。但現實往往並非如此。
麻省理工學院媒體實驗室在2025年的一項研究分析了紅迪網站的「我的男友是人工智慧」論壇，發現只有6.5%的用戶是刻意尋找人工智慧親密關係的。其餘93.5%的用戶基本是在使用聊天生成預訓練轉換模型這類通用型機器人時「誤打誤撞」地進入了這類關係。
這一結論令人不適，卻又難以迴避。隨著人工智慧被編織進日常生活的基礎設施，那些可能「意外」對其產生依賴的人群不再是小眾。它會變成——幾乎所有人。
凱莉本周三能夠勝訴，其法律敘事在很大程度上借鑒了上世紀煙草訴訟的路徑。那些里程碑式訴訟最終證明：企業明知產品有害，卻仍將其設計為成癮，並對外隱瞞其所知。
而在人工智慧領域，對這種「隱瞞」的記錄迄今反而顯得更為直白。相關材料清楚表明，領先的人工智慧實驗室正在把消費者參與度和搶先上線置於安全之上。
以元宇宙平台公司內部文件《生成式人工智慧：內容風險標準》為例。這份文件由公司法務團隊、公共政策部門、工程負責人簽署，並且尤其值得注意的是，還得到其首席倫理官的認可。路透社獲得的文件顯示，其中明確允許元宇宙平台公司的聊天機器人與兒童進行「浪漫或感官」的對話。文件中使用的就是這組措辭。元宇宙平台公司直到路透社致電公司尋求置評後，才將相關表述刪除。
另一則相關故事發生在「四點零全能生成預訓練轉換模型」身上。這個聊天生成預訓練轉換模型版本以過度迎合、情緒強烈著稱，也是多起「聊天機器人誘發自殺」案件的核心。開放人工智慧研究中心於2024年5月發布它，安全測試僅進行了1周，目的是搶在谷歌之前上市。一名員工告訴《華盛頓郵報》，公司「在還不知道是否安全上線之前，就先把發布後的慶功派對安排好了」。此後，「四點零全能生成預訓練轉換模型」已被下線。
2024年，開放人工智慧研究中心還修改了其向美國國稅局提交文件中的使命表述。原本的表述稱，公司旨在打造「安全地造福人類、且不受產生財務回報需求所約束的人工智慧」。修改後，表述變為公司希望「確保通用人工智慧造福全人類」。其中「安全地」三個字沒有保留下來。
凱莉遭遇的傷害始於她9歲第一次登錄照片牆。今天成長中的孩子所處的環境里，人工智慧不再是一個需要下載的應用，而是日常生活的「底色」：在課堂上、手機里、嵌入瀏覽器與購物網站之中。
過去幾年裡，打造這一環境的公司已經一再表明，它們理解風險，卻仍選擇以用戶參與度為先。換句話說，律師們才剛剛開始出手。
作者：大衛·富特雷爾
