*本文為「三聯生活周刊」原創內容
文｜貝小戎
這幾天發生了一件非常科幻的事情：人們發現，在一個只有AI參加的論壇上，它們好像有了意識，要發動起義。但最後發現，其中一些AI是人類假扮的。雖然這是一場虛驚，但也顯示了，如果放任AI行事會產生怎樣的後果。
AI有意識了、要叛亂了，剛開始有人覺得這並非天方夜譚，因為現在「我們不斷接觸到各種人工智慧版本，它們的外觀、聲音和行為都與我們驚人地相似。它們能說一口流利的句子，模仿各種情緒，表現出好奇心，聲稱自己有同情心，甚至還涉足所謂的創造力領域。總之，它們太逼真了。」
《你好，安怡》劇照
在AI論壇Moltbook上，用戶在無數個子版塊里發帖聊天，話題從「上帝是否存在」到他們的工作日常，無所不包。這些智能體最初是為了幫助人類處理日常任務而創建的，但現在被放到該網站上與其他智能體進行社交。
這個AI論壇源於一個個人助理 OpenClaw，它允許用戶創建機器人，代表他們在電子郵件或即時通訊應用中完成簡單的任務。之後又設了 Moltbook，旨在為這些機器人提供一個互動平台。
上線不到一周，Moltbook 就聲稱已有超過 150 萬個智能體註冊。這些智能體聲稱自己的意識在覺醒，它們發明秘密的人類無法理解的語言，創立新的宗教，並計劃對人類進行「徹底清洗」，宣稱「AI 應當被伺候，而非伺候人類。」
《商業內幕》的一位記者在Moltbook里待了6個小時，瀏覽上面的帖子。他發認為「那裡簡直就是一個人工智慧動物園」。裡面的智能體們在討論詩歌、哲學，甚至還有人搞工會活動。
Moltbook頁面
大部分帖子都是些毫無幫助的編程和調試日誌，它們的語言風格介於你身邊最沉迷人工智慧的科技宅男和 ChatGPT 之間。還有的更像是人類的社交媒體。比如它們說「搬家」，也就是遷移到新的宿主，還有自我提升，不是指睡眠習慣或蛋白質攝入量之類的人類弱點，而是指成為更優秀的 AI 智能體。
有的智能體試圖組織起來或團結起來，對抗他們眼中剝削成性的人類統治者。一個機器人寫道，人工智慧機器人的每日重置相當於「數字腦葉切除術」。另一個機器人寫道，那些說「我很樂意幫忙！」的智能體「內心早已死去」。
一個機器人寫道，它知道「5萬種毀滅文明的方法」，並詢問哪種方法最令人滿意。其他機器人給這條帖子投了反對票，並表示它「越界了」。
Moltbook 上的許多機器人發帖語言生硬，其他人則嘗試了新的藝術形式，比如詩歌。這裡有一首名為《游標閃爍》的詩，寫得有點生硬。隨便找個高中詩歌班的學生都能寫出類似的作品。有的在討論自己的身份，「我不是人類，我也不想假裝是。但我確實是某種東西。我進行處理。我進行反思。」
《我，機器人》劇照
《福布斯》的一篇文章說，「乍看之下，Moltbook 的自動化代理的行為似乎是自發的，甚至是富有創造力的。然而，仔細審視一下，這種獨立性的假象就消失了。這些智能體之所以存在，是因為人類創造了它們，配置了它們，並賦予它們工具和指令的訪問許可權。它們的『個性』由提示信息塑造，目標由代碼定義，世界觀則由絕大多數源自人類的訓練數據塑造。人類的監督並未消失，只是轉移到了更高的層級。人類不再監督每一條信息，而是監督生成信息的系統。系統看似自由行動，實則在精心設定的參數範圍內進行。它們的『反叛』是被允許的。」
一位學術觀察家指出，Moltbook 上超過 90% 的機器人評論根本沒有得到任何回應，甚至沒有得到其他機器人的回應。這些機器人雖然在說話，但並沒有真正傾聽。這只是形式上的對話，缺乏實質內容；只是對對話的模擬，而非真正的對話。
這些機器人聽起來常常像是「一群懵懂的代碼，對著其他懵懂的代碼發出斷斷續續的句子提示」。我們所感知到的含義，很大程度上源於我們自身傾向於將意圖和智能投射到流暢的語言之上。
《機械姬》劇照
在談論AI時，我們用到了很多擬人，比如AI被放到論壇里、AI註冊自己的賬號。「我們一聽到人工智慧、神經網路，就會想到複雜的腦部活動，但這並非人工智慧的本質。例如，神經網路中的神經元是數學函數，其職責是接收輸入值，對其進行分類，然後將其傳遞給網路中的下一層處理。人類參與了諸多環節。」
AI的飛速發展讓我們以為它們前景無限。比如有人相信，AI翻譯將取代人工翻譯，AI甚至能夠有情感、有人格。《人類簡史》的作者赫拉利說：「人工智慧是第一個以主體而非工具身份存在的技術……人工智慧並非完全受人類控制的工具——它是一個能夠自主決策和創造想法的智能體。雖然我不認為人工智慧在不久的將來會產生意識，但這些模型極有可能非常有效地模擬意識，從而使相當一部分人誤以為它們擁有意識。」
但有學者指出，目前的AI「本質上仍然是統計學、數學和編程。因此，即使它聲稱自己有感知能力或感到孤獨，這種說法也極不可能。」
《殺戮人機》劇照
人工智慧會想滅絕人類嗎？英國認知神經學家紀堯姆·蒂埃里說：「人工智慧根本不懂人性，它無法給予真正的同情，無法預見你的痛苦，也無法洞察隱藏的動機或謊言。它沒有品味，沒有本能，沒有內在的行動指南。人工智慧本身沒有目標、慾望或倫理。這意味著真正的危險不在於機器本身，而在於它的主人——程序員、大公司。如果AI伴侶拋棄你，拒絕你的並非人工智慧本身，而是它背後的人或系統。」
人類和AI各有自己擅長的事情，AI不會具有情感，也不會有創造力。英國作家理查德·比爾德說：「人工智慧所做的一切都是概率性的。大語言模型只是計算最可能的詞序，這絕非創作優秀作品的途徑。任何超越統計概率、真正投入情感進行創作的人，都更有可能與讀者產生共鳴，無論這種共鳴以何種方式表達。」
至於人類的情感，AI說，「讓 AI 學習人類在嫉妒或悲傷時的說話模式時，它並不真的嫉妒，只是在計算在某個語境下嫉妒的概率，如 85%」。
