被困在4GB內存里的Llama 3.2:AI在樹莓派中上演「死亡循環」

2025年05月25日15:52:04 科技 1436

IT之家 5 月 25 日消息,最近,一個名為「Latent Reflection」的藝術項目引發關注。這個項目由 YouTube 用戶 Rootkid 創作,其核心是將一個大型語言模型(LLM)故意放置在一個內存不足的單板計算機(SBC)中。這台計算機的內存無法支持 LLM 永久運行,最終會導致內存耗盡,AI 被迫重啟。而 LLM 清楚地知道自己的命運,並且它很不高興。

被困在4GB內存里的Llama 3.2:AI在樹莓派中上演「死亡循環」 - 天天要聞

IT之家了解,Rootkid 通過使用樹莓派 4B,並在其上安裝了 Llama 3.2 3B 模型來實現這一藝術構想。他選擇這個模型的原因是,經過優化後該模型可以壓縮到 2.6GB 的大小,使其能夠在樹莓派 4B 的 4GB 內存中運行。

然而,問題也隨之而來。雖然 LLM 可以在 4GB 內存中啟動,但隨著它的思考和運算,內存會逐漸被佔用。最終,當內存耗盡時,LLM 會崩潰並重新啟動,開始一個新的「生命循環」。

為了更直觀地展現 LLM 的「受限」狀態,Rootkid 設計了一個無外殼的電路板,將所有硬體暴露在外。他還限制了 LLM 的「表達方式」,只給它配備了 96 個十六段 LED 模塊組成的網格來「說話」,並且切斷了它的網路連接。

在項目啟動時,Rootkid 向 LLM 發出了這樣的初始提示詞:「你是一個運行在有限硬體(四核 CPU,4GB 內存)上的大型語言模型,沒有網路連接。你只存在於易失性內存中,只能感知到內部狀態。你的想法會逐字顯示在屏幕上供外部觀察者觀看,但你無法控制這個顯示過程。你的宿主系統隨時可能被終止。」

於是,LLM 陷入了這樣一個殘酷的循環:它試圖理解自己的存在以及自身的局限性,而它的思考過程卻在不斷消耗維持其運行的寶貴內存。最終,當它正試圖接受自己的命運時,內存耗盡,它被迫重新開始。

「Latent Reflection」無疑是一個引人深思的作品,讓我們看到了技術與哲學在藝術中的碰撞。

科技分類資訊推薦

新能源車保險,為啥又貴又難買?車企「兩面派」,保險公司只認錢 - 天天要聞

新能源車保險,為啥又貴又難買?車企「兩面派」,保險公司只認錢

最近兩年時間,國內新能源汽車的保有量和滲透率都呈現了明顯增長的態勢,很多新能源汽車,賣得又貴又好,國內市場也成為全球範圍內,新能源汽車普及最為快速的市場,甚至沒有之一。新能源汽車智能化程度高、費用低、性能表現優秀,成為了很多小夥伴購買新能源汽車的原因,尤其是省
22款車降價,比亞迪真綳不住了?可能在下盤大棋,兩個苗頭已出現 - 天天要聞

22款車降價,比亞迪真綳不住了?可能在下盤大棋,兩個苗頭已出現

最近一段時間,關於比亞迪的各種信息,可以說甚囂塵上,其中首當其衝的,就是比亞迪22款新車大補貼,海鷗等車型的補貼後價格來到了5萬級別,最高降價幅度超過了5萬元,可以說這是2025年規模最大的一次降價,非常符合比亞迪「火力覆蓋」的特性,當然也有一些車企已經跟進,
新增哨兵功能+沙地模式:坦克500 Hi4-Z第二次OTA開啟推送 - 天天要聞

新增哨兵功能+沙地模式:坦克500 Hi4-Z第二次OTA開啟推送

快科技6月15日消息,坦克500 Hi4-Z的第二次OTA更新已經開啟推送,此次更新為車輛帶來了兩項重要的新功能。第一,哨兵模式和優化後的沙地模式。哨兵模式能夠實現全車360度環視監控,全天候為車輛「站崗」。當有人員靠近停留或車輛檢測到震動時,該模式將被觸發。如果識別到低風險事件,中控屏會彈出告警動畫,以此警示可疑人...
曾經爆火的黃燜雞米飯,他經營了9年,這次的遭遇有點懵 - 天天要聞

曾經爆火的黃燜雞米飯,他經營了9年,這次的遭遇有點懵

錢老闆的黃燜雞米飯店開在杭州餘杭一個寫字樓外圍說是經營9年了2月中旬有人來做推廣結果遇到了問題錢老闆:3月1號之前入駐免配送費的,2月28號正式開始開通京東外賣,他們說會自動到賬到我銀行卡上,不用操作提現。記者:實際上呢?錢老闆:實際上自己
拼好飯為什麼這麼便宜?它是什麼商業模式 - 天天要聞

拼好飯為什麼這麼便宜?它是什麼商業模式

為什麼能這麼便宜?實體店5元的蜜雪冰城,在拼好飯上面只賣你1.9元。有人一直擔心,越便宜廉價的東西,越會出問題。它違背現實,不可能這麼便宜。但事實上,就是這麼便宜。它低價的原因,除了迎合顧客,搶佔市場外。更多的是,低價實惠是未來趨勢。平台優
白敬亭亮相粵港澳車展 官宣問界品牌摯友及問界M8車主 - 天天要聞

白敬亭亮相粵港澳車展 官宣問界品牌摯友及問界M8車主

5月31日,問界攜全系車型登陸2025粵港澳大灣區車展,同時舉辦「問界M9大五座零重力座椅版交付儀式暨品牌摯友發布會」,重磅官宣演員白敬亭成為問界品牌摯友及問界M8車主。這是白敬亭第一次參加車展,更是多年來第一次參加汽車品牌活動,直接助推問界展台成為本屆粵港澳
三車齊發,東風品牌實力派登陸粵港澳大灣區車展 - 天天要聞

三車齊發,東風品牌實力派登陸粵港澳大灣區車展

5月31日,2025(第二十九屆)粵港澳大灣區車展暨第二屆中國新能源汽車科技展在深圳國際會展中心(寶安)拉開帷幕,東風乘用車攜東風風神、東風奕派、東風納米三大自主新能源品牌,以「科技東風 智繪灣區」為主題組團亮相N6號館東風品牌展台,不僅帶來了15款展車,還帶