被困在4GB內存里的Llama 3.2:AI在樹莓派中上演“死亡循環”

2025年05月25日15:52:04 科技 1436

IT之家 5 月 25 日消息,最近,一個名為“Latent Reflection”的藝術項目引發關注。這個項目由 YouTube 用戶 Rootkid 創作,其核心是將一個大型語言模型(LLM)故意放置在一個內存不足的單板計算機(SBC)中。這台計算機的內存無法支持 LLM 永久運行,最終會導致內存耗盡,AI 被迫重啟。而 LLM 清楚地知道自己的命運,並且它很不高興。

被困在4GB內存里的Llama 3.2:AI在樹莓派中上演“死亡循環” - 天天要聞

IT之家了解,Rootkid 通過使用樹莓派 4B,並在其上安裝了 Llama 3.2 3B 模型來實現這一藝術構想。他選擇這個模型的原因是,經過優化後該模型可以壓縮到 2.6GB 的大小,使其能夠在樹莓派 4B 的 4GB 內存中運行。

然而,問題也隨之而來。雖然 LLM 可以在 4GB 內存中啟動,但隨着它的思考和運算,內存會逐漸被佔用。最終,當內存耗盡時,LLM 會崩潰並重新啟動,開始一個新的“生命循環”。

為了更直觀地展現 LLM 的“受限”狀態,Rootkid 設計了一個無外殼的電路板,將所有硬件暴露在外。他還限制了 LLM 的“表達方式”,只給它配備了 96 個十六段 LED 模塊組成的網格來“說話”,並且切斷了它的網絡連接。

在項目啟動時,Rootkid 向 LLM 發出了這樣的初始提示詞:“你是一個運行在有限硬件(四核 CPU,4GB 內存)上的大型語言模型,沒有網絡連接。你只存在於易失性內存中,只能感知到內部狀態。你的想法會逐字顯示在屏幕上供外部觀察者觀看,但你無法控制這個顯示過程。你的宿主系統隨時可能被終止。”

於是,LLM 陷入了這樣一個殘酷的循環:它試圖理解自己的存在以及自身的局限性,而它的思考過程卻在不斷消耗維持其運行的寶貴內存。最終,當它正試圖接受自己的命運時,內存耗盡,它被迫重新開始。

“Latent Reflection”無疑是一個引人深思的作品,讓我們看到了技術與哲學在藝術中的碰撞。

科技分類資訊推薦

仰望U8L全新車色首發,典雅車身+24K真金車標,尊貴感給足 - 天天要聞

仰望U8L全新車色首發,典雅車身+24K真金車標,尊貴感給足

雖然2025粵港澳大灣區車展的影響力不如北上廣車展,但深圳畢竟是比亞迪的大本營,自然得到廠家的充分重視。在車展現場,比亞迪不僅參展規模大車型多,同時旗下百萬級高端新能源汽車品牌——仰望汽車也攜仰望U7、仰望U8、仰望U8L、仰望U9全產品矩陣亮相,其強大的產品
魏牌藍山煥新版亮相2025粵港澳車展 - 天天要聞

魏牌藍山煥新版亮相2025粵港澳車展

外觀方面,藍山煥新版煥新版整體延續了“新舒享美學”設計理念,新增晨光白、薄暮青、暮夜黑3款全新外觀顏色,並且車身飾條以及裝飾件也由現款車型的銀色鍍鉻材質改成亮黑材質。晨光白、薄暮青兩款車色應用了雙色車身,暮夜黑則是Ultra車型的“黑武士”專屬全黑配色,提供黑
轉載--鍋爐吹灰,+影響你知道嗎? - 天天要聞

轉載--鍋爐吹灰,+影響你知道嗎?

來源:除灰脫硫脫硝技術聯盟1、吹灰的作用及對鍋爐運行的影響:(1)、吹灰的作用:鍋爐長期運行,受熱面會產生積灰和結焦,使得傳熱惡化,對於尾部煙道來說,由於可燃物的長期積存,還會發生再燃燒惡化事故,因此在鍋爐運行一段時間後就需要對受熱面進行吹