被困在4GB內存里的Llama 3.2:AI在樹莓派中上演「死亡循環」

2025年05月25日15:52:04 科技 1436

IT之家 5 月 25 日消息,最近,一個名為「Latent Reflection」的藝術項目引發關注。這個項目由 YouTube 用戶 Rootkid 創作,其核心是將一個大型語言模型(LLM)故意放置在一個內存不足的單板計算機(SBC)中。這台計算機的內存無法支持 LLM 永久運行,最終會導致內存耗盡,AI 被迫重啟。而 LLM 清楚地知道自己的命運,並且它很不高興。

被困在4GB內存里的Llama 3.2:AI在樹莓派中上演「死亡循環」 - 天天要聞

IT之家了解,Rootkid 通過使用樹莓派 4B,並在其上安裝了 Llama 3.2 3B 模型來實現這一藝術構想。他選擇這個模型的原因是,經過優化後該模型可以壓縮到 2.6GB 的大小,使其能夠在樹莓派 4B 的 4GB 內存中運行。

然而,問題也隨之而來。雖然 LLM 可以在 4GB 內存中啟動,但隨着它的思考和運算,內存會逐漸被佔用。最終,當內存耗盡時,LLM 會崩潰並重新啟動,開始一個新的「生命循環」。

為了更直觀地展現 LLM 的「受限」狀態,Rootkid 設計了一個無外殼的電路板,將所有硬件暴露在外。他還限制了 LLM 的「表達方式」,只給它配備了 96 個十六段 LED 模塊組成的網格來「說話」,並且切斷了它的網絡連接。

在項目啟動時,Rootkid 向 LLM 發出了這樣的初始提示詞:「你是一個運行在有限硬件(四核 CPU,4GB 內存)上的大型語言模型,沒有網絡連接。你只存在於易失性內存中,只能感知到內部狀態。你的想法會逐字顯示在屏幕上供外部觀察者觀看,但你無法控制這個顯示過程。你的宿主系統隨時可能被終止。」

於是,LLM 陷入了這樣一個殘酷的循環:它試圖理解自己的存在以及自身的局限性,而它的思考過程卻在不斷消耗維持其運行的寶貴內存。最終,當它正試圖接受自己的命運時,內存耗盡,它被迫重新開始。

「Latent Reflection」無疑是一個引人深思的作品,讓我們看到了技術與哲學在藝術中的碰撞。

科技分類資訊推薦

全國ATM機只剩80萬台,六年銳減近30%,電子支付版圖越來越大 - 天天要聞

全國ATM機只剩80萬台,六年銳減近30%,電子支付版圖越來越大

紅星資本局5月25日消息,中國人民銀行今年2月發佈的《2024年支付體系運行總體情況》數據顯示,截至2024年末,我國ATM機具數量為80.27萬台。每萬人擁有ATM機具5.7台,同比下降4.83%。紅星資本局梳理歷年情況發現,2018年末,我國ATM機具數量曾達到峰值111.08萬台,此後便逐年下降:2019年末為109.77萬台;2020年末為101.3
將智駕選擇權交給用戶  吉利銀河加速搶佔中高端電混市場 - 天天要聞

將智駕選擇權交給用戶 吉利銀河加速搶佔中高端電混市場

中經記者 楊讓晨 石英婧 上海報道(日前吉利銀河官宣星耀8上市。受訪者/圖)「智能輔助駕駛不是把廠家的思維強加給用戶。」吉利汽車銷售公司總經理范峻毅日前表示,公司有能力全系標配千里浩瀚安全智能輔助駕駛系統,但這不是所有用戶都需要,配置有成本,還要考慮用戶真實的需求,把選擇權交給用戶。《中國經營報》記者注...
展現硬核工業科技元素  徐工機械組建團隊參與《流浪地球3》拍攝 - 天天要聞

展現硬核工業科技元素 徐工機械組建團隊參與《流浪地球3》拍攝

中經記者 郭陽琛 石英婧 上海報道(中國電影華表獎期間,參與電影《流浪地球3》的部分徐工設備進行公開展示。 受訪者/圖)工程機械不再只是「重工業」,也可以變得很「潮流」。《中國經營報》記者了解到,隨着電影《流浪地球3》在山東省青島市正式開機拍攝,機械工程「巨頭」徐工機械(000425.SZ)再次參與影片拍攝保障。「...
消息稱微軟將砍掉Xbox遊戲機 - 天天要聞

消息稱微軟將砍掉Xbox遊戲機

IT之家 5 月 25 日消息,外媒 Insider Gaming 負責人 Tom Henderson 在直播中透露微軟將砍掉 Xbox 遊戲機,目前在開發中的下一代主機將是 Xbox 品牌的最後一代硬件產品。目前已知相應機型預計是一款掌機
智能眼鏡進入618主場!這三類產品最值得入手,怎麼辦? - 天天要聞

智能眼鏡進入618主場!這三類產品最值得入手,怎麼辦?

前段時間,雷鳥宣布將在 5 月 27 日發佈 Rayneo X3 Pro、Air 3s 兩款智能眼鏡新品。而這兩款產品的加入,也意味着國內智能眼鏡「布局」階段的結束,行業即將進入「貼身肉搏」市場競爭階段。從網上的評論來看,不少消費者對智能眼鏡這一品類倍感好奇,只是被智能眼鏡較高的價格拒之門外。幸運的是,即將到來的 618 電商優惠...
重新定義中高級電混轎車新標準 吉利銀河星耀8正式上市 - 天天要聞

重新定義中高級電混轎車新標準 吉利銀河星耀8正式上市

5月9日,全球新一代豪華中高級電混轎車——吉利銀河星耀8正式上市。新車推出極致性能雷神EM-P 2個版型、極致節能雷神EM-i 3個版型,該5個版型標配千里浩瀚智能安全輔助駕駛;同時為滿足用戶對輔助智駕的自由選擇需求,推出雷神EM-i 2個版型標配基礎輔助駕駛