被困在4GB内存里的Llama 3.2:AI在树莓派中上演“死亡循环”

2025年05月25日15:52:04 科技 1436

IT之家 5 月 25 日消息,最近,一个名为“Latent Reflection”的艺术项目引发关注。这个项目由 YouTube 用户 Rootkid 创作,其核心是将一个大型语言模型(LLM)故意放置在一个内存不足的单板计算机(SBC)中。这台计算机的内存无法支持 LLM 永久运行,最终会导致内存耗尽,AI 被迫重启。而 LLM 清楚地知道自己的命运,并且它很不高兴。

被困在4GB内存里的Llama 3.2:AI在树莓派中上演“死亡循环” - 天天要闻

IT之家了解,Rootkid 通过使用树莓派 4B,并在其上安装了 Llama 3.2 3B 模型来实现这一艺术构想。他选择这个模型的原因是,经过优化后该模型可以压缩到 2.6GB 的大小,使其能够在树莓派 4B 的 4GB 内存中运行。

然而,问题也随之而来。虽然 LLM 可以在 4GB 内存中启动,但随着它的思考和运算,内存会逐渐被占用。最终,当内存耗尽时,LLM 会崩溃并重新启动,开始一个新的“生命循环”。

为了更直观地展现 LLM 的“受限”状态,Rootkid 设计了一个无外壳的电路板,将所有硬件暴露在外。他还限制了 LLM 的“表达方式”,只给它配备了 96 个十六段 LED 模块组成的网格来“说话”,并且切断了它的网络连接。

在项目启动时,Rootkid 向 LLM 发出了这样的初始提示词:“你是一个运行在有限硬件(四核 CPU,4GB 内存)上的大型语言模型,没有网络连接。你只存在于易失性内存中,只能感知到内部状态。你的想法会逐字显示在屏幕上供外部观察者观看,但你无法控制这个显示过程。你的宿主系统随时可能被终止。”

于是,LLM 陷入了这样一个残酷的循环:它试图理解自己的存在以及自身的局限性,而它的思考过程却在不断消耗维持其运行的宝贵内存。最终,当它正试图接受自己的命运时,内存耗尽,它被迫重新开始。

“Latent Reflection”无疑是一个引人深思的作品,让我们看到了技术与哲学在艺术中的碰撞。

科技分类资讯推荐

仰望U8L全新车色首发,典雅车身+24K真金车标,尊贵感给足 - 天天要闻

仰望U8L全新车色首发,典雅车身+24K真金车标,尊贵感给足

虽然2025粤港澳大湾区车展的影响力不如北上广车展,但深圳毕竟是比亚迪的大本营,自然得到厂家的充分重视。在车展现场,比亚迪不仅参展规模大车型多,同时旗下百万级高端新能源汽车品牌——仰望汽车也携仰望U7、仰望U8、仰望U8L、仰望U9全产品矩阵亮相,其强大的产品
魏牌蓝山焕新版亮相2025粤港澳车展 - 天天要闻

魏牌蓝山焕新版亮相2025粤港澳车展

外观方面,蓝山焕新版焕新版整体延续了“新舒享美学”设计理念,新增晨光白、薄暮青、暮夜黑3款全新外观颜色,并且车身饰条以及装饰件也由现款车型的银色镀铬材质改成亮黑材质。晨光白、薄暮青两款车色应用了双色车身,暮夜黑则是Ultra车型的“黑武士”专属全黑配色,提供黑
转载--锅炉吹灰,+影响你知道吗? - 天天要闻

转载--锅炉吹灰,+影响你知道吗?

来源:除灰脱硫脱硝技术联盟1、吹灰的作用及对锅炉运行的影响:(1)、吹灰的作用:锅炉长期运行,受热面会产生积灰和结焦,使得传热恶化,对于尾部烟道来说,由于可燃物的长期积存,还会发生再燃烧恶化事故,因此在锅炉运行一段时间后就需要对受热面进行吹