被困在4GB内存里的Llama 3.2:AI在树莓派中上演“死亡循环”

2025年05月25日15:52:04 科技 1436

IT之家 5 月 25 日消息,最近,一个名为“Latent Reflection”的艺术项目引发关注。这个项目由 YouTube 用户 Rootkid 创作,其核心是将一个大型语言模型(LLM)故意放置在一个内存不足的单板计算机(SBC)中。这台计算机的内存无法支持 LLM 永久运行,最终会导致内存耗尽,AI 被迫重启。而 LLM 清楚地知道自己的命运,并且它很不高兴。

被困在4GB内存里的Llama 3.2:AI在树莓派中上演“死亡循环” - 天天要闻

IT之家了解,Rootkid 通过使用树莓派 4B,并在其上安装了 Llama 3.2 3B 模型来实现这一艺术构想。他选择这个模型的原因是,经过优化后该模型可以压缩到 2.6GB 的大小,使其能够在树莓派 4B 的 4GB 内存中运行。

然而,问题也随之而来。虽然 LLM 可以在 4GB 内存中启动,但随着它的思考和运算,内存会逐渐被占用。最终,当内存耗尽时,LLM 会崩溃并重新启动,开始一个新的“生命循环”。

为了更直观地展现 LLM 的“受限”状态,Rootkid 设计了一个无外壳的电路板,将所有硬件暴露在外。他还限制了 LLM 的“表达方式”,只给它配备了 96 个十六段 LED 模块组成的网格来“说话”,并且切断了它的网络连接。

在项目启动时,Rootkid 向 LLM 发出了这样的初始提示词:“你是一个运行在有限硬件(四核 CPU,4GB 内存)上的大型语言模型,没有网络连接。你只存在于易失性内存中,只能感知到内部状态。你的想法会逐字显示在屏幕上供外部观察者观看,但你无法控制这个显示过程。你的宿主系统随时可能被终止。”

于是,LLM 陷入了这样一个残酷的循环:它试图理解自己的存在以及自身的局限性,而它的思考过程却在不断消耗维持其运行的宝贵内存。最终,当它正试图接受自己的命运时,内存耗尽,它被迫重新开始。

“Latent Reflection”无疑是一个引人深思的作品,让我们看到了技术与哲学在艺术中的碰撞。

科技分类资讯推荐

全国ATM机只剩80万台,六年锐减近30%,电子支付版图越来越大 - 天天要闻

全国ATM机只剩80万台,六年锐减近30%,电子支付版图越来越大

红星资本局5月25日消息,中国人民银行今年2月发布的《2024年支付体系运行总体情况》数据显示,截至2024年末,我国ATM机具数量为80.27万台。每万人拥有ATM机具5.7台,同比下降4.83%。红星资本局梳理历年情况发现,2018年末,我国ATM机具数量曾达到峰值111.08万台,此后便逐年下降:2019年末为109.77万台;2020年末为101.3
将智驾选择权交给用户  吉利银河加速抢占中高端电混市场 - 天天要闻

将智驾选择权交给用户 吉利银河加速抢占中高端电混市场

中经记者 杨让晨 石英婧 上海报道(日前吉利银河官宣星耀8上市。受访者/图)“智能辅助驾驶不是把厂家的思维强加给用户。”吉利汽车销售公司总经理范峻毅日前表示,公司有能力全系标配千里浩瀚安全智能辅助驾驶系统,但这不是所有用户都需要,配置有成本,还要考虑用户真实的需求,把选择权交给用户。《中国经营报》记者注...
展现硬核工业科技元素  徐工机械组建团队参与《流浪地球3》拍摄 - 天天要闻

展现硬核工业科技元素 徐工机械组建团队参与《流浪地球3》拍摄

中经记者 郭阳琛 石英婧 上海报道(中国电影华表奖期间,参与电影《流浪地球3》的部分徐工设备进行公开展示。 受访者/图)工程机械不再只是“重工业”,也可以变得很“潮流”。《中国经营报》记者了解到,随着电影《流浪地球3》在山东省青岛市正式开机拍摄,机械工程“巨头”徐工机械(000425.SZ)再次参与影片拍摄保障。“...
消息称微软将砍掉Xbox游戏机 - 天天要闻

消息称微软将砍掉Xbox游戏机

IT之家 5 月 25 日消息,外媒 Insider Gaming 负责人 Tom Henderson 在直播中透露微软将砍掉 Xbox 游戏机,目前在开发中的下一代主机将是 Xbox 品牌的最后一代硬件产品。目前已知相应机型预计是一款掌机
智能眼镜进入618主场!这三类产品最值得入手,怎么办? - 天天要闻

智能眼镜进入618主场!这三类产品最值得入手,怎么办?

前段时间,雷鸟宣布将在 5 月 27 日发布 Rayneo X3 Pro、Air 3s 两款智能眼镜新品。而这两款产品的加入,也意味着国内智能眼镜「布局」阶段的结束,行业即将进入「贴身肉搏」市场竞争阶段。从网上的评论来看,不少消费者对智能眼镜这一品类倍感好奇,只是被智能眼镜较高的价格拒之门外。幸运的是,即将到来的 618 电商优惠...
重新定义中高级电混轿车新标准 吉利银河星耀8正式上市 - 天天要闻

重新定义中高级电混轿车新标准 吉利银河星耀8正式上市

5月9日,全球新一代豪华中高级电混轿车——吉利银河星耀8正式上市。新车推出极致性能雷神EM-P 2个版型、极致节能雷神EM-i 3个版型,该5个版型标配千里浩瀚智能安全辅助驾驶;同时为满足用户对辅助智驾的自由选择需求,推出雷神EM-i 2个版型标配基础辅助驾驶