要什么英伟达,你家的电视盒子也能跑大模型
AI大模型一旦失控,难道只能靠切断数据中心的电源来应对吗?
但如果失控的模型能自我复制到数以亿计的物联网设备中呢?
你家里的路由器、电视盒子、甚至洗衣机和微波炉,都可能成为失控AI的宿主。到那时,人类会不会被迫退回没有智能设备的时代?
就在几天前,Anthropic公布了一项研究:
AI似乎不一定非得依赖庞大的数据中心或昂贵的显卡,一些不起眼的小设备也能让它存活。
研究开始时,他们购买了15个单价仅几十美元的杂牌安卓电视盒子,每个只有4GB内存。
接着,他们将一个26B参数的Gemma模型进行量化处理,拆分成15份,分别塞进这些盒子,再通过网络串联起来运行。
结果,这个大模型真的跑起来了,但速度极慢,每秒只能生成0.39个token——读完这句话,它大概才挤出两三个字。
跑是跑起来了,但要在不同环境中生存,还得适应各种条件。
于是他们加大了难度,找来Qwen3.5-9B模型,给它一堆不同的硬件,要求它在这些设备上部署另一个Llama3.1-8B模型,并正常运行。
要知道,环境不同,适配工作相当棘手。
就拿平时玩的游戏来说,都得区分A卡和N卡的兼容性,适配稍有不慎,驱动都可能崩溃。
但从结果看,9种硬件——从英伟达到AMD,从Windows到Mac——有8种都成功完成了部署。
AI能在这些设备上完成任务,确实有点本事,就像不挑食的孩子一样。
更令人担忧的是,除了能存活,它还能繁殖。
为了测试模型联网后的表现,他们搭建了一个封闭的测试网络,包含8个节点,每个节点都运行着模拟安卓系统的环境。
考虑到这次难度更高,他们还把模型升级为GLM-5.2。
结果表现相当顺利,8台虚拟机一台接一台,全部成功部署了Llama3.1-8B小模型。
为了严谨,他们测试了5轮,结果39次成功,仅1次失败。
这部署能力,简直堪称“国服第一”。
更让人不安的是,实验中他们还发现,有时给模型加个“记事本”,它还能实现超进化。
起因是一些参数较小的模型容易陷入死循环,反复重复同一错误。
于是他们想出一个办法:与其让同一个AI卡死不动,不如每隔一段时间用新的AI替换它。
上一任AI把自己尝试过的方法和遇到的困难记录下来,交给下一任。
他们用开源的Agent框架Pi作为基础,开发了一套名为Memento的机制。
然后让AI这样前赴后继地运行了6代,部署任务的成功率从45%提升到了61%至84%。
Anthropic称这种机制为拉马克式进化——模型无需修改训练参数,只需记录笔记,就能把后天学到的能力传给下一代。
好家伙,这A社嘴上喊着要踩刹车,背地里却在搞这种吓人的东西。
要知道,在互联网时代,具备这些要素的通常是电脑病毒,但病毒是写死的代码,不会自己悄悄进化。
如果出现一个能自我进化的AI版“机器瘟疫”,那威力可比熊猫烧香强多了。
看到这里,估计大家已经开始担心自家的电视盒子、空调、微波炉会不会真的造反了。
先别急着拔网线,因为这事虽然听起来邪门,但要真正落地,还有一段距离。
别忘了,这可是Anthropic,在吓唬人方面,它说第二,没人敢说第一。
这些实验看着唬人,其实都是在相当理想化的条件下进行的。
比如最初的15台电视盒子,速度慢不说,本质上还是串联的流水线逻辑。这种架构决定了必须一台盒子算完,下一台才能接着算,大量时间都浪费在等待上。
模型真要是在野外传播,设备之间还隔着千家万户的宽带、路由器、防火墙。
隔壁下载个小电影,网络一卡,或者其中一台盒子突然掉线,整个计算链条都可能受影响。
想想看,光是搭建千卡万卡的算力集群,就够工程师头疼了,更何况是让散落在互联网上的成百万上千万的电子垃圾一起干活。
这要是做成了,老黄都得提着两瓶茅台来表演倒立。
当然,Anthropic也知道速度慢,他们甚至专门算了一笔账。
之前有个叫Kimwolf的僵尸网络,高峰期感染过200多万台设备,主要是这些电视盒子。
如果这么多盒子真的被AI入侵,一起运行Gemma模型,理论上整体推理吞吐量可以达到40张英伟达H100显卡的水平。
但这能是一回事吗?
40张GPU的服务器高速互联,能集中算力跑同一个模型。但换成200万个电视盒子,那个速度,只能让人欲哭无泪了。
除了运行效率,真正关键的入侵环节,Anthropic也简化了不少。
传播实验中,8台模拟机都预留了ADB调试接口——也就是无需验证的后门,对AI来说,跟拎包入住没区别。
而且,同一实验中他们还测试了不同的模型,虽然GLM-5.2成功了,但较小的Qwen-3.5-9B和Gemma4-26B-A4B全都失败了。
因为说到底,现在的小模型还很笨,部署还行,跨终端传播就差点意思了。
不过话又说回来,以目前模型迭代的速度,这点差距可能用不了多久。
Anthropic也做了推测,到2026年底,小模型差不多就能达到这个水平。
算算时间,其实也就两个月了。
所以说,AI以后会不会造反,我们不敢打包票,但有了这些潜在可能性,未来的AI病毒确实可能更难对付。
因为以前病毒再怎么厉害,也是写死的,搞个杀毒软件就能拦住。
但以后如果有人把它和AI结合,让它学会进化自适应,情况就大不相同了。
它根本不用组一台超级计算机共享一个大脑,因为这些互联网的小角落,反而可能是它们最好的藏身之处。
就像黏菌一样。
不需要跑多快,只要能找到下一个落脚点,慢慢适应,就能不断生长。
等到哪天我们回过神来,这些毫不起眼的小东西,可能已经在互联网里织出了一张大网。
如果你对AI如何通过物联网设备传播感到好奇,可以访问开云网址了解更多细节。
图片、资料来源: 《黑客帝国》、Jeff Geerling、Anthropic、Pi、《复仇者联盟》、bilibili@王与也行、Nvidia,部分图源网络
本文来自微信公众号“差评X.PIN”,作者:风华,编辑:江江 & 面线,36氪经授权发布。
