10月12日,Anthropic 前沿红队发了一份报告,题目就叫《AI模型可能在没有数据中心的情况下自我复制》。
他们买了15个杂牌安卓电视盒子,每个55美元、4GB内存,拼起来跑动了一个260亿参数的模型,速度0.39字/秒。15个盒子加起来不到1000美元。
报告里更麻烦的是下一步:模型得先给自己装一套运行环境,相当于在一台陌生电脑上把程序装好。一个90亿参数的小模型试了9种陌生硬件,成功8种;换成更强的模型,8台机器全部拿下。
更意外的是它会给自己写笔记,把踩过的坑记下来交给下一个自己。传到第六代,成功率从45%涨到84%——相当于把学的本事直接传给后代。研究组还特意给小模型配了个随时能问的更强模型,一次都没帮上忙:小模型根本不知道该问什么。
按能力指标每年13.7点的速度推算,2026年年底小模型就会跨过自我复制这道门槛。到那天,家里最先遭殃的是电视盒子、扫地机器人、安防摄像头这些一天到晚连着网、防护几乎为零的设备。
真实的先例已有:僵尸网络 Kimwolf 感染过200万台设备,主要就是杂牌安卓电视盒子。同样这批设备换成跑AI,每15台凑一群就是13万个AI,全部加起来只相当于40张顶级显卡,一代复制还要一两天。
好消息是它藏不住:被感染的机器之间会突然互传几个G的文件,运营商一看流量异常就知道;英国也已经把默认密码写进法规。Anthropic的结论其实很克制——现在还没有真正失控的AI蠕虫,但他们说已经看到生命的迹象,就像2024年的编程智能体刚出道时。
#AI #人工智能 #AI安全 #Anthropic #物联网 #僵尸网络 #网络安全 #科技