翻开@NewtonProtocol 白皮书,讲的最多的就是只要能接入newt模型,那它就是活的。那行,我就来试一试,给家里面的只能家电接上看看是不是这么牛逼!
我当时脑补出一个AI,被打散成一千片扔进手机、平板、智能冰箱里,需要时它们各自蠕动凑到一起,拼出一句“老板,方案已发您邮箱”。白皮书用一种温柔而坚定的叙事告诉我,算力不该是矿场里娇生惯养的金丝雀,它应该像菜市场的大葱,谁家炒菜缺了,冲着隔壁喊一嗓子就能借两根。$NEWT
这个叙事我当场就信了。因为newt模型架构实在太讨巧,它从骨子里就为“蹭”而生。白皮书把大模型切成生鱼片一样薄的子模块,分别叫newt-nano、newt-tiny、newt-base、newt-large,你完全可以按照手头设备的牙口,点一份“newt-tiny,少油少显存”。接口代码里那个“model_id”参数,你填“newt-tiny”,调度器就绝不去骚扰那些只有2GB内存的老爷机,它会去敲邻居老王那个刚升级了鸿蒙的平板,问一句“有空不?”白皮书管这叫模型分片与自适应部署,我管这叫看人下菜碟儿,AI界的老乡鸡。#Newt
但真正让我拍着大腿叫绝的,是通信协议。我把newt的通信协议命名为“算力外卖协议v0.1”,它的运作方式足以让所有外卖平台汗颜。你发起一个推理请求,协议层就立刻进入红娘模式,通过P2P网络向整个局域网甚至更远的节点群发广播:“急寻能跑newt-tiny的壮士!要求空闲内存大于1G,CPU别太摆烂,速来揭榜!”顷刻间,你家的智能音箱、旧手机、刷了OpenWrt的路由器,乃至带屏幕的智能马桶盖都纷纷举手。马桶盖举手那次我拒绝了,虽然它号称自己NPU闲着也是闲着,但我真怕它一边推理一边呲水报复。
协议里有个心跳机制特别损,每隔五秒就问节点:“还活着没?”如果哪个手机因为被主人拿去刷短视频而CPU暴涨,调度器立马把它打入冷宫,重新派单。接口参数“timeout=30s”是悬在每个节点头上的达摩克利斯之剑,超过三十秒没返回token,直接换人。这比外卖小哥超时罚款还残酷,但白皮书说得理直气壮:用户体验优先。我深表赞同,等AI回消息比等外卖还焦躁,必须卷起来。$LAB
再细品那几个接口参数,简直是为人类摸鱼量身定制。“max_tokens”控制AI废话的数量,白皮书建议日常闲聊设150,我给我那自动回复老板的脚本设了50,多一个字都算我输。它果然回复:“好的,马上。”简洁得让老板以为我成熟了。“temperature”则是疯癫指数,设成0.3它像个刚开完周一例会的打工人,一脸正经;设成0.8它就开始抛梗,顺便建议我辞职去阿拉斯加钓帝王蟹;设成1.2,它直接写出一篇《论公司厕所手纸的单层化趋势》,吓得我赶紧调回0.8,既要幽默又不能丢饭碗。还有个隐藏的“priority”字段,白皮书轻描淡写说可以指定任务优先级,我毫无羞耻地永远填9,最高级。于是邻居老王的智能冰箱,正在兢兢业业为我的闲聊请求生成embedding向量,而老王自己买的冰淇淋却因为CPU占用过高悄悄化成了汤。后来他找上门来,我理直气壮地翻出白皮书给他看:这叫去中心化生产力解放,你冰箱的闲余算力不贡献出来,就是对人类文明的浪费。老王将信将疑,我补了一句“未来有空投”,他便安静了。$ETH
为了彻底践行白皮书叙事,我把家里攒了五年的数码古董全翻了出来,组了一个newt集群。两台红米、一台荣耀旧平板、一个改了散热的路由器,加上客厅的智能音箱,足足六节点。跑newt-tiny替我回工作消息那天,老板震惊于我秒回的速度和恰到好处的废话,他在群里问我是不是吃了什么高效药。我笑而不语,因为我正用唯一没被征用的主力机刷猫咪视频。代价是那台平板后盖烫得能煎蛋,智能音箱在回答完“把周报模板发我”后,自己嘟囔了一句“好热”。白皮书里把这种设备发烫称为“边缘计算的热力学代价”,并诗意地展望未来会有更高效的散热方案。我当时一边给平板敷湿毛巾,一边同意这份诗意的展望。
最魔幻的时刻发生在深夜。我突发奇想,把newt-base的推理请求故意发到了一个“backend”参数里随手填的“192.168.1.9”上,那是我家智能电饭煲的IP,它居然真就接单了。电饭煲的算力微小得可怜,它吭哧吭哧算了快两分钟,返回的token里夹杂了一句“温度已设为保温”。虽然白皮书确实声称任何具备计算能力的设备均可成为newt节点,但当你的晚饭和AI推理共享同一颗处理器时,你还是会对“万物互联”这四个字产生生理级的理解。
白皮书在结尾处勾勒了一幅算力共产主义图景:人与人、设备与设备,闲置算力像空气一样自由流动。我读完觉得这简直是人类技术浪漫主义的巅峰,然后默默交了这个月暴涨的电费。但我依然认同这份叙事,毕竟现在每天清晨,我对着家里的集群喊一句“启动newt”,各个角落的散热风扇纷纷响起,像是一群小蝾螈在合唱。接口代码里有个“status”端点,返回所有节点的健康状态,我每次看到满屏的绿色“idle”变成短暂的“inferring”,都觉得这个世界正在我手中变得有点不一样——我们既是算力摊儿的摊主,又是食客,白皮书就是那张油渍麻花的菜单,参数是调料,协议是吆喝。这摊子已经支起来了,你要不要也把冰箱注册一下?趁老王还没发现冰淇淋的事。#比特币ETF6月净流出45亿美元
