PrismML发布Ternary Bonsai 2系列模型,含2B、4B、9B三种规模,基于阿里Qwen 3.5基座构建,采用-1、0、+1三元权重表示法,面向手机、PC及可穿戴设备本地运行AI智能体。存储占用约0.43GB至2GB,9B模型在指令执行与数学任务中token用量减少约40%,iPhone 18 Pro Max上2B模型最高每秒120词元,权重以Apache 2.0许可证开放。
在2026骁龙峰会上,高通与PrismML合作,在骁龙AR1 Gen 1智能眼镜平台成功本地运行20亿参数的1-bit量化Bonsai视觉模型。该模型基于Bonsai 1.7B构建,内存占用约为传统4-bit模型的1/4,同容量下可容纳约4倍参数,文本Token生成速度翻倍,可实现离线识图问答、翻译、语音助手等本地交互,并改善续航与发热。
PrismML于周四发布其最新推理模型Bonsai 2 27B,该模型将阿里开源的Qwen3.8 27B压缩至5.9GB,可运行于PC及高端智能手机,内存占用减少9至10倍,基准测试得分达到原模型的98%。