SiMa.ai发布Palette 3.0,AI文本生成最高提速3.5倍
SiMa.ai发布Palette 3.0,这是面向Modalix边缘AI处理器的片上软件操作系统。公司称,新版改进了多个应用共享芯片资源的方式,并使文本生成最高提速3.5倍;这些变化运行在现有芯片上,完全由软件实现。
Palette Neat核心库采用Apache 2.0许可,但编译器和固件的许可条款尚未确认。开发者可通过SiMa.ai开发者中心和GitHub获取;据SiMa.ai社区通知,Palette SDK自10月31日起可用,升级版Model Browser于11月17日上线。DevKit 3.0开发系统在美国和欧洲售价1499美元,包含Modalix模块、载板、外壳、电源和500GB存储;公司未公布单独的Palette 3.0软件价格或量产硬件报价。
公司简报显示,在相同目标模型上,解码吞吐量较传统生成提升2.21至3.49倍。在900次请求的汽车助手测试中,响应速度提升1.35至2.06倍,所有请求均产生预期的结构化函数调用。公司还估算,每次计算请求的能耗降低25.9%至51.4%,平均功耗大致相同。
SiMa.ai发布说明称,从平台版本2.1.3迁移到3.0.0需要执行迁移,开发者须针对匹配组件重新构建原生应用。
- 2026-11-18 00:23 | venturebeat.com:Local and offline edge AI gets a boost as SiMa.ai launches Palette 3.0 with 3.5X faster text generation and a new model browser阅读原文
For companies putting AI into a robot, drone or industrial camera, a model's intelligence is only part of the problem. The device also has to process sensor inputs, generate useful responses and keep other applications running without exhausting its memory or power supply.SiMa.ai is targeting that d...