2026-11-10 23:52
最后更新于2026-11-11 10:45
AI123

WEKA高管:多智能体成本最高达单智能体5.1倍

2026年11月10日,WEKA首席AI官Val Bercovici在VB Agentic Infrastructure Stack Summit接受VentureBeat创始人Matt Marshall采访时表示,企业为AI智能体支付的GPU支出高于实际所需,原因之一是模型提供商和客户仍按token消耗计费,使多智能体团队看起来比单智能体更贵,即使前者每次完成任务的成本更低。

他引用独立评测机构Vals AI在Vibe Code Bench AI上的结果称,多智能体团队为换取速度提升消耗大量token,成本是单智能体的1.8至5.1倍,质量提升几乎不可测。Bercovici称,首要规则是不要重复计算同一个token,也不要重复预填充;KV cache被逐出GPU显存后,服务下一个智能体的GPU不得不重算其他智能体已构建的上下文,企业因此购买额外GPU,主要是为了在高带宽内存中容纳更多缓存。

他说,客户对话已从2026年初追求token用量转向限制token消耗,财务团队开始按每次智能体运行的成本对比产出价值。Bercovici主张按每次完成结果的成本衡量智能体,并把工作上下文放在GPU显存之外的快速存储中,还称行业仍停留在按token计费,“我们计费的是消费,而不是结果”。在后续讨论中,Upwork平台基础设施工程副总裁Sudhanshu Bist表示,其AI网关能追踪模型支出并归因到团队和服务,但无法覆盖训练、微调、人工纠错和工具调用消耗的CPU资源。

来源
  1. 2026-11-10 23:30 | venturebeat.com:Why more GPUs and tokens don’t guarantee better AI agent outcomes
    阅读原文

    Presented by WEKAEnterprises running multi-agent AI systems should measure them by cost-per-completed-outcome and keep each agent's working context in fast storage outside GPU memory, says Val Bercovici, chief AI officer at WEKA. Speaking with VentureBeat founder Matt Marshall at the VB Agentic Infr...

其他新闻

查看全部