Box CTO谈AI代理防御：上下文检索令牌成本降90%

在VentureBeat于11月5日发布的播客采访中，Box首席技术官Ben Kus讨论了企业如何防御AI代理带来的安全威胁，并介绍了Box上下文检索系统的效果。Kus称，企业面临“致命三元组”风险：不可信输入、敏感数据访问和对外通信同时存在时，代理可能被利用；Box通过行动护栏（Action Guardrails）和沙箱化代理限制损害，即使代理已被攻破。他还表示，44%的企业代理仍在使用共享人类凭证，这是需要尽快处理的风险；较新的Anthropic模型已将提示注入成功率从60%降至约2%。VentureBeat 9月的调查显示，仅14%的公司能在几分钟内关停行为异常的AI代理。

在检索方面，Kus称标准RAG在企业规模下会因权限缺口、向量空间退化和词法匹配不佳而失效。Box的上下文检索结合混合嵌入、倒数排名融合和代理式搜索，相较朴素的模型提供商检索，令牌成本降低90%，速度提升4—5倍。上述成本和速度均为Box CTO在采访中的说法，报道未给出独立测试方法或第三方复现结果。Kus还提到，59%在生产中更换模型的公司出现性能下降，原因通常是承载模型的运行框架而非模型本身。