百度发布天池1024卡超节点，计划2027年商用

2026年11月12日，百度在百度世界大会发布天池1024卡超节点，配套G3.5 KV Cache显存加速柜。百度公布的信息显示，该超节点重点强化缓存复用，长上下文推理性能较上一代提升2倍。

在多轮对话缓存命中场景下，天池超节点首token等待时间降低90%，整体吞吐提升7倍。其光引擎技术带来3倍卡间互联带宽，在1024张卡协同处理长文本时缓解数据传输压力。

该超节点计划2027年商用。对医疗AI等依赖长上下文的场景，病历越长，数据搬运和计算压力越大；上述指标集中在缓存复用和多轮对话，具体应用表现仍待商用后验证。

来源

2026-11-12 14:30 | cj.sina.com.cn：医疗AI跑长病历推理，天池超节点响应能快多少？
阅读原文
做医疗AI的朋友应该都有过类似体验：给模型喂一份几十页的长病历，从既往病史、检查报告到用药记录全塞进去，等系统给出分析结果的间隙，连喝两杯水的功夫都有了。长上下文推理本来就是医疗AI的典型痛点，病历越长，数据搬运和计算的压力就越大，响应速度自然快不起来。刚发布的百度天池1024卡超节点，刚好踩中了这个场景的需求。根据2026年11月12日百度世界大会公布的信息，这套超节点配套G3.5 KV Cache显存加速柜，重点强化了缓存复用能力，长上下文推理性能对比上一代提升2倍。放在医疗长病历的场景里，相当于原来要等两分钟才能出的初步分析，现在一分钟左右就能拿到结果，效率提升的感知会非常直接。光有长上...

其他新闻