硅基流动袁进辉：推理用量无上限，新入局者机会更大

11月12日，在“以发展应变局”为主题的第十七届财新峰会上，硅基流动创始人、CEO袁进辉表示，从需求端看，算力仍远远不够，AI正在把人类智力变成可规模化生产的工业品。

他说，AI在各场景的渗透是循序渐进的：两三年前行业关注AI的说话能力，近年转向办事能力，这对底层算力提出很大需求，供需矛盾突出。算力分为训练和使用两类，使用环节的推理算力需求远大于训练。训练一个较好的模型约需一百万亿token，而推理token需求没有上限，许多企业每日使用量已超过一百万亿。

袁进辉认为，芯片企业进入推理市场的难度低于训练市场，对新玩家尤其意味着很大机会。谈到开源与闭源模型，他表示国内开源模型能力仍在追赶闭源，但在写作、翻译、编程等开源模型已能充分满足的场景，开源模型会带来成本优势和数据主权。