智谱Token推理成本较年初降80%:10万张国产芯片跑大模型
主要结论:智谱报告称其现已在10万个国产芯片上运行大规模、低成本推理,自今年年初以来每个token的推理成本降低了80%。这些芯片已支持GLM-5.3-Flash的全部在线流量以及OpenRouter/OpenCode上的Ox-Alpha测试。
📰 来源:jinse.com.cn
💬 引用锚点
智谱在10万个国产芯片上实现了大规模低成本推理,单个token成本较年初降低80%。
该技术方案已全面支持GLM-5.3-Flash在线流量及OpenRouter等平台的测试需求。
常见问题
智谱报告的推理成本降低幅度是多少?▼
智谱目前使用多少国产芯片运行大模型?▼
这些国产芯片支持哪些大模型的在线流量或测试?▼
订阅最新文章
输入邮箱,第一时间获取最新动态。
💬 评论 (0)
发表评论