跳到正文
原文
人人都是产品经理· Ai学习的老章·· 3 小时前AI 评分50

Prime Intellect 开源生产级推理平台 Prime Inference,GLM-5.3 在 GB200 上跑出 100 tok/s

开源大模型推理卷上新高度,GLM-5.3 在英伟达 GB200 上飙出 100 tok/s

AI 导读

Prime Intellect 正式上线生产级推理平台 Prime Inference 并全栈开源,首个公开端点是在英伟达 GB200 NVL72 上运行的 GLM-5.3,实现每用户每秒 100 Token 输出。

来源:人人都是产品经理 · woshipm.com