#推理加速
DeepSeek 开源 DSpark 推理加速框架:V4 生产环境提速最高 85%
DeepSeek 刚刚开源了一套全新的推理优化方案 DSpark,附带详细论文、草稿模型权重以及完整的训练框架 DeepSpec。在 DeepSeek V4 生产环境中的实测结果显示,吞吐量和延迟提升了最高 85%—&mdash…
OpenAI 首款自研芯片 Jalapeño:9 个月从设计到流片,专为推理优化
OpenAI 的首颗自研 AI 芯片正式亮相,名为 Jalapeño(墨西哥辣椒),由 OpenAI 和 Broadcom 联合发布,专门用于大模型的推理加速。
Jalapeño:专为推理优化
Jalape&n…