StartLux开源决策模型推理引擎Prism
StartLux开源为决策模型优化的推理引擎Prism,针对有限候选项概率计算等任务设计。公司称在单张H200上,特定测试较vLLM提速1.2至5.3倍,同时保持与原始精度接近的准确率并支持确定性输出。
事件进展(1 篇报道)
-
2026-10-23 20:03
StartLux开源为决策模型优化的推理引擎Prism,针对有限候选项概率计算等任务设计。公司称在单张H200上,特定测试较vLLM提速1.2至5.3倍,同时保持与原始精度接近的准确率并支持确定性输出。