ncnn Vulkan跑边缘推理

PostSlate 作者分享在生产边缘设备上使用 ncnn Vulkan 后端做跨厂商本地 ML 推理的实践。其称 ArcFace R50 与 SCRFD 在 RTX 4070 上从 CPU ONNX 的约25-30毫秒降至约2.5-3毫秒，并通过 fp16 降低模型体积。

事件进展（1 篇报道）

1. 2026-07-29 18:22
   Reddit r/MachineLearning Vendor-agnostic ML inference on production edge devices [R]

← 返回首页