TensorSharp对标llama.cpp
开发者发布TensorSharp本地LLM推理引擎基准,支持Unsloth GGUF、多模态、推理与函数调用,并兼容OpenAI和Ollama接口。项目覆盖CUDA、Vulkan、Metal等后端,声称性能可与llama.cpp相当。
事件进展(1 篇报道)
-
2026-07-26 01:27Reddit r/LocalLLaMA Benchmarks: TensorSharp vs. llama.cpp
开发者发布TensorSharp本地LLM推理引擎基准,支持Unsloth GGUF、多模态、推理与函数调用,并兼容OpenAI和Ollama接口。项目覆盖CUDA、Vulkan、Metal等后端,声称性能可与llama.cpp相当。