ARPL为llama.cpp做ARM运行时识别
开发者发布ARPL,用于在ARM手机上运行时识别芯片ISA能力和核心拓扑,再据此为llama.cpp自动配置线程数与上下文参数。项目已包含Android参考应用和JNI桥接,并针对Snapdragon 8 Elite等设备做了测试。
事件进展(1 篇报道)
-
2026-08-04 03:22Reddit r/MachineLearning ARPL — runtime ISA/topology detection for llama.cpp on ARM (built for Snapdragon 8 Elite) [r]