LLM程序化层推理论文提出PoLar
一篇新论文提出“program-of-layers(PoLar)”框架,认为预训练层可按输入动态跳过或循环,以在推理时灵活权衡计算量与准确率。作者在Llama和Qwen等开源模型上验证了该方法,部分输入可用更短执行获得相同甚至更高精度。
事件进展(1 篇报道)
-
2026-07-22 04:32Reddit r/LocalLLaMA arXiv publication: "Skip a Layer or Loop It? Learning Program-of-Layers in LLMs"