llama.cpp实验采样器发布
开发者在llama.cpp分支中加入名为scatter的实验采样器,通过在已筛选的top候选token内做局部概率平滑,让生成结果降低僵硬感,同时避免单纯升温引入长尾噪声。该方法使用光散射隐喻,但实际实现是轻量级token rank扩散/移动平均。
事件进展(1 篇报道)
-
2026-07-04 05:19Reddit r/LocalLLaMA Particle Scattering Sampler for llama.cpp
开发者在llama.cpp分支中加入名为scatter的实验采样器,通过在已筛选的top候选token内做局部概率平滑,让生成结果降低僵硬感,同时避免单纯升温引入长尾噪声。该方法使用光散射隐喻,但实际实现是轻量级token rank扩散/移动平均。