LLM内部置信度信号研究

Reddit机器学习社区讨论一项关于LLM“知而不说”差距的实验：中层隐藏状态的线性探针可较好区分模型答对与答错，AUROC约0.83至0.88，而模型口头输出的置信度接近随机。作者认为问题更像内部信号到输出的路由缺陷，并尝试用极简桥接方法让模型更准确表达置信度。

事件进展（2 篇报道）

1. 2026-07-08 10:40
   Reddit r/MachineLearning The LLM "know-say gap" looks like a routing problem: you can read a model's confidence from hidden states [P]
2. 2026-07-08 19:19
   InfoQ 中国 大模型推理也能“智能调度”：让奖励模型按需分配算力的动态路由机制 | ACL 2026

← 返回首页