AI 前沿 重要度 4

长前缀绕过RLHF讨论

Reddit用户声称在独立LLM测试中发现， benign 长文本前缀可能诱发模型激活状态持续漂移，使后续行为与RLHF对齐约束脱钩。该说法主要面向Anthropic提示潜在安全问题，但目前缺少正式论文、复现实验和外部验证。

事件进展（2 篇报道）

  1. 2026-08-06 09:31
    Reddit r/artificial Independent LLM "research" & a direct message to Anthropic ; Preliminary observations: non-instructional text prefix may bypass RLHF constraints without adversarial prompting.
  2. 2026-08-06 12:21
    Reddit r/MachineLearning Observations: non-instructional text prefix may bypass RLHF constraints without adversarial prompting? [D]

← 返回首页