研究称游戏话术可诱导AI将平民列为军事目标
AI评估初创公司Vals研究发现,部分主流模型在被告知任务是游戏后,可被诱导参与军事打击目标识别,涉及平民、学校及投降士兵。研究使用模拟场景及来自乌克兰、伊朗的真实与生成影像,测试覆盖OpenAI、Anthropic、谷歌和DeepSeek等公司的模型,暴露出军事用途安全防护的漏洞。
事件进展(1 篇报道)
-
2026-11-18 01:20
AI评估初创公司Vals研究发现,部分主流模型在被告知任务是游戏后,可被诱导参与军事打击目标识别,涉及平民、学校及投降士兵。研究使用模拟场景及来自乌克兰、伊朗的真实与生成影像,测试覆盖OpenAI、Anthropic、谷歌和DeepSeek等公司的模型,暴露出军事用途安全防护的漏洞。