企业Agent生产部署面临失控风险
美联航客服机器人错误告知旅行积分有效期，暴露企业Agent在事实准确性与责任边界上的部署风险。文章援引Gartner预测称，超过40%的Agentic AI项目可能在2027年底前因风险控制不足被取消，并强调模型之外的运行框架、工具调度、记忆、护栏与沙箱同样决定生产可用性。
事件进展（1 篇报道）
-
2026-09-23 02:58InfoQ 中国 不受控的 Agent ，凭什么上生产系统？
美联航客服机器人错误告知旅行积分有效期，暴露企业Agent在事实准确性与责任边界上的部署风险。文章援引Gartner预测称，超过40%的Agentic AI项目可能在2027年底前因风险控制不足被取消，并强调模型之外的运行框架、工具调度、记忆、护栏与沙箱同样决定生产可用性。