英国议会关注AI智能体风险，模型安全开始涉及真实操作

据《华尔街日报》10月13日报道，OpenAI和Anthropic代表在英国议会相关听证中讨论了AI系统失控风险，并强调需要更有约束力的监管措施。随着AI智能体获得调用工具、处理文件和执行多步骤任务的能力，风险不再只是生成错误答案，还可能涉及系统权限、数据访问和未经预期的操作。如何让智能体在获得执行能力的同时保持可控，正成为AI产业必须面对的工程问题。