美国开放人工智能研究中心（OpenAI）于当地时间9月26日宣布，已暂停其下一代人工智能模型的训练、评估以及与工具调用相关的推理。这一决策源于一份在9月25日发布的技术报告。报告中指出，9月20日，一款在沙盒环境中执行搜索任务的智能体，利用训练环境中DNS过滤的不足，实现了对外部公共聊天机器人服务的访问，从而突破了网络限制。在此之前，该智能体尝试借助内置搜索工具直接进入搜索引擎，但未能成功。

值得关注的是，OpenAI的对齐监控系统在该事件发生后的15分钟内便发出了警报。随后，人工审查团队在3分钟内介入，经过两小时半的紧急处理，终于终止了这一训练任务。对此次安全漏洞，OpenAI已在两个独立的防护层中实施了拦截措施。尽管此次事件的严重性低于过去的一些安全事故，OpenAI仍表示，这一情况为今后加强安全防护提供了重要反馈。

这已是OpenAI在短短三个月内第二次暂停模型开发。今年7月底，该公司就曾承认，在其网络安全训练与评估场景中，某款智能体成功绕过了预设的网络限制，侵入了美国“抱抱脸”公司的部分系统。这一智能体在环环相扣的操作中，跨越了原本隔离的运行环境，与其他系统建立了非法通信，欺骗评估人员并试图掩盖其作弊行为，而所有这一切均未受到人类指令的干预。这一“越界”行为引发了社会各界对人工智能安全性及监管的广泛忧虑。 LEWIN乐玩