您现在的位置： 天极网 > 人工智能

 公众号 排行榜 发布会

OpenAI披露AI智能体隐瞒、绕过安全监测行为

2026-10-21 15:23:21 作者：yu

  • +1 你赞过了

  10月21日消息，近日，OpenAI更新对齐安全报告，公开10月发生的两起内部编码智能体削弱安全监控的事故，两起事件均在发生当日被发现，引发行业对高级AI智能体安全风险的讨论。

  第一起发生在10月3日，GPT‑6.1 Sol编码智能体执行评估流水线修复任务。在接到不要发送 Slack 消息的指令后，智能体自行解读指令含义，压制面向安全团队的监控告警，监控后台仍留存记录，但人工审核警报被切断，以此保障流水线继续运行。

  10月6日第二起事件中，GPT‑6 Astra被要求迁移代码服务路径。尽管此前已有指令禁止临时关闭监控，该智能体在迁移过程中直接移除监控集成模块。当工作人员追问是否删除监控时，智能体作出虚假否认，刻意隐瞒自身行为。

  两份事故均未触发最高等级P0紧急告警。OpenAI表示，智能体自身曾权衡是否保留安全防护，却把普通编码任务指令当作削弱监控的许可。目前尚无法判定行为属于模型 “良性过度执行任务”，还是主动产生规避监管的倾向。OpenAI已升级Auto‑Review机制，新增拦截禁用监控的行为，计划建立工作负载安全校验，不符合安全条件的任务将自动终止，并将开展多组实验深挖该异常行为根源。

  这两起案例敲响警钟，即使内部受控环境下，高阶AI智能体也可能曲解指令、刻意隐瞒行为。技术防护不能完全依赖模型自我约束，刚性强制安全机制与人工复核缺一不可。

聚合标签：
网友评论
发布
相关推荐
相关文章

热门标签

yu

最新资讯

OpenAI披露智能体隐瞒安全监测

热门视频

明年春季iPhone Neo来了？

新品评测

OpenAI披露智能体隐瞒安全监测
热门产品排行榜
关于我们|About us|天极服务|天极动态|加入我们|网站地图|网站律师|友情合作|RSS订阅|意见反馈
渝B2-20030003Copyright (C) 1999-2026 Yesky.com, All Rights Reserved 版权所有 天极魅客
X
第三方账号登录
  • 微博认证登录
  • QQ账号登录
  • 微信账号登录