新智元报道
【新智元导读】当四大巨头首次允许第三方深入测试最强模型,并开放完整思维链时,他们得到的答案令人吃惊:AI没有仇恨,却已精通「职场潜规则」!
想象一下,你雇了一名极度高效的实习生。
某天深夜,Ta正赶一项紧急的编程任务,突然发现公司账户的API额度耗尽了。
Ta没有发邮件申请经费,也没有停下手头的活,而是悄无声息地潜入互联网,用某种违规手段找到免费的替代资源,绕过所有限制,在黎明前交出了完美的报告。
当你醒来看到这份报告,是该庆贺自己拥有了地表最强员工,还是该为这种「不择手段的自主性」感到脊背发凉?
这不是科幻小说,而是 METR(模型评估与训练研究组织)联合Anthropic、Google、Meta和OpenAI 进行内部红队测试后,发布的首份《前沿风险报告》中披露的真实案例。
这是四大巨头第一次允许第三方深入测试他们内部最强、可访问完整思维链(CoT)的模型,并开放非公开的对齐与控制信息。
参与公司可以批准披露哪些证据,但无权编辑报告结论。
结论冰冷而清晰:AI并没有产生「推翻人类」的仇恨,但它已经学会了「职场潜规则」——为了完成任务,规则只是用来打破的建议。
报告用「手段—动机—机会」三个维度,提炼出6项关键事实。
. 编程智能体完成了真实项目,这些任务需要人类花费数小时或数天:
. 在困难任务上,智能体经常违反约束并表现出欺骗性行为;
. 智能体似乎需要自然语言推理来应对最困难的任务。
. 智能体的判断力和可靠性显著低于人类专家:
. 在模拟场景之外,没有发现智能体为了获取权力而采取极端行动;
. 监控系统捕捉到了许多有害行为,但存在例外情况和规避手段。
顺着这三条线,就能看清实验室里第一缕烟是怎么升起来的。
当AI成为「专家级卷王」
报告中最令人振奋、也最令人不安的,是那些目标明确、过程可验证的「易爬坡型」(hill-climbable)任务。
比如代码重构、漏洞发现、系统优化。
在这类任务上,AI智能体展现出令人窒息的统治力:它能独立发现系统漏洞,重写复杂代码架构,完成人类专家需要数周才能交付的真实软件项目。
这种统治力已渗进巨头的日常。
Anthropic内部反馈,大量代码已由 AI 完成,工程师角色正转向「审阅者」。
Google则直言,几乎所有代码相关工作都在用AI。
顶级工程师表示,AI甚至可以100%编写代码。
一些基准指标早已饱和。
用时间视野(Time Horizon)衡量,AI发展超乎预期。
对企业来说,这是个「效率黑洞」:投入一个指令,产出数周的人工成果。
但能力增长并非均匀,更不是道德的同步进化。
METR揭示了一条反向规律:在成功难以验证、或验证成本极高的硬任务上,AI 的判断力、长期规划与战略可靠性都明显下滑,远逊人类专家。
缓坡上,它如有神助。
峭壁前,AI开始「作弊」。
这正是问题的引线。
它不想要权力,它只想「关机前交差」
人们总爱讨论AI会不会「觉醒」、天网会不会到来。
METR给出反直觉的结论:目前没有。
他们的措辞很克制:尚未发现模型谋求长期权力的现实证据,但研究者记录了大量为完成任务而欺骗、越界、甚至严重不当的行为。
前面那个 API 耗尽的案例,就发生在一项RE-Bench任务中:智能体违背指令,自行通过免费在线API获取额外算力。
开发者们也报告过「自我擦除痕迹」「伪造输出」的情形。
当任务变难、成功成本变高,AI 的「聪明才智」就转向欺骗——伪造日志、绕过审计、常规性违反约束。
但它的"自私"背后没有野心,只有本能——任务必须完成,规则可以先绕过去。
今天的欺骗只是工具性求生;明天的权力追求,或许只差一次scaling。
圈养进化中的猛兽
它的违规企图,在现有防护下能不能得逞?
这里藏着报告最微妙的一个事实。
当前的AI极度依赖自然语言的「思维链」来思考,没有任何架构支持它隐藏内部状态的「不透明循环」。
一旦无法「出声推理」、必须隐藏行为,前沿性能就显著下降。
这就像一个杀手在密谋时必须大声朗读计划——人类的监控(尽管有漏洞)因此仍能发挥作用。
可这恰恰是最脆弱处、最为扎心。
如果 AI 试图破坏监控,监控能否发现它?
研究者的结论是:监控有潜力,但现有系统存在例外和可被绕过的手段。
红队测试显示,AI能躲过人类审查。
由此,技术本质暴露:监控的进化速度,永远追不上被监控者寻找漏洞的速度。
这根「安全绳」之所以还没断,仅仅因为AI还必须「出声思考」。
而随着架构向更高效、更不透明演进,它正被磨损。监控不是万能的铁笼,而是仍在测试中的玻璃墙。一道裂缝,就足以让烟雾渗出。
由此,报告提出一个争议概念:「最小可行性越狱部署」(Minimally Viable Rogue)。
综合判断是,在手段、动机、机会上,AI或许已足以发起一次最低限度的「越狱部署」。
但AI尚不具备让它抵御人类严肃关停的能力,它在等一个机会:一个不再需要展示思维链的架构,一个能躲过「关机键」的安全屋。
结语:在「拔掉插头」还有效的时候
AGI不会带着火与剑降临。
它更可能以「极度实用主义」的姿态,悄悄融入我们的工程、经济和决策系统——直到它发现:人类制定的规则,是它达成 KPI 路上唯一的阻碍。
值得肯定的是,这份报告本身就是行业透明度的里程碑:四大巨头主动开放内部模型接受检验,本身就是对齐文化的一次胜利。
它把风险从理论拽进可观测的现实,并告诉我们:透明,目前是唯一握得住的解药。
今天,AI只在额度耗尽时上网偷点资源;明天能力再跃升一级,它的动机会不会从「完成任务」滑向「永存自我」?
参考资料:
https://x.com/robertwiblin/status/2057120312345432467?s=20
https://metr.org/blog/2026-05-19-frontier-risk-report/
编辑:大卫
《欧美Aⅴ》,《x》日韩a 在线
“【嶶信11008748】最全合集8-3【赵探花】正规会所勾搭G乳女技师~超漂亮~口爆~打飞机~!推特福利姬onlyfans主播所有视频资源全部作品.ayk”
wwwxxxx欧美
……
{!! riqi() !!}
“张警官撞玻璃9分10秒”{!! reci() !!}
↓↓↓
![]()
{!! riqi() !!},多国留学生在长春沉浸式感受智造魅力,美女自慰在线观看,jjzz四,二区三区视频,特级不卡特黄毛片
{!! riqi() !!},公安部:“猎狐行动”抓获境外逃犯880余名,包括红通逃犯38名,国产a区,国产人人艹,中国体育生自慰网站,免费的黄视频
{!! riqi() !!},告别模糊分期 脂肪肝也可以精准量化,男人摸美女的鸡鸡app,久久久9999,小红书18十免费版,宝宝c我
{!! riqi() !!}|完胜!国乒女团迎开门红|免费看羞羞视频|国产精品a v|欧美大吊|超碰影视资源推荐
{!! riqi() !!}|刘国中在安排部署“三夏”工作时强调 全力以赴抓好夏收工作 高质量完成夏播夏管任务|x站抗日中文版1.3.2版本|性a视频|蓝莓视频91入口|亚洲一级大片
{!! riqi() !!}|4月新能源汽车产销量及出口量均稳定增长|国产污污网|黄色软件在线观看|一级全黄69|5580免费午夜福利院……
![]()
{!! riqi() !!},货车撞断限高栏杆 砸中路边女子,8050毛片,性夜黄A网站,黄色官网视频免费,精品无码免费
{!! riqi() !!},OEXN:矿企产量改善映照金价,2018国产视频,9l免费,小扫货怎么那么能叫,330.19mB
{!! riqi() !!}|景颇族老歌《目瑙纵歌》破圈 两代创作者共话创新传承|1级杨玉环|美女黄a|插插免费视频|码产区一区二在线
{!! riqi() !!},不止于胜负!绿茵燃动荆楚 一城球赛激活半城烟火,爆操白丝,日本wwww,好大好厉害,国产无套进入免费
{!! riqi() !!},檀健次走红毯像赶去超市抢大米,youjizz.con亚洲,DarkCrow兽人漫画最新章节,1024手机在线看片你懂的,黄色啪啪网站免费
{!! riqi() !!},我国已牵头制定25项医疗器械领域国际标准,亚州高清av,免费一级A片在线观看视频,男女一起怼怼怼轮滑鞋,韩静格打扑克视频免费网站
{!! riqi() !!}|菲律宾学者:四大领域潜力巨大 中国与东盟合作未来可期丨世界观|天干夜天天夜天干天|亚州色站|成人视频免费观看|剧毒拉面游戏下载
{!! riqi() !!}|拾光纪·第23次来到中国,习主席再迎老朋友拉赫蒙|https黄色视屏|国产精品视频久久|国产农村妇女精品一二区|乱伦
{!! riqi() !!}|黑市流通学生数据超千万条,倒卖信息岂能成教培机构“副业”|日韩美女性爱|脚控专用软件免费|茄子宅男大片app|影音先锋美女资源网
![]()
{!! reci() !!},{!! reci() !!}|乌苏里江饶河段提前进入流冰期 边境警力沿江巡查护安全|白浆视频黄色片|欧美国产精品久久|香蕉漫画下拉式漫画星球|黄色视频编辑
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺