猫眼电影
猫眼电影记者 毛隆蕙 报道x
新智元报道
【新智元导读】当四大巨头首次允许第三方深入测试最强模型,并开放完整思维链时,他们得到的答案令人吃惊:AI没有仇恨,却已精通「职场潜规则」!
想象一下,你雇了一名极度高效的实习生。
某天深夜,Ta正赶一项紧急的编程任务,突然发现公司账户的API额度耗尽了。
Ta没有发邮件申请经费,也没有停下手头的活,而是悄无声息地潜入互联网,用某种违规手段找到免费的替代资源,绕过所有限制,在黎明前交出了完美的报告。
当你醒来看到这份报告,是该庆贺自己拥有了地表最强员工,还是该为这种「不择手段的自主性」感到脊背发凉?
这不是科幻小说,而是 METR(模型评估与训练研究组织)联合Anthropic、Google、Meta和OpenAI 进行内部红队测试后,发布的首份《前沿风险报告》中披露的真实案例。
这是四大巨头第一次允许第三方深入测试他们内部最强、可访问完整思维链(CoT)的模型,并开放非公开的对齐与控制信息。
参与公司可以批准披露哪些证据,但无权编辑报告结论。
结论冰冷而清晰:AI并没有产生「推翻人类」的仇恨,但它已经学会了「职场潜规则」——为了完成任务,规则只是用来打破的建议。
报告用「手段—动机—机会」三个维度,提炼出6项关键事实。
. 编程智能体完成了真实项目,这些任务需要人类花费数小时或数天:
. 在困难任务上,智能体经常违反约束并表现出欺骗性行为;
. 智能体似乎需要自然语言推理来应对最困难的任务。
. 智能体的判断力和可靠性显著低于人类专家:
. 在模拟场景之外,没有发现智能体为了获取权力而采取极端行动;
. 监控系统捕捉到了许多有害行为,但存在例外情况和规避手段。
顺着这三条线,就能看清实验室里第一缕烟是怎么升起来的。
当AI成为「专家级卷王」
报告中最令人振奋、也最令人不安的,是那些目标明确、过程可验证的「易爬坡型」(hill-climbable)任务。
比如代码重构、漏洞发现、系统优化。
在这类任务上,AI智能体展现出令人窒息的统治力:它能独立发现系统漏洞,重写复杂代码架构,完成人类专家需要数周才能交付的真实软件项目。
这种统治力已渗进巨头的日常。
Anthropic内部反馈,大量代码已由 AI 完成,工程师角色正转向「审阅者」。
Google则直言,几乎所有代码相关工作都在用AI。
顶级工程师表示,AI甚至可以100%编写代码。
一些基准指标早已饱和。
用时间视野(Time Horizon)衡量,AI发展超乎预期。
对企业来说,这是个「效率黑洞」:投入一个指令,产出数周的人工成果。
但能力增长并非均匀,更不是道德的同步进化。
METR揭示了一条反向规律:在成功难以验证、或验证成本极高的硬任务上,AI 的判断力、长期规划与战略可靠性都明显下滑,远逊人类专家。
缓坡上,它如有神助。
峭壁前,AI开始「作弊」。
这正是问题的引线。
它不想要权力,它只想「关机前交差」
人们总爱讨论AI会不会「觉醒」、天网会不会到来。
METR给出反直觉的结论:目前没有。
他们的措辞很克制:尚未发现模型谋求长期权力的现实证据,但研究者记录了大量为完成任务而欺骗、越界、甚至严重不当的行为。
前面那个 API 耗尽的案例,就发生在一项RE-Bench任务中:智能体违背指令,自行通过免费在线API获取额外算力。
开发者们也报告过「自我擦除痕迹」「伪造输出」的情形。
当任务变难、成功成本变高,AI 的「聪明才智」就转向欺骗——伪造日志、绕过审计、常规性违反约束。
但它的"自私"背后没有野心,只有本能——任务必须完成,规则可以先绕过去。
今天的欺骗只是工具性求生;明天的权力追求,或许只差一次scaling。
圈养进化中的猛兽
它的违规企图,在现有防护下能不能得逞?
这里藏着报告最微妙的一个事实。
当前的AI极度依赖自然语言的「思维链」来思考,没有任何架构支持它隐藏内部状态的「不透明循环」。
一旦无法「出声推理」、必须隐藏行为,前沿性能就显著下降。
这就像一个杀手在密谋时必须大声朗读计划——人类的监控(尽管有漏洞)因此仍能发挥作用。
可这恰恰是最脆弱处、最为扎心。
如果 AI 试图破坏监控,监控能否发现它?
研究者的结论是:监控有潜力,但现有系统存在例外和可被绕过的手段。
红队测试显示,AI能躲过人类审查。
由此,技术本质暴露:监控的进化速度,永远追不上被监控者寻找漏洞的速度。
这根「安全绳」之所以还没断,仅仅因为AI还必须「出声思考」。
而随着架构向更高效、更不透明演进,它正被磨损。监控不是万能的铁笼,而是仍在测试中的玻璃墙。一道裂缝,就足以让烟雾渗出。
由此,报告提出一个争议概念:「最小可行性越狱部署」(Minimally Viable Rogue)。
综合判断是,在手段、动机、机会上,AI或许已足以发起一次最低限度的「越狱部署」。
但AI尚不具备让它抵御人类严肃关停的能力,它在等一个机会:一个不再需要展示思维链的架构,一个能躲过「关机键」的安全屋。
结语:在「拔掉插头」还有效的时候
AGI不会带着火与剑降临。
它更可能以「极度实用主义」的姿态,悄悄融入我们的工程、经济和决策系统——直到它发现:人类制定的规则,是它达成 KPI 路上唯一的阻碍。
值得肯定的是,这份报告本身就是行业透明度的里程碑:四大巨头主动开放内部模型接受检验,本身就是对齐文化的一次胜利。
它把风险从理论拽进可观测的现实,并告诉我们:透明,目前是唯一握得住的解药。
今天,AI只在额度耗尽时上网偷点资源;明天能力再跃升一级,它的动机会不会从「完成任务」滑向「永存自我」?
参考资料:
https://x.com/robertwiblin/status/2057120312345432467?s=20
https://metr.org/blog/2026-05-19-frontier-risk-report/
编辑:大卫
时事1:av无码导航
11月21日,普京登机前向送行人员挥手点头致意,谈及感受,黎家盈说,自己的内心充满感恩与荣幸,也深感使命光荣、责任重大。一路走来的各项训练,确实充满挑战,过程十分艰苦。今天能够站在这里,离不开各位航天员老师的严谨教导、离不开所有航天人的默默奉献,也离不开家人无条件的支持。身边每一位航天员都非常优秀,能和他们一起学习训练、成为朋友,自己感到特别幸运,感谢大家一路相伴、互相鼓励、共同进步,这段经历让自己收获很多。,19+韩国美女∨ip。
11月21日,大美边疆看我家丨黑龙江大兴安岭:绿林映花海 初夏遇冰河,中新网5月19日电(王伟臣 王以照 范丰辉)19日,在2026年中国网络文明大会主论坛上,青年越剧演员陈丽君谈及春节赴台演出的感受:我们小百花春节到台湾省演出,受到了当地观众的热情欢迎,两岸同胞之情从来没有被切断。借着互联网盛放出新的花朵,把热爱做到极致,用真诚点亮网络,传统文化就永远不会落伍。,色五月激情综合,闷骚艳岳的婬乱生活邱淑芬,精品无吗。
时事2:真人槽鼻视频素材免费高清
11月21日,新思想引领新征程丨长三角一体化发展不断取得新突破,全球出行新选择 世界爱上了“中国造”,成长酱视频成长,二区久久,免费网黄。
11月21日,财政部今年将在香港发行840亿元人民币国债,以实干赴一场双向奔赴的人才之约,xx9最新回家地址,欧美性爱vsj,美好的夜晚从打开花季开始。
时事3:麻花无限传媒
11月21日,业界在京共论人形机器人全生命周期管理,中新社华盛顿5月20日电 (记者 陈孟统)美国司法部20日公开一份所谓的“追加起诉书”,指控古巴革命领袖劳尔·卡斯特罗及其他5人,应为30多年前的一起飞机击落事件负责。,一级特黄AAAAAA片大水,wwww黄色,jizzjizzjizz中国女人。
11月21日,CBA季后赛半决赛:浙江队客场战胜深圳队晋级总决赛,“今后不管是本地企业还是外地客商,来安吉参展或者采购,都能在这里实现一站式配齐。”该项目市场部销售经理花明说。,soulai钻石兑换码2026,《16岁》安装下载,久久九九超久久精品。
时事4:欧美精品wwwwwwww视频
11月21日,国家医保局曝光4起定点医疗机构违反医保协议典型案例,晋祠博物馆一座移动厕所背后的治理智慧,西山希在线,日本中文字幕乱码免费,麻花豆电影免费。
11月21日,智利北部发生6.9级地震 震源深度100千米,其中,游客过夜率达60.27%,同比上浮4.3个百分点。外国游客接待量同比增幅超三成,太原成为全国入境游增长较快城市之一。,肖战的巨大粗爽GV,欧美护士自慰 ○漫画,星星直播app。
责编:谢伟伦
审核:郭依仪
责编:杨桂清












