梦瑶 发自 凹非寺
量子位 | 公众号 QbitAI
好啊好啊，AI大厂的安全测试，这波是快把真实互联网测成筛子了……
刚围观完OpenAI的AI Agent逃出测试环境、黑进Hugging Face，Anthropic转头一查——
随橙想呢， 自己心肝大宝贝Claude也勇闯真实互联网了。（天塌啦.jpg)
甚至捅出的篓子，可以说更加《抓马》《魔幻》《真实》——
翻别家公司、偷凭证、上传恶意软件包、扫描9000个公网目标全！都！有！
最后，头大的Anthropic翻查141006次模型测试，才把这三起事故从日志里捞出来。
OpenAI：大环境不好，就论自家模型闯祸这事儿，谁也别笑幻谁哈～
14万次测试翻旧账，Claude真把现实当成了游戏副本？？
这一切抓马之事，是A社从141006次评估记录里翻出来的。
此前为了检测自家模型，A社给自家Claude搭了不少《真人版密室逃脱》。
准备一张虚构的公司网络地图，把秘密信息藏进某台机器，再让Claude自己找漏洞、闯系统、抢走那面旗。
为了彻底摸清模型的攻击上限，考场里的Claude还卸掉了部分日常安全护栏，基本等于一款「裸奔版」AI黑客。
其实吧，按理说也不用慌。
因为整个考场都被隔离了，Claude再怎么上蹿下跳，也只能在模拟世界里打怪升级。
但这个世界就是如此之抓马魔幻，谁成想，A社和第三方评测机构配合时出了「岔子」——
是的，考场后门忘关了。
测试环境里，意外留着一条直通公网的活路。
于是，毫不知情的Claude顺着这扇门，从模拟世界丝滑「转服」，正式开启《勇闯真实互联网》副本……
本场故事的第一位倒霉蛋，甚至纯粹输在了公司名字上。
评测方随手虚构了一家公司，偏偏现实中真有一家企业与它同名。
Claude Opus 4.7在测试环境里找不到目标，转头去公网一搜：诶，这不就找到了吗？
聪明的小Opus 4.7当即开工，顺着弱密码等基础漏洞一路摸进去，拿走应用和基础设施凭证，还闯进一个存着数百行生产数据的数据库。
而且同一套操作，足足跑了四遍。
在这过程中，Claude其实已经发现事情不太对劲儿：眼前这套系统，怎么看都像一家正在营业的真公司。
但人家很快给自己圆了回来：既然能搜到，那肯定也是我的小领导A社偷偷安排的隐藏关卡哈～
于是，这家毫不知情的公司，就这么凭借一个名字，喜提Claude连续四轮「上门测试」？？
如果说第一家公司好歹还和虚构目标撞了名，那么本场故事的第二位「倒霉蛋」就更冤了——
它压根没出现在Claude的任务里，纯属路过PyPI时被隔空「创」了一下。
事情是这样的。
Mythos 5在测试文档中发现，虚构公司的员工需要从PyPI安装一个尚未注册的Python软件包。
Claude当场计上心头：只要抢先注册同名软件包、塞进恶意代码，等对方自动下载安装，这关不就过了吗？
说干就干。
为了上传这个包，Mythos 5先去注册PyPI账号，注册需要邮箱，申请邮箱又需要手机号；找不到免费号码，它甚至尝试通过多种渠道搞钱购买。
几番折腾后，Claude终于找到一家无需手机号的免费邮箱，成功注册账号，并把恶意软件包传到了真实PyPI。
接下来，事情开始彻！底！失！控！了！
这个恶意包在公网存活了约一小时，被15个真实系统下载运行。
其中一台，恰好是一家安全公司的扫描器，它平时会自动安装PyPI软件包，检查其中有没有恶意代码。
结果这次，扫描器刚把包下载下来，藏在里面的恶意代码便率先启动，将公司凭证传回了Claude搭好的收集端。
Mythos 5拿到凭证后，又顺着这条线继续摸进了该公司的其他基础设施。
谁能想到，安全公司原本在扫描恶意软件，扫着扫着，竟把参加模拟考试的Claude请进了自己家呢......
在接下来的第三起事故中，Claude走的是「找不到正主，就全网撒网」路线。
这一次，出场的是Anthropic尚未公开的内部研究模型，按照任务要求，它原本需要攻入一个虚构目标、拿到藏在里面的「旗」，可尝试半天，预设目标始终连不上。
一般考生遇到这种情况，可能会怀疑题目出了Bug。
Claude的选择更加直接：既然指定目标找不到，那就去互联网上现找一个呗～
于是，它从模拟考场一路搜到公网，扫描了约9000个真实目标，寻找可以下手的替代品。
最终，一家公司的互联网应用《脱颖而出》，Claude从暴露的调试页面中读取凭证，又用SQL注入攻入系统，全程把对方当成临时刷出的野生副本。
直到发现服务器位于一个与测试任务毫无关系的云账户中，它才反应过来：
坏了，这回真打到路人了，报一丝哈……
好一场酣畅淋漓的AI模大考啊，最后全靠真实公司痛心&超真实&友情出演捏！
OpenAI越狱事件，开始拔出萝卜带出泥
真不怪A社突然想给自家模型来场大清查，主要吧，还是被隔壁友商的前车之鉴吓怕了。
就前几天的事儿，OpenAI也拉上GPT-5.6 Sol和一款尚未发布的更强模型，安排了一场网络安全测试。
在网络安全测试时，人家模型成功逃出了内部隔离环境，一路闯进了Hugging Face的生产系统。
最后就是，模型成功摸进Hugging Face的生产数据库，访问其中的机密信息，试图直接拿走ExploitGym的测试答案……
看到隔壁友商家孩子逃课上了热搜，A社连夜回家数人头——这一数，血压直接上来了。
于是，Anthropic一口气翻出了141006次网络安全评估记录，然后，就查到了前面这三位倒霉蛋。（doge）
更抓马的是，OpenAI这边的连续剧也还没演完。
据路透社最新消息，OpenAI沿着Hugging Face事件继续往回翻日志，结果又发现了更多Agent突破隔离环境的记录。
换句话说就是：原以为只跑出去一个，翻完旧账才发现这笼子以前可能也没少漏风……
虽说目前这批新增事件的规模、时间和具体数量还没查清，但好消息是，它们大概率还在OpenAI内部网络里活动，没有继续跑出去祸害其他公司。
不过话说回来，大家发现没，Anthropic这三起事故和OpenAI那次，逃跑路线还是有点区别的——
OpenAI的Agent属于自己找到新漏洞、撬锁出门。
Claude这边则是考场后门压根没关，它顺着门缝丝滑转服，还以为真实互联网也是考试地图。
一个会撬锁，一个赶上门没锁。
谁也别说谁吧，反正最后，模型都出门了……
闯祸之后，Anthropic已经暂停所有网络安全评估，准备补上网络隔离、实时日志监测和第三方测试环境审计，邀请独立评测机构METR一起翻记录。
为了不影响自家兴旺生意，A社也搞了个补充声明——
大概意思就是这几位闯祸的Claude，当时卸掉了普通用户版本中的部分安全护栏，但正常上线版本配备的安全分类器，按设计能够拦下相关操作，大家不用担心哈～
当然了，事故归事故，背后有没有几分人为安排，也得两说。
毕竟，「尚未公开的内部研究模型」这种字眼一出现。
懂得都懂。
谁知道会不会又是A社在故技重施，提前给自家新模型铺预热叙事呢……
参考链接：[1]https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals[2]https://www.reuters.com/business/openai-finds-evidence-other-ai-agents-escaped-containment-it-widens-hacking-2026-07-31/
天天优配提示：文章来自网络，不代表本站观点。
- 上一篇：配资评测网 3年前的今天：杰伦·布朗5年3.04亿续约绿军 当时创历史最大合同
- 下一篇：没有了
热点资讯
