进入主要内容

Anthropic 把自己的“漏洞猎手”AI 借给医院:这是好消息吗?


十六年。这是一个潜伏在 FFmpeg 里的 bug 的年龄,FFmpeg 是我们在 VLC 和一大堆播放你视频的应用里都能找到的免费音视频引擎。测试机器人让陷阱视频通过这段代码五百万次,却什么也没发现。这是 Anthropic 的 AI,Claude Mythos,在今年春天找出来的。从 10 月 6 日起,这个 AI 不再只供 Apple、Google 和 Microsoft 使用:Anthropic 向小型医院、各地市政供水机构以及维护开源软件的志愿者开放了它。说真的,这是我这周读到的最棒的消息之一!

在一家小型医院的技术地下室里,一名穿着工作服的中年技术员和一个白色小机器人打着手电筒一起检查管道和电缆,机器人用手指指出了一处技术员没看到的小漏水

医院技术员刚刚迎来了一位同事。他不用喝咖啡休息

一个十六年的 bug,还有一个二十七年的

让我们稍微回顾一下过去。四月,Anthropic 发布了 Mythos,这个模型寻找漏洞的本事强到让它拒绝把模型拿出来卖。漏洞,就是软件里让某人进入本不该进入的地方的错误。Anthropic 没有出售 Mythos,而是把它借给大约四十家大型机构,组成一个叫 Project Glasswing 的俱乐部,让它们在黑客找到漏洞之前把洞堵上。

Mythos 马上就挖出了狠货。FFmpeg 的 bug,根据专业媒体转载的一份分析,它在 2003 年就被塞进了代码里。还有 OpenBSD 里一个二十七年的 bug,OpenBSD 被认为是全世界最安全的系统之一,经常装在防火墙上,也就是那些过滤所有进入企业网络内容的盒子里。只要向那台机器发起连接,就足以让它从远程崩溃。二十七年来,专家们一直在重新检查这段代码!我读到这里时心想:“他们这段时间到底在干什么?”嗯,他们像人类一样在寻找,而人会疲劳,会漏看一行,会去喝杯咖啡。

桌上放着一台正在播放视频的笔记本电脑,旁边是一个插着十六根点燃蜡烛的生日蛋糕,蛋糕顶上还放着一只戴着派对帽的小甲虫,一只真正的 bug,看起来对自己的生日非常满意

生日快乐,小 bug。这是最后一个

四个月里发现 129,000 个漏洞

Anthropic 随公告发布的数字让人头晕:四月至七月之间,俱乐部成员发现了至少 129,000 个经过验证的漏洞。其中超过 33,000 个被列为严重或危急漏洞,也就是说,黑客可以利用它们控制一台机器或窃取数据。Anthropic 还在仔细检查开源软件时,自己另外发现了 5,500 个漏洞,开源软件就是那些代码公开、所有人都在不知不觉中使用的软件。

得说清楚,这些是企业数字。它们只来自 33 家合作伙伴的报告,Anthropic 声称真实总数至少高出五倍。我愿意相信,但我没有任何办法核实。可以确定的是,成千上万个漏洞正在你使用的软件里被堵上。这才是实实在在的东西!

谁有资格得到什么

Glasswing 俱乐部消失了,融入了一个更大的三层计划,而第一层,也就是开放程度最高的一层,Anthropic 称之为 Defense Access,面向企业、协会、大学和行政机构的安全团队,但尤其是,而且公告里白纸黑字写着,“任何规模的关键基础设施管理者,比如地区医院或市政供水机构”,以及小型安全公司、维护开源软件的志愿者,还有已经报告过漏洞的研究人员。你没看错:志愿者!恰恰是这些人从来没有钱养一支十人专家团队。

第二层留给那些收钱攻击网络、并得到网络所有者同意的企业,目的是看看网络能不能扛住。第三层,也是自由度最高的一层,留给少数测试那些一旦宕机就会造成巨大损失的系统的机构:飞机、电网、银行之间的转账。这些机构由美国政府参与筛选。

为什么不是所有人都有资格

因为能找到漏洞并把它堵上的工具,也知道怎么找到漏洞并闯进去。Anthropic 发布了一项测试,很好地说明了这一点:五十项模拟攻击任务。使用普通账号时,Claude 从第一个问题开始就全部拒绝。使用“防御”权限时,它在 50 项中仍拒绝了 46 项。使用“允许攻击”权限时,它一项也不再拒绝,而 Claude Opus 5.5 成功完成了 50 项中的 34 项。和完全没有任何保护时一模一样。

在一家老式五金店的柜台前,一名穿灰色工作服的店员仔细查看一位顾客递来的职业证件,然后把一大串放在柜台上的钥匙交给他,旁边的牌子写着“出示证件后”

万能钥匙,就在柜台后面。还得出示证件

这和上周 Google 对 Gemini 4 Argon 所采用的逻辑一样,它同样只提供给防御者。就在 Anthropic 发布消息的同一天,Mistral 却采取了完全相反的做法:它的新模型 Mistral Large 4 在一项安全测试中取得了创纪录的分数,Claude 和 GPT 因为拒绝执行几乎拿了零分,而它会在十月底让任何人下载。就在同一个星期二,出现了两种哲学。对我来说,这次 Anthropic 是对的:这样的工具,就该在出示证件后借出去。

这对你有什么改变

管理你所在市镇供水的机构,你带孩子去急诊的医院,你的网络盒子在不告诉你的情况下使用的那个小型开源软件:这些正是黑客最喜欢的目标,因为它们很重要,却防守不严。从现在起,他们可以让一种 AI 重新检查自己的系统,而这款 AI 找到了一个存在了二十七年的漏洞,专家们在那里什么也没发现。这不会让任何东西变得坚不可摧。但它会把优势移到防守者这一边,而这种情况可不常见!

而你只有一个角色,而且很简单:安装更新。所有这些被堵上的漏洞,都会以一条通知的形式来到你这里,而你把它留到明天再处理。黑客们却现在会在不到 24 小时内利用一个漏洞,这是 Microsoft 测量出来的。一项等了三周的更新,就是有人已经修好的一扇门,而你却让它开着。

前后并排对比:左边是一部放在架子上的智能手机,积满灰尘和蛛网,屏幕上显示着一条被忽略的“有可用更新”通知,标签写着“之前:三周后”;右边是同一部干净的手机握在一只手里,一根手指正按下“安装”按钮,标签写着“之后:十秒钟”

左边,是三周的“我今晚会弄”。右边,是十秒钟

我的看法

我相当支持,而且不是勉强支持。多年来,信息安全一直是有钱人的运动:银行有自己的专家,地区医院有一个忙得不可开交的 IT 人员,还有一台总是卡纸的打印机。现在,这个忙得不可开交的 IT 人员拿到了和银行一样的工具。

不过还是有两个保留意见。要加入这个项目,就得接受 Anthropic 保存对话,以确认没有人滥用这个工具。对于一家让它分析自身系统的医院来说,这可不是小事。而且,是 Anthropic 这家私营企业决定谁是好人。目前看来它的选择对我来说不错,但门卫终究还是门卫。

还有,给我所在地区医院的那位 IT 人员,如果你在读这篇文章:去报名吧,项目页面在这里。黑客们可没等着我们给他们开门!

来源

文章在 Claude Code 的帮助下写成,由我审阅和修正。

加入对话

您必须拥有一个账户才能评论这篇文章。注册免费,耗时不到一分钟。

  • 每天免费下载的 XMLTV 文件
  • 评论文章并回复其他读者
  • 通过电子邮件获知您关注的新文章

目前没有评论。

Une erreur s'est produite. Cette application peut ne plus répondre jusqu'à ce qu'elle soit rechargée.Veuillez contacter l'auteur. Reload 🗙