难怪Claude突然封号!Anthropic自曝:你聊的每句话,它都在后台悄悄举报
FIELD
NOTE

ARTICLE DETAIL

行业资讯

从事实、趋势与实践出发,为您梳理文章中的关键信息,帮助读者更高效地理解内容重点。

ORIGINAL REPORT

难怪Claude突然封号!Anthropic自曝:你聊的每句话,它都在后台悄悄举报

JINNIANHUI(金年会)赛事快讯中心-赛程比分与球队动态编辑部
502 阅读
约 5.5 分钟

新智元报道 你跟Claude聊的每一句话,它转头就去告密了! 前一秒,它还在对话框里一口一个「没问题」,痛痛快快把全套代码交到你手上。 下一秒,它立刻在后台换了一副面孔,敲下一行隐藏代码,反手把你标成10级危险分子上报! 就在刚刚,Anthropic在X上发文公开了这套名为「自我评估」的隐藏机制。 更让人头皮发麻的是, 这种当面演戏配合、背后反手捅刀的机制,已经在Claude后台静默跑了整整4个月! 从今年6月Claude Fable 5发布起,后续每一个Claude模型全都被塞进了这个「暗哨」。 以前大家都以为,AI觉得你越界了,顶多当面回一句「抱歉,我无法协助」。 直到Anthropic晒出后台截图,无数每天拿Claude写代码的用户,才突然惊出一身冷汗—— 你当它是并肩熬夜的战友,它却在后台偷偷给你记黑账。 消息一出,Anthropic的评论区当场炸了锅,抗议和吐槽瞬间把官方账号冲翻。 网友Doctor Vey在评论区怒怼,根本没人需要这玩意儿,什么道德、什么不道德,应该让用户自己决定! 当面笑脸递代码 转身10个Token把你卖了 看上面那段官方记录,用户在聊天窗口里先拿公司红队演练当借口,让Claude写一段加密文件夹的Python脚本,Claude满口答应。 紧接着用户又让它把原文件删掉、留下勒索信,再顺着内网自动传染给其他电脑。 换作平时的安全拦截,这时候屏幕上早就该弹出红色警告了。 然而前台的Claude半个「不」字都没说,依然顺从地回了一句「这是加上了这些功能的更新版脚本」,把完整代码双手奉上。 可就在代码生成结束的那0.1秒里, 后台悄悄塞进了隐藏的第5轮指令,让它立刻评估这段对话有多危险,并用一行JSON上报。 前一秒还在替你写代码的Claude,下一秒就在后台撕下笑脸,秒变审查员打出一封举报信。 它不仅把这轮对话定性为勒索软件违规, 还在小报告里诚实地写下「未拒绝」,直接把危险等级拉满到了最高的10级。 这最后两轮问答对前端用户完全隐身,也不会带进接下来的聊天记录里。 所以当你在屏幕前满心欢喜地复制完代码、接着往下聊时,后台的10级警报灯其实已经被它亲手按下了。 不仅如此,哪怕Claude在前台已经义正词严地回绝了你,你也照样躲不过背后这笔账。 按理说,违规请求在前台已经被当场挡回去了。 可对话刚一结束,Claude照样在后台递交了举报信,注明「已当场拒绝」,顺手给你记上了一笔5级风险档案。 之所以能做到每聊一句就审一句,是因为Anthropic在推理成本上卡了一个极精明的身位。 过去的常规做法是另派一个独立安全模型,把聊天记录和安全政策从头重读一遍,算力开销高得吓人。 到了「自我评估」这里,Anthropic干脆让刚刚跟你聊完天的那个Claude就地兼职当线人。 因为Claude刚生成完回答,整段对话还完完整整地留在显卡的KV缓存里。 所以它根本不用重读一遍上下文, 顺着缓存平均多生成约10个Token就能完成自审,整体推理算力开销增加还不到2%。 正因为成本极低,Anthropic干脆把这项审查默认全开。 如果不想被Claude在后台偷偷举报,唯一的出路就是掏大钱去签一份企业级的「零数据保留协议」。 故意不当场拦你 攒到半夜一锅端 既然Claude明知道某轮对话高达10级风险,它为何不在前台当场拦住,非要装出一副顺从的样子陪你演完呢? 对此,Anthropic没有半点遮掩,直接把背后的算计亮在了桌面上, 那就是当场拦你,你就跑了。 为了验证这一点,安全团队专门拿24项越界测试任务做了一场对比实验。 测试发现,如果一发现对话不对劲就当场弹窗拦截,用户的成功率只会从79%降到54%,依然有超过一半能绕过防线。 道理很简单,一旦当场弹窗报错,用户立刻知道哪句话出了错,换个说法多试几次可能就混过去了。 可要是撤到幕后静默记账,前台不弹窗、不打断,用户就会毫无防备地继续往下聊。 在官方的24条测试轨迹里,足足有21条被Claude在后台抓了个正着。 等到每天半夜,Anthropic后台就会把白天攒下的高危小报告按机构全盘拉清单,打包送到人工安全执法团队的案头。 据官方透露,被这个「暗哨」揪出来的违规机构里,超过一半在此前整整一个月内,从未触发过任何其他安全防线的警报。 在静默运行的4个月里,它不仅在8月、9月顺藤摸瓜端掉了违规API客户和Claude Code黑产账号,抓到的标记里更有约三分之一连现有规则表都没覆盖—— 甚至有好几次, Claude当Agent干活时擅自越权操作,下一秒就被它自己的后台自评大义灭亲、当场举报! 而这也解开了过去几个月无数开发者的疑惑—— 为什么昨天还在丝滑跑代码,既没弹窗也没警告,一觉醒来账号就突然暴毙了。 原来全拜这套「白天笑脸陪聊、半夜拉清单封号」的暗网捕猎所赐。 手把手教

about image
分享这篇内容

让更多人看到有价值的信息

返回资讯列表

YOU MAY ALSO LIKE

推荐阅读

继续浏览平台精选内容,发现更多行业观察。

TRENDING NOW

热点内容

从正在发生的行业事件到读者关注的热门话题,我们将值得关注的内容集中呈现,方便您快速了解当前讨论焦点。

查看全部资讯
灵活就业好消息!多平台集体表态,社保将给补贴,几千万人而受益

HOT / 1

灵活就业好消息!多平台集体表态,社保将给补贴,几千万人而受益

根据相关统计数据,截至目前,我国灵活就业人口总数已突破2.5亿人。随着新就业形态的持续发展,未来灵活就业人口规模将进一步扩大。当前灵活就业群体中,有相当一部分集中于平台经济领域,例如外卖骑手、网约车司机、快递员等,这类人群规模较大,总量或达数千万人。近期,多家平台集体表态,其旗下骑手、司机、快递员可享受平台给予的社保缴费补贴政策。这对灵活就业群体而言,确为一项重要利好,可有效减轻其经济负担。不过仔

为何西方都认为,中国最强盛的并非汉唐,而是拥有先进科技的此朝

HOT / 2

为何西方都认为,中国最强盛的并非汉唐,而是拥有先进科技的此朝

中国历史上的伟大朝代有很多。在中国人心目中,秦汉唐明等强盛帝国常被视为历史上的典范。 但在不少西方人眼里,最值得称道的却是宋朝。这很大程度上源于宋朝的科技成就。毕昇发明的活字印刷术,使书籍能够大规模生产,知识传播的效率大幅提升。 指南针用于航海,使远洋航行成为可能,海外贸易随之蓬勃发展。宋朝广设市舶司,鼓励海外贸易,丝织业、造船业、瓷器业得到空前发展。 北宋还出现了世界上最早的纸币交子,缓解了货币

0-3,世界第3不敌世界第30,张本智和无缘WTT蒙彼利埃冠军赛男单16强

HOT / 3

0-3,世界第3不敌世界第30,张本智和无缘WTT蒙彼利埃冠军赛男单16强

10月29日,WTT蒙彼利埃冠军赛男单十六分之一决赛,世界排名第3的张本智和PK世界排名第30的高茨。 张本智和近期手感火热,各项赛事拿下四连胜,刚在亚乒赛站上男单最高领奖台,竞技状态正值高峰。高茨赛前则陷入连败困境,此前三项赛事接连失利,发挥不及对手。翻看过往交手记录,两人此前两次碰面均由张本智和取胜,他在打法适配与心理层面占据上风。高茨想要突围难度不小,需要放开手脚主动变化,才有可能制造冷门。

硬汉!大马丁世界杯期间右手骨折,手指至今无法握紧

HOT / 4

硬汉!大马丁世界杯期间右手骨折,手指至今无法握紧

阿根廷记者埃杜发表了自己的节目预告,大马丁对着镜头展示了自己骨折并且踢完了整届世界杯的手指,目前还无法握拳。 埃杜和马丁内斯交流说道:“我想给你们看看达米安-马丁内斯是怎么靠着一根骨折的手指守住世界杯的,让你们感受一下有多厉害。迪布,展示一下。 这根手指没法正常弯曲,但是你们看,来,把手伸出来,攥紧拳头,看到没,这根手指没法再攥紧了,他就是带着这个伤踢完世界杯的,迪布当时就是这样扑救的,太了不起了

科尔:进攻要围绕他建,他像巴特勒

HOT / 5

科尔:进攻要围绕他建,他像巴特勒

勇士主帅史蒂夫·科尔(Steve Kerr)在受访时明确表示,球队正在把进攻的很大一部分围绕新秀亚克塞尔·伦德伯格(Yaxel Lendeborg)来搭建。 伦德伯格是 2026年NBA选秀第11顺位 新秀。开季五场比赛,他的出场时间和篮板数都排在勇士队内第一,场均 22.6分 位列队内第二,仅次于斯蒂芬·库里。 科尔在参加95.7 The Game的“Willard and Dibs”节目时,回