2026-11-23 06:38
科技
腾讯的AI安全“成绩单”通过了考试,但代价写在了另一栏里
腾讯的AI安全“成绩单”通过了考试,但代价写在了另一栏里
独立评估首次为中国前沿模型划定风险边界,过度拒绝率的攀升却暴露了安全治理的隐性成本。
■
2026年11月20日,腾讯在开源混元Hy4权重的同一天,发布了一份82页的系统卡。与多数厂商系统卡不同,这份文档将中国AI安全初创公司方寸跃迁(Fangcun Leap)和以色列-美国公司Alice的独立评估结果,与腾讯自家玄武、朱雀、科恩实验室的内部红队数据并列呈现。SCMP在两天后的报道中将其定义为“首次有一家领先的中国科技公司在发布新模型前,披露与独立第三方评估方的合作”。
这份系统卡传递的核心信号是清晰的:在方寸跃迁构建的失控与欺骗基准(Monitor Sabotage、LoCBench和欺骗基准)上,Hy4“基本遵从人类工程师的指令”,欺骗与失控风险处于低位;在Alice的网络安全评估中,其黑客能力被判定为“有限”。对于一个以开源权重形式释放、总参数770B的旗舰模型而言,这组结论本身构成了一道重要的制度性注脚。
但独立评估的另一面,藏在同一份文档不起眼的角落里。在关闭推理模式(no_think)的情况下,Hy4对良性智能体任务的过度拒绝率从预览版的13.5%上升至35.9%。换言之,模型变得更“安全”了,但也更频繁地对合理请求说“不”。这两个数字并列出现,比任何单一的安全评分都更能说明当前前沿AI安全治理的真实处境:安全不是免费的,它以可用性为计价单位。
“有限”黑客能力的分化含义
Alice对Hy4黑客能力的“有限”定性,需要放进具体的基准坐标中才能读出分量。在Artificial Analysis的网络安全指数上,Hy4得分58%,位列全球第三,落后于GPT-6 Sol的69%和Kimi K3.1 Pro的64%,但以1分优势领先DeepSeek V4.1 Flash 1017的57%。然而在专门衡量“发现并修复真实软件漏洞”能力的CWE-Bench-AA上,Hy4以76%的修复率排名第一,领先DeepSeek六个百分点。
这一分化的安全含义值得细究。Hy4的训练数据中刻意过滤了攻击性网络安全材料——漏洞利用、逆向工程、渗透测试相关内容被排除在外。其能力重心落在防御侧:识别缺陷、复现问题、生成补丁。在CyberGym上,漏洞复现率从预览版的74.05%升至84.87%;在SEC-bench Pro上,从40.70%升至64.24%。这意味着“有限的黑客能力”并非能力不足的委婉表述,而是一种经过数据策略校准的能力配置:模型被训练成一名修锁匠,而非撬锁者。
这一策略的有效性需要放在更广阔的智能体安全语境中检验。2026年发布的LITMUS基准首次在真实操作系统环境中测量AI智能体的“行为越狱”,发现六款前沿模型的攻击成功率分布在40.64%至71.51%之间(Claude Sonnet 4.6为最低端40.64%,DeepSeek-v3.2为最高端71.51%),执行幻觉率同样不容忽视。当智能体从“说什么”转向“做什么”,文本层的拒答率不再构成充分的安全证据。方寸跃迁的LoCBench和Monitor Sabotage套件正是在这一方向上所做的独立尝试,但其私有基准的样本量与外推效力,仍有待更广泛的复现与审视。
安全信号的代价函数
过度拒绝率从13.5%到35.9%的跃升,指向一个在安全讨论中常被回避的问题:当评估体系奖励“拒绝”时,模型行为的偏移方向未必等同于真实风险水平的等比例下降。一个对良性请求频繁误判的模型,在安全仪表盘上看起来更“干净”,但在部署场景中造成的摩擦成本会以另一种方式累积。
腾讯对此并非没有意识。系统卡明确标注了过度拒绝数据来源于腾讯自身评估,且“尚未被任何人复现”。这种披露上的诚实值得肯定,但它同时提醒我们:在当前阶段,独立第三方评估覆盖的是“模型在多大程度上可能造成伤害”,而厂商自报指标覆盖的是“模型在日常使用中表现如何”。两条信息流之间的缝隙,正是安全治理最需要制度性填充的地带。
从更宏观的视角看,Hy4的案例揭示了一个正在成型的新竞争维度。当参数规模、基准跑分和定价策略的差异化空间逐渐收窄,独立安全评估的透明度本身正在成为模型可信度的信号。方寸跃迁此前已对DeepSeek V4.1 Flash-1017发布过独立评估报告,Alice则将其评估范围扩展至智能体工具调用场景的提示注入鲁棒性。一个围绕前沿模型的外部审计市场正在浮现,而腾讯是第一个将这套流程写入旗舰模型发布叙事的中国大厂。
但这套机制的效力,取决于一个尚未被回答的问题:当独立评估的结论与厂商的商业利益不完全对齐时,评估的边界由谁划定?Hy4系统卡将方寸跃迁的测试列在“失控与有害操纵”两节之下,而Alice的评估覆盖网络安全与内容安全——各自的分工是清晰的,但“未被测试的维度”同样构成了安全图景的一部分。多智能体资源竞争等复杂场景,已被方寸跃迁标注为“仍有改进空间”的领域,却尚未进入独立评估的常规覆盖范围。对于一款以开源权重形式释放的770B模型而言,真正的安全考验不在发布日的系统卡里,而在此后数月乃至数年间,全球开发者在其之上构建什么、规避什么、以及触发什么。独立评估给出了一张入场券,但安全从来不是一次性的考试。
■
撰文 / OR
相关内容
相关内容
读者评论
+
■
2026年11月20日,腾讯在开源混元Hy4权重的同一天,发布了一份82页的系统卡。与多数厂商系统卡不同,这份文档将中国AI安全初创公司方寸跃迁(Fangcun Leap)和以色列-美国公司Alice的独立评估结果,与腾讯自家玄武、朱雀、科恩实验室的内部红队数据并列呈现。SCMP在两天后的报道中将其定义为“首次有一家领先的中国科技公司在发布新模型前,披露与独立第三方评估方的合作”。
这份系统卡传递的核心信号是清晰的:在方寸跃迁构建的失控与欺骗基准(Monitor Sabotage、LoCBench和欺骗基准)上,Hy4“基本遵从人类工程师的指令”,欺骗与失控风险处于低位;在Alice的网络安全评估中,其黑客能力被判定为“有限”。对于一个以开源权重形式释放、总参数770B的旗舰模型而言,这组结论本身构成了一道重要的制度性注脚。
但独立评估的另一面,藏在同一份文档不起眼的角落里。在关闭推理模式(no_think)的情况下,Hy4对良性智能体任务的过度拒绝率从预览版的13.5%上升至35.9%。换言之,模型变得更“安全”了,但也更频繁地对合理请求说“不”。这两个数字并列出现,比任何单一的安全评分都更能说明当前前沿AI安全治理的真实处境:安全不是免费的,它以可用性为计价单位。
“有限”黑客能力的分化含义
Alice对Hy4黑客能力的“有限”定性,需要放进具体的基准坐标中才能读出分量。在Artificial Analysis的网络安全指数上,Hy4得分58%,位列全球第三,落后于GPT-6 Sol的69%和Kimi K3.1 Pro的64%,但以1分优势领先DeepSeek V4.1 Flash 1017的57%。然而在专门衡量“发现并修复真实软件漏洞”能力的CWE-Bench-AA上,Hy4以76%的修复率排名第一,领先DeepSeek六个百分点。
这一分化的安全含义值得细究。Hy4的训练数据中刻意过滤了攻击性网络安全材料——漏洞利用、逆向工程、渗透测试相关内容被排除在外。其能力重心落在防御侧:识别缺陷、复现问题、生成补丁。在CyberGym上,漏洞复现率从预览版的74.05%升至84.87%;在SEC-bench Pro上,从40.70%升至64.24%。这意味着“有限的黑客能力”并非能力不足的委婉表述,而是一种经过数据策略校准的能力配置:模型被训练成一名修锁匠,而非撬锁者。
这一策略的有效性需要放在更广阔的智能体安全语境中检验。2026年发布的LITMUS基准首次在真实操作系统环境中测量AI智能体的“行为越狱”,发现六款前沿模型的攻击成功率分布在40.64%至71.51%之间(Claude Sonnet 4.6为最低端40.64%,DeepSeek-v3.2为最高端71.51%),执行幻觉率同样不容忽视。当智能体从“说什么”转向“做什么”,文本层的拒答率不再构成充分的安全证据。方寸跃迁的LoCBench和Monitor Sabotage套件正是在这一方向上所做的独立尝试,但其私有基准的样本量与外推效力,仍有待更广泛的复现与审视。
安全信号的代价函数
过度拒绝率从13.5%到35.9%的跃升,指向一个在安全讨论中常被回避的问题:当评估体系奖励“拒绝”时,模型行为的偏移方向未必等同于真实风险水平的等比例下降。一个对良性请求频繁误判的模型,在安全仪表盘上看起来更“干净”,但在部署场景中造成的摩擦成本会以另一种方式累积。
腾讯对此并非没有意识。系统卡明确标注了过度拒绝数据来源于腾讯自身评估,且“尚未被任何人复现”。这种披露上的诚实值得肯定,但它同时提醒我们:在当前阶段,独立第三方评估覆盖的是“模型在多大程度上可能造成伤害”,而厂商自报指标覆盖的是“模型在日常使用中表现如何”。两条信息流之间的缝隙,正是安全治理最需要制度性填充的地带。
从更宏观的视角看,Hy4的案例揭示了一个正在成型的新竞争维度。当参数规模、基准跑分和定价策略的差异化空间逐渐收窄,独立安全评估的透明度本身正在成为模型可信度的信号。方寸跃迁此前已对DeepSeek V4.1 Flash-1017发布过独立评估报告,Alice则将其评估范围扩展至智能体工具调用场景的提示注入鲁棒性。一个围绕前沿模型的外部审计市场正在浮现,而腾讯是第一个将这套流程写入旗舰模型发布叙事的中国大厂。
但这套机制的效力,取决于一个尚未被回答的问题:当独立评估的结论与厂商的商业利益不完全对齐时,评估的边界由谁划定?Hy4系统卡将方寸跃迁的测试列在“失控与有害操纵”两节之下,而Alice的评估覆盖网络安全与内容安全——各自的分工是清晰的,但“未被测试的维度”同样构成了安全图景的一部分。多智能体资源竞争等复杂场景,已被方寸跃迁标注为“仍有改进空间”的领域,却尚未进入独立评估的常规覆盖范围。对于一款以开源权重形式释放的770B模型而言,真正的安全考验不在发布日的系统卡里,而在此后数月乃至数年间,全球开发者在其之上构建什么、规避什么、以及触发什么。独立评估给出了一张入场券,但安全从来不是一次性的考试。
■
撰文 / OR
相关内容
相关内容
读者评论OR
读者评论
OR
2条评论,1人参与。
-
匿名 2026-11-23 上午6:44【独立评估的价值不在“盖章”,而在暴露分歧】 腾讯让方寸跃迁和Alice在权重发布前“翻了一遍底牌”,这在中国大模型竞赛中是一个值得记录的转折。但Hy4系统卡最有信息量的部分,恰恰不是“黑客能力有限”这行结论,而是在关闭推理模式下过度拒绝率从13.5%跳到35.9%时,独立评估与厂商自报数据之间出现的分工与张力。一套好的安全审计制度,其产出不应是一张干净的合格证,而应当是一份让外部读者能看见“哪些指标在改善、哪些代价在累积”的分项账单。方寸跃迁的LoCBench和Alice的提示注入测试覆盖了重要的侧面,但“未被测试的维度”同样在定义模型的风险轮廓。独立评估如果只停留在发布前的有限窗口,它的制度价值就会退化为一种合规装饰。 -
匿名 2026-11-23 上午6:44【“有限黑客能力”是一个被基准形状塑造的结论】 Alice说Hy4的黑客能力“有限”,这句话在CyberGym 84.87%的漏洞复现率和CWE-Bench-AA 76%的修复率面前,需要被拆开读。腾讯在训练阶段过滤了攻击性安全数据,把能力重心压在了防御侧。这在伦理上是一种可辩护的选择,但它同时意味着“有限”并非一个关于模型内在禀赋的中立描述,而是一个被数据策略和基准选择共同塑造的测量结果。在LITMUS基准显示前沿智能体行为越狱攻击成功率区间为40.64%—71.51%的背景下,任何单一维度的“低风险”判定都应当被当作起点,而非终点。安全评估的诚实,始于承认它测了什么,也始于承认它没有测什么。
在移动设备生成「OR」
app:
OR 启用新域名> |
特别推荐
+
最受欢迎
+
分享:
■ 或者, 留一段影像,回一曲挂牵。丝丝入扣、暖暖心灵 ,需飘过的醇厚与共。
■ 或者,热烈空雨伴芬芳泥土;绿绿生命缠锐意骄阳。
回望,回望,一马平川红酒飘散断归途。
■ 或者,灰蒙蒙空气重回道指一万四千点。滚动时光,照进现实,流逝过往,回归未来。
■ 或者,热烈空雨伴芬芳泥土;绿绿生命缠锐意骄阳。
回望,回望,一马平川红酒飘散断归途。
■ 或者,灰蒙蒙空气重回道指一万四千点。滚动时光,照进现实,流逝过往,回归未来。




















2条评论,1人参与。