【纵横网】彭博社消息显示,阿里、腾讯、月之暗面近期推出的新一代大模型,均对网络进攻相关能力作出限制,同时保留、强化漏洞检测与防御能力。

阿里旗舰模型Qwen4-Max在训练数据中过滤了可用于网络攻击的内容,保留漏洞检测等防御场景能力,该版本暂不开放权重下载,无法部署无审查版本。此前Qwen系列曾是全球下载量最高的开放权重模型之一。腾讯Hy4正式版在上线前,剔除训练数据里漏洞利用相关内容,对模型网络安全能力设限。月之暗面Kimi K3.1 Pro在后训练阶段移除网络攻击相关素材,内部测试显示,过滤后模型漏洞利用基准得分降至81.0%,低于未过滤版本的90.5%。智谱在开放GLM-5.3权重前完成安全审查,并同步上报系统漏洞。
报道援引CrowdStrike报告,代号VAPOR PANDA的组织曾利用大模型配合工具框架,短时间内对多国两百余家机构实施网络入侵。腾讯首席AI科学家姚顺雨此前提示,模型的网络能力以及即将到来的生物相关能力,或将抵达具备现实危害的阈值。AI安全企业Fangcun AI创始人李晓健认为,剔除训练集中攻击类内容是权衡成本与效果的方案,但现阶段无法彻底消除AI安全风险。
政策层面,今年10月16日,商务部、科技部就修订《中国禁止出口限制出口技术目录》征求意见,拟将AI恶意代码生成、变异等23项AI相关技术纳入管制范围。11月初,国家发改委相关官员表示,将加快出台面向AI开发者的安全标准与伦理准则,推动安全前置嵌入模型开发流程。
编辑:林舟