加码AI风险管控：字节成立Seed模型对齐与风险准备专职部门

【纵横网】 10月13日，媒体从字节跳动获悉，字节大模型团队Seed下发内部通知，宣布组建全新部门，专职负责把控大模型安全风险。该部门命名为“Seed Model - Alignment &Preparedness（模型对齐与风险准备）”，由Seed核心高管严林负责，负责人直接向字节大模型业务一号位吴永辉汇报。

公开信息显示，严林长期在Seed团队负责大模型对齐（Alignment）相关工作，是该领域核心负责人。在AI领域，“对齐”指引导AI模型遵循人类真实意图，在安全约束范围内执行任务。落到产品层面，对齐能力直接决定豆包等对话大模型输出内容的合规水平、回答质量与价值取向，防范模型出现输出越界、目标偏离等风险。

本次新设独立安全对齐部门，原负责任人工智能团队以及部分对话模型研发人员将并入该部门。新部门将统筹模型规范制定、安全评估体系搭建、对齐训练、防护系统研发与全周期风险监控，同时还会针对智能体模型、化学、生物、放射、核等高阶潜在风险开展前置防控，并与外部科研机构、第三方评测机构开展合作。

AI行业分析师、北京三鼎科技有限公司总经理韩岳钢分析，随着大模型能力持续增强，特别是智能体应用加速落地，模型安全不再是附加合规环节，而是大模型规模化落地的基础能力。字节Seed单独设立独立部门，将对齐与风险准备提升至和模型研发同等层级，体现头部厂商对AI安全风险的重视升级。

韩岳钢表示，过往多数AI企业将模型安全、对齐工作放在整体安全合规体系内。字节将该板块独立成部、负责人直通大模型业务最高负责人，意味着安全对齐拥有更高决策优先级。未来大模型竞争，除了基础能力比拼，模型可控性、安全鲁棒性将成为重要的差异化指标。同时，独立部门也有利于系统化应对模型“越狱”、提示注入等新型安全挑战，提前应对前沿AI衍生的复杂风险。

编辑：周亦帆