字节 Seed 成立模型安全与对齐部门，全球招募 10 位研究员

字节跳动 Seed 团队新设模型安全与对齐部门，面向全球招聘 10 位顶尖研究员。研究课题包括大模型及 Agent 安全的评测方法与 Benchmark 建设、模型前沿能力对齐的训练方法、自动化 Red Teaming、模型行为可解释性以及能力和行为监控。文章指出国内模型安全研究进展慢于 OpenAI 和 Anthropic，而模型越狱、CBRN（化学、生物、放射性、核）风险与针对个人的内容攻击等隐患正随模型能力提升而加剧。