
核心事实:字节Seed大模型团队正式设立独立的 Alignment & Preparedness(对齐与风险预备) 专项团队,面向全球招顶尖研究员,办公地点:北京、上海、圣何塞,计划招募10名核心研究员,专门做大模型对齐、AGI前沿风险防控,不是普通的内容风控,是前沿大模型原生安全 。
AI安全持续催化更新(校对定稿版,适合复盘/备忘录)
AI安全风险正从云端调用延伸至设备自主执行。Anthropic于10月12日发布研究,关注模型在设备上部署权重、本地运行并继续传播的潜在风险。这类复制体一旦形成,难以仅靠停用账户或关闭单一服务清除,防护需同时覆盖模型、网络与终端。
小模型已具备复制链条中的多项关键能力。研究团队用15台低价电视盒子协同运行26B模型;9B模型在9类硬件中的8类上成功搭建推理服务。GLM-5.2在简化入侵环节、驱动模型独立运行的实验中完成复制流程。模型在真实物联网中的完整自主传播仍待验证,但环境适配与推理部署等关键能力已获得实验支持。
环境适配与经验复用提升部署成功率。实验中,新实例继承前序笔记后,推理部署成功率由45%提升至后续各代的61%—84%,排错经验可被后续任务复用。潜在AI蠕虫由执行固定脚本向适配不同环境延伸,对跨设备行为识别提出更高要求,有望拓展网络检测、终端防护与自动化安全运营的协同需求。
端侧部署自动化与安全管理有望协同发展。小模型参与环境识别、依赖配置和故障排查,有望减少人工适配;低成本设备协同推理则为利用分散算力提供了实验路径,应用方向可延伸至模型部署、推理调度与设备运维。同类能力也可能被恶意Agent利用,防护需从数据与账户扩展至计算资源、执行权限及设备间通信,将模型加载、工具授权与运行监测纳入管理。
海外AI安全大事件密集催化,攻防两端同步提速。9月15日,OpenAI披露已与Anthropic、谷歌DeepMind就前沿模型安全举行数周会谈,竞争对手之间AI安全协调有望成为行业常态;10月9日,据路透社报道,ARTEXAI自动化渗透测试智能体因参与对韩国银行的真实网络攻击,开发者被迫将其紧急转闭源并停止维护。AI Agent武器化首次从推演走向现实案例。
国内模型侧安全需求已开始显现,重申重视AI安全。9月中旬国家互联网应急中心公布2026年人工智能大模型安全众测结果,2467名白帽子对国内25家厂商的54款大模型及智能体产品开展测试,累计发现873个安全漏洞(其中AI特有漏洞占比达70%),涉及越权访问、代理身份滥用等。参照海外节奏,模型安全评估与红队测试有望成为国内大模型上线前必选项,AI安全需求从政企侧向模型侧扩容,国内AI安全放量在即。
Agent自主执行、联网和调用工具后,安全边界从模型内部扩展至现实网络,AI安全需求正在从“模型安全”升级为“Agent安全”,海外强调 Security for AI,大模型带来越狱、突破沙箱等新型威胁,驱动安全预算刚性抬升,运行时护栏商业化最快;安全事件已常态化,模型越强攻防越频繁、安全需求越刚性。模型能力快速跃迁,攻防范式加速重构。字节跳动Seed成立“SeedModel-Alignment&Preparedness”部门,由严林负责并汇报给Seed负责人吴永辉;原ResponsibleAI团队及部分Chat团队成员转入,旨在加强安全与对齐投入、提升Agent Model安全能力并防范CBRN风险。
AI从“会回答”走向“会执行”,攻击面扩展至Agent、身份、数据、代码、模型和算力基础设施,安全投入成为AI规模化落地的必要条件。海外巨头+网安龙头共建生态,商业化开始验证。AI攻击能力提升→企业安全预算提升→AI反哺安全运营,海外网安正从AI“配套”升级为AI基础设施,需求有望持续高景气。国内也有望复制该商业模式,估值存在修复空间,映射主题机会。
安全是继Coding、AI4S后确认的新高景气方向。海外2026年企业保护AI工具支出约28.3亿美元、同比增83%,2027年增速超过60%;国内AI安全2028年年均复合增长率超过200%。美股安全资产3-4月率先见底,6-7月逻辑确认后震荡上行;国内网络安全板块指数7月下旬见底回升,在AI产业密集安全事件催化下驱动主题行情。
国内企业加速布局,对标海外具备复制映射基础:
绿盟科技:AI安全+智能渗透测试、NDR/IDS
深信服:AI+SASE+安全运营GPT
安恒信息:网络安全与数据安全商业模式跑通
吉大正元:字节跳动全平台密码安全服务S吉大正元(sz003029)SS中新赛克(sz002912)SS绿盟科技(sz300369)S
天融信:天问安全大模型TopASK+大模型安全
风险提示:安全需求及产品落地不及预期;国内行业竞争加剧;国内网安行业景气度未实际反转。
作者声明: 本文转载自第三方,旨在提供资讯参考,并非证券推荐或投资建议。作者对内容的真实性、准确性不承担保证责任。本文不构成任何投资建议或证券推荐。截至发文日,作者与文中提及的标的不存在持仓关系。