字节跳动Seed单独设立大模型安全与对齐部门

财联社10月13日电，字节跳动Seed近日发出内部邮件，宣布将成立“Seed Model-Alignment&Preparedness”部门，由严林负责，汇报给Seed负责人吴永辉。原Responsible AI团队及部分Chat团队成员将转入新部门。该部门的设立旨在加强安全与对齐方向的投入，对齐的核心是让模型的行为与人类意图和安全约束保持一致，从而提升Agent Model（智能体模型）安全能力，以及防范CBRN（化学、生物、放射、核）等前沿能力风险。

盖茨警告AI安全风险，不法分子滥用比AI失控更迫切


10月12日｜微软联合创始人比尔·盖茨警告称，不受监管的人工智能(AI)构成日益严重的威胁，并预测未来一年利用人工智能发动的网络攻击将进一步升级。盖茨认为，人工智能“失控”的风险还需要数年时间才会成为重大问题，目前更迫切的隐忧是“不法分子”利用现有人工智能系统，在缺乏安全防护措施的情况下发动攻击。他指出，有必要加强管制，防止不法分子利用人工智能发动生物恐怖袭击和网络攻击。

作者声明： 本文转载自第三方，旨在提供资讯参考，并非证券推荐或投资建议。作者对内容的真实性、准确性不承担保证责任。本文不构成任何投资建议或证券推荐。截至发文日，作者与文中提及的标的不存在持仓关系。