字节跳动Seed单独设立大模型安全与对齐部门
蓝鲸新闻10月13日电,蓝鲸科技获悉,字节跳动 Seed 近日发出内部邮件,宣布将成立 “Seed Model-Alignment&Preparedness” 部门,由严林负责,汇报给 Seed 负责人吴永辉。原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。据悉,该部门的设立旨在加强安全与对齐方向的投入,对齐的核心是让模型的行为与人类意图和安全约束保持一致,从而提升 Agent Model(智能体模型)安全能力,以及防范 CBRN(化学、生物、放射、核)等前沿能力风险。(蓝鲸新闻 彭乐怡)
35,331*特别声明:文章内容仅供参考,不构成投资建议。投资者据此操作风险自担。