13/10/2026 13:53
【ＡＩ】字節跳動Seed成立安全與對齊部門，加強智能體風險防範
據澎湃新聞報道，字節跳動Seed近日發出內部郵件，宣布將成立「Seed Model-Alignment & Preparedness」部門，由嚴林負責，匯報給Seed負責人吳永輝。原Responsible AI團隊及部分Chat團隊成員將轉入新部門。
據悉，該部門的設立旨在加強安全與對齊方向的投入，對齊的核心是讓模型的行為與人類意圖和安全約束保持一致，從而提升Agent Model（智能體模型）安全能力，以及防範CBRN（化學、生物、放射、核）等前沿能力風險。
報道指出，大模型安全風險正日益凸顯，智能體逃逸引發的網絡攻擊等事件頻繁發生。此前，大模型研究團隊的安全與對齊工作大多被納入到公司整體的安全合規體系中，據了解，字節跳動Seed是內地首家單獨成立安全與對齊部門的前沿AI實驗室。
Seed團隊認為，隨著模型能力增強及應用場景日趨複雜，安全與對齊已成為決定模型能否規模化應用的核心能力。新部門將聚焦模型規範制定、安全評估體系建設、對齊訓練、防護系統搭建和風險監控等方向，並加強與外部研究機構和第三方評測的公開合作，確保前沿模型在安全與授權約束內完成任務，降低濫用及行為偏離風險。
據悉，該部門的設立旨在加強安全與對齊方向的投入，對齊的核心是讓模型的行為與人類意圖和安全約束保持一致，從而提升Agent Model（智能體模型）安全能力，以及防範CBRN（化學、生物、放射、核）等前沿能力風險。
報道指出，大模型安全風險正日益凸顯，智能體逃逸引發的網絡攻擊等事件頻繁發生。此前，大模型研究團隊的安全與對齊工作大多被納入到公司整體的安全合規體系中，據了解，字節跳動Seed是內地首家單獨成立安全與對齊部門的前沿AI實驗室。
Seed團隊認為，隨著模型能力增強及應用場景日趨複雜，安全與對齊已成為決定模型能否規模化應用的核心能力。新部門將聚焦模型規範制定、安全評估體系建設、對齊訓練、防護系統搭建和風險監控等方向，並加強與外部研究機構和第三方評測的公開合作，確保前沿模型在安全與授權約束內完成任務，降低濫用及行為偏離風險。
《經濟通通訊社13日專訊》