新聞 
幣種資訊 
關於我們 
字節跳動旗下AI研究組織Seed成立安全與對齊研究團隊，並招募首批10名研究人員，將在北京、上海及美國聖荷西從事模型安全評估與對齊研究。
Seed於10月14日發布的職缺公告指出，新團隊名為「Alignment & Preparedness」。公司表示，將長期投入相關領域，並為前沿模型研究提供所需資源與支援。本文比對Seed官方招募公告及中國財經媒體財新（Caixin）的相關報導，確認主要內容。
研究範圍包括制定模型行為規則與安全政策、建立安全評估機制、對齊訓練、自動化紅隊測試，以及因應未來風險。紅隊測試是刻意攻擊模型，以找出弱點或可能失敗之處的驗證方式。Seed也提出邀請外部研究人員與獨立評估機構參與。
AI對齊研究旨在讓模型行為符合人的意圖與安全標準。此次招募公告呈現Seed的組織規劃，將安全研究納入模型訓練、評估及部署流程。
字節跳動此前曾成立「AI數據與安全」部門，專責大型模型的數據生產與安全管理。此次則在Seed內設立安全與對齊研究團隊，將模型研究與安全驗證納入同一組織規劃。
公告公開了團隊成立、首批招募規模、研究主題及工作地點；團隊預算、招募完成時間與研究成果尚未公布。此次招募公告未提及與虛擬資產或區塊鏈的直接關聯。
留言 0