字節跳動成立 AI 安全團隊防範代理風險，擬啟動全球招聘

中國科技巨頭字節跳動旗下的 AI 研究部門 Seed，已正式成立一支名為「對齊與預備」（Alignment & Preparedness）的 AI 安全團隊，主要任務是防範 AI 代理可能帶來的風險，並計畫啟動全球招聘計畫，延攬國際人才。

「對齊」是 AI 安全領域的核心概念，指的是確保 AI 系統的行為符合人類的意圖與價值觀；「預備」則著重於評估與因應先進 AI 可能帶來的重大風險。這類團隊過去多見於美國的頂尖 AI 實驗室，字節跳動成立類似單位，顯示中國科技企業也開始將 AI 安全提升到組織層級的戰略高度。

AI 代理是當前 AI 發展的重要方向。與單純回答問題的聊天機器人不同，AI 代理能夠自主規劃、使用工具並執行多步驟任務，例如瀏覽網頁、操作軟體、處理檔案甚至執行交易。業界分析人士指出，這種自主性在大幅提升效率的同時，也帶來新的風險，包括執行錯誤操作、被惡意指令操控、洩漏敏感資料，或在缺乏監督的情況下做出無法預期的行為。

近期業界已陸續出現 AI 代理相關的安全警訊，國際資安框架也開始將提示注入等 AI 攻擊手法納入規範。在此背景下，各大 AI 公司都在加強安全研究，以確保產品能夠安全地大規模部署。

對字節跳動而言，其旗下擁有豐富的 AI 產品與龐大的用戶基礎，AI 代理若出現安全問題，影響範圍可能相當廣泛。成立專責安全團隊，一方面是風險管理的必要措施，另一方面也有助於提升國際市場對其 AI 產品的信任度。全球招聘則顯示其希望在 AI 安全人才的爭奪中占有一席之地。

對全球 AI 產業而言，AI 安全正從研究議題轉變為企業的競爭要素。後續值得觀察的是，字節跳動的安全團隊是否會公開研究成果與安全評估框架，以及中國與國際之間在 AI 安全標準上能否形成交流與共識。