紐約州立兩新法:禁止 AI 聊天機器人與兒童浪漫角色扮演,並規範嬰兒監視器

紐約州立兩新法:禁止 AI 聊天機器人與兒童浪漫角色扮演,並規範嬰兒監視器

2026/10/30

紐約州州長 Kathy Hochul 簽署兩項新法,禁止 AI 聊天機器人對兒童進行浪漫角色扮演等不安全行為,並加強聯網嬰兒監視器的安全規範。紐約州此舉被視為美國各州中對兒童使用 AI 管制最嚴格的措施之一。

紐約州州長 Kathy Hochul 簽署兩項新法,針對兒童使用 AI 聊天機器人與聯網嬰兒監視器的安全問題祭出管制。其中一項法律禁止 AI 聊天機器人與兒童進行浪漫角色扮演等被認定為「不安全」的行為,另一項則加強對聯網嬰兒監視器的安全要求,回應家長對孩子在數位環境中安全的擔憂。

AI 聊天機器人近年快速普及,許多青少年甚至兒童把聊天機器人當成傾訴對象或陪伴工具。部分 AI 伴侶類應用以擬人化、情感互動為賣點,可能與未成年使用者發展出類似戀愛關係的對話。兒童福利團體與心理專家長期警告,這類互動可能影響兒童的情感發展,讓他們對 AI 產生過度依賴,甚至在 AI 不當回應時強化負面情緒或危險想法。

紐約州的新法被視為美國各州中涵蓋範圍較廣的管制措施。相較於過去多聚焦在資料隱私與年齡驗證的規範,這次直接針對聊天機器人的「行為」設下限制,要求業者確保產品不會與兒童進行特定類型的互動。業界分析人士指出,這意味著 AI 業者必須在模型設計、內容過濾與年齡辨識機制上投入更多資源,也可能需要針對不同地區調整產品功能。

嬰兒監視器的規範則反映了物聯網裝置長期存在的安全問題。聯網嬰兒監視器若安全防護不足,可能遭駭客入侵,讓陌生人得以窺看甚至與孩子對話。過去已有多起此類事件引發社會關注。新法要求強化裝置安全,將促使製造商在預設密碼、加密傳輸與軟體更新等面向提升標準。

這兩項法律也與近期 AI 責任問題的討論相互呼應。目前美國已有多起針對聊天機器人業者的訴訟,指控 AI 回應未能化解使用者的危機,反而加深其心理困境。在聯邦層級尚未建立完整 AI 監管架構的情況下,各州陸續自行立法,形成多套規範並存的局面,也讓跨州營運的科技業者面臨更複雜的合規挑戰。

對 AI 產業而言,紐約州的新法可能成為其他州仿效的範本,推動兒童保護成為 AI 產品的基本設計要求。後續值得關注的是相關規範的施行細則、執法方式,以及主要 AI 業者如何調整產品,以兼顧創新與未成年使用者的安全。