校園 AI 監控擴張中，智庫警告安全與公平的雙重疑慮

以校園安全為名的 AI 監控系統正在美國學校快速普及。常見的形式包括掃描學生在校用帳號中的訊息與文件、偵測特定關鍵字、分析監視器影像中的行為，以及在偵測到疑似風險時自動通報校方甚至警方。一份智庫報告指出，這類系統同時帶來安全與公平上的疑慮。

先說支持導入的理由，因為它們是真實的。學校面對的自傷、霸凌與暴力風險確實存在，而傳統的通報機制高度依賴有人願意說出來。自動化監控承諾的是在事情發生前就發現訊號，對輔導人力嚴重不足的學校特別有吸引力。

問題出在這個承諾的實際兌現方式。第一是誤報。這類系統的偵測邏輯多半建立在關鍵字與模式比對上，而青少年的語言充滿誇飾、玩笑、歌詞引用與網路用語。一句課堂上的抱怨、一段電影台詞、一則團體聊天裡的嘲弄，都可能觸發警報。當誤報率偏高，後果不只是浪費人力，而是有學生會因為一則玩笑被叫去約談、被通知家長、甚至被通報外部單位。

第二是誤報的分布不均。當系統對特定的語言風格、方言、拼寫習慣較不熟悉，這些群體的誤判率就會偏高。也就是說，同樣一句話由不同背景的學生說出來，被標記的機率可能不同。這正是報告所指的公平性問題——監控的負擔並非平均落在所有學生身上。

第三是後果的不可逆。一旦警報進入紀錄系統、甚至觸發外部通報，即使事後證明是誤判，紀錄與經驗都已經留下。對青少年而言，被當成風險對象的經驗會直接影響他們往後是否願意向大人求助——而這恰好與系統原本的目的相反。

第四是知情與同意。多數學生與家長並不清楚監控的範圍：是否包含私訊、是否延伸到校外時間、資料保存多久、誰能查看。這些條件通常寫在冗長的使用條款裡，而不是被主動說明。

比較務實的立場不是全面反對，而是要求可檢驗的條件：公開誤報率、設定人工複核關卡讓警報不會自動觸發外部通報、明確界定監控範圍與保存期限、以及提供申訴與紀錄清除的管道。

業界分析人士指出，安全科技的評估經常只看「有沒有攔到事件」，卻很少計算「攔錯了多少次、代價由誰承擔」，而後者才是決定制度是否可持續的關鍵。

對台灣的學校而言，隨著校園資安與輔導系統逐步數位化，這些提醒同樣適用。導入任何具偵測性質的系統之前，值得先問三件事：誤判會怎麼處理、學生知不知道自己被看著、以及紀錄會跟著他多久。