AI 皮膚癌篩檢越來越準，但只對淺膚色——一堂現成的演算法偏誤課

AI 皮膚癌偵測工具的準確度近年持續提升，部分研究顯示在特定條件下已接近專科醫師水準。但同一批研究也指出一個嚴重的限制：這些工具在深膚色患者身上的表現明顯落後。

原因並不神祕，而且正因為不神祕，它才是最好的教材。這類模型的訓練資料主要來自歐美的皮膚科影像資料庫，而這些資料庫中深膚色病例的比例極低——在部分廣泛使用的公開資料集中，深膚色影像佔比不到個位數百分比。模型學到的是「病灶在淺膚色背景上長什麼樣」，遇到不同的底色，判斷基準就失準。

這個案例的教學價值在於它把幾個抽象概念變得具體。

第一，它清楚示範了「演算法偏誤不等於演算法有惡意」。沒有人在程式裡寫下歧視性的規則；偏誤完全來自資料的組成。這一點對學生理解 AI 的運作方式非常關鍵——問題往往出在訓練材料，而不是模型的意圖。

第二，它顯示了後果的不對稱。深膚色族群的黑色素瘤發生率較低，但確診時的期別通常較晚、存活率較差。也就是說，一個在深膚色上表現較差的篩檢工具，恰好在最需要早期發現的族群身上最不可靠。這讓「準確率 90%」這個數字的意義變得可以討論——對誰 90%？

第三，它引出了可行的解方，而不只是問題。研究者正在嘗試的方向包括：主動擴充深膚色影像資料、要求模型在報告準確率時分層呈現、以及在工具部署時明確標示適用範圍。這些都是學生可以理解、也可以評估的具體做法。

對課堂而言，這個案例可以直接改成活動。讓學生設計一個簡單的分類任務，然後刻意用偏斜的資料訓練它，再測試在不同群體上的表現——這在小學高年級到高中都有對應的難度版本，甚至可以用非電腦的方式（例如以卡片分類遊戲模擬）進行。核心提問只有一個：這套系統是用誰的資料學的？

延伸的討論可以走得更遠：醫療影像之外，還有哪些系統可能有同樣的問題？語音辨識、人臉辨識、履歷篩選、信用評分——學生通常能自己舉出例子，而且往往舉得比教師預期的準確。

業界分析人士指出，AI 公平性的技術修補有其極限，因為資料的不均本身反映的是現實世界中醫療資源與研究投入的分布，這使得它同時是技術問題與制度問題。

對台灣的教學現場而言，這是一個少見同時涵蓋生物、資訊、健康教育與公民議題的題材，而且不需要任何設備就能討論。下一次談 AI 素養時，它會比抽象的「AI 有偏誤」有效得多。