AI 當年抄的三條捷徑，現在開始要還債了

2天前

讀畢需時 4 分鐘

已更新：2天前

陳泳睿（Yung Chen）｜每日 AI 筆記｜2026-10-30

寫過軟體的人都聽過「技術債」（Technical Debt）。這個詞是 Ward Cunningham 在 1992 年提出的：為了趕快上線先走捷徑，省下的工夫不會消失，只是借了未來的時間，而且會一直生利息，越晚改越貴。

Marcello Pelillo 與 Teresa Scantamburlo 主編的《Machines We Trust》，談的是我們憑什麼信任 AI。其中 Nello Cristianini 那一章借用了這個概念，提出「倫理債」（Ethical Debt）：今天 AI 的隱私、偏見、操弄與不透明問題，不是個別的設計瑕疵，而是二十年前整個領域為了省錢省時間，集體選擇的三條捷徑留下來的帳單。

三條捷徑，讓 AI 幾乎吃到免費午餐

早年的 AI 想先弄懂語言、視覺背後的原理，再照原理設計系統，就像太空工程要先懂物理定律。這條路走了幾十年，翻譯和影像辨識都做不起來。1990 年代末，研究者改走另一條路（見圖 1）。

圖 1｜AI 的三條捷徑與留下的倫理債

第一條捷徑，用相關取代因果。只要統計上抓得到規律，就不必知道「為什麼」。2008 年《Wired》一篇文章甚至宣告「理論的終結」，說資料量夠大，「相關就夠了」。

第二條捷徑，資料直接從「野外」撿。Halevy、Norvig 與 Pereira 在 2009 年總結網路規模學習的第一課：用現成的資料，不要指望有人幫您標註。人臉、翻譯、詞向量，都是這樣練出來的。

第三條捷徑，用點擊代替回饋。使用者懶得告訴系統哪個結果好，那就記錄他點了什麼。1996 年就有搜尋系統這樣設計，2002 年點擊資料正式被拿來當「相關性」的代理指標（Proxy）。

三條路加起來，演算法簡單、資料現成、標註由使用者順手代勞，做 AI 的門檻低到幾乎免費。問題是，系統從「找到使用者要的」慢慢變成「讓使用者多點一下」，服務的對象也從使用者移到廣告主。作者形容，我們得到的是一個新的大眾媒介，它會回頭看著我們，猜我們想做什麼，而且什麼都記得。

帳單一張一張寄來

作者列了四類後果。隱私方面，2013 年稜鏡計畫（Prism）曝光，情報單位可以取得美國網路公司的電子郵件、聊天與搜尋紀錄；2017 年劍橋分析事件揭露，臉書的使用者資料被拿去推算心理特質、精準投放選舉廣告。偏見方面，2017 年有報導指出，鎖定女性的徵才廣告薪資較低；同年研究也發現，從網路文字學到的詞向量帶著性別與種族偏見，演算法學「護理師」「機師」這些詞時，連社會對職業的刻板印象一起學了進去。

操弄最難處理。推薦系統追求點擊率，但它分不出使用者點下去，是因為真的需要，還是忍不住。作者講得很直白：揭露偏好和揭露弱點，對機器來說是同一件事。透明度則卡在第一條捷徑，連設計者都很難說清楚，一個靠統計相關做出的決定，理由到底是什麼。

怎麼還：從隱性改回顯性

作者沒有否定這些捷徑。少了第一條，我們大概還在替電腦寫規則，教它分辨貓和狗；少了第二條，要先砸大錢做訓練資料，還不知道有沒有用；少了第三條，就得要求使用者一筆一筆回報滿不滿意，偏偏很多人連自己要什麼都說不清楚。

他的建議是分領域還債（見圖 2）：司法、醫療、教育、金融這類需要說明理由的領域，可以要求用準確度較低、但可以解釋的模型；資料要像食品一樣管理「資料供應鏈」，標明來源、適用範圍與已知偏差；有成癮或同溫層疑慮的場景，只准系統從使用者明確、自願的回饋學習，用心理特質推測使用者反應的做法，可能也得禁止。

圖 2｜分領域還債：從隱性改回顯性

他也坦白，這樣做會更貴，效能和便利性可能變差，所以要一個領域一個領域決定。貫穿全章的是「隱性與顯性」這條軸線：偏好也是個人資料，蒐集前要取得明確同意；訓練資料的偏差要明確標示，讓開發者知道自己用了什麼。

工廠裡的倫理債，常常藏在代理指標裡

讀到「代理指標錯位」這段，我想到的是工廠。事實上，企業導入 AI 最常見的捷徑，也是拿一個方便量的數字，代替真正想知道的事。

我們自己開發的 SmartLine Vision（AI Native 產線效率與品質監控系統），設計時就把這個問題放在前面。系統用攝影機和 ROI 規則判斷工站週期，但影像一斷，畫面看起來也像工站沒在動，所以系統把串流健康度一起放上畫面：「FPS 、碼率與丟包狀態一起看，避免把影像中斷誤當成生產停等。」看 OEE 也一樣，稼動率、效能、品質良率要分開看，「避免只追一個總數字」。

導入也不從全廠開始，先選一條試點線，用代表性影片檢查漏計、誤計和遮擋；換新模型時，「候選版本先試跑」，比較誤檢與漏檢，再決定上線。

這就是六大軸裡的驗證軸：「資料、邏輯與結果能否追查？」書裡說的資料供應鏈，放到工廠就是每一筆停等紀錄，都要追得回是哪台相機、哪個版本的規則算出來的（見圖 3）。