‹ 文章庫

世界怎樣變成今天

一套再犯評分,兩種說不到一起的公平

二〇一六年五月,美國。ProPublica 的記者取得佛羅里達州一萬多份再犯風險評分,從中整理出七千多名被告的資料,並對照他們往後兩年的情況。

這套評分叫 COMPAS,由一份問卷算出來的,記者算出來的結果是:被判高風險、兩年內卻沒有再犯的人裡面,黑人被告的比例明顯高於白人被告。

演算法看起來比人更客觀,因為它不看長相,也不靠直覺,只根據資料做判斷。COMPAS 參考的資料包括年齡、犯罪紀錄、工作、家庭和社交環境。

但即使問卷裡沒有「種族」這一欄,這些資料本身仍可能受到長期社會不平等的影響。換句話說,不直接使用種族資料,並不代表演算法就完全不會受到種族差異的影響。

開發公司 Northpointe 回應,在「被判高風險的人之中,有多少人實際再犯」這項指標上,不同族群的結果相若。但同年的統計研究也指出,只要不同族群原本的再犯率不同,而預測又不可能百分之百準確,就很難同時滿足所有「公平」標準。 意思即是雙方對於「什麼才算是公平」採用了不同的標準。

同年,威斯康辛州最高法院在「State v. Loomis」一案裁定,法官可以把 COMPAS 當成其中一項參考,但不能用它決定是否監禁或刑期輕重,報告亦須附上工具限制的警語。法院沒有替演算法蓋上可靠的印章,只是限制它在量刑中可以做什麼。

一百五十年前,龍布羅梭量度「頭骨和下巴」;今天的模型讀年齡、前科、家庭背景和工作狀況。兩者雖然不是同一種科學,準確度也不能相提並論。但相似的是它們都把複雜的人縮成幾個指標,再把群體概率當成眼前這個人的命運。

龍布羅梭當年收集的頭骨與遺骸,今天仍保存在都靈的犯罪人類學博物館。如今,它們不再被當成證明犯罪天性的科學證據,而是作為一段科學史被重新觀看:一套曾經廣受重視的理論,後來如何因新證據與倫理反思而逐漸失去立足點。

延伸閱讀:ProPublica〈Machine Bias〉、威斯康辛州最高法院「State v. Loomis」、Kleinberg 等人〈Inherent Trade-Offs in the Fair Determination of Risk Scores〉。

演算法司法公平種族

這篇原文發佈於 Threads。

查看原帖 ↗