close

Hi～新朋友，記得關注我們喲


The Batch: 310|少數族裔的困擾


一項獨立調查發現，美國至少九個州的警察部門使用的預防犯罪模型中存在種族和經濟偏見的證據。

●最新消息：根據Gizmodo和The Markup對泄露的內部數據進行的分析，以預測犯罪發生地點為主要業務的Geolitica將黑人、拉丁裔和低收入人群作為目標。記者在這個不安全的警務網站上發現了這些數據。網站原名PredPol，於今年3月更名為Geolitica。

●工作原理：該模型會預測犯罪事件可能發生的地點，幫助警察部門調配人員。公司根據二到五年的犯罪時間、地點和類型為每個轄區訓練了一個單獨的模型。
✴記者們用不到六個月的數據過濾了38個管轄區的犯罪預測，在2018年2月15日至2021年1月30日期間，共有590萬起犯罪預測。
✴他們將預測結果與顯示種族和社會經濟群體地理分布的人口普查數據進行了比較。在84%的司法管轄區中，PredPol更有可能在黑人和拉丁裔居民較多的地區做出預測。而在74%的司法管轄區中，白人居民較多的地區則不太可能成為預測目標。在71%的司法管轄區，低收入家庭的預測占比較高。
✴記者發現該系統做出的預測與11個警察部門提供的逮捕率之間沒有很強的關聯性。

●偏見來源：批評人士將重點放在了模型的訓練數據普遍存在偏見，和根據自動犯罪預測安排巡邏帶來的潛在不良影響上。
✴訓練數據取自向警方報告的犯罪案件。美國司法統計局發現，2020年只有大約40%的暴力犯罪和33%的財產犯罪被上報，導致許多可能的犯罪無法計入。此外，收入在5萬美元及以上的人群報告犯罪的頻率比收入在2.5萬美元及以下的人低12%，這將使數據向不太富裕的社區集中傾斜。
✴由於這些模型是根據歷史數據進行訓練的，它們學習的模式反映了警察執法記錄中的差異。作者寫道，根據聯邦調查局的一份報告，在該研究中90%的司法管轄區，黑人比白人更容易遭到逮捕。
✴批評人士指出，這樣的算法會讓已經安排大量警力的地區持續加強巡邏，導致其他缺乏關注的地方警力不足。

●公司回應：Geolitica證實了調查中使用的數據「似乎是」真實的，但它對分析結果提出質疑:
公司表示，這些數據是「錯誤的」和「不完整的」。其中一個司法管轄區顯示出了極端的不平等，這是濫用該軟件產生的額外的預測。
✴公司還表示，這些模型沒有根據人口、種族或社會經濟信息進行訓練，這「消除了其他情報導向或預測性警務模型涉及的侵犯隱私或公民權利的可能性」。然而，研究表明學習算法會吸收數據集中未明確標記有偏見特徵的偏見。

●為什麼重要：美國有70多個執法轄區使用了Geolitica的服務，其他國家也在使用它。然而，這份報告是第一次基於內部數據對算法的性能進行獨立分析。調查結果凸顯了人們的擔憂，即預測性警務系統會侵犯公民自由，將進一步推動對此類應用的禁用。

●我們在想：預測性警務系統會對個人和社區產生深遠的影響。提供這類高風險系統的公司應該對其系統進行公平審計，並主動分享結果，而不是等待數據泄露和媒體報道。


點擊下方閱讀原文查看更多有趣內容哦~

arrow
arrow
    全站熱搜
    創作者介紹
    創作者 鑽石舞台 的頭像
    鑽石舞台

    鑽石舞台

    鑽石舞台 發表在 痞客邦 留言(0) 人氣()