《表1 COMPAS算法假释评估的预测失败概率》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《算法偏见问题的技术—权力互构论解析》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

数据来源：https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.

一方面，有些算法被外在地赋予政治性，司法领域的量刑评估算法是一个典型案例。COMPAS算法是由美国Northpointe公司数据科学家蒂姆·布伦南发明的司法辅助决策模型，该算法结合刑事案件被告人对137个调查问题的回答（涉及以往犯罪记录、第一次被捕的年龄及现在年龄、教育水平以及一个小时的问卷调查等人口统计学信息）来预测他们再次犯罪的可能性，他声称该算法不会把种族作为变量。美国一些州的法官在被告人申请假释时，通过用该算法对他们再犯的风险进行评估，以作出最终决定。2016年，一家公益机构Pro Publica基于佛罗里达州布劳沃德县的用户数据开展的调查发现，COMPAS算法对非裔美国人存在偏见。具体而言，假释评估时被算法标注为高风险（容易再犯），但后来没有再犯的白人为23.5%，黑人为44.9%；假释评估时被算法标注为低风险（不易再犯），但后来再犯的白人为47.7%，黑人为28.0%。因此，那些虽有前科但没有再犯的黑人被算法错误标注为高风险罪犯（如表1所示）[18]。