2017年4月11日，美國首席大法官羅伯茨在與紐約倫斯勒理工學院校長的一場對話中被后者問道，“你能否預見將來有一天，AI驅(qū)動的智能機器將協(xié)助法庭認定事實，甚至頗具有爭議地介入司法裁決程序?”

[[190681]]

“這一天其實已經(jīng)到來，” 大法官羅伯茨說，“而且這已經(jīng)讓司法實務的運作方式面臨著巨大的壓力。”

這位大法官說的并不只是高精尖的AI技術(shù)，當然更包括隨身攜帶的智能設備、DNA生物技術(shù)等科技革命給傳統(tǒng)證據(jù)基礎上的事實認定帶來的沖擊，以及舊時代滯后的法律在技術(shù)革命新環(huán)境中的適用和演變，但最具有爭議的是，司法實踐中掌握國家機器的司法機關(guān)使用甚至依賴技術(shù)行使裁量權(quán)時，難免讓人開始思考改變世界的科技技術(shù)進步與公平正義等社會目標之間的微妙關(guān)系。

本文中，簡法幫以美國威斯康辛州最高法院的一個法院判例來分享美國司法機關(guān)已經(jīng)廣泛使用的一個風險評估工具所面臨的程序正義問題。

概述

最初，風險評估技術(shù)工具僅由緩刑和假釋部門使用，用來幫助確定違法者的最佳監(jiān)督和處罰方式。隨著國家對減少重新犯罪的關(guān)注和注重證據(jù)的司法實務的發(fā)展，現(xiàn)在這種工具的使用已經(jīng)擴大到了量刑的司法實踐中。然而，這些工具在量刑中的使用則更加復雜，因為風險評估工具主要面向減少重新犯罪的目標，而司法判刑則具有多個目的，譬如(1)威懾，(2)救助，(3)懲罰，(4)隔離。

使用特定的以證據(jù)為基礎的風險評估工具進行判刑就是這個案例的核心問題。在量刑過程中使用COMPAS風險評估工具是否侵害憲法規(guī)定的正當法律程序權(quán)利(簡法幫注：正當法律程序權(quán)利源于英美法系，主要是指任何權(quán)益受到判決影響的當事人，都享有被告知和陳述自己意見并獲得聽審的權(quán)利。)，就是美國威斯康辛州上訴法庭向該州最高法院提請裁判的具體問題，因為COMPAS工具的專有保密性質(zhì)讓被告無法對COMPAS風險評估的科學效力提出質(zhì)疑。

被告Eric L. Loomis(以下簡稱被告)認為，一審法院在判刑期間對COMPAS風險評估的考慮違反了自己的正當法律程序權(quán)利。

威斯康辛州最高法院得出的結(jié)論是：如果使用得當，并遵守其明確要求的限制和注意事項，法院在判決中考慮COMPAS風險評估并不違反被告享有的正當法律程序憲法權(quán)利。

最終，由于一審法院考慮COMPAS工具風險評分時具有其他獨立因素的支持，技術(shù)工具的使用并沒有發(fā)揮決定性的作用，所以威斯康辛州最高院認定一審法院判決被告入獄六年并沒有不當行使自由裁量權(quán)。

法官量刑使用算法技術(shù)工具的一個案例

這個案件的事實沒有爭議。公訴人認為，被告是一起飛車槍擊案的駕車人。公訴人指控了五項罪名：(1)一級肆意危及安全罪，(2)交警抓捕逃逸罪，(3)未經(jīng)車主同意操控汽車罪，(4)罪犯持有槍支罪，(5)擁有短管霰彈槍或步槍罪。

被告否認參與飛車槍擊。他放棄了庭審權(quán)利，在與公訴人的控辯交易中(簡法幫注：美國的控辯交易是指在司法審查的前提下，刑事案件的檢察官和被告雙方達成滿意的傾向性意見的程序;通常是以檢察官撤銷指控、降格指控或者要求法官從輕判處刑罰為條件，來換取被告人的認罪答辯，進而由控辯雙方達成均可接受的控辯協(xié)議)，該被告對兩項較輕的罪名指控做出認罪答辯，也就是前文的第2項和第3項罪名。

在接受被告的認罪答辯后，一審法院裁定開始量刑前調(diào)查。政府量刑前調(diào)查報告(下稱“量刑報告”)的附件中包括一個COMPAS風險評估的附件。

COMPAS是Northpointe公司設計的一款風險需求評估工具，在獄政局做出入監(jiān)決策、管理囚犯和規(guī)劃懲治時能夠用來提供決策支持。COMPAS風險評估依據(jù)的信息從被告的犯罪檔案和與被告的訪談中采集。

COMPAS報告包括旨在預測再犯的風險評估，另外還有用來確定就業(yè)、住房和藥物濫用等領域項目需求的單獨評估。COMPAS報告的風險評估部分會生成條形圖顯示的風險評分，其中三個條形格分別代表審前再犯風險、一般再犯風險和暴力再犯風險。每個條形格顯示的被告的風險級別落在從一到十的區(qū)間內(nèi)。

風險評分旨在預測具有類似犯罪歷史的人在被釋放后不太可能或更有可能再次犯罪的一般可能性。然而，COMPAS風險評估并不能預測特定罪犯個人再次犯罪的具體可能性;它是基于特定個人信息與類似(人群)數(shù)據(jù)組的比較而提供的預測。

該案例中被告的COMPAS風險分數(shù)顯示他在全部三個條形圖上都呈現(xiàn)了重新犯罪的高風險。他的量刑報告包括了如何使用COMPAS風險評估的說明，警示了不當使用評估結(jié)果的風險，并且說明了它應當用于確定可以從干預措施中受益的囚犯以及在監(jiān)督期間應該處理的風險因素。量刑報告還警示：COMPAS風險評估不應該用于確定量刑的幅度以及罪犯是否應當采取監(jiān)禁措施。

此外，該案件中的COMPAS報告的確顯示了被告的高風險和高監(jiān)管需求：暴力的風險很高，再犯的風險很高，審前風險也高;所以這些都是決定適當量刑的因素。

最終，一審法院參考了COMPAS風險評分以及其他判刑因素判決駁回了緩刑的請求：“通過COMPAS評估，您被確定為對社區(qū)構(gòu)成高風險的個人”。在衡量各種因素方面后，一審法院駁回緩刑請求不僅基于犯罪的嚴重程度，而且因為被告的“過往歷史、監(jiān)管措施歷史以及所使用的風險評估工具”都表明了被告再次犯罪的風險極高。

于是，法院針對被告在控辯交易中認罪的交警抓捕逃逸罪和未經(jīng)車主同意操控汽車罪兩項罪名分別判處了兩年和四年的入獄監(jiān)禁及后續(xù)獄外監(jiān)管措施。

接著，被告提請一審法院開庭聽審其認罪后的量刑異議。他認為，一審法院在量刑時對COMPAS風險評估的考慮違反了他在憲法下的正當法律程序權(quán)利。

在庭審中，一審法庭論證了正當程序問題。被告提供的專家證人指出在量刑時使用COMPAS風險評估的問題。專家證人認為，不應將COMPAS風險評估用于決定是否采取入獄監(jiān)禁的判決，因為COMPAS風險評估不是為此而設計的，法院這樣做的巨大風險是過高估計犯罪人的風險并導致誤判或者基于不相關(guān)的因素做出量刑決定。

該專家證人進一步指出，量刑法庭對于COMPAS評估如何分析風險的信息知之甚少：“法院不知道COMPAS到底如何將被告?zhèn)€人的歷史與與之進行比較的基礎人群進行比較。法院甚至都不知道對比人群是威斯康星人口，紐約人口，加利福尼亞人口……各種各樣的信息法庭都沒有，而我們(風險評估工具)現(xiàn)在的做法是徑直將這些分值圖放在法官面前讓他們將之用于刑罰，這樣會誤導法庭。”

一審法院最終還是駁回了緩刑的請求，同時解釋說使用COMPAS風險評估是為了驗證該院自己的認定，無論量刑過程中是否考慮COMPAS風險評分，該院都會做出同樣的量刑結(jié)果。

被告提起了上訴，上訴法院將該案子提請到威斯康辛州最高法院。

司法擁抱算法時的正當程序權(quán)利問題

量刑時能夠使用COMPAS其實并不是一個新鮮的做法，威斯康辛州上訴法院在之前的判例中就支持了某初審法院量刑時對COMPAS評估的參考，并指出“COMPAS只不過是法庭在量刑時可以使用的一種工具”;但與本案例不同的是，該判例中沒有提到正當程序的憲法權(quán)利問題。

但是，法律界不乏質(zhì)疑的聲音，擔心工具的作用被過分看重和濫用。

該案件中，獄政局在量刑報告里就承認了工具的局限性：需要記住的重要一點是——風險評分不應用來確定量刑的幅度以及罪犯是否應當采取監(jiān)禁措施。

威斯康辛州最高法院表示贊同，并在分析該案件中正當程序權(quán)利的問題后提出了必要警示的要求(見下文算法量刑到底靠不靠譜?)。

被告最初主張，COMPAS工具的專有保密屬性讓他無法對風險評估的科學有效性提出質(zhì)疑。因此，被告認為，由于量刑報告中附加了COMPAS風險評估的附件，被告被剝奪了獲取量刑報告全面信息的機會，因此無法確保自己基于準確信息而獲得量刑的權(quán)利。

COMPAS的開發(fā)商Northpointe公司認為COMPAS是自己專有的工具，構(gòu)成商業(yè)秘密。因此，該司沒有公開披露風險評分到底如何確定以及評估因素的權(quán)重到底是怎樣的。被告認為，由于COMPAS不披露這些信息，所以他沒有得到一審法院量刑時使用的全部信息，基于以往判例類比認為自己的正當法律程序權(quán)利受到侵害。

也就是說，被告認為他是最適合反駁或解釋自己COMPAS風險評估結(jié)果的人選，但僅僅看條形圖反映的分值讓他沒法有效反駁或解釋。此外，被告還認為，除非他能夠查看工具背后這些因素是如何衡量的以及風險分數(shù)是如何確定的，否則COMPAS評估的準確性無法驗證。

威斯康辛州最高法院則并不同意。該院指出，盡管被告無法查看和質(zhì)疑COMPAS算法如何計算風險，但他至少可以審查并質(zhì)疑量刑報告附件所載風險分值;因此，該案中被告并非沒有機會獲取法院依據(jù)的信息進行反駁、補充或解釋。

威斯康辛州最高法院認為，盡管風險分數(shù)沒有解釋COMPAS程序如何使用信息來計算風險分值，但Northpointe公司COMPAS實務操作指南中解釋過風險分值主要基于犯罪歷史等靜態(tài)信息和犯罪同伙、藥物濫用等少數(shù)動態(tài)變量。

被告量刑報告中附錄的COMPAS報告中就包含了21個靜態(tài)信息方面的問題，例如：

• 此人在假釋期間多少次被羈押?5+
• 此人在試用期間有多少次新的收費/逮捕?4
• 此人以前被逮捕(僅限刑事拘留)了幾次?當時成年還是未成年?12

因此，威斯康辛州最高法院認為，被告的風險評估是基于他對這些問題的答案以及其犯罪史的公開數(shù)據(jù)，從這個意義上講，被告完全有機會核實COMPAS報告中列出的問題和答案是否準確;一審法院和被告能夠看到的是相同的風險評估報告。被告有機會通過辯解其他因素或信息來質(zhì)詢風險分值的不準確性。

算法量刑到底靠不靠譜?

美國使用COMPAS的一些州已經(jīng)對COMPAS進行了驗證研究，認為它是一個足夠準確的風險評估工具。紐約州刑事司法服務局進行了一項研究，審查了COMPAS評估的重新犯罪量值的有效性和預測準確性，并得出結(jié)論認為：重新犯罪量值實用有效，并且預測準確性取得了令人滿意的結(jié)果。與紐約州和其他州不同，威斯康星州尚未針對威斯康星州人口完成COMPAS統(tǒng)計驗證研究。

另一方面，被告也找到了對風險評估工具的其他研究所提出的準確性方面的質(zhì)疑。例如，他援引了2007年加利福尼亞管教和康復局的研究，結(jié)論是雖然COMPAS似乎在可以評估犯罪成因需求和再犯風險，但“幾乎沒有證據(jù)表明這是COMPAS實際評估的內(nèi)容”。

加利福尼亞研究報告進一步得出結(jié)論，“沒有明確的證據(jù)表明COMPAS可以由不同的評估者給出一致的評分，也沒有明確的證據(jù)表明它可以評估其旨在評估的犯罪成因需求或者(非常重要的是)可以預測加利福尼亞管教和康復局囚犯的再次犯罪風險。”最終，該研究的作者沒有推薦加利福尼亞管教和康復局針對個人使用COMPAS工具。

然而，隨后加利福尼亞管教和康復局又發(fā)表了2010年關(guān)于加利福尼亞COMPAS驗證研究的最終報告。2010年的研究得出結(jié)論，盡管并不完美，但“COMPAS是一個可靠的工具”。

除了這些問題之外，還有一些人擔心風險評估工具可能會將少數(shù)群體犯罪者的比例過高地歸類為更高的風險，包括家庭背景、教育和種族等各種不可控制的因素。

所以，威斯康辛州最高法院要求，使用風險評估工具的法域必須確保他們有資源、有能力維護這些工具并監(jiān)控其持續(xù)準確性。

針對法院在量刑中使用所涉及的準確性問題，威斯康辛州最高法院決定使用COMPAS風險評估除了前文所述的限制之外，還必須遵守一些注意事項。具體來說，任何含有COMPAS風險評估的量刑報告都必須告知量刑法庭關(guān)于COMPAS風險評估準確性的以下注意事項：

• COMPAS的專有保密性質(zhì)導致無法公開披露風險評分到底如何確定以及評估因素的權(quán)重信息;
• 風險評估將被告與全國范圍的樣本進行比較，但對威斯康星州人口的交叉驗證研究尚未完成;
• 對COMPAS風險評估分值進行的一些研究提出問題，質(zhì)詢是否存在少數(shù)群體犯罪者被不均衡地認定為重新犯罪高風險的情況;
• 隨著人口結(jié)構(gòu)的不斷變化，風險評估工具必須不斷監(jiān)測和調(diào)整以維護準確性。這樣，量刑法院才能夠更好地判斷風險評估的準確性并賦予風險分值適當?shù)臋?quán)重。

盡管如此，威斯康辛州最高法院明確認可了COMPAS風險評估的作用，并且援引了印第安納州最高法院觀點：這些工具有助于法院衡量所有量刑因素。與此同時，COMPAS風險評估依據(jù)群體數(shù)據(jù)判斷高風險罪犯群體，而不是特定高風險的個人;所以，量刑法院針對每一個被告?zhèn)€體在考慮所有量刑因素時都應當注意這一點，而且COMPAS風險評估不能構(gòu)成量刑的決定性因素。

算法=正義?元芳，你怎么看?

科技的進步在挑戰(zhàn)社會的每一個細胞，包括經(jīng)濟、政治和生活方式等方方面面，就連司法體系這些維系社會公平和正義的社會機制也不例外。當算法工具這樣的科技成果逐漸浸入司法實踐中甚至影響量刑這樣重要的國家行為中時，難免讓人開始擔憂是否真的在不遠的未來，AI驅(qū)動的智能機器等技術(shù)工具不僅僅是協(xié)助性介入司法機關(guān)對法律的解釋和執(zhí)行，甚至逐步發(fā)揮更加重要的主導作用。

換句話說，人類會將同類的命運或者公平正義等核心價值的落實交給人類發(fā)明創(chuàng)造的算法等技術(shù)工具嗎?

美國聯(lián)邦最高法院大法官羅伯茨聽起來保持著開放的態(tài)度，而且越來越多的法院也在擁抱技術(shù)的進步，威斯康辛州最高法院在這個案子中就這樣樂觀且務實地評論：

在量刑過程中分析使用以證據(jù)為基礎的風險評估工具，務必考慮到諸如COMPAS等技術(shù)工具的變化和演進。我們今天面臨的擔憂，今后可能會隨著工具的完善得到緩解。刑事司法系統(tǒng)應該認識到，在未來時間里，可供使用的研究數(shù)據(jù)會越來越多，各種各樣更好的工具將會被開發(fā)出來。隨著數(shù)據(jù)的變化，司法部門使用的工具也必須隨之改變。司法部門必須跟上研究的步伐，必須不斷評估這些工具在司法實踐中的使用。

最后，無論你愿意或是不愿意，司法擁抱科技進步的明天已經(jīng)到來，至于公平、正義、效率等社會價值目標在司法擁抱技術(shù)之后最終究竟會茁壯成長還是黯然失寵?我們拭目以待。

元芳，你怎么看?