約翰·安德頓是華盛頓特區特警隊的隊長。這天早上，他衝進郊區的一戶人家，就在霍華德·馬克斯怒火中燒，即將用剪刀刺入妻子莎拉·馬克斯的軀幹前幾秒。他發現莎拉和另一個男人睡在床上。對安德頓來說，這只是阻止死刑案件發生的另一天。 “根據哥倫比亞特區預防犯罪部門的命令，”他念道，“我逮捕你，因為你涉嫌謀殺莎拉·馬克斯，這起謀殺案原定於今天發生……”
其他警察開始製服馬克思，馬克思尖叫：「我什麼都沒做！」電影《少數派報告》的開場描繪了一個社會，在這個社會裡，預測似乎精準無比，以至於警察會在犯罪發生之前就逮捕嫌疑人。人們被監禁並非因為他們做了什麼，而是因為他們被預見會做什麼，即使他們從未真正犯罪。影片將這種先見之明的執法歸功於三位預言家的預言，而非數據分析。然而， 《少數派報告》所描繪的令人不安的未來，正是不受約束的大數據分析可能帶來的後果：罪責的判定將基於對個人未來行為的預測。
當然，大數據必將為社會帶來無數好處。它將成為改善從醫療保健到教育等各個領域的基石。我們將依靠它來應對全球挑戰，無論是氣候變遷還是貧窮問題。更不用說企業如何利用大數據，以及它能為經濟帶來的利益。這些益處與資料集本身一樣巨大。然而，我們也需要警惕大數據的負面影響。
我們已經看到類似《少數派報告》中那種基於預測的犯罪行為開始對人們造成懲罰。超過一半的美國州的假釋委員會都將基於數據分析的預測作為決定是否釋放或繼續監禁某人的因素之一。從洛杉磯的警局到維吉尼亞州里士滿這樣的城市，美國越來越多的地方都在採用「預測性警務」：利用大數據分析來選擇哪些街道、群體和個人需要接受額外審查，僅僅因為演算法預測他們更有可能犯罪。
但這絕不會止步於此。這些系統將致力於透過預測（最終甚至細化到個人層面）哪些人可能犯罪來預防犯罪。這預示著大數據將被用於一個全新的目的：預防犯罪。
美國國土安全部一項名為FAST（未來屬性篩檢技術）的研究項目，試圖透過監測個人的生命徵象、肢體語言和其他生理模式來識別潛在的恐怖分子。其理念是，透過監視人們的行為，可以發現他們的作惡意圖。據國土安全部稱，在測試中，該系統的準確率達到了70%。 （但這究竟意味著什麼尚不明確；研究對像是否被指示假扮恐怖分子，以檢驗其「惡意」是否被識別出來？）儘管這些系統似乎還處於起步階段，但關鍵在於執法部門對此高度重視。
阻止犯罪發生聽起來很有吸引力。在違法行為發生之前就加以預防，難道不比事後懲罰犯罪者好得多嗎？預防犯罪不僅有利於那些可能成為受害者的人，也有利於整個社會，不是嗎？
但這是一條充滿風險的路。如果我們利用大數據預測誰可能在未來犯罪，我們可能並不滿足於僅僅阻止犯罪發生；我們很可能還想懲罰可能的犯罪者。這合乎邏輯。如果我們只是介入並阻止非法行為的發生，潛在的犯罪者可能會再次逍遙法外。相反，如果我們利用大數據讓他為自己的（未來）行為負責，我們或許可以起到威懾作用，並阻止其他人效仿。
指控某人未來可能的行為，無異於動搖正義的根基。如今，諸如保險費或信用評分等行為預測，通常依賴少數幾個基於特定情境的因素（例如，既往健康問題或貸款償還記錄）。本質上，這是一種「畫像分析」——根據個體與特定群體共有的特徵來決定如何對待他們。我們希望藉助大數據來識別特定個體而非群體；這使我們能夠擺脫「畫像分析」的弊端，即避免因關聯而導致每個被預測的嫌疑人都成為「有罪推定」的案例。
大數據帶來的希望在於，我們可以繼續進行我們一直在做的事情——用戶畫像——但要做得更好、更少歧視、更個性化。如果目標只是防止不良行為，這聽起來似乎可以接受。但如果我們利用大數據預測來判斷某人是否應該為尚未發生的行為承擔責任並受到懲罰，那就非常危險了。
基於傾向進行懲罰的想法本身就令人作嘔。指控一個人未來可能的行為，就等於動搖了正義的根基：一個人必須實際做了某件事，我們才能追究其責任。畢竟，想壞事並不違法，做壞事才是違法的。這種做法也否定了無罪推定原則──而這項原則正是我們法律體係以及公平觀念的基石。如果我們讓人們為預測的未來行為（他們可能永遠不會實施的行為）負責，我們也否認了人類擁有道德選擇的能力。
在大數據時代，我們必須拓展對正義的理解。這裡的關鍵不僅在於警務。危險遠不止於刑事司法；它涵蓋社會各個領域，所有需要運用大數據預測來判斷人們是否應為未來行為負責的人類判斷情境。這包括從公司解僱員工、醫生拒絕為病人手術到配偶提出離婚等各方面。
或許有了這樣的系統，社會會更安全、更有高效，但我們作為人類的一個基本特質——選擇自身行為並承擔責任的能力——將會被摧毀。大數據將成為一種工具，用來集體化人類的選擇，並在我們的社會中扼殺自由意志。即便一個人不會像電影《少數派報告》中那樣被關進一個時髦的、類似夜總會的“站立式監獄”，其影響也可能如同懲罰一般。一個因為有偷竊傾向而被社工家訪的青少年，會在他人眼中──以及他自己眼中──感受到污名化。
在大數據時代，我們必須拓展對正義的理解，並要求正義不僅要保障程序公正，更要保障人的自主權。如果沒有這些保障措施，正義的理念本身就可能遭到徹底破壞。
透過保障人的自主權，我們確保政府對我們行為的評判是基於實際行動，而非僅僅依賴大數據分析。因此，政府只需讓我們為過去的行動負責，而非對未來行動的統計預測。當國家評判過往行為時，不應僅依賴大數據。如果企業的大數據活動對許多人造成實質損害，則應公開接受審查。
大數據治理的一個基本支柱必須是，我們將繼續以個人責任和實際行為來評判他人，而不是「客觀地」分析數據來判斷他們是否可能作惡。只有這樣，我們才能真正將他們視為人：視為擁有選擇行為自由、接受行為評判權利的人。
本文經授權摘自《大數據：一場將改變我們生活、工作和思考方式的革命》（霍頓·米夫林·哈考特出版社，2013年）。維克托‧邁爾-舍恩伯格是英國牛津網路研究所的網路治理與監管教授。肯尼斯·庫基爾是《經濟學人》的資料編輯。
