在眾多近期關(guān)于數(shù)據(jù)隱私保護(hù)引發(fā)的討論中，甚少見到關(guān)于數(shù)據(jù)隱私保護(hù)的基本邏輯的底層討論，更多的是關(guān)于“數(shù)據(jù)隱私”的重要性和對于數(shù)據(jù)濫用危險(xiǎn)性的擔(dān)憂。因此，大多數(shù)討論都停留于公共議題的喧嘩之聲和對于科技倫理的表面討論。
事實(shí)上，這個(gè)議題背后涉及了兩個(gè)根本性問題：第一，是數(shù)據(jù)價(jià)值在整個(gè)智能時(shí)代作為生產(chǎn)要素的實(shí)質(zhì)，即通過數(shù)據(jù)挖掘以后的數(shù)據(jù)是如何使用的，以及如何作為新的知識產(chǎn)生的范式是如何對現(xiàn)實(shí)世界產(chǎn)生影響的。第二，現(xiàn)存的數(shù)據(jù)隱私保護(hù)的理念的核心目的是什么，以及怎么認(rèn)識數(shù)據(jù)背后技術(shù)與人之間的關(guān)系？
須知，我們現(xiàn)在的擔(dān)憂在20世紀(jì)八十年代的歐洲學(xué)術(shù)界就有相關(guān)討論，經(jīng)歷那么多年時(shí)間后關(guān)于這方面的討論，早已不是停留在數(shù)據(jù)安全和基礎(chǔ)倫理的層面，很遺憾的是我們對此知之甚少。本文就試圖從數(shù)據(jù)隱私保護(hù)背后的基本邏輯和認(rèn)知論層面的挑戰(zhàn)進(jìn)行討論。
不打擾的權(quán)利
關(guān)于數(shù)據(jù)隱私與安全的保護(hù)研究很多，但討論其實(shí)質(zhì)，包括對個(gè)人權(quán)利和自由的侵犯，自動(dòng)化決策算法帶來不平等的政治經(jīng)濟(jì)學(xué)主張，以及相關(guān)文件中包含的機(jī)器對人類進(jìn)行控制和影響的相關(guān)內(nèi)容并不多。
實(shí)際上早在1890年，美國人沃倫和布蘭代斯就指出了隱私權(quán)的問題，認(rèn)為新的發(fā)明和商業(yè)手段引發(fā)了風(fēng)險(xiǎn)，人們需要采取措施保障人格權(quán)，即“不打擾”的權(quán)利，認(rèn)為“我們的法律是否在方方面面承認(rèn)并保護(hù)隱私權(quán)，這一定會(huì)迅速成為法庭將要考慮的問題”。
2006年，歐文·舍米林斯基明確指出要重新審視布蘭代斯的隱私權(quán)，認(rèn)為應(yīng)該進(jìn)一步設(shè)定關(guān)于深挖個(gè)人信息的法律責(zé)任。而隱私權(quán)的出現(xiàn)則正在改變?nèi)?技術(shù)與世界的關(guān)系，帶來了新的視角?？梢哉J(rèn)為，人通過技術(shù)與世界關(guān)聯(lián)產(chǎn)生了對人類世界新的詮釋，而數(shù)據(jù)隱私權(quán)試圖對這種詮釋的范疇進(jìn)行重新定義。
我們今天討論的所有相關(guān)文件都可以從這個(gè)角度去入手，即數(shù)據(jù)隱私是可以看作成一種試圖將解釋世界權(quán)利的方式和權(quán)利回歸到個(gè)體還是給到機(jī)構(gòu)（商業(yè)組織、政府或者國家）的選擇，而不只是停留在個(gè)人權(quán)利的被侵犯層面，個(gè)體權(quán)利需要通過數(shù)據(jù)權(quán)利的實(shí)現(xiàn)得到延伸而非剝奪，社會(huì)的公平正義可以通過數(shù)據(jù)權(quán)利得到延伸而非放大歧視或者偏見，這是我們的立足點(diǎn)。
討論數(shù)據(jù)隱私保護(hù)相關(guān)的議題，《通用數(shù)據(jù)隱私保護(hù)條例》（GDPR,GeneralDataPro－tectionRegulation）是必須關(guān)注到的文件。這份文件在2016年4月通過，在2018年5月25日生效。事實(shí)上，這份文件是在《數(shù)據(jù)隱私保護(hù)指令》（DataProtectionDirective）文件的基礎(chǔ)上生成的，后者是1995年通過的歐洲聯(lián)盟指令，用于規(guī)范歐盟范圍內(nèi)處理個(gè)人數(shù)據(jù)的行為，是歐盟隱私法和人權(quán)法的重要組成部分。
先看《數(shù)據(jù)隱私保護(hù)指令》這份文件，在歐盟《數(shù)據(jù)隱私保護(hù)指令》中第15條是非常特殊的，它賦予了自然人一項(xiàng)有條件的權(quán)利，認(rèn)為自然人可以不受到基于自動(dòng)化分析生成的決策的影響，因此要求自動(dòng)化的決策（也就是算法決策）必須要首先得到充分的評估后才能使用，且自然人擁有了解這些基于自動(dòng)化分析生成的決策所涉及的邏輯的權(quán)利。
這個(gè)條款的精髓在歐盟發(fā)布的《通用數(shù)據(jù)隱私保護(hù)條例》中也得到了繼承，在新的條例的第22條中不僅規(guī)定了類似權(quán)利的落實(shí)，還補(bǔ)充了對從事自動(dòng)化決策的數(shù)據(jù)控制人增加新的信息披露業(yè)務(wù)的要求，認(rèn)為所有的算法提供商和數(shù)據(jù)使用權(quán)利放，從一開始就需要在數(shù)據(jù)隱私保護(hù)和程序設(shè)計(jì)方面滿足合規(guī)性，其核心目標(biāo)在于“確保在信息系統(tǒng)開發(fā)的整個(gè)生命周期中切實(shí)考慮利益相關(guān)者的隱私保護(hù)和權(quán)益保護(hù)”。
從這一點(diǎn)可以看到，歐盟的數(shù)據(jù)治理思路相對于20年之前的變化。如果說《數(shù)據(jù)隱私保護(hù)指令》是一個(gè)從數(shù)據(jù)隱私保護(hù)出發(fā)，對機(jī)器自動(dòng)化決策進(jìn)行治理的規(guī)范文件，《通用數(shù)據(jù)隱私保護(hù)條例》的立法目的并不是關(guān)注機(jī)器的使用，而是要徹底通過權(quán)利的賦予方式來重塑人和機(jī)器的關(guān)系，這也是數(shù)據(jù)隱私相關(guān)問題的實(shí)質(zhì)，即我們建立一種怎樣的符合人類社會(huì)發(fā)展需要的人機(jī)交互關(guān)系。《數(shù)據(jù)隱私保護(hù)治理》以及法國在1978年所頒布的《數(shù)據(jù)處理、文件和個(gè)人自由法案》都源于對機(jī)器決定論引發(fā)的人類社會(huì)發(fā)展的擔(dān)憂，因此更多的是一種消極治理的思路（后者對所有自動(dòng)數(shù)據(jù)處理的司法、行政或個(gè)人決定都一概禁止）。
可以說，它們的基本邏輯是一種保守主義思想的體現(xiàn)，即確保人類維持對自身造成重大影響的決策的重大控制并為之負(fù)責(zé)。因此《數(shù)據(jù)隱私保護(hù)指令》將某種類型的決策行為作為制約要點(diǎn)而并不是數(shù)據(jù)的處理方式放在嚴(yán)格的質(zhì)量控制之下，這很類似我們在法學(xué)中所強(qiáng)調(diào)的“自然正義觀”。
我們再來看以數(shù)據(jù)隱私保護(hù)聞名的《通用數(shù)據(jù)隱私保護(hù)條例》，與數(shù)據(jù)隱私相關(guān)且繼承了第15條的是第22條，我們對這個(gè)條款的主體內(nèi)容進(jìn)行分析來看數(shù)據(jù)隱私保護(hù)的實(shí)質(zhì)。其條款規(guī)定“數(shù)據(jù)主體有權(quán)反對此類決策：完全依靠自動(dòng)化處理——包括用戶畫像——對數(shù)據(jù)主體做出具有法律影響或者類似嚴(yán)重影響的決策”，除非滿足以下條件：（1）決策對于數(shù)據(jù)主體與數(shù)據(jù)控制者的合同簽訂或合同履行是必要的；（2）當(dāng)決策時(shí)歐盟或成員國的法律所授權(quán)的，控制者是決策的主體，并且已經(jīng)制定了恰當(dāng)?shù)拇胧┍Ｕ蠑?shù)據(jù)主體的權(quán)利、自由和正當(dāng)權(quán)利；（3）當(dāng)決策建立在數(shù)據(jù)主體的明確同意基礎(chǔ)之上?？梢钥吹?，這個(gè)條款的規(guī)定與《數(shù)據(jù)隱私保護(hù)指令》的內(nèi)核思想一脈相承，不僅對機(jī)器錯(cuò)誤和算法歧視帶來的社會(huì)不公平和偏見懷有很大的擔(dān)憂，還直接將用戶畫像（或者叫自動(dòng)化側(cè)寫技術(shù)）作為命題進(jìn)行定義和分析。
但我們要看到的不僅是保守的一面，還要看到相關(guān)條例中所涉及的關(guān)于權(quán)利進(jìn)路的思維，即相關(guān)條例承認(rèn)一個(gè)顯示就是自動(dòng)化算法已經(jīng)廣泛用于私營部門和政府部門，而相關(guān)的應(yīng)用是可以帶來有益于社會(huì)的正向福利的。
相關(guān)的法條通過規(guī)定當(dāng)事人同意、法律授權(quán)和合同約定等方式為自動(dòng)化決策和數(shù)據(jù)安全提供了實(shí)際的路徑（雖然很多方面的討論尚未完善）。更進(jìn)一步，在《通用數(shù)據(jù)條例》中提出了數(shù)據(jù)最小化原則和適當(dāng)性原則，第25條規(guī)定了控制者有責(zé)任采取適當(dāng)?shù)募夹g(shù)與組織措施，以保障在默認(rèn)情況下，只有某個(gè)特定處理目的所必要的個(gè)人數(shù)據(jù)被處理，這種責(zé)任適用于收集的個(gè)人數(shù)據(jù)的數(shù)量、處理的限度，儲(chǔ)存的期限以及可訪問性。
換言之，個(gè)人數(shù)據(jù)應(yīng)該保持“精簡和鎖定”的狀態(tài)。這與《數(shù)據(jù)隱私保護(hù)指令》中僅僅強(qiáng)調(diào)數(shù)據(jù)信息安全不一樣，強(qiáng)調(diào)的是從軟件或硬件設(shè)計(jì)到業(yè)務(wù)策略和商業(yè)實(shí)踐整個(gè)鏈條的原則適用性。
具體到數(shù)據(jù)隱私問題，第25條背后展現(xiàn)出來的數(shù)據(jù)倫理考慮的核心思想，就是以增強(qiáng)隱私數(shù)據(jù)隱私保護(hù)技術(shù)為基礎(chǔ)，將保護(hù)隱私的理念設(shè)計(jì)到相應(yīng)的軟件系統(tǒng)中。換句話說就是將人類的倫理價(jià)值觀嵌入到技術(shù)設(shè)計(jì)的過程之中，這也是我認(rèn)為未來解決數(shù)據(jù)隱私和倫理問題的核心，即將行為的正義性和倫理道德的合理性通過技術(shù)來嵌入，而不是僅僅通過保守的數(shù)據(jù)隱私保護(hù)的方式去解決。
事實(shí)上，這樣的思想逐漸正成為AI倫理或者數(shù)據(jù)倫理研究的重要路徑，無論是雷登伯格提倡的“信息法制（LexInformati－ca）”，還是希爾德布蘭特和庫普斯所提倡的“環(huán)境性法律（Am－bientLaw）”，都涉及到了相應(yīng)理念，認(rèn)為跨學(xué)科的技術(shù)應(yīng)用的方式能夠比傳統(tǒng)法律更好地塑造人類社會(huì)與人類行為。
數(shù)字世界運(yùn)行邏輯的認(rèn)知重構(gòu)
理解這一點(diǎn)后，我們可以提出我們的理念，即數(shù)據(jù)隱私保護(hù)和算法決策等問題的核心在于，是否我們可以通過程序設(shè)計(jì)的范式來實(shí)現(xiàn)人類權(quán)利的保護(hù)，以及相應(yīng)倫理道德價(jià)值觀在技術(shù)層面的落實(shí)。
當(dāng)然，我們可以預(yù)言到相應(yīng)的阻礙到底有多大，包括法律語言的措辭和語法無法轉(zhuǎn)換、復(fù)雜晦澀的法律權(quán)利和義務(wù)的范圍難以說清以及交叉數(shù)據(jù)隱私保護(hù)和算法透明性等問題。但可以認(rèn)為，這條路徑在科技向前發(fā)展的情況下，幾乎是唯一可以實(shí)現(xiàn)權(quán)利保護(hù)和社會(huì)發(fā)展平衡的路徑，與其陷入無休止的倫理道德爭端，不如考慮技術(shù)路徑如何實(shí)現(xiàn)這樣的復(fù)雜系統(tǒng)。
更進(jìn)一步說，數(shù)據(jù)分布在社會(huì)的各個(gè)領(lǐng)域，從個(gè)人生活到公共服務(wù)領(lǐng)域，再到國家、政府的治理以及決策等環(huán)節(jié)，數(shù)據(jù)的使用也非常普遍。
微觀層面的個(gè)體都是數(shù)據(jù)的攜帶者、生產(chǎn)者和使用者；中觀層面看，對數(shù)據(jù)的挖掘和使用就是智能化算法最主要的工作，也是AI能夠?qū)鹑?、零售、醫(yī)療等行業(yè)進(jìn)行賦能的原因。宏觀層面來看，涉及國際政治、軍事和經(jīng)濟(jì)都會(huì)使用到不同的數(shù)據(jù)。
可以看到，在數(shù)據(jù)生產(chǎn)和被算法使用的過程中，兩個(gè)過程是同時(shí)進(jìn)行的：一方面，算法將自然界中的事物進(jìn)行數(shù)據(jù)化，即人類存在的實(shí)體世界轉(zhuǎn)換成了新的樣式；另一方面，數(shù)據(jù)的產(chǎn)生形成了新的自然界，與現(xiàn)實(shí)的世界進(jìn)行深度互動(dòng)。
正如斯蒂格勒所說，虛擬現(xiàn)實(shí)的各種代具都是由“顯像銀幕眼鏡”和“數(shù)據(jù)庫手套”組成的，眼鏡中呈現(xiàn)的虛擬空間要么根本不存在，而只是從其整體物理特征上模擬出來；要么存在于別處，但在眼鏡與手套使用者的真實(shí)所在地被虛擬復(fù)制出來。
換言之，我們正處于真實(shí)世界和數(shù)據(jù)世界疊加的狀態(tài)中，數(shù)據(jù)隱私的問題從根本上來說并非只是一個(gè)單獨(dú)權(quán)利的保護(hù)，而是對數(shù)字世界運(yùn)行邏輯的認(rèn)知重構(gòu)。
這帶來的是數(shù)據(jù)作為生產(chǎn)要素的特殊性，它改變了既有世界的本體論、認(rèn)知論與倫理價(jià)值觀：從存在論的角度看，人類存在其中的世界已經(jīng)產(chǎn)生了數(shù)據(jù)這種新的要素，以及智能化機(jī)器這樣非自然生成物，因此一種新的存在環(huán)境被生成。
具體來說，存在的軌跡以數(shù)據(jù)的方式呈現(xiàn)，從技術(shù)哲學(xué)的角度來說，數(shù)據(jù)帶來了“在場性”的變化，即通過數(shù)據(jù)化的技術(shù)讓人的在場性被拓展，使得透明性退場。例如通過圖像識別技術(shù)重現(xiàn)人們的運(yùn)動(dòng)軌跡和時(shí)間序列，或者通過對商場的數(shù)據(jù)挖掘使得人們的行為能夠被引導(dǎo)。
這樣的方式改變了人們的行為邏輯，也是數(shù)據(jù)要素最重要的價(jià)值；從認(rèn)知論的維度來看，人類面向的世界不再是人改造自然的簡單關(guān)系，而是生成了新的物種和要素，感知世界的方式和自我認(rèn)同的方式也在改變。
算法可以通過數(shù)據(jù)的調(diào)節(jié)，來調(diào)整數(shù)據(jù)自然里的出場次序和顯現(xiàn)的影像。例如，臉書通過算法的改變，對自身的首頁內(nèi)容進(jìn)行不同推薦，這樣的結(jié)果不僅是商業(yè)層面的，也是認(rèn)知層面的，這才帶來了后續(xù)跟劍橋分析公司的丑聞；相應(yīng)的，這也就帶來了數(shù)據(jù)倫理視域的視角變化，即從人、技術(shù)與自然世界的關(guān)系來重構(gòu)我們的倫理觀念。
最近發(fā)生的一系列關(guān)于數(shù)據(jù)隱私的新聞事件，加深了個(gè)體對隱私問題隱私的擔(dān)憂，同時(shí)依賴人口紅利的互聯(lián)網(wǎng)經(jīng)濟(jì)和基于機(jī)器學(xué)的決策系統(tǒng)的復(fù)雜和不透明則加深了這一擔(dān)憂。如何發(fā)揮好相應(yīng)監(jiān)管條例的前提條件就變得苛刻起來。
這里不得不強(qiáng)調(diào)一個(gè)事實(shí)，就是不管是算法還是監(jiān)管措施都在指向算法“透明度”，而事實(shí)上，對于現(xiàn)有的以深度學(xué)習(xí)為基礎(chǔ)的人工智能算法來說是幾乎不可行的，相應(yīng)的研究和立法試圖創(chuàng)造這樣的不可行的也不符合用戶需求的透明形式的權(quán)利，其結(jié)果是非常危險(xiǎn)和毫無意義的。透明度的權(quán)利并不一定能夠確保實(shí)質(zhì)性的競爭或者有效的補(bǔ)助措施，更多是在感官上給大眾一種監(jiān)管有所作為的體現(xiàn)，而并沒有考慮事實(shí)上的技術(shù)和應(yīng)用情境。
相對應(yīng)的，《通用數(shù)據(jù)隱私保護(hù)條例》只是在原則層面提供了“公平和透明地處理個(gè)人數(shù)據(jù)”的說法，這樣為數(shù)據(jù)隱私保護(hù)法律提供了一個(gè)比較開放和靈活的尺度，去衡量數(shù)據(jù)隱私問題的影響并讓算法決策系統(tǒng)承擔(dān)責(zé)任。除此之外，條例中的其它條款更具備可操作性，包括數(shù)據(jù)隱私保護(hù)影響評估、數(shù)據(jù)可移植性、數(shù)據(jù)認(rèn)證和數(shù)據(jù)刪除等。
換言之，我們可以根據(jù)實(shí)操的可行性和原則的方向，引入更多可以實(shí)施的權(quán)利方向進(jìn)行討論（例如“合理推斷權(quán)”等），而不是坐等一個(gè)完善的條例出現(xiàn)或者毫無實(shí)操意義的指導(dǎo)建議成為討論的熱點(diǎn)。
總結(jié)下，我們對數(shù)據(jù)隱私和算法決策的倫理進(jìn)行了解讀，即在于我們采納了一種行為主義導(dǎo)向的方式去看待數(shù)據(jù)隱私。一方面，我們承認(rèn)個(gè)人數(shù)據(jù)權(quán)利的重要性和相應(yīng)監(jiān)管機(jī)制建立的必要性。另一方面，我們也要減少一刀切的“規(guī)范性斷聯(lián)”以及“監(jiān)管過度延伸”的情況出現(xiàn)。
隱私保護(hù)不是不作為的借口，而是尋求算法規(guī)制的起點(diǎn)，我們要保護(hù)的是數(shù)據(jù)在成為算法決策依據(jù)后的公平和正義。
換言之，我們承認(rèn)技術(shù)與倫理的雙向調(diào)節(jié)作用：一方面，我們認(rèn)為技術(shù)通過對物質(zhì)環(huán)境的改造構(gòu)成自由，在這種物質(zhì)環(huán)境中存在著數(shù)據(jù)這一特殊要素，人類正在認(rèn)知這樣的數(shù)據(jù)世界并形成新的倫理范式。另一方面，技術(shù)與人類正在形成特殊的連接，這種連接讓人們對技術(shù)的發(fā)展積極看待的同時(shí)報(bào)以警惕的心態(tài)，同時(shí)也在利用技術(shù)調(diào)節(jié)來為人類社會(huì)的道德發(fā)展制定新的規(guī)則和創(chuàng)新的詮釋空間，即將非人類的要素（如數(shù)據(jù)）納入到道德體系中去考慮。
因此，數(shù)據(jù)隱私問題與其說是商業(yè)權(quán)利跨越了道德門檻的問題，更深刻的理解是人類為了實(shí)現(xiàn)更大范圍的正義（不僅包括傳統(tǒng)世界，也包括數(shù)據(jù)的非自然世界），不得不提升自身的技術(shù)能力和修正倫理范式的過程。我們不僅要關(guān)注技術(shù)引發(fā)的倫理問題，也要看到技術(shù)對倫理的助推作用。
（劉志毅 作者系數(shù)字經(jīng)濟(jì)學(xué)家、商湯智能產(chǎn)業(yè)研究院主任）
