文 / 段偉文

（中國(guó)社會(huì)科學(xué)院科學(xué)技術(shù)和社會(huì)研究中心）

追溯信息技術(shù)和數(shù)據(jù)技術(shù)所推動(dòng)的信息及智能時(shí)代的發(fā)展歷程，每個(gè)人可以有不同的視角和答案。但有一點(diǎn)是肯定的——每一闋新的技術(shù)神話(huà)，都是一場(chǎng)技術(shù)與社會(huì)互構(gòu)的傳奇，其實(shí)質(zhì)是曠日持久且規(guī)模不斷拓展的社會(huì)倫理試驗(yàn)。在這一超級(jí)社會(huì)倫理連續(xù)大劇中，各種價(jià)值反思與倫理權(quán)衡一直貫穿其中。

沒(méi)有思想的世界：科技巨頭對(duì)獨(dú)立思考的威脅

[美] 富蘭克林·福爾 / 著

舍其 / 譯

中信出版集團(tuán)，2019-12

1876年3月10日，美國(guó)發(fā)明家貝爾記錄下了世界上首次電話(huà)通話(huà)——我對(duì)著話(huà)筒大聲喊道：“沃森先生，到這里來(lái)，我想見(jiàn)你。”在這起改變世界的事件中，電話(huà)這種新的信息技術(shù)拓展出一種可以實(shí)時(shí)交互的信息空間（info-sphere），而這種非在場(chǎng)的交互體驗(yàn)讓普通人第一次感受到虛擬在場(chǎng)。自此，各種信息空間和虛擬在場(chǎng)方式成為信息時(shí)代生活形式的基礎(chǔ)，亦導(dǎo)致諸多價(jià)值沖突和倫理抉擇。

在信息時(shí)代起步之時(shí)，人們就開(kāi)始為隱私權(quán)、數(shù)據(jù)權(quán)利受到侵害倍感困擾。電話(huà)剛剛開(kāi)始普及時(shí)，往往是一個(gè)小鎮(zhèn)的幾家人共用一個(gè)電話(huà)信道，結(jié)果各種家長(zhǎng)里短、戀人間的悄悄話(huà)變得毫無(wú)隱私。后來(lái)，隨著交換機(jī)技術(shù)的發(fā)展，這些新技術(shù)帶來(lái)的倫理尷尬似乎得到了化解。但直到現(xiàn)在，從竊取電子通信錄和通信記錄到各種針對(duì)個(gè)人信息和敏感數(shù)據(jù)的不當(dāng)采集，從騷擾性的推銷(xiāo)電話(huà)到借助人工智能語(yǔ)音造假的詐騙電話(huà)，信息通信技術(shù)的濫用乃至惡意使用仍屢禁不止，個(gè)人信息和數(shù)據(jù)的保護(hù)已成為智能時(shí)代捍衛(wèi)個(gè)人權(quán)利的焦點(diǎn)。

The Second Self: Computers and the Human Spirit

Sherry Turkle

The MIT Press, 2005-09

19世紀(jì)末20世紀(jì)初，隨著攝影技術(shù)的發(fā)展，照相成為記錄人們生活的迷人的新技術(shù)。當(dāng)?shù)谝淮慰吹阶约憾ǜ裼跁r(shí)空中的留影時(shí)，人們大多倍感欣喜和驚奇，但也有人會(huì)油然而生一種狐疑：一旦人的影像被記錄下來(lái)，會(huì)不會(huì)有一部分靈魂被偷走。雖然這種可怕的想象沒(méi)有變成現(xiàn)實(shí)，但人們很快意識(shí)到：拍下某個(gè)人的照片，往往意味著擁有了某種針對(duì)那個(gè)人的力量。特別是隨著各種便攜式相機(jī)的普及，隱私權(quán)被侵犯開(kāi)始成為人們?cè)谙硎苄畔⒓夹g(shù)的利好時(shí)不得不擔(dān)憂(yōu)的問(wèn)題。

近150年來(lái)，面對(duì)信息科技發(fā)展帶來(lái)的社會(huì)倫理挑戰(zhàn)，人們一般難以運(yùn)用已有的道德規(guī)范加以應(yīng)對(duì)，只能在其技術(shù)實(shí)踐和體驗(yàn)中，逐漸構(gòu)建起相應(yīng)的倫理反射弧，進(jìn)而在此柔性規(guī)范的基礎(chǔ)上，制定剛性的和可執(zhí)行的法律規(guī)范。直到20世紀(jì)70年代，隨著計(jì)算機(jī)和數(shù)據(jù)庫(kù)的應(yīng)用日益廣泛，個(gè)人數(shù)據(jù)及隱私權(quán)保護(hù)才成為法律規(guī)制的對(duì)象。

盡管當(dāng)前在數(shù)據(jù)保護(hù)方面歐洲似乎更主動(dòng)和積極，但美國(guó)卻是信息時(shí)代個(gè)人數(shù)據(jù)和隱私保護(hù)的先鋒。1973年，美國(guó)衛(wèi)生、教育和福利部（HEW）任命的數(shù)據(jù)自動(dòng)化系統(tǒng)咨詢(xún)委員會(huì)首次提出了“公平信息實(shí)踐”（Fair Information Practices，簡(jiǎn)寫(xiě)為FIPs）的概念以及五項(xiàng)原則，對(duì)個(gè)人數(shù)據(jù)的透明性、使用限制、訪問(wèn)和更正、數(shù)據(jù)質(zhì)量、安全性等均做出了規(guī)定，這也成為美國(guó)國(guó)會(huì)次年通過(guò)的《隱私法》的基礎(chǔ)。1977年，根據(jù)《隱私法》設(shè)立的隱私保護(hù)研究委員會(huì)向卡特總統(tǒng)提交了《在信息社會(huì)中保護(hù)隱私》的報(bào)告，將FIPs的五項(xiàng)原則細(xì)化為八項(xiàng)原則，其中前三項(xiàng)原則是：開(kāi)放原則，不應(yīng)有一個(gè)秘密存在的個(gè)人數(shù)據(jù)記錄保存系統(tǒng)，并且應(yīng)對(duì)組織的個(gè)人數(shù)據(jù)記錄保存規(guī)則、慣例和系統(tǒng)采取開(kāi)放政策；個(gè)人準(zhǔn)入原則，對(duì)于記錄保存機(jī)構(gòu)以個(gè)人可識(shí)別的形式保存的信息，個(gè)人有權(quán)查看和復(fù)制；個(gè)人參與原則，對(duì)于記錄保存組織保存的個(gè)人信息，個(gè)人有權(quán)更正或修改該信息的實(shí)質(zhì)內(nèi)容。另外，報(bào)告中還闡明了任何數(shù)據(jù)保護(hù)系統(tǒng)都應(yīng)該實(shí)現(xiàn)的三個(gè)目標(biāo)：盡量減少干擾、最大限度的公平、合法與可執(zhí)行的保密預(yù)期。

如今各國(guó)的數(shù)據(jù)保護(hù)規(guī)范均源自FIPs，透過(guò)這些早期的探討，可以窺見(jiàn)管理者推動(dòng)個(gè)人數(shù)據(jù)保護(hù)的初衷。不過(guò)必須指出的是，即便看起來(lái)是可執(zhí)行的剛性規(guī)范，基于FIPs的數(shù)據(jù)保護(hù)在法律實(shí)踐中也并不成功，隱私保護(hù)一直在路上，甚至越來(lái)越困難。從個(gè)人的角度來(lái)看，用戶(hù)的知情權(quán)和選擇權(quán)往往被忽視，隱私政策時(shí)常難以理解。對(duì)企業(yè)來(lái)講，隱私政策又存在著高成本和互不兼容等問(wèn)題。由此，一種必要的實(shí)踐智慧是，在相關(guān)法律不能達(dá)到有效規(guī)制的目標(biāo)時(shí)，應(yīng)該考慮到，技術(shù)的快速變遷和復(fù)雜的現(xiàn)實(shí)利益關(guān)聯(lián)往往使得相對(duì)剛性的法律規(guī)制難以有效執(zhí)行。那么，能否從法律層面退一步，在價(jià)值和倫理層面構(gòu)建起更細(xì)致的柔性約束，為更為務(wù)實(shí)有效的法律規(guī)制奠定基礎(chǔ)？具體而言，在越來(lái)越多的數(shù)據(jù)驅(qū)動(dòng)的智能技術(shù)應(yīng)用場(chǎng)景中，應(yīng)該在法律層面確保個(gè)人安全、保證個(gè)人信息的完整性、實(shí)現(xiàn)保護(hù)的一致性和有效執(zhí)行的同時(shí)，展開(kāi)必要的價(jià)值權(quán)衡和倫理構(gòu)建。一方面，通過(guò)價(jià)值權(quán)衡，促使個(gè)人數(shù)據(jù)與隱私的保護(hù)在預(yù)防數(shù)據(jù)流動(dòng)對(duì)個(gè)人的危害與數(shù)據(jù)利用的效益最大化之間做出精細(xì)的權(quán)衡；另一方面，訴諸倫理構(gòu)建，推動(dòng)企業(yè)和機(jī)構(gòu)對(duì)其行為的透明、誠(chéng)信和責(zé)任做出具有一定約束力的倫理承諾。

除了隱私權(quán)和數(shù)據(jù)權(quán)利之外，信息時(shí)代的另一個(gè)更難以應(yīng)對(duì)的價(jià)值倫理挑戰(zhàn)來(lái)自數(shù)據(jù)造假。吊詭的是，雖然數(shù)據(jù)和信息被視為知識(shí)和智慧的基礎(chǔ)，但信息化、網(wǎng)絡(luò)化、數(shù)字化和智能化的發(fā)展帶來(lái)的最大悖論卻是低質(zhì)量信息泛濫成災(zāi)，各種水軍和社交機(jī)器人令人真假莫辨，大量虛假信息和數(shù)據(jù)使人面對(duì)后真相時(shí)代束手無(wú)策。盡管人們一度對(duì)科學(xué)實(shí)驗(yàn)數(shù)據(jù)、照片、視頻刻畫(huà)的世界和事實(shí)的客觀性深信不疑，但最終不得不承認(rèn)，凡是人從事的活動(dòng)都可能造假，即便數(shù)據(jù)的記錄過(guò)程是誠(chéng)實(shí)的，人們對(duì)這些記錄的解釋和利用也不可能不偏不倚。拋開(kāi)攝影術(shù)本身的視角選擇和光影調(diào)配不說(shuō)，照片并不是對(duì)世界赤裸而客觀的記錄，各種編排、增刪和特定的解釋會(huì)賦予照片不同的意義。

更讓人有挫敗感的是，由于數(shù)字技術(shù)和智能化的數(shù)據(jù)處理技術(shù)的加持，照片的偽造與變?cè)斐蔀榕c時(shí)俱進(jìn)的數(shù)據(jù)造假方式。時(shí)至今日，生物醫(yī)學(xué)研究中頻頻爆出圖像和照片造假，嚴(yán)重削弱了科學(xué)家在公眾心目中恪守誠(chéng)信的“人設(shè)”。面對(duì)生成對(duì)抗網(wǎng)絡(luò)的發(fā)展，人們?cè)跒槿斯ぶ悄芩囆g(shù)前景歡呼的同時(shí)，難免擔(dān)憂(yōu)深度造假的濫用可能帶來(lái)的危害。在《科學(xué)》（Science）雜志2019年3月發(fā)表的一篇論文中，研究者甚至指出可以運(yùn)用人工智能在正常的醫(yī)學(xué)影像中制造罹患癌癥的假象，并進(jìn)而強(qiáng)調(diào)應(yīng)防范醫(yī)院與保險(xiǎn)公司合謀以此坑害患者。[1]

在充滿(mǎn)利益糾紛和權(quán)力爭(zhēng)奪的政治領(lǐng)域，數(shù)據(jù)分析和聊天機(jī)器人等人工智能技術(shù)也淪為了造假利器。在英國(guó)脫歐公投和2016年美國(guó)大選中，劍橋分析公司利用大量數(shù)據(jù)鎖定并說(shuō)服選民，通過(guò)人工智能加持的“心理戰(zhàn)”干預(yù)了投票。據(jù)報(bào)道，在英國(guó)脫歐公投期間，某國(guó)的一個(gè)互聯(lián)網(wǎng)研究機(jī)構(gòu)通過(guò)13 000個(gè)機(jī)器人賬戶(hù)在推特（Twitter）上假裝為論辯雙方發(fā)言，但贊同脫歐的內(nèi)容是反對(duì)脫歐的8倍；2016年美國(guó)大選期間，有1/5的網(wǎng)絡(luò)辯論來(lái)自機(jī)器人。更充滿(mǎn)魔幻色彩的黑色幽默是，2015年專(zhuān)為已婚人士尋求艷遇的約會(huì)網(wǎng)站AshleyMadison.com遭到黑客攻擊，3 700萬(wàn)用戶(hù)資料被泄露，結(jié)果顯示，500萬(wàn)女性用戶(hù)中的大多數(shù)在注冊(cè)后鮮少登陸，而其中7萬(wàn)被稱(chēng)為“天使”的注冊(cè)為女性的用戶(hù)卻十分活躍。“天使”們會(huì)主動(dòng)與男性用戶(hù)聯(lián)系，但在對(duì)方付費(fèi)后才予回復(fù)并在幾個(gè)月間保持聯(lián)系，以確保“渣男”們繼續(xù)登陸和續(xù)費(fèi)……當(dāng)然，聰明的讀者已經(jīng)知道了荒謬的謎底：讓登徒子們垂涎三尺而不得的“天使”們，無(wú)一不是邊吃數(shù)據(jù)邊送秋波如假包換的“機(jī)器姬”。[2]面對(duì)人工智能數(shù)據(jù)造假和機(jī)器人水軍之類(lèi)高技術(shù)含量的挑戰(zhàn)，單靠?jī)r(jià)值反思和倫理調(diào)適無(wú)異于紙上談兵，必須從技術(shù)反制和法律規(guī)制兩個(gè)方面予以有力的制約。國(guó)家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國(guó)家廣播電視總局2019年11月底聯(lián)合印發(fā)的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》（2020年1月1日起施行）無(wú)疑有利于遏制人工智能新聞造假等行為。

新黑暗時(shí)代：科技與未來(lái)的終結(jié)

[英] 詹姆斯 · 布萊德?tīng)?/ 著

宋平、梁余音 / 譯

萬(wàn)有引力、廣東人民出版社，2019-06

不論信息和智能科技要進(jìn)行什么樣的社會(huì)倫理試驗(yàn)，最終的目的只能是創(chuàng)造一種人人都可以接受的公平正義的美好生活，而這一目的的實(shí)現(xiàn)往往需要每個(gè)公民的實(shí)際行動(dòng)。在信息時(shí)代的高歌猛進(jìn)中，不可回避的現(xiàn)實(shí)是，信息技術(shù)的產(chǎn)業(yè)化發(fā)展及其對(duì)人類(lèi)社會(huì)的顛覆性影響與其在社會(huì)政治層面所凝聚的知識(shí)權(quán)力結(jié)構(gòu)休戚相關(guān)。而常識(shí)告訴我們，再完美的權(quán)力機(jī)構(gòu)，也有陽(yáng)光雨露灑不到的角落，而要改變這一點(diǎn)，需要每個(gè)人以切實(shí)的行動(dòng)去矯正由權(quán)力盲區(qū)造成的公正落差。最簡(jiǎn)單的事實(shí)是，包括互聯(lián)網(wǎng)在內(nèi)的所有信息通信網(wǎng)絡(luò)都建立在自然壟斷的信息基礎(chǔ)產(chǎn)業(yè)之上。20世紀(jì)20年代，美國(guó)密歇根州等比較偏遠(yuǎn)的地區(qū)，被美國(guó)電報(bào)電話(huà)公司等電信巨頭視為沒(méi)有必要布線(xiàn)的無(wú)利可圖的地方，那里有大約300萬(wàn)的農(nóng)民通過(guò)自制的可以傳導(dǎo)電信號(hào)的柵欄傳遞信息和通話(huà)。信息論的創(chuàng)立者香農(nóng)（Claude Shannon）小時(shí)候曾是維護(hù)這種電柵欄的能手。這個(gè)可能被歷史遺忘的故事表明，縱使面對(duì)壟斷和排他的知識(shí)權(quán)力結(jié)構(gòu)，人們依然可以運(yùn)用其掌握的技術(shù)發(fā)揮能動(dòng)性。面對(duì)高度壟斷的軟件產(chǎn)業(yè)，開(kāi)放源代碼運(yùn)動(dòng)帶來(lái)的開(kāi)源軟件使人們更多地享受到信息技術(shù)創(chuàng)新的紅利；在地震等災(zāi)害中，人們可以通過(guò)智能手機(jī)的應(yīng)用軟件共享災(zāi)區(qū)的重要信息；在智慧城市實(shí)踐中，很多軟件工程師擔(dān)當(dāng)起公民科學(xué)家，投身公益性軟件的開(kāi)發(fā)。

﹏﹏﹏﹏

互聯(lián)網(wǎng)的概念來(lái)源之一可以追溯至人們對(duì)智能圈、超級(jí)智能等人類(lèi)知識(shí)與智慧空間的向往，其目標(biāo)是通過(guò)知識(shí)共享推動(dòng)知識(shí)創(chuàng)造。1946年，美國(guó)戰(zhàn)后科技政策的操盤(pán)手范內(nèi)瓦·布什（Vannevar Bush）在《大西洋月刊》（The Atlantic）上發(fā)表了一篇題為“恰如我們一樣思考”（As We May Think）的文章，倡導(dǎo)開(kāi)發(fā)能大規(guī)模記錄人類(lèi)活動(dòng)以促進(jìn)人類(lèi)的經(jīng)驗(yàn)智慧增長(zhǎng)的技術(shù)。在文中，他虛構(gòu)了一種被稱(chēng)為Memex的臺(tái)式信息機(jī)器。這個(gè)機(jī)器由存儲(chǔ)器、一個(gè)鍵盤(pán)、一塊半透明屏幕等組成，可以通過(guò)微縮膠卷輸入，用鍵盤(pán)檢索大量的存儲(chǔ)數(shù)據(jù)。這樣一來(lái)，人們只要在辦公室就可以檢索和管理信息，通過(guò)各種知識(shí)庫(kù)拓展智能，更好地管理各種事務(wù)。50年后，布什的這一構(gòu)想被追認(rèn)為網(wǎng)絡(luò)超文本鏈接的原始構(gòu)想。

直到20世紀(jì)六七十年代，在西方反主流文化運(yùn)動(dòng)中成長(zhǎng)起來(lái)的數(shù)字烏托邦主義者才將計(jì)算機(jī)和網(wǎng)絡(luò)等信息技術(shù)視為掙脫現(xiàn)代性對(duì)人的僵硬的安排的工具。他們創(chuàng)造了個(gè)人電腦、全球電子鏈接，建立了引領(lǐng)互聯(lián)網(wǎng)早期發(fā)展的賽博文化（Cyber culture）。20多年前，在比爾·蓋茨（Bill Gates）的《未來(lái)之路》（The Road Ahead）和尼葛洛龐帝（Nicholas Negroponte）的《數(shù)字化生存》（Being Digital）等未來(lái)啟示錄式的暢銷(xiāo)書(shū)中，展示了一系列以摩爾定律和新自由主義為基調(diào)的技術(shù)樂(lè)觀主義的愿景，信息技術(shù)創(chuàng)新似乎會(huì)帶來(lái)一種沒(méi)有極限的增長(zhǎng)，網(wǎng)絡(luò)空間與虛擬現(xiàn)實(shí)會(huì)賦予人們一個(gè)更加平權(quán)、民主、自由的去中心化的前景。但這種貌似個(gè)體可以通過(guò)虛擬的網(wǎng)絡(luò)空間擺脫現(xiàn)實(shí)社會(huì)制約的幻象很快就破滅了，信息網(wǎng)絡(luò)空間并沒(méi)有成為獨(dú)立于物理空間的賽博空間，而是成了虛擬與現(xiàn)實(shí)相互交纏的數(shù)據(jù)空間和編碼空間。

未來(lái)之路

比爾·蓋茨 / 著

辜正坤 / 譯

北京大學(xué)出版社，1996-01

數(shù)字化生存

[美] 尼古拉·尼葛洛龐帝 / 著

胡泳，范海燕 / 譯

電子工業(yè)出版社，2017-01

隨著谷歌搜索對(duì)百科全書(shū)檢索式的雅虎等早期門(mén)戶(hù)網(wǎng)站的超越，以及Web2.0和網(wǎng)絡(luò)社交新媒體的發(fā)展，用戶(hù)所生成的內(nèi)容（UGC）不僅使網(wǎng)絡(luò)為用戶(hù)數(shù)據(jù)所驅(qū)動(dòng)，而且這些數(shù)據(jù)反過(guò)來(lái)會(huì)成為人們的數(shù)據(jù)足跡。隨著移動(dòng)互聯(lián)網(wǎng)、網(wǎng)絡(luò)社交媒體、智能手機(jī)、可穿戴設(shè)備等信息技術(shù)的發(fā)展和各種數(shù)據(jù)的指數(shù)化增長(zhǎng)，對(duì)人的線(xiàn)上和線(xiàn)下行為數(shù)據(jù)的搜集和分析則可能使每個(gè)人成為被追蹤、觀測(cè)、分析的對(duì)象。數(shù)據(jù)的掌握者由此可對(duì)數(shù)據(jù)進(jìn)行認(rèn)知計(jì)算，借助一定的算法對(duì)數(shù)據(jù)主體展開(kāi)行為評(píng)分和內(nèi)容推薦等，從而評(píng)判、引導(dǎo)和干預(yù)人的行為。從社會(huì)形態(tài)的變遷來(lái)看，不論是運(yùn)用數(shù)據(jù)描述或干預(yù)世界和人的行為，還是運(yùn)用各種可穿戴設(shè)備采集、分析數(shù)據(jù)以對(duì)他人或自己的生活進(jìn)行量化自我等管理與治理，都預(yù)示著一個(gè)全新的社會(huì)——數(shù)據(jù)解析社會(huì)的來(lái)臨。數(shù)據(jù)解析社會(huì)這種新的社會(huì)形態(tài)是革命性的：一方面，數(shù)據(jù)所扮演的角色如同13世紀(jì)出現(xiàn)的透鏡，用透鏡制造的望遠(yuǎn)鏡和顯微鏡讓宇宙和微觀世界得以被清晰地觀測(cè)與呈現(xiàn)，如今“數(shù)據(jù)透鏡”則使人的行為得到量化地記錄與透視；另一方面，就像17世紀(jì)笛卡爾發(fā)明解析幾何使自然界的結(jié)構(gòu)與規(guī)律得以被探究一樣，數(shù)據(jù)分析與智能算法的應(yīng)用正在使人的行為規(guī)律得以被洞察和解析。

針對(duì)這一時(shí)代性的變化，互聯(lián)網(wǎng)思想家馬克·戴維斯（Marc Davis）對(duì)數(shù)字人和數(shù)字自我進(jìn)行了具有啟發(fā)性的思考。[3]在他看來(lái)，距今100萬(wàn)年或更早，人類(lèi)先祖演化為具有高度自我意識(shí)和認(rèn)知能力的智人，作為物理自我的人成為一種可以在世界中行動(dòng)的主體或自然人。約1萬(wàn)年前，伴隨著《漢謨拉比法典》等法律制度的構(gòu)建，逐漸出現(xiàn)了法人的概念，規(guī)定了具有行動(dòng)自由和行為能力的人能做什么和不能做什么。而在最近的20余年間，在網(wǎng)絡(luò)化、數(shù)字化和智能化的推動(dòng)下，人們的行為越來(lái)越多地以在線(xiàn)的方式實(shí)現(xiàn)，個(gè)人信息或數(shù)據(jù)成為大數(shù)據(jù)和人工智能應(yīng)用的原料，人也因此獲得了“數(shù)字人”這一全新的存在形態(tài)。這一人類(lèi)新形態(tài)使人一時(shí)間無(wú)所適從，其根本原因是尚未形成一種合理的數(shù)據(jù)規(guī)范。數(shù)據(jù)既是自我特征又是智能應(yīng)用的基礎(chǔ)，并由此導(dǎo)致了一系列前所未有的難題。戴維斯認(rèn)為，如同物理自我應(yīng)該得到保護(hù)一樣，數(shù)字自我也需要得到保護(hù)。其中最為基本的問(wèn)題是隱私和控制問(wèn)題：誰(shuí)在采集你的數(shù)據(jù)？誰(shuí)可以擁有它們？應(yīng)該如何使用這些數(shù)據(jù)？如果說(shuō)透過(guò)數(shù)據(jù)可以了解人的特征和行為，那么掌握這些數(shù)據(jù)是不是意味著對(duì)人的監(jiān)控？大數(shù)據(jù)時(shí)代令人時(shí)刻感到焦慮的問(wèn)題是：誰(shuí)在何時(shí)何地能夠看到你？

搜索：開(kāi)啟智能時(shí)代的新引擎

[美] 斯特凡 · 韋茨 / 著

任頌華 / 譯

中信出版集團(tuán)，2017-04

有關(guān)數(shù)字人或數(shù)字自我的討論表明，人類(lèi)及反映其特征和行為的數(shù)據(jù)已經(jīng)逐漸融合為人與數(shù)據(jù)的聚合。一方面，通過(guò)各種監(jiān)測(cè)手段獲得的數(shù)據(jù)，可以直接影響到人的感知和行為。當(dāng)早上起來(lái)感覺(jué)頭暈的時(shí)候，你如果看到智能手環(huán)上顯示血壓較高或較低，就會(huì)感到緊張并立即服藥。另一方面，基于數(shù)據(jù)的智能認(rèn)知日益與人類(lèi)認(rèn)知形成無(wú)縫連接，甚至使人在生活中產(chǎn)生一種人數(shù)協(xié)同的數(shù)據(jù)感。在一些情況下，這種覺(jué)知能力正在演變?yōu)榛跀?shù)據(jù)覺(jué)知的具身認(rèn)知。心跳、血壓、血糖等實(shí)時(shí)監(jiān)測(cè)數(shù)據(jù)使人對(duì)自己的身體變化更加敏感，自動(dòng)導(dǎo)航應(yīng)用則會(huì)幫助方向感不好的司機(jī)更輕松自如地駛向目的地。而由此帶來(lái)的革命性變化才剛剛開(kāi)始，各種數(shù)據(jù)驅(qū)動(dòng)的智能系統(tǒng)未來(lái)將無(wú)處不在。就像人們現(xiàn)在佩戴的眼鏡，這些智能系統(tǒng)將為人們展示一幅增強(qiáng)現(xiàn)實(shí)的世界圖景：在去莎士比亞故居的路上，智能旅行系統(tǒng)會(huì)告訴你今天那里將有什么活動(dòng)、最近有哪些名人造訪過(guò)，而你會(huì)越來(lái)越覺(jué)得這一切皆順理成章。

尤其值得關(guān)注的是，人與數(shù)據(jù)的聚合正在成為構(gòu)造世界和塑造個(gè)人的基礎(chǔ)性活動(dòng)。通過(guò)數(shù)據(jù)測(cè)量和分享，各種智能設(shè)備和應(yīng)用將人連接到一個(gè)巨大的改變世界的行動(dòng)者網(wǎng)絡(luò)之中。以Apple Watch、Fitbit等可穿戴設(shè)備為例，這些正在智能化生活世界中恣意生長(zhǎng)的新奇物種給人的承諾是，像貼身的健康衛(wèi)士和健身教練那樣，使用戶(hù)的飲食、睡眠、鍛煉等生活習(xí)慣得到實(shí)時(shí)的調(diào)節(jié)。人們每天運(yùn)動(dòng)的步數(shù)、里程、心率和所燃燒的卡路里等數(shù)據(jù)都會(huì)被監(jiān)測(cè)，一套量化指標(biāo)被設(shè)定為努力的目標(biāo)。常見(jiàn)的畫(huà)面是，倘若你久坐不動(dòng)，智能手表就會(huì)提醒你運(yùn)動(dòng)。但在智能設(shè)備和應(yīng)用所連接起來(lái)的行動(dòng)者網(wǎng)絡(luò)中，使故事變得完整的關(guān)鍵環(huán)節(jié)是，這些體貼入微的智能體扮演著無(wú)處不在的數(shù)據(jù)捕獲者的角色。經(jīng)常遇到的場(chǎng)景是，如果你愿意讓可穿戴設(shè)備采集你的運(yùn)動(dòng)數(shù)據(jù)，保險(xiǎn)公司可為你提供保費(fèi)優(yōu)惠；你如果同意刷臉支付，在自動(dòng)售貨機(jī)上買(mǎi)礦泉水時(shí)就可以得到幾分錢(qián)的優(yōu)惠。但人與數(shù)據(jù)的聚合在大多數(shù)情況下是被動(dòng)的和不知情的，企業(yè)、機(jī)構(gòu)和相關(guān)部門(mén)則扮演著主導(dǎo)者的角色。

“以數(shù)識(shí)人”不僅改變著人們的自我認(rèn)同，而且成為每個(gè)人被社會(huì)認(rèn)知的基礎(chǔ)。換言之，企業(yè)、機(jī)構(gòu)和相關(guān)部門(mén)通過(guò)智能技術(shù)應(yīng)用所捕獲的“真實(shí)世界中數(shù)據(jù)”正在成為全新的生產(chǎn)手段和治理工具。單從工具理性來(lái)看，掌握數(shù)據(jù)中蘊(yùn)含的個(gè)人身份特征、行為模式和生活方式，可以讓人的行為根據(jù)商業(yè)和政治的需求被智能化監(jiān)測(cè)和調(diào)控。實(shí)際上，在當(dāng)前兩個(gè)合法的負(fù)面收割場(chǎng)景——賭場(chǎng)和網(wǎng)絡(luò)游戲中，玩家真實(shí)的行為數(shù)據(jù)、情感反應(yīng)數(shù)據(jù)得到了大量的研究與測(cè)試，所謂上癮行為是智能化的被設(shè)計(jì)的上癮。應(yīng)該對(duì)這些以引導(dǎo)人的心流和欲望為目的的研究活動(dòng)本身展開(kāi)深入的研究，使其道德上的原罪被玩家知曉，以促后者自省。

[1] Finlayson, S. G., Bowers, J. D., Ito,J., Zittrain, J. L., Beam, A. L., & Kohane, I. S. (2019). Adversarial attackson medical machine learning. Science, 363(6433), pp.1287-1289. DOI:10.1126/science.aaw4399

[2] 詹姆斯·布萊德?tīng)枺骸缎潞诎禃r(shí)代：科技與未來(lái)的終結(jié)》，宋平、梁余音譯，廣東人民出版社，2019年，第257—258頁(yè)。

[3] 斯特凡·韋茨：《搜索：開(kāi)啟智能時(shí)代的新引擎》，任頌華譯，中信出版集團(tuán)，2017年，第176—177頁(yè)。

（原載于《信睿周報(bào)》第17期，有刪節(jié)。題圖來(lái)自Unsplash @lucasgallone）