?如果你是科技行業從業者，你需要知道如何給自己的產品加一條“安全帶”；

如果你是政策的制定者與管理者，你需要知道如何正確管理與監管科技行業；

即便你是一個普通的技術使用者，你也需要知道這個世界正在發生什么，別全然為外界擺布。

這是微軟在全球運行的經驗與思考，同時也是中國企業走出國門的借鑒與警醒，更是我們共同思考人類科技，更好駕馭未來的向導。

5月15日，工信部通報2020年第一批侵害用戶權益行為的APP名單，工信部指出，依據相關法律法規，工信部近期組織第三方檢測機構對手機應用軟件進行檢查，對發現存在問題的企業進行督促整改。截至目前，尚有16款APP未完成整改。

其中，知乎日報涉及私自收集個人信息的問題；當當涉及私自收集個人信息、超范圍收集個人信息、不給權限不讓用等三項問題。工信部要求，上述APP應在5月25日前完成整改落實工作，逾期不整改的，將依法依規組織開展相關處置工作。

對此，大家紛紛表示支持工信部通報并整改侵權App這一行為，同時，大家也發現，其實目前大多數App都存在侵權行為。

面對科技帶給人類便捷的同時，它所涉及的安全隱私問題也逐漸暴露無疑，科技于人類來說，到底是工具？還是武器？

這是一個直面人類科技最緊迫的爭議性問題。 

我們該如何管理已經無處不在的科技，以避免“科技作惡”？

在《工具，還是武器？直面人類科技最緊迫的爭議性問題》一書，或許你可以找到關于這個問題的解答，并產生更多深度的思考。

（這本書是微軟總裁布拉德·史密斯扛鼎之作，比爾·蓋茨、沈向洋親自作序，美國前國務卿等人聯袂推薦直面人類科技最緊迫的爭議性問題，避免“科技作惡”。）

面部和指紋一樣獨特

現在，一臺電腦已經可以完成我們幾乎所有人從一出生就能做的事—識別人們的臉。

對我們大多數人來說，這在一開始是能夠認出媽媽的能力。養育孩子的樂趣之一，就是在進入家門的時候看到蹣跚學步的孩子激動地向你撲來。

這種會一直持續到青少年時期的反應有賴于人類天生的人臉識別能力。

雖然這是我們日常生活的基礎，但我們幾乎從不停下來思考是什么使它成為可能。

事實證明，我們的臉和指紋一樣獨特。我們的面部特征包括瞳孔之間的距離、鼻子的大小、微笑的樣子和下巴的輪廓。

計算機可使用照片來繪制這些特征并將它們編織在一起，并以此為基礎建立一個數學方程，這些數學方程可以通過算法來訪問。

人們正在把這項技術應用到世界各地，以便改善人們的生活。在某些情況下，這樣做是為了方便消費者。

澳大利亞國民銀行正在利用微軟的人臉識別技術開發一種服務，可以讓顧客走到ATM前，無須銀行卡即可安全取款。

這些ATM可以識別顧客的面孔，然后他們就可以輸入取款密碼并完成交易。

在其他場景中，這種技術可帶來更大的好處。在華盛頓特區，美國國家人類基因組研究所正在利用人臉識別技術幫助醫生診斷一種被稱為DiGeorge綜合征（DGS）或22q11.2缺失綜合征的疾病。

然而，和許多其他工具一樣，它也可以變成危險的武器。人臉識別很容易與更廣泛社會問題交織在一起，并提出了一個至關重要的問題：我們希望這種形式的人工智能在我們的社會中發揮什么作用？

2018年夏,弗吉尼亞州一位自稱“自由軟件修補者”的人在推特上發布了一系列關于微軟與美國移民與海關執法局（ICE），簽訂合同的消息，這些消息源于當年1月微軟在公司官方營銷博客上發布的一篇文章。

坦率地說，公司里的每個人都已經忘記了那篇博文。不過，那篇文章表示，微軟向ICE提供的技術已經通過了極高的安全門檻，將被ICE部署。

文章還表示，微軟公司對于能夠支持該部門的工作而深感自豪，并且還有一句話提到了ICE使用人臉識別技術的潛力。

2018年6月，特朗普政府決定在美國南部墨西哥邊境把非法入境者的孩子與家人分開，這迅速成為一個爆炸性問題。

公司幾個月前發表的一份營銷稿現在看來已大不相同，而人臉識別技術的用途看起來也完全不同。

人們擔心ICE和其他移民機關可能會把像人臉識別這樣的技術應用到工作中。

這是否意味著，當移民在城市街道上行走時，連接到云端的攝像機可以用來識別他們的身份？這是否意味著，鑒于這項技術的現狀，以及它可能產生偏差的風險，它可能會錯誤辨識某個人并導致其被錯誤拘留？這只是許多問題中的兩個。

按照慣例，我們首先要弄清楚公司與ICE的合同到底包括了什么。

經過深入調查，我們發現這份合同根本沒有被用在人臉識別上。謝天謝地，微軟也沒有參與任何在邊境線上將孩子與其家人分開的項目。

相反，這份合同其實是幫助ICE將其電子郵件、日歷、消息和文檔管理工作轉移到云端。這與我們在美國和世界各地與客戶（包括其他政府機構）合作的項目類似。

盡管如此，這件事仍然產生了一個新的爭議。

請政府監管

有些人正在極力鼓吹科技公司應該采取主動行動，對于我們反對的政府政策，終止為政府機構提供所有服務。

科技現已成為我們生活中一個關鍵的基礎設施，如果不能及時更新技術—或者更糟的是，簡單做出終止技術服務的決定—可能帶來各種意想不到的后果。

正如薩提亞在我們的內部談話中多次指出的那樣，政府正在以電子郵件為工具幫助非法移民家庭團聚。如果我們把郵件系統關掉，誰知道會發生什么。

這讓我們得出結論，抵制美國政府機構是錯誤的做法。但主張采取這種行動的人，包括我們自己的一些員工，提出了一些正確的問題。例如，人臉識別技術帶來的挑戰需要受到更多關注。

經過深思熟慮，我們得出結論，這項新技術應該受到新的法律法規約束。這是保護公眾隱私需求，化解偏見和歧視風險，同時使創新得以繼續的唯一途徑。

這一點凸顯了在公共安全與人權由來已久的矛盾之間的艱難權衡。它還表明了許多有關人工智能的新型倫理道德決定的主觀性質。

當然，我們同樣擔心，正如那位團隊領導和其他人所指出的那樣，如果我們拒絕提供這項服務，可能會有其他公司乘虛而入。

在這種情況下，我們不僅會丟掉生意，還不得不在其他人幫助將技術用于我們所反對的有害目的時只能袖手旁觀。

不過，我們權衡了所有這些因素，最終得出結論，我們需要嘗試給這種新技術的發展奠定某種類型的道德基礎。這樣做的唯一辦法就是拒絕將其用于某些用途，并推動更廣泛的公眾討論。

這種原則性的方法在加州本地的一個警察部門聯系我們時經受了考驗，他們表示，他們想為自己的所有車載和手持攝像機配備一種能力，使其可以拍攝被攔下的人的照片，甚至包括例行檢查時被攔下的人，并查看他們是否與其他罪行的嫌疑人數據庫相匹配。

我們理解他們的邏輯，但向他們建議，由于人臉識別技術仍然不成熟，因而無法在這種情況下部署。

至少在2018年，如此使用這一技術將導致過多的錯誤匹配，并針對被錯誤識別的人發出警報，特別是如果他們是有色人群或女性，因為針對這兩類人群的錯誤率仍然較高。

我們拒絕了這項交易，并說服了警察部門放棄將人臉識別用于這一目的。

這些經驗提供了一些啟發，幫助我們思考可以應用于人臉識別的原則。

但我們擔心，如果我們走上這條倫理大道，但被那些根本沒有實施任何防范或限制措施的公司削弱，無論這些公司是在西雅圖的另一側，還是在太平洋的另一側，則我們的做法都不會產生什么實際影響。

與許多基于人工智能的技術一樣，人臉識別也會隨著大量的數據積累而改進。

這就使公司擁有動力盡可能多地進行早期交易，從而導致商業競爭的風險，而科技公司將被迫在社會責任和市場成功之間做出選擇。

防止這種惡性競爭的唯一辦法是確立一個支持健康市場競爭的責任底線，而一個堅實的底線基礎要求我們確保這項技術以及開發和使用它的組織受到法治的約束。

我們從以往針對其他技術所實施的監管中汲取了經驗。在許多市場中，兼顧各方利益的平衡監管方式為消費者和生產者雙方創造了更健康的動態關系。

在20世紀，汽車工業曾花了幾十年的時間來抵制監管要求，但今天，人們廣泛認識到，法律在確保強制安裝安全帶和氣囊，以及更高的燃油效率方面發揮了重要作用。同樣的情況也適用于航空安全以及食品和藥品管理。

當然，談論監管的必要性是一回事，而界定什么樣的監管最為合理則是另一回事。

2018年7月，我們公布了一個我們認為需要考慮的問題清單，并就可能的答案征求人們的意見。

討論首先在員工和技術專家中展開，但很快擴展到全國和世界各地，包括美國公民自由聯盟這樣積極參與這個問題討論的公民自由組織。

我們不再像大多數科技公司那樣，堅守抵制政府干預的傳統。我們以前進行過那樣的抗爭。

相反，我們已經認可并支持我們心目中更積極但更平衡的監管方式。這也是我們早在2005年就呼吁美國聯邦隱私保護立法的原因之一。

我們認為，無論是對科技行業還是對社會，這種做法從普遍意義上來說都比完全依賴科技行業自行解決一切問題的做法要好得多。

行動之前：我們能做什么？

在更迅速地開始行動之余，深思熟慮并確保邁出正確的前幾步也很重要。在這一點上，我們相信我們擁有一系列想法來應對人臉識別技術。

我在華盛頓特區的布魯金斯學會宣布了我們對新立法的主張，并公開發表了我們提案的更多細節。

然后，我們開始巡回推廣這一主張，在接下來的6個月里，我們在美國和世界其他8個國家的公共活動和立法聽證會上對它進行了推介。

我們認為，立法可以解決三個關鍵問題，即偏見風險、隱私和對民主自由的保護。

我們相信，一個運作良好的市場有助于更快地減少偏見。我們遇到的客戶都沒有興趣購買錯誤率高，并導致歧視的人臉識別服務。但如果客戶缺乏信息，市場就無法正常運轉。

為了幫助減少歧視風險，我們認為新的法律還應該要求，部署了人臉識別的組織首先應培訓員工審查結果，然后再做出關鍵決策，而不是簡單地把決策權交給電腦。

除此以外，我們擔心，如果一個組織在部署人臉識別時并未按照該技術設計時預期的方式，發生偏差的風險可能會加劇。訓練有素的人員則有助于解決這個問題。

在某種程度上，一個更棘手的問題是，什么時候應該允許執法部門使用人臉識別技術針對特定個人進行持續的監視。

民主始終取決于人們相互見面和交談，并在私下和公開場合討論自己觀點的能力。這有賴于人們能夠在沒有政府持續監控的情況下自由行動。

人臉識別技術的許多政府用途是用于保護公共安全和促進更好的公眾服務，并不會引起上述擔心。

但是，如果將無處不在的攝像頭、巨大的計算能力和云端存儲結合起來，政府可以使用人臉識別技術來持續監視特定的人。

它可以在任何時候做到這一點，甚至可以持續這樣做。而以這種方式使用這項技術則可能會導致規模空前的大規模監視。

因此我們認為，法律只有在下列情況下才可以允許執法機構使用人臉識別來對特定的人進行持續監視，即執法機構已經獲得了法庭命令（如對這種監視的搜查令），或是在緊急情況下，如人類生命面臨迫在眉睫的危險。

這將為人臉識別服務創建規則，這些規則與美國目前通過手機生成的GPS位置跟蹤個人的規則類似。

正如美國最高法院在2018年做出的裁決，如果沒有搜查令，警方將不能要求顯示手機地點的手機記錄，因此無法獲得某人的實際行動軌跡。

正如我們所說：“我們的面孔是否應該得到和手機同等的保護？在我們看來，答案當然是響亮的‘是’。”

最后，顯而易見的是，人臉識別的監管也應該保護商業環境下的消費者隱私。

我們正迅速進入一個時代，在這個時代，每家商店都可以安裝攝像頭，通過實時人臉識別服務連接到云端。

從你走進購物中心的那一刻起，無論你走到哪里，都有可能不僅被拍照，而且被電腦識別。

購物中心的老板可以把這些信息分享給每一家商店。有了這些數據，店主可以了解你上次進店的時間以及你看了什么或買了什么，通過與其他商店共享這些數據，他們可以預測你下一步打算買什么。

我們的觀點并不是說新的法律應該禁止所有這些技術。相反，我們是致力于幫助商店負責任地使用新技術改善購物體驗的公司之一。

我們相信許多消費者會歡迎由此帶來的客戶服務。但我們同樣認為，人們有權知道什么時候使用了人臉識別，提出問題，并有真正的選擇。

人臉識別問題讓我們得以瞥見人工智能的其他倫理道德挑戰有可能發生怎樣的演變。

正如我們所做的那樣，我們可以先制定廣泛適用的原則，隨后在人工智能技術的具體應用和特定場景中對這些原則進行測試。這種方法也適用于具有潛在爭議的人工智能應用更可能出現之時。

更多的問題一定會出現。并且與人臉識別一樣，在遇到每個問題時，都需要針對該項技術可能應用的方式分別開展大量細致的工作。

要解決許多這樣的問題，最終將需要新的監管政策與科技公司主動的自我監管相結合。

在面對許多這樣的問題時，不同國家和文化也會存在不同的觀點。我們需要發展一種更強的能力，使各國能夠更迅速、更協作地采取行動，在經常性的基礎上應對這些問題。這是我們能夠確保機器將永遠由人控制的必由之路。

（本文整理自《工具，還是武器？直面人類科技最緊迫的爭議性問題》，中信出版集團出版，版權歸作者及本書所有，轉載請務必注明作者及作品出處。）

《工具，還是武器？直面人類科技最緊迫的爭議性問題》  布拉德·史密斯、卡羅爾·安·布朗 著

作者簡介 | 

布拉德·史密斯（Brad Smith），微軟總裁兼首席法務官。2015 年被任命為微軟總裁，在微軟工作 20 余年，帶領團隊在 56 個國家或地區開展工作。他在帶領公司解決涉及科技與社會交叉領域的關鍵問題上發揮了關鍵作用，包括網絡安全、隱私、人工智能、移民、公益和環境可持續性。《澳大利亞金融評論》稱他為“科技行業最受尊敬的人物之一”，《紐約時報》稱他為“科技行業事實上的大使”。

卡羅爾·安·布朗（Carol Ann Browne），微軟傳播和公共關系部高級主管，與史密斯在世界范圍內合作撰寫文章，制作視頻，并主導其他外部活動，共同運營“今日科技”系列博客。