編者按：隨著新冠對全世界人民的健康安全造成了巨大威脅，科技公司將目光投向了能夠安全地為病人和老年人提供護理的機器人開發領域。但是，看似先進且無害的人工智能護理機器人可能蘊含著開發者本身的性別和種族偏見。護理領域非常依賴于有色人種貧困婦女的勞動，考慮到機器人護理的高昂花費，未來的工作仍然由“必不可少的”低工資勞動力組成。她們往往缺乏維持生活的工資、無法保障工作場所的安全、沒有帶薪病假和探親假，以及適當的醫療保健。

然而，從使用白人女性的形象作為格蕾絲的“面孔”，到使用白人的外貌抹去EngKey機器人背后的“菲律賓英語教師”，再到被設計為“美麗女性”的護理機器人愛麗卡，這些例子揭露了設計師的認識：照顧世界的勞動責任主要應該由婦女來承擔，而“白人”教師與護理人員則要優于其他種族的工作人員。

據統計，到2030年，有償與無償的護理人員數量都將面臨巨大空缺；但是，機器人自動化是否是解決這一短缺的最佳方式仍有爭議。即使假設在不久的將來，同理心、情感勞動和創造力可以隨時被機械化（許多機器人專家對此表示懷疑），如果代碼中的種族主義和性別偏見得不到解決，將這些類型的護理外包出去可能會給接受護理的人帶來嚴重的后果。本文原載于《波士頓書評》，本文作者安娜·羅米娜·格瓦拉（Anna Romina Guevarra）是芝加哥伊利諾斯大學全球亞洲研究的創始董事和副教授，公眾之聲專題項目研究員。她是《營銷夢想和制造英雄：菲律賓工人的跨國勞工中介》一書的作者。

在新冠疫情最為嚴重的時候，由SingularityNET（SNET）和漢森機器人公司（Hanson robotics）兩家機器人公司合資成立的覺醒健康有限公司（AHL）推出了格蕾絲（Grace）——第一個擁有逼真人類外觀的醫療機器人。格蕾絲通過讓病人參與治療互動、接受認知刺激以及收集和管理病人數據，來提供急性醫療和老年護理。到2021年底，漢森機器人公司希望能夠大規模生產名為索菲亞（Sophia）的機器人，將其融入其最新產品格蕾絲中，并將產品推向全球市場。

格蕾絲

雖然格蕾絲是首位看起來如此像人的機器人，但她并不是第一個醫療機器人。同湯米（Tommy）、尤米（Yumi）、斯蒂維（Stevie）、艾娃（Ava）和莫西（Moxi）一樣，她是在世界各地的醫院和老年護理機構工作的、日益增多的機器人護理人員中的一員。從床邊護理和監測，到儲存醫療用品、歡迎客人，甚至為孤立無援的居民共同主持卡拉OK之夜，它們做了一切能做的。它們一起被譽為解決我們大流行困境的方案。

在過去幾年中，全球專業服務機器人的銷售額增長了32%（112億美元）；僅在2018年至2019年期間，老年人輔助機器人的銷量就增長了17%（9100萬美元）。在新冠大流行期間，安全地提供護理和服務的獨特挑戰只會增加它們的吸引力。全世界越來越依賴機器人系統進行消毒、執行戴口罩和保持社會距離協議、監測患者的生命體征、運送物資和雜貨、進行虛擬參觀，甚至為畢業典禮提供便利。

但對機器人的興趣和投資的增加對人類工人意味著什么？

毫無疑問，從短期來看，盡管機器人可能會為人類工人提供一些支持，幫助人們盡可能地減少不安全的環境，但它們無法取代人類工人。以目前的機器人技術水平上，將人類完全替換成機器人員工，需要工作環境的可預測性達到一個不可能的程度。作為社交機器人領域的先驅之一，露西·薩克曼（Lucy Suchman）指出:“當世界按照機器人所需要的方式被安排時，它們工作得最好。”機器人可以在工廠和倉庫中良好地工作，因為流水線工作提供了一個統一的環境；在家庭和保健設施中，這種統一性則更難實現。

不過，從長遠來看，機器人并不會總是如此“功能有限”。因此，至關重要的是，我們不僅要考慮機器人是否能取代人類工人（因為總有一天，這必然會發生），而且還要考慮它們是否應該取代人類工人。事實上，格蕾絲和其他機器人所代表的自動化嘗試，不僅引發了人們對工作本質的普遍質疑，更加對關于做護理工作的意義提出了質疑。照顧另一個人意味著什么？反過來說，對于算法而言，關懷又意味著什么？

護理工作領域在很大程度上依賴于有色人種貧困婦女的勞動（而且她們往往是移民）。長期以來，她們被告知文明取決于她們的工作，但她們的工作報酬并不高；因此，關于是否要采用昂貴的機器人系統的問題就顯得尤為突出了。從這個意義上說，任何關于護理機器人變革潛力的討論，都必須受到現實的制約：正如蒲愛仁（Ai-jen Poo）和帕拉克·沙阿（Palak Shah）所指出的，可預見的“工作未來”不是自動化。未來的工作仍然由“必不可少的”低工資勞動力組成，其中有色人種婦女的比例非常之高，她們往往缺乏維持生活的工資、無法保障工作場所的安全、沒有帶薪病假和探親假，以及適當的醫療保健。事實上，衛生保健工作者是受大流行影響最嚴重的人群之一。美國疾病控制中心（Centers for Disease Control）的最新數據顯示，迄今為止，已有450517名衛生保健人員感染了新冠病毒，超過1497人死亡，以有色人種為主。由于存在嚴重漏報，而且并非所有數據都可以被直接獲得，實際數字可能會更高。

與許多未來學家的期望相反，自動化不會自動產生一個更公正的勞動力市場。只有當勞動公正成為采用自動化的一個條件時，更公正的勞動力市場才會出現。否則，自動化只會使問題復雜化，使得那些在社會和經濟上最脆弱的人所經歷更為嚴重的不平等。

這是因為算法傾向于復制我們世界中已經存在的偏見。近年來，人工智能的批評者已經證明了這一點，比如喬伊·博拉姆維尼、薩菲婭·烏莫亞·諾布爾、以及魯哈·本杰明（Ruha Benjamin），他們注意到算法的偏見已經被反映在了方方面面上，從面部識別系統無法識別有色人種，到搜索引擎中與黑人相關的搜索結果遭到技術標記。綜上所述，這些都是用新技術編碼的系統性種族偏見的“新吉姆代碼”（New Jim Code）。雖然我們對這些系統內部工作原理的了解經常遭到掩蓋，因為它們的算法是“恰當的”，但輸出結果很清楚：博拉姆維尼、諾布爾、本杰明和其他人的工作毫無疑問地表明，種族主義制度成為了計算系統和機器學習的基礎。這些新技術帶來了這些問題，卻被認為是中立的——因為機器被認為沒有偏見，而這只會加劇問題的嚴重性。

回到格蕾絲的例子，她將作為機器人索菲亞的更新版本，其經過調整的功能將服務于醫療保健領域。她的制作者聲稱，這些機器人不僅承諾提供安全，還會提供 “人類的溫暖，人類的聯系”，并將作為“人類專業知識的自主延伸”。然而，通過選擇讓格蕾絲看起來像一個白人女性，設計師們傳播了一種對人類專業知識的特殊理解，這種理解既是種族主義的，也是性別主義的。

在一個名為EngKey的遠程教學機器人的案例中，也可以看到類似的偏見。這款機器人的設計目的，是幫助菲律賓呼叫中心的教師向韓國的小學生提供遠程英語教學。盡管授課的是一位菲律賓老師，但EngKey機器人的臉上帶著白色的頭像，在韓國的教室里轉來轉去。EngKey的開發者說，使用白色頭像的理由有兩個：一是盡量減少用戶在與誰（人還是機器人）互動方面的困惑；二是加強英語教學的全球“權威”。然而，在這樣做的過程中，機器人專家介入了勞動的地緣政治，加強了對理想的合格工人的全球幻想，抹去了不符合這個理想的實際工人。而他們自稱的“機器人教師”，在這種安排下被迫通過一套強化白人的新詞匯來運作，即使這種腳本剝削了他們自己的“第三世界”勞動。與我交談的機器人教師表達出了一種深刻的分離感，這種感覺來自于一張金發碧眼的白人機器人臉，同時進行一種既脫離了身體、又依賴于身體，既不能移動、又能移動的情感勞動。值得注意的是，這樣做并不是為了保證語言教學的成功（語言教學當然并不依賴于這種分裂），而是為了按照機器人專家的要求，創造人與機器之間的無縫集成。

由日本機器人專家石黑浩（Hiroshi Ishiguro）發明的機器人艾麗卡（Erica），是機器人專家在追求人性的過程中重現性別規范的另一個例子。石黑浩希望目前仍處于早期原型階段的艾麗卡有助于引領機器與人類共存的世界，機器人將通過做最乏味和不受歡迎的工作來改善人類的生活，包括照顧病人和老人。但是，通過對艾麗卡進行編程以模擬一種“溫暖、溫柔和關懷”的情感，石黑的團隊加倍強調了這種護理工作的性別化區分。艾麗卡的設計是以這樣一種看法為前提的：照顧世界的勞動責任主要是婦女來承擔，她們將提供溫暖和溫柔，同時減輕人類的負擔和痛苦。艾麗卡還被設計為“遵守傳統的性別美”的標準。正如石黑所指出的，他把艾麗卡設計成“最美麗的”機器人，吸取了（他所認為的）“三十個美麗女人”的綜合形象。顯然，僅僅成為一個女性護理機器人是不夠的；你還必須是一個“美麗”的機器人。

日本大阪大學智能機器人研究所所長石黑浩（左）和機器人在交流。

對機器人技術中的種族問題的關注，不僅延伸到了機器人的外觀，還包括它們如何與他人互動。像格蕾絲和愛麗卡這樣的機器人將如何識別和解讀各種各樣的面孔呢？可能被植入格蕾絲的算法中的種族主義假設，是否會決定患者將接受的治療干預類型？人工智能的面部識別系統出了名的糟糕，例如，在解釋膚色較深的人的情緒反應方面。有些人根本無法感知深色皮膚的人的臉，更不用說理解他們的表情了。社會學家魯哈·本杰明（Ruha Benjamin）發現，健康保險公司在評估健康風險時最常用的工具之一，將理論上的黑人病人定義為比具有相同健康標志的白人病人的風險要小，因為該工具的算法存在種族偏見。換句話說，我們看到的是另一個壓迫性系統的出現，它通過促進對護理工作的“調節理解（mediated understanding）”和提供護理來構建社會關系。借用Joy Buolamwini關于算法的“編碼的凝視”概念，我將醫療保健人工智能中的種族主義失衡稱為“編碼的護理”。

編碼的護理的想法給我們提供了一個詞匯，讓我們思考護理工作自動化的潛在危害。越來越多的人認為，使用機器人來實現護理工作的自動化是必要的，它可以幫助老齡化人口，最大限度地減少職業危害，減輕護理人員的負擔，并解決護理人員的高離職率和職業倦怠問題。一項研究表明，到2030年，將出現15.1萬名有償直接護理人員和380萬名無償家庭護理人員的短缺。但考慮到這些對編碼護理的擔憂，機器人自動化是否是解決這一短缺的最佳方式仍有爭議。即使假設在不久的將來，同理心、情感勞動和創造力可以隨時被機械化（許多機器人專家對此表示懷疑），如果代碼中的種族主義和性別偏見得不到解決，將這些類型的護理外包出去可能會給接受護理的人帶來嚴重的后果。

此外，我們必須嚴肅對待我們開始時提出的問題——自動化對人類工人意味著什么，以及堅持勞動公正必須是采用自動化的先決條件。因為這些決定將對婦女和有色人種社區產生巨大的影響，它們很可能會讓位給金錢利益和富裕白人的福祉。但護理是一種獨特的勞動，當護理人員受到虐待時，我們都會受到損失。回顧EngKey的機器人教師，他們與學生的脫節感，轉化成為了情感勞動，這種機械化、種族化和性別化的勞動方式對教師和學生都造成了傷害。EngKey的工作教給它的韓國學生的，是令人羨慕的白人女性的力量，就像教給他們英語一樣。同樣，格蕾絲的創造者承諾，這項技術將以“自然地、以情感的方式和病人建立聯系”，它將真正為那些在大流行期間被隔離的人提供安慰、同情和善意嗎？還是說，這僅僅是其創造者對女性氣質的模擬？

與以往任何時候相比，大流行為擴大格蕾絲等護理機器人的使用提供了理由，而我們比以往任何時候都更應該注意這些干預措施的編碼方式。我們需要推動更公平和負責任的人工智能，與算法正義聯盟（AJL）等集體合作，以實現這一目標。算法正義聯盟和其他人的工作提醒我們:“誰編寫代碼很重要，我們如何編寫代碼很重要，我們可以編寫一個更好的未來。”如果我們真的要追求機器人勞動，那么勞動正義必須是自動化的先決條件。否則，機器人只會提供另一個借口，通過簡單地取代人類勞工以及自動化他們的勞動，來忽視人類工人面臨的不平等。

我們需要繼續探索發展護理機器人的倫理學，并且以普拉蒙德·P·哈戈內卡（Pramod P. Khargonekar）和米拉·薩姆帕斯（Meera Sampath）等研究人員對當前自動化模式的批評，以及他們提出的“社會責任自動化” 為依據。這種自動化模式表明，企業可以在追求自動化的同時，投資于“培訓和培養人類工人的技能”，以適應這種技術驅動的工作場所。因此，我們的想法不是簡單地用更有效的技術來取代人類工人，而是要開發一個機器人和人類工人能夠真正共存的工作場所。

但更重要的是，我認為開發護理機器人的倫理，必須建立在勞動公正的框架之上，這個框架將提供“對支配基本工人生活和勞動的結構性不平等”的補救措施。這可以通過支持和采納參議員伊麗莎白·沃倫和羅·卡納提出的《基本工人權利法案》來得以實現。該法案的條款將確保護理人員不僅能獲得生活工資和醫療保障，還能獲得兒童護理和帶薪病假。

我認為，我們無法想象一個既沒有人類工人又沒有機器人的社會。因此，當機器人專家致力于開發護理技術時，我們需要關注種族化和性別化的認知，如何被編碼到設計中去。指導原則不能只關心如何最好地模擬人性，更要關注如何在編碼護理的設計中將公正和公平的原則作為中心。只有到那時，才有可能產生真正帶有關懷的算法。