- +1
AI社會學|當算法成了你的老板
某個元旦的早上,7點13分,來自佛羅里達的一位優步(uber)司機想要下線休息。當他試著關閉手機上的派單系統時,系統突然調皮地跳出一條消息:“你離賺滿40元還差6元,你確定現在就要下線嗎?” 司機還沒來得及細想,系統上“繼續駕駛”的按鈕已經被高亮成誘人的淡藍色,好像在友好地邀請你點擊;相反,“下線”的那個按鈕被涂成了淡灰色。

圖片來源:How Uber Uses Psychological Tricks to Push Its Drivers’ Buttons, New York Times, 2017
這是“外賣騎手困在算法系統”的美國版本,曾在2017年引起過軒然大波。彼時,調查記者和社會學家們發現,由于零工經濟(gig economy)平臺與員工之間沒有正式的雇傭關系,無法強制員工們在某個時刻上班,所以為了盡可能地將司機留在路上,或是將司機們導流到平臺希望的某時某地,美國主要的網約車平臺優步(uber)和來福車(Lyft)雇傭了大批心理學家和數據科學家,運用了復雜的算法,設計了一系列 “心理學把戲” (psychological tricks)?;蛘哒f,通過算法和心理學,加上精致的交互界面設計,他們把整個系統變成了一場大型真人游戲。
例如,在優步的系統里,新手司機通常會有一個“第一個25單”的里程碑。在新手們跑到10單左右,系統會自動彈出 “你快到一半了,恭喜” 的消息。值得注意的是,“25”絕對不是一個隨機數字—— 優步旗下的大批數據科學家經過對海量司機數據的分析,發現25單之后,司機留在平臺繼續工作的可能性大大增加。心理學家們也提供支持:給人們設定某個具體的目標, 會更容易激勵他們完成任務。
更早之前,優步的主要競爭對手來福車雇傭了一個咨詢公司,想知道該怎樣在不大幅增加支出的情況下,將司機們導流到平臺最繁忙的時段。一樣通過數據分析和心理學實驗,來福車發現與其告訴司機們 “在更繁忙的周五晚上工作會將你的收入提高25%” ,還不如簡單地更換一下語言的組織方式:“停留在你目前工作的時段,你會比那些周五晚上開車的少賺25%”。 在行為經濟學里,第二種組織語言的方式甚至有一個專有名稱叫做 “損失厭惡” (loss aversion)—— 是指人們面對同樣數量的收益和損失時,會主觀地認為損失更加令他們難以忍受。
當然,在優步和來福車的系統界面里也存在一系列跟美團、餓了么類似的徽章獎勵體系,“最佳服務”和“最幽默司機”僅僅是其中兩個。事實上,幾乎每隔一段時間,平臺都會自動在司機的界面彈出各種各樣眼花繚亂的目標和徽章獎勵,基于過往的行為數據,其精準化程度極高,使得司機們在打怪升級的快感里,持之以恒地為平臺貢獻著服務時間。
紐約大學的傳播學者娜塔莎·斯卡爾(Natasha Schüll)寫過一本很有意思的書,叫做《設計成癮》(Addiction by Design)。通過對拉斯維加斯老虎機的研究,她發現“設計”在上癮機制中起到重要作用,書中提出一個著名概念叫做“ludic loop”,指老虎機的設計者是如何通過不定期、不定量、不可預測地給予微小獎勵來使游戲者上癮的。在斯卡爾看來,系統永遠不是中立的,任何系統的設計都鑲嵌有權力掌控者的種種考量。
在社交媒體主導的今天,我們身邊的ludic loop比比皆是,商家們所使用的各種心理學小游戲也早已經見怪不怪。然而,將類似的技巧使用到工作環境中,效果卻可能是災難性的。
這一方面是因為,通過數字化,平臺基本已經對員工的工作效率、時長、社交內容、休息時間等等數據具有幾乎全景式的掌控,通過機器學習算法,很容易就推導出其間的各種關聯;再加上心理學和設計的加持,算法對于員工的“隱形操控”可能是以往種種強制性手段所無法比擬的。比如,相比于之前的強制加班,優步早已發現給予司機適當目標激勵可以促使他們更長地停留在線上。
另一方面, 由于缺少雇傭關系的法律約束,不僅平臺對員工缺少責任和義務,員工也無法對平臺進行有效追責。員工在平臺面前近乎裸奔,平臺卻始終是客觀的、數字驅動的、不可能出錯的黑箱系統。平臺之于員工是基于私人數據的個性化操控,這使傳統工會對于工人的組織也變得愈發困難。
在工作環境下,這種權力的不對等的關系比尤其突出,與社交媒體和商業導購不同,這里算法影響的不是你的下一個網絡好友、或是下一單網購零食,而是下一份工作。
想象未來的某一天,算法成為我們所有人的老板。每天早上,它溫情脈脈地將你喚醒,提醒你今天已經是本月第八個九點之前進公司的日子,積滿十個,可以順利加入九點小組,獎勵精美徽章一個。在你疲憊不堪想把手頭文檔放下,去茶水間續命之時,系統會告訴你,89%的同事們已經完成了本日工作,你想不想加快一點進度呢?
比起人類老板的咆哮如雷,算法老板永遠是甜美女聲。但它知道表面上你渾水摸魚,其實還有25%的潛力可以挖掘;也知道與其告訴你不干完這單就要罰錢,不如告訴你隔壁辦公室跟你同年的同事馬上就要升級來的更有效率。交互界面里代表算法系統的虛擬頭像,還可以進一步個性化、擬人化、和偶像化,讓你心甘情愿為之貢獻時間和精力。屆時,不止是外賣小哥被困在系統里,所有人,都會被困在全知全能且無法反制的算法里。
當然,對社會學家們來說,更根本的永遠是權力問題。在被算法操縱的系統里,誰更有權力?誰受到壓制?
2017年,美國國會對當代信息社會三大巨頭—— 谷歌、臉書和推特 ——舉行了聽證會。路易安那州的參議院約翰肯尼迪(John Kennedy) 說:先生們,我為今天來到這里的三大公司感到自豪,你們代表了今日的美國,你們也為善不少。但是,你們(所掌握的巨大)的權力又常常令我感到恐懼。
在優步和來福車的算法系統引發巨大爭議的三年之后,美國各州對零工經濟平臺們的抗議浪潮此起彼伏。今年八月,加州率先舉起法律武器,要求網約車和外賣平臺將司機和外賣員工重新定義為全職雇員,簽署正式雇傭合同,并且支付保險福利;優步和來福車則以在加州停運加以威脅……
故事到了這里遠遠并沒有結束,雙方的角力仍將持續,但它的走向讓我們看到了某種隱約的可能性——
就算老板變成了算法,人類員工卻仍然是人類,可以組織,可以說“不”,可以有改變算法的力量和勇氣。
【參考文獻】
[1] Molly McHugh, What Congress Wants From Google, Twitter, and Facebook. https://www.theringer.com/tech/2017/11/1/16589586/google-facebook-twitter-russia-election-testify
[2] Natasha Schüll Addiction by Design: Machine Gambling in Las Vegas. Princeton: Princeton University Press (2012)
[3] Rosenblat, Alex, and Luke Stark. "Algorithmic labor and information asymmetries: A case study of Uber’s drivers." International Journal of Communication 10 (2016): 27.
[4] How Uber Uses Psychological Tricks to Push Its Drivers’ Buttons, New York Times, 2017
[5] Uber and Lyft’s California labor law battle is far from over, https://www.cnbc.com/2020/08/21/uber-and-lyfts-california-labor-law-battle-is-far-from-over.html
-----
作者沈虹,畢業于美國伊利諾伊大學香檳分校傳播學系,現任職于美國卡內基梅隆大學。她用社會學的方法研究新興科技。





- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯網新聞信息服務許可證:31120170006
增值電信業務經營許可證:滬B2-2017116
? 2014-2025 上海東方報業有限公司