【編者按】

上海社聯(lián)2023年度論文已出爐。該活動無需作者自行申報，依托各學科權威專家學者、學術期刊主編、資深學術編輯等開展多輪評審。在“反五唯”背景下，這個活動也是對學術評估機制的大膽創(chuàng)新。

推薦入選論文的共同特點是密切關注社會現(xiàn)實和學界動態(tài)，善于發(fā)現(xiàn)和提煉問題，彰顯學術論文的創(chuàng)新性、學理性、科學性品質(zhì)，并具有一定前瞻性和開拓性。

澎湃新聞記者與上海社聯(lián)2023年度論文獲獎者展開對談，看上海社科學者如何在現(xiàn)實關切中，回答中國之問、世界之問、人民之問、時代之問。

當今，算法廣泛應用于經(jīng)濟發(fā)展、國家治理等層面，同時也滲透進日常的數(shù)字化生活之中。隨著推送的個性化、生活的指標化、勞動的度量化，一旦以資本原則為主導，算法則會出現(xiàn)嚴重的“異化”問題。華東師范大學哲學系暨中國現(xiàn)代思想文化研究所教授孫亮認為，當“算法”被構建為認知世界的圖像，成為治理的新主體，蛻變?yōu)橘Y本增殖的工具時，造成了與現(xiàn)代世界文明的“悖反”。 

在上海社聯(lián)2023年度青年論文《“算法資本主義”的政治經(jīng)濟學批判闡釋》（原載于《馬克思主義研究》2022年第11期）中，孫亮通過對算法運行機制的分析發(fā)現(xiàn)，算法內(nèi)在地蘊含了設計者的預期“利益”。在資本操控下，算法及其平臺在數(shù)據(jù)引導的能力、數(shù)據(jù)的占有上形成了壟斷。因此，在充分發(fā)揮算法積極作用的同時，也要警惕資本為了追逐利益在對算法運用時造成的負面影響。 

在“苦于算法之發(fā)展”與“苦于算法之不發(fā)展”的雙重張力下，孫亮認為，一方面中國現(xiàn)代化建設要突出算法優(yōu)勢，另一方面要明確算法與資本之間的復雜關系，警惕算法資本化的運用范圍、程度、邊界，特別是算法設計的價值偏向，尋求矯正算法的基本原則、具體策略，從而發(fā)揮算法在經(jīng)濟、政治、文化等方面的積極價值。

認清算法局限，發(fā)揮好算法優(yōu)勢

澎湃新聞：當前算法與現(xiàn)代世界文明出現(xiàn)了怎樣的“悖反”現(xiàn)狀？存在哪些現(xiàn)實問題有待關注？

孫亮：算法在經(jīng)濟與社會發(fā)展、國家治理等層面的運用越來越重要和廣泛，但在現(xiàn)實中，算法也與現(xiàn)代世界文明產(chǎn)生了“悖反”狀況，被資本所吸納的算法對現(xiàn)代文明發(fā)展帶來很多現(xiàn)實問題。 

首先，我們生活在被算法精心構造的認知世界中，一切都有可能成為被操縱的“精準圖像”。在數(shù)據(jù)樣本足夠大的情況下，算法可以對社會進行精準把握與主導，這一過程就好比制圖學工作。當世界被衛(wèi)星導航、地圖軟件和全球定位系統(tǒng)滲透，會表現(xiàn)為一系列圖像，我們只能從圖像的算法去理解世界。一旦如此，人們就會失去對世界自身更為整全性的認知，用阿多諾的話說，“對象不可能完全消融在概念之中”。 

算法會強化主體“認知繭房”的現(xiàn)象，每個人在數(shù)字世界中只能接收主觀偏好的事物。算法的前提是生活的度量化，健康、睡眠、行為、情感、經(jīng)濟生活等一切皆可被計算。算法通過我們每次的搜索、瀏覽記錄，能準確投放“選擇標準”，人們由于追求完美而臣服于這種標準，最終成為被算法俘獲的對象。比如，通過人面部表情歡快的頻率、心率、血壓等可以評估度量幸福，通過算法的大數(shù)據(jù)精準推送，也可為不同人群構造浪漫愛情的個性化指標。 

其次，算法原本可以解決社會運行的“有序”問題，但在資本化操縱下，很可能走向新的“生命政治”治理空間，帶來負面影響。算法世界存在將人“物化”的風險，導致算法本身成為主導規(guī)則的“主體”，人和現(xiàn)實世界則成為算法待處理的“對象”。算法治理是對“對象”進行更準確、細致、全方位的數(shù)據(jù)抓取和加工，在差異化的“私人定制”中，完成對個體無死角的“調(diào)節(jié)”。由此，算法構成新的生命政治治理的基礎條件。 

最后，從資本主義社會生產(chǎn)方式看，算法可以為構造生產(chǎn)資料共享的經(jīng)濟發(fā)展圖景提供便利，但也可能蛻變?yōu)橘Y本增殖手段。一旦作為“資本增殖手段”，數(shù)字算法將會徹底打破工作與生活的界限，化解勞動的度量難題。而對于無法被度量和價值形式化的情感、交往等“社會關系”，經(jīng)過算法也徹底解決了度量的難題，這為資本主義的“抽象”統(tǒng)治和實質(zhì)吸納提供了可能。因此，認為算法能通過調(diào)節(jié)資源產(chǎn)生共享經(jīng)濟與相應生存方式的看法不僅難以形成，反而加劇了資本主義的不公正以及社會撕裂現(xiàn)象。 

澎湃新聞：這篇論文的重要研究成果是什么？在社會主義生產(chǎn)力發(fā)展要求下，這對于推進中國式現(xiàn)代化建設有何現(xiàn)實意義？

孫亮：論文一方面梳理了算法在現(xiàn)代文明發(fā)展中可能會出現(xiàn)的問題，更重要的是，通過對算法運行機制的分析，論證算法蘊含了設計者的預期“利益”。受資本操控影響，算法及其平臺在數(shù)據(jù)引導能力、數(shù)據(jù)占有方面構成壟斷，通過操控數(shù)據(jù)資源完成資本增殖目的，加深了對勞動者的剝削程度。

為此，在社會主義生產(chǎn)力發(fā)展要求下，特別是發(fā)展新質(zhì)生產(chǎn)力的要求下，我們必須把握好“苦于算法之發(fā)展與苦于算法之不發(fā)展”的現(xiàn)實境遇，使其更有助于推進中國式現(xiàn)代化建設。 

中國式現(xiàn)代化建設既要突出算法的優(yōu)勢，大力推進數(shù)字經(jīng)濟的發(fā)展，也要明確算法與資本之間的復雜關系，警惕與規(guī)范算法資本化的運用范圍、程度、邊界，特別是算法設計的價值偏向，尋求矯正算法的基本原則、具體策略，從而發(fā)揮算法在經(jīng)濟、政治、文化等方面的積極價值。

因此，不僅需要處理好算法與資本邏輯的關系，更需要改變資本化的算法邏輯，使其在社會主義的應用中產(chǎn)生積極價值。這一課題值得數(shù)字研究者從多學科展開富有建設性的研究。 

警惕算法在資本推動下的負面影響

澎湃新聞：算法在社會發(fā)展中發(fā)揮了積極作用，但資本為了追逐利益，對算法運用造成了哪些負面影響？

孫亮：資本為了追逐利益，在運用算法時造成了很多負面影響。比如，算法需要聚合來源不同的數(shù)據(jù)，但數(shù)據(jù)獲取渠道要合法合規(guī)，數(shù)據(jù)在使用中也要通過更多規(guī)范加以約束，目前要警惕存在資本在數(shù)據(jù)中造成的壟斷，惡意競爭、數(shù)據(jù)不規(guī)范導致的風險，以及隱性的數(shù)據(jù)監(jiān)控等問題。總體來說，算法在資本推動下造成的負面影響有以下幾種類型。

在個體層面，算法會干預偏好、習慣、認知，從而調(diào)節(jié)和操控人們現(xiàn)在以及未來的生活。比如，創(chuàng)造了“數(shù)學清洗”概念的弗萊德·本南森就認為，臉書（Facebook）編輯通過故意推出其他事情以壓制另一些事情，是在利用算法左右人們的價值與判斷。

在社會層面，算法導致社會鴻溝拓寬，算法治理規(guī)則的同一性與社會自身復雜性之間矛盾的強化、社會市場競爭集中化等問題凸顯。比如，盡管市場競爭中“贏家通吃”的局面有所改觀，但依然需要引導超級大平臺通過市場優(yōu)勢支撐市場健康發(fā)展。

從全球來看，算法在資本的推動下，加劇了發(fā)達國家與發(fā)展中國家的不平衡。發(fā)達國家壟斷數(shù)據(jù)、支配算法，形成了新一輪的數(shù)據(jù)殖民主義。此外，還有數(shù)據(jù)隱私、數(shù)據(jù)監(jiān)控等問題，算法社會還在發(fā)展之中，其負面性需進一步觀察。 

澎湃新聞：您在論文中就設計者利益掌控“數(shù)據(jù)引導”與算法運行的資本原則展開了深入分析，并提出了三種機制，理解這一問題的關鍵是什么？

孫亮：這三種機制指的是，第一，算法作為特定的資本主義生產(chǎn)形式并非客觀、中立，而是蘊含了設計者的“利益”預期；第二，在西方社會，以生產(chǎn)資料私有制為基礎的資本主義生產(chǎn)關系所造成的不平等，會進一步在算法和決策中再次顯現(xiàn)，其典型表現(xiàn)為數(shù)據(jù)引導能力；第三，最重要的是，需考察平臺所有權的資本主義屬性問題，這樣才能在改變這一屬性的基礎上，使其朝公共利益方向發(fā)展。 

我認為，理解這一問題的關鍵是將算法看作“工具”。算法本身沒有自主性，需要外部給予指令，因此，指令性質(zhì)才是導致算法與文明相悖的原因。以數(shù)據(jù)引導能力為例，過去人們上網(wǎng)的主要方式是瀏覽網(wǎng)頁，如今隨著智能手機的普及，少數(shù)幾個APP幾乎占據(jù)了人們所有的上網(wǎng)時間，讓社交、工作、生活都更為便捷。但人們也更加依賴相應平臺，甚至不會輕易更換，因為復雜的注冊程序，足以讓人望而卻步。隨著生活、工作日益依賴幾個大型APP，數(shù)據(jù)將被更為集中地提取、重構，從而更有效、全面地確保數(shù)據(jù)引導效果，這種趨勢就是數(shù)據(jù)壟斷主義效應的體現(xiàn)。 

與此相應的是，一些市場主導者宣稱數(shù)據(jù)資源的私有化，認為任何一種資源的私有化都能給所有者帶來最大動力，這是自由主義經(jīng)濟學對算法和數(shù)據(jù)資源的投射。資本需要利用新技術重構生產(chǎn)組織形式，而平臺算法恰恰為資本增殖提供了條件，平臺與資本在相互推動中達成純粹的資本增殖目的，這是“算法資本化”的基本觀點。 

避免被困在算法中

澎湃新聞：論文中的研究成果如何幫助解決算法所造成的社會問題？比如，近年來備受爭議的外賣騎手困在系統(tǒng)、大數(shù)據(jù)殺熟、信息繭房等問題。

孫亮：經(jīng)濟生活或日常生活中出現(xiàn)的大數(shù)據(jù)殺熟、信息繭房等問題都只是“結果”，背后的原因是算法被利益引導。資本確實需要增殖，否則就沒有資本的擴展，市場也難以進一步發(fā)展。但是，市場更需要健康發(fā)展。

我在論文中從超越與現(xiàn)實兩個維度討論了如何解決算法造成的社會問題。

從超越角度看，算法或者說是“一般智力”只要為資本占有，個人勞動力便會被廣泛吸納進剩余價值的生產(chǎn)之中。為此，只有變革資本主義生產(chǎn)資料所有制結構，算法才能在提供社會生產(chǎn)力的同時，促進人的自由全面發(fā)展。

從現(xiàn)實角度看，算法從屬于資本的發(fā)展方向，受資本原則的主導與調(diào)節(jié)，在一定范圍內(nèi)依然有現(xiàn)實性依據(jù)。正因如此，人們需要對智能算法時代的來臨抱有積極想象，因為它是人類獲取自由時間、成就自身的積極條件，這就是“苦于算法之不發(fā)展”。 

澎湃新聞：2023年人工智能、大模型等技術取得突破性進展，關于人是否會被機器所取代的話題也一度處于風口浪尖，您如何從算法角度看待這一現(xiàn)象？

孫亮：ChatGPT等成為學術熱點有現(xiàn)實依據(jù)，但目前談論人能否被機器取代這一問題可能還為時過早，因為無法證明人被機器取代的算法方向完全正確。學術對此有兩種討論，一種認為，人有自己的特殊性，心靈、意志、否定思維、感情等都是無法被人工智能逾越的。另一種認為，心靈、意志等其實是一種功能性存在。比如，丹尼特就在論證這一觀點。因此，只要算法方向正確，功能性存在都可以通過算法達成。

在我看來，這是兩種不同世界觀的爭論。當前主要需要警惕的是以算法為代表的科技與資本聯(lián)合后，對人的生活、現(xiàn)代文明所造成的負面危害，所以在談論技術奇點之前，更重要的是關注經(jīng)濟奇點的問題。 

澎湃新聞：您在論文中談到“苦于算法之發(fā)展與苦于算法之不發(fā)展”的現(xiàn)實境遇，要想化解這一矛盾該從什么方面思考解決之道？

孫亮：“苦于算法之發(fā)展與苦于算法之不發(fā)展”的現(xiàn)實境遇，主要與現(xiàn)代化發(fā)展方式有關。西方的現(xiàn)代化以資本原則為主導，凡是利于資本增殖的任何手段都可以被吸納和推進，不會有發(fā)不發(fā)展算法的矛盾。但中國式現(xiàn)代化發(fā)展方式要規(guī)范、引導好資本。一方面要發(fā)揮資本的積極作用，進一步發(fā)展算法以推進中國現(xiàn)代化建設，另一方面要控制資本的消極作用，規(guī)范算法應用，制定系統(tǒng)性的算法規(guī)則。

最近，從國家到地方數(shù)據(jù)局的掛牌，就是要統(tǒng)籌推進政府、企業(yè)、社會的數(shù)據(jù)要素，從而讓數(shù)據(jù)得到合理確權，讓算法以實現(xiàn)高質(zhì)量發(fā)展、建設中國式現(xiàn)代化為發(fā)展方向。同時，對于數(shù)字經(jīng)濟與數(shù)字社會發(fā)展中出現(xiàn)的算法問題，相關法律、法規(guī)及政策也在積極推進規(guī)范化建設。這在全球數(shù)字社會發(fā)展的大背景下具有重要的歷史意義。