經(jīng)濟觀察報 記者 任曉寧 11月27日下午，北京大學理科5號樓內(nèi)，“算法為人”論壇的展旗仍擺在大樓入口處，這場幾天前由北京大學數(shù)字治理研究中心等多家機構主辦的論壇是國內(nèi)第一個討論算法與社會關系的專題論壇。此前，算法相關論壇討論的主要是技術話題，研究如何提高技術效率。

北京大學數(shù)字治理研究中心主任邱澤奇為這場論壇準備了很久，舉辦時間恰好與網(wǎng)信辦等四部委聯(lián)合推出算法治理清朗行動，以及農(nóng)夫山泉創(chuàng)始人鐘睒睒炮轟抖音創(chuàng)始人張一鳴的熱點事件重合。這是巧合，某種意義上也是必然?！耙郧按蠹覍λ惴ǖ母杏X不明顯，不痛不癢，現(xiàn)在可能是感覺到痛了?！鼻駶善鎸?jīng)濟觀察報說，社會大眾已經(jīng)回過味了，有體驗也有能力去反思算法了。

邱澤奇師從著名社會學家費孝通，他從2000年起關注算法治理。一開始，他覺得ERP(Enterprise Resource Planning，企業(yè)資源規(guī)劃)的算法會讓人失去工作，后來發(fā)現(xiàn)電商系統(tǒng)的算法對商家可能不公平，再到現(xiàn)在，算法幾乎覆蓋到了每個中國人。算法偏見、算法歧視、算法霸權已經(jīng)成為社會的敏感議題。

在20多年的研究中，邱澤奇發(fā)現(xiàn)，算法可以作惡，也可以向善，這主要取決于算法制造者。在與微信創(chuàng)始人張小龍的一次長談后，他加深了這種認知：如果掌控技術的人，能夠把社會的良心和社會的共識植入產(chǎn)品中，數(shù)字技術是完全可以向善的，算法也是完全可以為人的。

但是，近期鐘睒睒的控訴、網(wǎng)信辦等四部委的治理，證明一些平臺和行業(yè)明顯沒有做到技術向善和算法為人，反而因技術對社會造成了傷害。一些內(nèi)容平臺缺乏將企業(yè)社會責任付諸平臺運營的行動，更沒有相關的經(jīng)驗。

邱澤奇認為，缺乏價值觀和社會責任感的企業(yè)，非常危險。他呼吁企業(yè)充分運用當下的窗口期，從提升運營和管理質量的視角，認真對待算法問題。一旦等到監(jiān)管大棒落下，對整個互聯(lián)網(wǎng)行業(yè)都不是好事。屆時，即使監(jiān)管不介入，平臺也會承受巨大的社會壓力。

算法操縱后果已現(xiàn)

經(jīng)濟觀察報：你為什么會在11月底舉辦算法治理論壇？這是第一次舉辦嗎？

邱澤奇：是第一次舉辦。為這個論壇我籌備了很久。算法并不是新鮮話題，之前大家有各種各樣的爭議，討論更多的是大數(shù)據(jù)“殺熟”之類的經(jīng)濟議題。最近兩年，與算法相關的其他問題也開始被熱議。我的想法是，與其讓大家只憑直覺，沒有依據(jù)地討論，不如舉辦一個專題會議，請各方專家，尤其是懂算法的人講一講，這是第一個初衷。第二個初衷是，很多人都說算法在作惡，我想知道，算法是不是也能做點好事？我從這個立場詢問大家意見，大家都很有興趣，于是就舉辦了這個論壇。

經(jīng)濟觀察報：這場論壇結束的第二天，網(wǎng)信辦就發(fā)布了開展“清朗·網(wǎng)絡平臺算法典型問題治理”專項行動的通知。最近鐘睒睒也在控訴算法，這些都是巧合嗎？還是因為現(xiàn)在算法對社會帶來的危害已經(jīng)到了一個爆發(fā)點了？

邱澤奇：算法偏見一直都存在，偏見帶來的后果也一直都在。只是之前大家對算法后果缺乏反思，或者反思得不夠。

比如鐘睒睒這件事，他認為自己遭遇網(wǎng)暴時，已經(jīng)過去半年時間了，現(xiàn)在站出來講這件事，并把根源歸結到算法和抖音身上，是因為他需要有一個反應過程。整個社會對算法后果的反思也需要一個反應時間。

在2024年，算法應用的大致形態(tài)基本呈現(xiàn)出來了，算法帶來的負面社會后果也在顯現(xiàn)。以前大家對算法的感覺不明顯，不痛不癢，現(xiàn)在可能是感覺到痛了。早期大家是從買機票、火車票的體驗中感受到大數(shù)據(jù)“殺熟”的，這主要是經(jīng)濟議題。現(xiàn)在各類算法的目標對象都有了長時間體驗，也不再只是經(jīng)濟議題，大家回過味了，有能力去反思了。比如信息繭房、權益損害、算法偏見、算法歧視，這些概念過去只存在于學術界，現(xiàn)在，普通老百姓都知道這些概念了，說明社會認知提高了。

在這個意義上講，算法治理不只是政府的單向治理，而是多主體參與的綜合治理。

經(jīng)濟觀察報：現(xiàn)在人們提到算法偏見、算法歧視、信息繭房、過度沉迷等，會認為都是算法在作惡。你認為算法是在作惡嗎？

邱澤奇：坦率地講，算法就是幫你算個數(shù)。你寫了一套程序，它幫你把一些看不明、道不清的規(guī)律從數(shù)據(jù)里扒出來。我的觀點是，算法自己不會作惡。

那么，問題出在哪里呢？關鍵在數(shù)據(jù)和算法的匹配以及算法的調(diào)試，說到底，都是人在忙乎。總體而言，由于使用數(shù)字技術的人群不是同質性的、而是異質性的，且每一類人群對數(shù)據(jù)的貢獻，在量和質上都有差異，因此，算法使用的數(shù)據(jù)始終是有偏差的。當算法應用數(shù)據(jù)時，便會復刻現(xiàn)實社會的結構，甚至放大現(xiàn)實社會的問題。

這時，形式上有兩條路徑可以解決問題。第一是對來自現(xiàn)實生活的真實數(shù)據(jù)進行加權，第二是調(diào)試算法來糾偏。兩者實質上是一條路徑，因為，對數(shù)據(jù)加權也是由算法來實現(xiàn)的。

經(jīng)濟觀察報：算法可以做到厘清偏見嗎？

邱澤奇：算法是人寫出來的，無論如何都是可以調(diào)整的。在方法意義上，算法是工具。工具是否合用，是可以做交叉檢驗的，在技術上也很容易實現(xiàn)，完全沒有問題。

平臺不宜涸澤而漁

經(jīng)濟觀察報：你是社會學專家，為什么會一直關注算法問題？

邱澤奇：要說我為什么關注算法，可以從2000年算起。那時，我研究ERP在企業(yè)中的應用，用今天的視角來觀察，ERP可以被理解為算法推動的自動化。ERP運用的數(shù)據(jù)，質量非常高，每個字段都很清晰。

我們的研究發(fā)現(xiàn)，運用信息技術會產(chǎn)生比較重要的社會后果。ERP會產(chǎn)生的社會后果就包括讓人失去工作，失去權力。我們在青島啤酒做研究時遇到了一個例子，啤酒廠的庫管員在沒有ERP時是很有權力的，倉庫里有什么，他說了算?？墒怯辛薊RP，信息是透明的，他說了就不算了。

與當下的算法比較，ERP的社會影響不算大，它還只是影響企業(yè)。2012年我做淘寶店家研究時發(fā)現(xiàn)，平臺會讓網(wǎng)店連接泛在（通過現(xiàn)代通信技術，實現(xiàn)設備、系統(tǒng)、人和環(huán)境的廣泛連接，形成一個無縫、即插即用的網(wǎng)絡環(huán)境），也因此會帶來某種特定的后果，比如讓一個人的影響力變得非常巨大。這時，平臺的作用和機制就變得特別重要了，平臺想為買賣雙方謀福利，還是想自己從中抽更多的成，至關重要。在電商圈，平臺對商家抽成常常會被商家理解為平臺稅。如果平臺稅過高，商家的收益就會受損，在算法里，完全可以被理解為平臺沒有把控好自己。

同期，因為游戲問題我也關注了到某些平臺，不少家長都說，游戲真是害死人。我記得某平臺當時做了一點創(chuàng)新，成立了未成年人成長守護平臺。能讓技術來幫忙監(jiān)督孩子們玩游戲，自然是對社會負責任的做法。這件事給我很大的啟發(fā)，讓我見識了平臺是可以做有利于社會、有利于大眾的事的。

之后，我和張小龍有過一個很長時間的訪談，其中，談到微信對廣告植入的考量，他讓我認識到，如果掌握技術的人能夠把社會的良心和社會共識的訴求植入產(chǎn)品中，便是數(shù)字技術的向善，也是算法為人。至少，他可以做得相對克制一點，讓大家感受更好一點。

那幾年，我也在與網(wǎng)約車平臺接觸。當時正好遇到網(wǎng)約車乘客死亡事件，我提了一個建議：設置一鍵報警。后來我發(fā)現(xiàn)，網(wǎng)約車平臺的改進比我想象的好太多了，比如有錄音，有一鍵報警，也有緊急聯(lián)系人，做得越來越完善。

這些事情都讓我相信，數(shù)字技術不僅可以賺錢，也可以為人類社會服務。其中，算法是數(shù)字技術的核心力量，也是數(shù)字時代的技術強權。技術掌控者掌握技術，是為一個人，還是為大多數(shù)人，向左走，還是向右走，都是值得關注的，不只是值得政府關注，更值得社會關注。

經(jīng)濟觀察報：你提到了很多已經(jīng)改善的互聯(lián)網(wǎng)公司，這些公司都偏向基礎設施類。但近期大家反對聲音比較大的是內(nèi)容平臺和社區(qū)平臺。人們認為這些平臺在積聚戾氣，甚至形成網(wǎng)暴，為什么這些公司的算法會走上這條路？

邱澤奇：依我看，內(nèi)容平臺的價值觀更加重要。馬云曾有一句話說，讓天下沒有難做的生意。微信則讓世界變成一個小地球，讓你站在地球的中央。這些都是價值觀。一個公司有了價值觀，尤其是有了符合社會共識的價值觀，也就有了價值追求，繼而就會有追求目標的行動。

與零售平臺、社交平臺、生活平臺不同，內(nèi)容平臺直接關涉人們的認知和認知改變，更需要有符合社會共識的價值觀。僅就這一點而言，它們可以做很多事。

經(jīng)濟觀察報：可以做什么事？

邱澤奇：比如有效處理虛假信息。就鐘睒睒事件而言，我以為內(nèi)容平臺是可以有作為空間的，比如對事實類內(nèi)容，如果未經(jīng)核實，可以讓算法在內(nèi)容里打上平臺提示，如：此內(nèi)容未經(jīng)核實，請觀眾注意辨別。我以為，對于未經(jīng)核實的事實類內(nèi)容，平臺有提示的責任和義務。為此，平臺的工作量和工作內(nèi)容的確會大大增加，可是，受益的卻是大多數(shù)人，平臺可以留下更優(yōu)質的內(nèi)容，受眾會增加判別的依據(jù)，內(nèi)容空間會因此更加清朗，社會還會因此更加積極向上。

經(jīng)濟觀察報：為什么現(xiàn)在算法問題較多的是短視頻平臺？

邱澤奇：我更愿意相信這是這類平臺邁向成熟的社會過程，還是應該允許這些平臺成熟起來，不能一上來就指責它們，因為沒有人能想到事情會發(fā)展到什么地步。比如網(wǎng)約車平臺，可能最初也沒有人想到會有司機這么壞。有些事情超出了人們的認知底線，的確是想不到。不過，既然壞的結果已經(jīng)顯現(xiàn)了，就需要正視，也正好可以抓住機會在平臺運營和管理上提檔升級。

經(jīng)濟觀察報：就成熟度而言，中國互聯(lián)網(wǎng)公司走向成熟，似乎都經(jīng)歷過大型輿論風波。短視頻平臺是不是還沒有經(jīng)歷過？

邱澤奇：百度經(jīng)歷過“魏則西事件”，阿里巴巴經(jīng)歷過商家“十月圍城”，騰訊經(jīng)歷過“3Q大戰(zhàn)”，滴滴經(jīng)歷過順風車司機殺人，美團經(jīng)歷過騎手“困在系統(tǒng)里”事件，只有短視頻平臺還沒有經(jīng)歷過輿論的風暴口，這次是這類平臺歷史上的第一次。

其他平臺前些年的經(jīng)歷，都是社會力量的反映，它們有明確的受害者，有社會力量的參與。內(nèi)容平臺不一樣的是，對象的離散性使得它不可能因某個事件而帶來一場社會運動，否則就會落入法治之網(wǎng)，這次的清朗行動也可以算是內(nèi)容平臺自我進化的一個機會。

歷史告訴我們，一家得到社會廣泛認可的技術公司，通常會選擇在讓大多數(shù)人獲益的同時，從大多數(shù)人那里獲益，而不是簡單地竭澤而漁。

經(jīng)濟觀察報：為什么現(xiàn)在一些公司出現(xiàn)了涸澤而漁的現(xiàn)象？

邱澤奇：可能是因為公司太年輕，心太大，或者擔心失去賺錢的機會而選擇了只做幾年的公司，不做百年公司。公司的成長是需要時間的，比如騰訊提出科技向善，是因為它12歲時遇到了“3Q大戰(zhàn)”，學會了把半條命交給合作伙伴。

經(jīng)濟觀察報：你接觸到的很多內(nèi)容平臺，比如抖音、快手、騰訊視頻號等，平臺現(xiàn)在有意愿改變嗎？

邱澤奇：我覺得是有的，只是平臺可能真的不知道應該怎么做。所以我主張呼吁一下，或者引發(fā)一些社會討論，為這些公司集智。

經(jīng)濟觀察報：你似乎一直從積極的角度去鼓勵平臺，倡導它們承擔社會責任。為什么要這么做？

邱澤奇：我還有一個更大的擔憂，如果監(jiān)管繼續(xù)趨于嚴格，整個中國互聯(lián)網(wǎng)產(chǎn)業(yè)有可能垮掉。2020年全球市值前10名的公司之中，有七家互聯(lián)網(wǎng)公司，中國有兩家。2023年全球市值前50名的公司中，只有一家中國互聯(lián)網(wǎng)公司，而且排名靠后。國內(nèi)互聯(lián)網(wǎng)行業(yè)這幾年掉得太厲害，這不是我們期待的結果，更不是對中國發(fā)展有利的結果。

監(jiān)管是一柄雙刃劍，在中美競爭的關鍵時刻，我們應該更好地運用監(jiān)管工具箱，促進產(chǎn)業(yè)發(fā)展，促進經(jīng)濟發(fā)展，促進社會發(fā)展。

經(jīng)濟觀察報：如果平臺一直不改怎么辦？

邱澤奇：我們先把道理說在前面?？梢韵燃俣ㄆ脚_是無辜的，它們沒有意識到算法對社會可能帶來的負面影響，但當我們把危害擺在平臺面前，清晰明確地讓它們知曉后，如果它們依舊再犯，那時再口誅筆伐，也不遲。

我相信大部分平臺也希望解決算法帶來的社會問題，消弭大家的抱怨。清朗行動一定不是零和博弈，而是希望雙贏和多贏?，F(xiàn)在，是考驗平臺智慧的時候。

經(jīng)濟觀察報：如果最后還是有公司不改呢？

邱澤奇：那它就死定了。并且這種死不會是因為監(jiān)管而死，而是自己作死，自然而死。因為社會會拋棄它，這時，也一定會有新的公司乘虛而入。

對內(nèi)容平臺而言，現(xiàn)在是一個很巧的時間節(jié)點，如果能自我反思，認真整改，一定會更上層樓。如果不能反思，那它就很危險了。

關于監(jiān)管

經(jīng)濟觀察報：你怎樣評價這次四部委出臺的算法治理政策？和往年相比有哪些差別嗎？

邱澤奇：這次列出的治理要點更清晰了，他們把哪一些算法會導致什么后果都點出來了，比如信息繭房、榜單操縱、危害勞動者權益、大數(shù)據(jù)“殺熟”、危害用戶權益、算法安全等，從后果出發(fā)，直接列出了算法的負面影響。

這次也把算法的每一大類都點了名，每個大類背后可能都指向一類典型平臺。

我不清楚的是，清朗行動會怎么操作。清朗行動等政府治理，目標還是促進發(fā)展，尤其是促進經(jīng)濟發(fā)展、促進社會發(fā)展。

經(jīng)濟觀察報：你對國外算法治理研究比較多，之前的論文里提到國外算法治理法案比較完善，并且事后問責已經(jīng)形成了完整的邏輯。你覺得這種監(jiān)管方式有用嗎？

邱澤奇：我覺得是有用的。對于最前沿的事情，人們都不是很清楚可能的創(chuàng)新空間，也不清楚創(chuàng)新可能產(chǎn)生的后果及其邊界。這個時候，我們要提早預防負面后果，但不應該提早約束，因為我們不知道要約束什么，如果只是原則性地說不能做，就會約束整個行業(yè)的發(fā)展。

美國的監(jiān)管模式其實很簡單，就是我不熟悉的事你先干，只要出了狀況我一定找你算賬，即問責制。歐盟的模式是罰款，你在我這里運營，就要給我交一筆過路費。我們的監(jiān)管有時會直接說你不能干。如果不能做事，哪里能獲得收益呢？我以為，中國一定要監(jiān)管，并且要體現(xiàn)幾千年中華文化里的監(jiān)管智慧，不過，還是要以促進經(jīng)濟社會發(fā)展為目標來進行監(jiān)管，我們也可以嘗試事后監(jiān)管，采用問責制。

在算法監(jiān)管上我始終主張問責制，也認為這是一個大趨勢。

經(jīng)濟觀察報：為什么問責制會是大趨勢？

邱澤奇：就比如內(nèi)容平臺上的一些內(nèi)容體現(xiàn)的是人類的創(chuàng)新性和創(chuàng)造力，我們不能假定內(nèi)容平臺什么都知道，并且有意在犯錯。在你假定它有意犯錯時，你需要拿出證據(jù)。在我們沒法假定時，最好的監(jiān)管就是讓子彈先飛一會兒，讓人們釋放自己的創(chuàng)新和創(chuàng)造能力。

一旦造成了不好的后果，監(jiān)管就可以立即到位，不管是內(nèi)容責任主體還是平臺，對它問責，罰它。不過，最好不要一竿子打死它，因為它也在探索中。允許探索中犯錯是促進創(chuàng)新、促進發(fā)展最優(yōu)的政策選擇。

經(jīng)濟觀察報：國外現(xiàn)在有完整的算法治理法案，我們現(xiàn)在是不是還缺一部法案？

邱澤奇：也不能說國外有完整的法案，不過，我們現(xiàn)在的“九龍治水”倒是事實。比如說數(shù)據(jù)流通，監(jiān)管的部門太多，事情就會變復雜。

經(jīng)濟觀察報：如果“九龍治水”最后能統(tǒng)一成治理法案，情況會變好嗎？

邱澤奇：現(xiàn)在，算法的類型大致清晰了。對不同類型算法的治理，我主張采用判例法，誰被人告狀了，我就治誰。在我們不了解的領域采用判例法是更符合實際的做法，也是動用社會力量參與政策治理、參與國家法治的有效路徑，還是提升國家治理能力的必要維度，可以讓治理產(chǎn)生更優(yōu)的社會效應。

?