日前，國(guó)家網(wǎng)信辦部署2021年“清朗”系列專(zhuān)項(xiàng)行動(dòng)，針對(duì)公眾與日俱增的算法焦慮，此次行動(dòng)還專(zhuān)門(mén)納入了“算法濫用治理”的內(nèi)容，提出將對(duì)算法應(yīng)用的重點(diǎn)環(huán)節(jié)加強(qiáng)監(jiān)管，嚴(yán)肅查處利用算法從事違法違規(guī)的行為。

可以看到的趨勢(shì)是，隨著算法在社會(huì)生活的應(yīng)用日益廣泛、影響力持續(xù)擴(kuò)大，對(duì)于算法的監(jiān)管與治理將成為相關(guān)部門(mén)的重點(diǎn)。

網(wǎng)景公司創(chuàng)始人安德森在2011年提出了“軟件吞并世界”的概念，即各個(gè)產(chǎn)業(yè)的數(shù)字化轉(zhuǎn)型，不僅意味著數(shù)字技術(shù)作為工具嵌入到人類(lèi)社會(huì)之中，更意味著數(shù)字技術(shù)開(kāi)始干預(yù)人類(lèi)社會(huì)運(yùn)行的基本規(guī)則，并成為管理、分類(lèi)、約束乃至決定整個(gè)社會(huì)運(yùn)行的重要因素。

如今看來(lái)，軟件“吞并”世界的深度與廣度都在持續(xù)提升，算法已開(kāi)始脫離了工具范疇，而是演化成為了一種引導(dǎo)、影響乃至支配人類(lèi)社會(huì)的權(quán)力。

代碼即法律？

關(guān)于“權(quán)力”的定義，哈貝馬斯提出，凡是特定主體擁有的，足以支配他人或影響他人資源的均可稱(chēng)為權(quán)力。馬克斯·韋伯認(rèn)為，“權(quán)力意味著在一種社會(huì)關(guān)系里哪怕是遇到反對(duì)也能貫徹自己意志的任何機(jī)會(huì)，不管這種機(jī)會(huì)是建立在什么基礎(chǔ)之上?！?/p>

綜觀各位學(xué)者論述，可以總結(jié)出“權(quán)力”的要件有二，一是具備“支配他人或影響他人資源”的控制力；二是“哪怕是遇到反對(duì)也能貫徹自己意志的”的強(qiáng)制力。從某種程度上來(lái)說(shuō)，算法已經(jīng)滿足了這兩個(gè)特征：

一方面，算法越來(lái)越成為主導(dǎo)社會(huì)運(yùn)行的一種方式，人們開(kāi)始進(jìn)入“代碼即法律”的時(shí)代。算法不僅通過(guò)掌握人們接受、傳播信息的渠道，潛移默化地影響人們對(duì)于社會(huì)的理解與認(rèn)知，并進(jìn)一步影響社會(huì)輿論、形塑主流文化。而且，算法通過(guò)與各個(gè)應(yīng)用場(chǎng)景的結(jié)合，成為了引導(dǎo)、甚至主導(dǎo)人們行為選擇的“代理人”。具體而言，從衣食住行的日常消費(fèi)到生產(chǎn)流通各環(huán)節(jié)，一切均要仰賴(lài)算法的智能推薦與決策。更進(jìn)一步來(lái)看，算法已經(jīng)與公權(quán)力緊密結(jié)合，在宏觀調(diào)控、市場(chǎng)監(jiān)管、公共服務(wù)、司法執(zhí)法等各個(gè)領(lǐng)域得到深入應(yīng)用。在相當(dāng)多場(chǎng)景下，算法已經(jīng)取代了人的位置，直接做出具體行政行為，如對(duì)于交通違法行為的自動(dòng)識(shí)別、自動(dòng)處置等。

另一方面，面對(duì)算法的強(qiáng)大支配力，人們往往沒(méi)有選擇的權(quán)力。在技術(shù)企業(yè)的層層包裝下，“知情-同意”其實(shí)已經(jīng)形同虛設(shè)，如在隱藏界面或者軟件升級(jí)中設(shè)置“后門(mén)”，在軟件下載使用過(guò)程中不設(shè)菜單式選擇而只有概括式同意，隱私政策和用戶協(xié)議有意用晦澀繁瑣冗長(zhǎng)的表述等方式，讓用戶“被知情”“被同意”。事實(shí)上，由于算法應(yīng)用的廣泛性，一旦拒絕使用或者由于能力所限不能使用，往往意味著正常生活受到影響。如不會(huì)使用二維碼、智能手機(jī)的老年人、殘疾人、貧困者，無(wú)法上網(wǎng)購(gòu)物點(diǎn)餐、難以乘坐公共交通，不能掃碼進(jìn)出小區(qū)等。

值得注意的是，算法時(shí)代，權(quán)力主體的內(nèi)涵也發(fā)生了變遷。由于算法的研發(fā)與使用具有極高的技術(shù)、資金、人力門(mén)檻，因此更容易被大型技術(shù)企業(yè)所掌握，非制度性權(quán)力正在興起。

一方面，基于不斷增長(zhǎng)的龐大用戶，技術(shù)平臺(tái)用以約束參與方的內(nèi)置規(guī)則的影響力在不斷擴(kuò)張，如通知?jiǎng)h除、限制下單、限制用戶權(quán)益、警告、罰款、封號(hào)、下架、關(guān)店等，這使其具有了規(guī)則制定權(quán)、審查權(quán)、管理權(quán)、處分權(quán)等實(shí)質(zhì)性權(quán)力，越來(lái)越具有“準(zhǔn)公共權(quán)力”的特征。

另一方面，隨著技術(shù)平臺(tái)的輻射范圍持續(xù)拓展，逐漸從商業(yè)服務(wù)滲透至公共領(lǐng)域，相當(dāng)多政府領(lǐng)域的項(xiàng)目建設(shè)都是采取政企合作的形態(tài)。與公權(quán)力的結(jié)合，導(dǎo)致技術(shù)企業(yè)越來(lái)越擁有左右社會(huì)資源配置的能力，也由此產(chǎn)生了政企博弈、公共俘獲等問(wèn)題。

算法權(quán)力何以異化？

相比傳統(tǒng)權(quán)力形態(tài)，“智能化”的算法權(quán)力表現(xiàn)出更強(qiáng)大的控制力，可以跨越時(shí)空、無(wú)遠(yuǎn)弗界，深入社會(huì)、無(wú)孔不入，效能強(qiáng)大、無(wú)所不能。但硬幣的另一面是權(quán)利與權(quán)力的失衡，算法運(yùn)行機(jī)理的不公開(kāi)、運(yùn)行結(jié)果的難以抗拒、遭受侵害的難以救濟(jì)。

無(wú)論是沉浸在短視頻中不能自拔的年輕人，還是被困在外賣(mài)系統(tǒng)里的騎手，或者是被“大數(shù)據(jù)殺熟”精準(zhǔn)榨干消費(fèi)剩余的普通用戶，以及算法歧視對(duì)待的黑人群體.......都是算法權(quán)力下，公眾權(quán)利備受擠壓的真實(shí)寫(xiě)照。從這一視角來(lái)看，算法權(quán)力存在異化為“算法暴政”的可能，美國(guó)學(xué)者凱西·奧尼爾甚至將算法取名為“數(shù)學(xué)殺傷性武器”。

那么，我們就要問(wèn)了，技術(shù)異化肇因?yàn)楹?？算法?quán)力如何演變?yōu)樗惴ū┱?/p>

首先，效率導(dǎo)向與公平導(dǎo)向的沖突。

公平正義是人類(lèi)追求的普世價(jià)值，但在算法的世界，首要追求的卻是效率。一方面，算法的本質(zhì)就是一種尋求“最優(yōu)解”的解題工具，尤其是在其設(shè)計(jì)者、使用者是企業(yè)的情況下，往往會(huì)以商業(yè)利益最大化作為首要目標(biāo)；另一方面，相比于“公平正義”這些厚重復(fù)雜的倫理概念，“效率”顯然更容易轉(zhuǎn)化為計(jì)算機(jī)所理解的編碼語(yǔ)言。

因此，在算法權(quán)力主導(dǎo)的世界，人不再是擁有復(fù)雜內(nèi)涵的豐富個(gè)體，而是異化為由數(shù)字碎片堆集而成的“微粒人”，以個(gè)人效用最大化為目標(biāo)，成為了被定義、被分類(lèi)、被評(píng)級(jí)、被使用的客體。

比如，在新聞推送中，算法不會(huì)考慮什么樣的訊息是適合你的、能夠助你成長(zhǎng)向上的，而是會(huì)將那些最能吸引你的、最能轉(zhuǎn)化為流量收益的內(nèi)容推送給你。再如，在外賣(mài)配送系統(tǒng)中，算法將“快”作為唯一評(píng)價(jià)目標(biāo)，由此形成了“系統(tǒng)要求騎手越跑越快—外賣(mài)員的勞動(dòng)越來(lái)越快——算法發(fā)現(xiàn)外賣(mài)員越來(lái)越快，其要求也不斷升級(jí)”的循環(huán)困境，使得外賣(mài)騎手“困在系統(tǒng)里”難以自拔。

其次，披著“中立”科學(xué)外衣下的人類(lèi)意識(shí)。

技術(shù)烏托邦者認(rèn)為，技術(shù)是純粹理性、客觀、中立的，能夠以流程化、規(guī)范化的代碼完全擺脫人為干擾與恣意專(zhuān)斷。但事實(shí)上，技術(shù)終究是要靠人來(lái)定義、設(shè)計(jì)、使用的，人類(lèi)世界的偏見(jiàn)與歧視不可避免地會(huì)映射到數(shù)字世界，算法也會(huì)產(chǎn)生偏見(jiàn)、偏誤乃至錯(cuò)誤。

一方面，數(shù)據(jù)是算法訓(xùn)練的基礎(chǔ)，是機(jī)器學(xué)習(xí)的養(yǎng)料。如果基礎(chǔ)數(shù)據(jù)充斥著偏見(jiàn)，那么人工智能的輸出結(jié)果也必然含有歧視性，即“偏見(jiàn)進(jìn)，則偏見(jiàn)出”( Bias In，Bias Out)。如亞馬遜招聘系統(tǒng)此前被曝將高薪職位更多推送給男性求職者，其存在偏差的原因就在于該算法所使用的原始數(shù)據(jù)是公司的過(guò)往員工數(shù)據(jù)——過(guò)去，亞馬遜聘用的男性偏多。算法學(xué)習(xí)到了數(shù)據(jù)集所表現(xiàn)的這一特征，因此在決策中更容易忽略女性求職者。

另一方面，算法的設(shè)計(jì)使用需要工程師的全流程參與架構(gòu)，包括機(jī)器學(xué)習(xí)的目標(biāo)設(shè)定、模型的選取、標(biāo)簽的設(shè)置、數(shù)據(jù)的預(yù)處理等，因此算法工程師的主觀想法乃至偏見(jiàn)歧視也會(huì)體現(xiàn)在算法運(yùn)行之中。如當(dāng)工程師認(rèn)為“性別”“種族”“地域”是決定資源可得性的重要指標(biāo)時(shí)，算法自然會(huì)對(duì)部分群體構(gòu)成不公待遇。

第三，權(quán)利與權(quán)力的格局失衡。

算法時(shí)代，隨著技術(shù)企業(yè)權(quán)力的不斷壯大，國(guó)家與社會(huì)的二元結(jié)構(gòu)被打破，形成了“公權(quán)力-私權(quán)力-私權(quán)利”的新權(quán)力格局，但權(quán)力與權(quán)利之間卻出現(xiàn)了失衡。政府行政的效率與力度、技術(shù)企業(yè)攫取財(cái)富的規(guī)模與速度大大提升，但社會(huì)天平的另一頭，公眾的權(quán)利卻是備受傾軋。如學(xué)者周輝所言，算法對(duì)公眾權(quán)利的保障與補(bǔ)充上實(shí)現(xiàn)的增幅，遠(yuǎn)遠(yuǎn)無(wú)法達(dá)到權(quán)威的代表者、資本的代理人在權(quán)力擴(kuò)張上實(shí)現(xiàn)的增幅。

一方面，公眾源源不斷地貢獻(xiàn)了自己的數(shù)據(jù)，這成為了財(cái)富增長(zhǎng)、權(quán)力實(shí)現(xiàn)的重要基礎(chǔ)，而自己非但沒(méi)能從中分享絲毫收益，反而還面臨著隱私泄露、信息繭房、大數(shù)據(jù)殺熟等種種侵害，收益與風(fēng)險(xiǎn)遠(yuǎn)遠(yuǎn)不成正比。

另一方面，個(gè)人無(wú)時(shí)不刻地被算法定義、評(píng)級(jí)、處置，卻因算法的不公開(kāi)、不透明，其知情權(quán)、參與權(quán)、異議權(quán)、救濟(jì)權(quán)等正當(dāng)權(quán)利被架空。尤其是預(yù)測(cè)性算法的應(yīng)用，由于算法使用者的干預(yù)與控制是在事實(shí)發(fā)生之前，如根據(jù)犯罪預(yù)測(cè)系統(tǒng)結(jié)果對(duì)潛在風(fēng)險(xiǎn)個(gè)體進(jìn)行提前執(zhí)法，無(wú)疑會(huì)打破現(xiàn)有的無(wú)罪推定原則。

此外，當(dāng)算法對(duì)公民造成實(shí)質(zhì)性侵害之后，在“誰(shuí)主張、誰(shuí)舉證”的規(guī)則之下、公民顯然很難以一己之力與權(quán)威或資本相抗衡。有學(xué)者如此形容技術(shù)統(tǒng)治下的社會(huì)分化——一個(gè)是具有操控“數(shù)字資本”的“數(shù)據(jù)權(quán)貴”，笑容滿面、雄心勃勃；另一個(gè)是置身于算法歧視、數(shù)據(jù)壟斷、算法霸權(quán)統(tǒng)治下的“數(shù)字難民”，戰(zhàn)戰(zhàn)兢兢、畏葸不前。

以“數(shù)字人權(quán)”對(duì)抗“算法暴政”

愛(ài)因斯坦有一句話，科學(xué)技術(shù)“究竟是給人類(lèi)帶來(lái)幸福還是帶來(lái)災(zāi)難，全取決于人自己，而不取決于工具”。針對(duì)技術(shù)異化給人類(lèi)社會(huì)帶來(lái)的種種侵害，我們亟需建立起一套約束算法權(quán)力有序運(yùn)行的制度體系。

首先，以人為本是法治的靈魂。

在數(shù)字技術(shù)已經(jīng)成為人們生活、生存和法治須臾不可或缺的一種方式，且適用于工業(yè)社會(huì)的傳統(tǒng)法律形態(tài)對(duì)人民權(quán)利保護(hù)嚴(yán)重不足的情況下，將對(duì)數(shù)字科技的掌握和運(yùn)用奉為“權(quán)利”并將其歸屬于“人權(quán)”，提煉出“數(shù)字人權(quán)”概念既甚為迫切，也順理成章。

所謂“數(shù)字人權(quán)”，就是要明確技術(shù)的出發(fā)點(diǎn)必須是要以人為本，并將人權(quán)保障作為技術(shù)應(yīng)用的尺度和標(biāo)準(zhǔn)。數(shù)字人權(quán)的內(nèi)涵一方面包括對(duì)公民隱私權(quán)、數(shù)據(jù)權(quán)、表達(dá)權(quán)、人格尊嚴(yán)權(quán)等權(quán)利和自由的尊重與保護(hù)；另一方面也包括對(duì)互聯(lián)網(wǎng)基礎(chǔ)設(shè)施及其他數(shù)字化設(shè)備的提供，尤其是對(duì)于弱勢(shì)群體所面臨“數(shù)字鴻溝”的填補(bǔ)，確保其上網(wǎng)權(quán)或數(shù)字生活權(quán)，增強(qiáng)人類(lèi)社會(huì)的普惠性。

其次，倫理之善需轉(zhuǎn)化為制度之律才能落地生根。

為確保數(shù)字人權(quán)的權(quán)利實(shí)現(xiàn)，需建立一套集事前、事中、事后為一體的監(jiān)管機(jī)制。建議成立政產(chǎn)學(xué)研等多主體組成的算法審查機(jī)構(gòu)，對(duì)算法進(jìn)行全流程監(jiān)管，包括：事前要求算法設(shè)計(jì)者提供算法技術(shù)邏輯、意義、目的、功能及決策依據(jù)等說(shuō)明，排查其規(guī)則的正當(dāng)性、合理性；事中，要求算法使用者建立針對(duì)算法失靈、算法崩潰的應(yīng)急預(yù)案機(jī)制，并加大對(duì)算法與決策的隨機(jī)抽查力度；事后，構(gòu)建算法問(wèn)責(zé)追溯機(jī)制，接受公眾對(duì)算法的質(zhì)疑，并為公眾建立算法決策的申訴、救濟(jì)渠道。

最后，要明確技術(shù)治理的重心在于“治理”而非“技術(shù)”。

擺脫“技術(shù)崇拜”心理，審慎把握算法應(yīng)用場(chǎng)景。在積極鼓勵(lì)算法用于提升人民生活福祉的場(chǎng)景運(yùn)用時(shí)，對(duì)于那些涉及到公共安全、執(zhí)法司法等場(chǎng)景的算法，要進(jìn)行嚴(yán)格風(fēng)險(xiǎn)把控。

一方面需把握“比例原則”，不因一時(shí)的、些微的效率，而造成不成比例的公平、自由風(fēng)險(xiǎn)；另一方面需堅(jiān)持“人享有最終主導(dǎo)權(quán)、控制權(quán)”的底線，在治理中找回“人”的存在。

烽巢網(wǎng)注：本文來(lái)源于微信公眾號(hào) 財(cái)經(jīng)E法 ，作者：陳千凌