gE8曹操讀書網

圖片來源@視覺中國gE8曹操讀書網

文 | 陳述根本gE8曹操讀書網

當前，大數據的快速發展正使算法融入并重塑人們的生活，算法作為機器可讀的程序性指令，利用匯集人類行為的大規模數據集影響著人們方方面面的社會生活。比如，算法推薦新聞、推送廣告、排名商品、安排專車，甚至經營工廠、駕駛飛機、評級信用。算法規訓的社會日益成型。gE8曹操讀書網

不可否認，算法給人類的生活帶來了諸多便利。然而，盡管算法在提高生產效率、社會福利、治理效能等方便發揮了重要作用，個體、社會和國家的發展都深受其益，但算法的應用也是一把雙刃劍，帶來了包括算法歧視、算法崩潰等新問題，也加劇了大數據時代以來的信息不對稱、知識不對稱以及信息繭房的問題。gE8曹操讀書網

算法賦能個體的同時，也增強了政府公權力和平臺企業私權力的支配力、控制力和影響力，即算法權力。從一開始的“算法理性”再到后來的“算法暴政”，算法是否已經偏離造福人類的軌道？而算法社會中賦能后失衡的權力與權利關系又如何糾偏再平衡？gE8曹操讀書網

從有限人類理性到無限算法理性

作為一項當代科技，算法是一種有限、確定、有效并適合用計算機程序來實現的解決問題的方法，是計算機科學的基礎。算法是理論中最純粹的知識形式，在某種意義上，其可以看作是一種理性的計算工具。gE8曹操讀書網

由于有大數據和智能技術的支撐，因此，無論是在知識交流和知識共享方面，還是在學習既往經驗方面，算法都遠超過人類個體可以達到的程度。gE8曹操讀書網

以 Google 翻譯為例，盡管其翻譯的質量還有待提高，但其目前已經可以處理 108 種語言，而且其翻譯的精度和可翻譯語言的數量每年甚至每個月都在提升。而在人類中，只要會十余種外語，就會被視為語言天才。借助Google 翻譯，一個人工智能可以運用的知識，是人類個體遠遠比不上的。gE8曹操讀書網

在學習既往經驗方面，人工智能也遠遠超乎人類之上。比如，“人機大戰”中打敗人類圍棋高手李世石的 AlphaGo。要知道，李世石在過去 15 年獲得了十幾個世界冠軍頭銜，總共下了 1 萬盤圍棋對弈，經過了 3 萬個小時訓練，每秒可以搜索 10 個走子。而誕生只有兩年時間的 AlphaGo，差不多經歷了 3 萬小時的訓練，每秒卻可以搜索 10 萬個走子。gE8曹操讀書網

可見，無論是在占有作為理性運用之基礎的理論性知識方面，還是在占有關涉理性運用本身的實踐性知識方面，算法都遠遠要超過人類。并且，作為無機生命，算法沒有理性意志方面的弱點。gE8曹操讀書網

gE8曹操讀書網

人是具有情感的動物，人類在做決定時很大程度上會帶有主觀色彩，而算法的運行則依靠著設計出的代碼，本身沒有情感可言，也就不存在理性意志薄弱的問題。與人類司機經常出現酒駕、不避讓行人、闖紅燈、疲勞駕駛等非理性行為相比，一個搭載智能算法的自動駕駛汽車可以避免這些問題。gE8曹操讀書網

換言之，人類常常因為情感或者欲望的限制，無法實施實踐理性所要求的行為，從而導致“實踐非理性”的出現，而沒有感情的算法恰好可以做到完全的理性。算法就像是一個不知疲倦的“永動機”，只要有電源，只要機器運轉正常，它就可以永遠執行命令。正是這種“有理性、但又不會面臨著人類理性意志薄弱困境”的特性，使得算法具有廣闊的應用前景。gE8曹操讀書網

一方面，算法正在憑借著日益增強的計算能力，在海量數據的投喂以及機器學習中不斷走向成熟。通過與互聯網絡的鏈接，開始逐步實現與整個社會的深度融合，實現權利賦能。算力的提高、算法技術自身的進步以及算法應用的多樣化，賦予了各類私主體更多的權能和社會福利。gE8曹操讀書網

比如，算法應用的成熟拓寬了民眾進行信息獲取、知識獲取、意見表達的渠道；政府可以通過相應的算法應用對民眾所需信息、反應意見進行快速的歸納與分類；平臺企業作為私主體，也可以結合其所提供的相關服務，有針對性地收集各類用戶數據，促進算法技術的成長與成熟，再讓成熟的算法應用反哺平臺業務的發展。gE8曹操讀書網

另一方面，權力作為一種社會關系，是某個主體能夠運用其擁有的資源，對他人發生強制性的影響力、控制力。而運用算法的主體可以通過算法進一步強化對其他主體的影響力和控制力，算法賦能權力由此而來。借由評級、分類、預測和數據處理，算法實際上是在作決斷，選擇某些方向、結果而不是另外的方向、結果。面對算法的強大支配力，人們正在失去選擇的權力。gE8曹操讀書網

算法賦權走向失衡

相比傳統權力形態，“智能化”的算法權力表現出更強大的控制力，可以深入社會、無遠弗界，無孔不入，效能強大，但硬幣的另一面則是算法對社會的異化。算法權力的作用直接表現為算法所產生的影響力與控制力，其深層次的影響在于對個體與社會之間關系的重塑，而重塑的結果卻帶來了權利與權力的格局失衡。gE8曹操讀書網

對于政府來說，當政府機關利用算法應用行使公權力時，其造成了治理的“算法化”與“去政治化”，人們必須普遍遵循政府機關所預設的算法規則。更進一步來看，算法已經與公權力緊密結合，在宏觀調控、市場監管、公共服務、司法執法等各個領域得到深入應用。gE8曹操讀書網

在相當多場景下，算法已經取代了人的位置，直接做出具體行政行為。比如，公共區域遍布人臉識別的監控探頭，人們須接受智慧交通系統所開出的交通罰單。這種無處不在的算法一方面便利了政府監管，另一方面也使得每個正常生活于現代社會的個人處于時刻被算法應用監聽、監控、監督的狀態，形成了一種控制型社會。gE8曹操讀書網

而對于企業來說，平臺企業通過算法行使的私權力則更加具有針對性與特殊性。究其原因，算法權力作為一種“軟權力”，有其自身的運行邏輯。智能算法的研發與使用依托于大型互聯網企業，注定了算法權力以利益為導向，遵循商業邏輯，具有與生俱來的歧視性和偏好性。gE8曹操讀書網

在這個過程中，算法的研發和運行作為商業秘密，受到各個企業的保護，具有“黑箱”性質，資本可以輕易地將自身的利益訴求植入算法，利用技術的“偽中立性”幫助自身實現特定的訴求，實現平臺的發展與擴張，追求利益最大化。gE8曹操讀書網

研發者的價值導向會內化在算法運行的過程中，進行意識形態的催化和導向。享有資本支持的算法技術能夠享用更全面的數據樣本，建立更優化的運行架構，強化對政府、公民、社會的影響力和控制力。gE8曹操讀書網

于是，在技術企業的層層包裝下，“知情-同意”其實已經形同虛設，如在隱藏界面或者軟件升級中設置“后門”，在軟件下載使用過程中不設菜單式選擇而只有概括式同意，隱私政策和用戶協議有意用晦澀繁瑣冗長的表述等方式，讓用戶“被知情”“被同意”。gE8曹操讀書網

并且，由于算法應用的廣泛性，一旦拒絕使用或者由于能力所限不能使用，往往意味著正常生活受到影響。如不會使用二維碼、智能手機的老年人、殘疾人、貧困者，無法上網購物點餐、難以乘坐公共交通，不能掃碼進出小區等。gE8曹操讀書網

要知道，權利是經由社會判斷、協商和權衡后，得到公認受到保障的每個社會成員所應分配的合理利益。在法理學的視域下，權力是為權利而設置的，權利是對利益分配的處置。權力的根本是利益，既為特定的利益而存在，也以利益為基礎和依托。gE8曹操讀書網

然而，算法權力的利益代表卻是資本。這意味著，資本能夠從事權利的界定及權衡，成為一種“公共機關”。并且，隨著技術企業權力的不斷壯大，國家與社會的二元結構被打破，形成了“公權力-私權力-私權利”的新權力格局，但權力與權利之間卻出現了失衡。gE8曹操讀書網

一方面，公眾源源不斷地貢獻了自己的數據，這成為了財富增長、權力實現的重要基礎，而自己非但沒能從中分享絲毫收益，反而還面臨著隱私泄露、信息繭房、大數據殺熟等種種侵害，收益與風險遠不成正比。另一方面，個人無時不刻地被算法定義、評級、處置，卻因算法的不公開、不透明，其知情權、參與權、異議權、救濟權等正當權利被架空。gE8曹操讀書網

以“數字人權”對抗“算法暴政”

從“算法理性”到“算法暴政”，算法仿佛偏離了軌道。但是亡羊補牢，從來都為時不晚。事實上，秩序的構建正是人類社會文明的本質，規制權力也是規制技術。技術的良性發展不僅取決于自身的創新，更取決于人的正確引導。gE8曹操讀書網

首先，社會發展是制度進步的元動力，法律制度也應隨社會的進步而完善，逐步走向精細化和人文化。對算法權力進行法律規制時，既要堅持預防，又要考慮成本效益，增強算法技術本身的透明度和算法權力運行的公開程度。要進行具體法律條文的精細化修訂，增強法的可解釋性，并設置監管環節，不能以“技術中立”為借口，逃避意識形態和法律的責任。gE8曹操讀書網

其中，人工智能時代，不管算法如何向智能化階段演進，均不能脫離大數據而單獨存在。“技術只有透明才能獲益”。因此，防御算法風險的首要舉措即是對大數據的收集與利用進行立法規制。只有對大數據收集與利用環節進行有力規制，算法決策環節才有可能降低歧視風險的發生。gE8曹操讀書網

以算法歧視為例，目前，很多大數據學習算法在決策判斷時，標準并不透明，這使得從技術層面跟蹤代碼違規，幾乎是不可能實現。由于算法的復雜性，研究人員很難判斷在哪一個環節導致算法帶上歧視。因此，大數據公司應公布所使用的大數據算法的源碼和所用的數據，一旦出現算法歧視，也能有跡可循。gE8曹操讀書網

其次，規制算法私權力，首先要發揮算法公權力的作用。無疑，算法的研發與運行需要投入巨大的資金和人力，資本為技術研發提供物質保障，成為算法運行中的把控者。強大的技術研發能力是算法權力發展的重要推動力，但任何一項技術的發展都不應離開政府的監管。gE8曹操讀書網

而政府干預的核心則是打破商業資本與技術之間強烈的依附性，避免商業利益成為權力的方向盤。人工智能時代，算法治理是大勢所趨。政府要加大對算法技術的把控，建立透明的算法運行機制和協調的智能政務系統，設立算法技術研發和運行的標準，嵌入公共利益的價值觀，平衡多元價值。gE8曹操讀書網

最后，規制算法私權力，還需要以“數字人權”對抗“算法暴政”。所謂“數字人權”，就是要明確技術的出發點必須是要以人為本，并將人權保障作為技術應用的尺度和標準。算法倫理的核心是保障人的價值和尊嚴，充分尊重個人權利。gE8曹操讀書網

也就是說，算法倫理要將人視為重要的、有權利的并且有價值的個體，體現技術關懷和以人為本的理念，尊重人的自由和人格。在實踐中，一方面要對算法技術相關從業人員進行技能培訓和倫理培訓，在道德層面上進行自律；另一方面，要加強人工智能行業的倫理建設，加強行業標準的設立。gE8曹操讀書網

算法正在潛移默化的影響著當前的人們的生活以及人們做出的決定，但是這種微妙的操作并非不偏不倚。糾偏算法時代下權力與權利的失衡，更是項系統性工程。這需要緊抓算法權力的運行邏輯，加強對算法的立法規制與監管，更要轉換制約權力的思維與方式，讓算法助力社會治理，在治理中找回“人”的存在。（本文首發鈦媒體APP）gE8曹操讀書網

更多精彩內容，關注鈦媒體微信號（ID：taimeiti），或者下載鈦媒體AppgE8曹操讀書網

gE8曹操讀書網

核心關鍵字： 人工智能 大數據