拯救外賣騎士,如何從法律層面解決平臺算法治理難題?

(圖片來源:Pixabay)
外賣平臺的算法亂象正逐步受到監管的重視。
7月26日,市場監管總局等七部門聯合印發《關于落實網絡餐飲平臺責任,切實維護外賣送餐員權益的指導意見》,首次指出:不得將“最嚴算法”作為外賣送餐員考核要求,通過“算法取中”等方式,合理確定訂單數量、準時率、在線率等考核要素,適當放寬配送時限。
早在2020年9月,人物雜志的一篇題為《外賣騎手,困在系統里》的文章引起廣泛熱議,使得全社會共同關注到了外賣騎手的困境。文章描述了支撐外賣系統運行的AI算法,為“實現勞動價值的最大化和高效化”,不斷壓縮外賣騎手的接單時間、送餐時間,甚至送單的路線,繼而引發交通安全等系列問題。
過去20年,中國線上經濟蓬勃發展,新業態、新模式層出不窮,受此推動下,互聯網科技企業野蠻生長。但利用帶來生活便利的同時,憑借著AI算法、大數據技術、資本優勢等,市場資源加速向頭部平臺集中,巨頭逐步占據市場壟斷地位,通過信息繭房、“大數據殺熟”、推薦算法定價等方式,使用算法的互聯網平臺對公民生活造成了一定的利益損害。
算法作為國家戰略層面的重要資源之一,也是最重要的底層要素與生產力。在此背景下,今年,美國,歐盟和中國同時出手,對網絡平臺尤其是超大型平臺的治理手段大大加強,開始嘗試對算法進行監管,提出算法透明、公正、保證算法的“可信度”等細致要求。
那么,從法律層面來看,如何解決互聯網企業的平臺治理、算法責任這些難題?
7月初的2021世界人工智能大會的法治青年論壇上,北京科技大學文法學院副教授張凌寒發布了題為《平臺治理與算法責任》的主題演講。
張凌寒在演講中表示,隨著時代的發展,技術的不斷變革,平臺的商業模式和架構由算法搭建,后者已經在平臺運行當中承擔著核心角色。而平臺既是數字經濟的基礎設施,也是數字經濟交易的多邊市場,所以用原來的法律框架已經無法有效的規制平臺。因此,應穿透網絡平臺運行的“技術面紗”,將平臺監管的觸角和追責視角直接指向背后的算法責任。
北京大學法學院副教授胡凌則在法制青年論壇的演講中提到,過去20年以來,互聯網技術平臺正在塑造一個“過程合法性”的架構,而這個架構會使得非常多的利益群體以及相關者在這一空間中,通過技術和商業模式建構起來新的利益形態。那么,新技術下的法律規制思路就要考慮,如何持續推動生產要素的跨平臺流動,抑制平臺企業的壟斷效應;如何推動數字基礎設施的建立,并加強互聯互通等。
算法治理本質上是平臺治理
簡單來說,算法是指在有限的步驟中生成問題答案或者解決方案的系統程序。
此前大數據時代中,算法就已經被廣泛應用,理論上包括機械原理、邏輯思維和社會規則等,都已納入算法的范疇。但隨著大數據時代和智能時代的交疊,AI算法得到普遍應用。
人類使用AI算法的初衷,在于輔助或部分代替人類決策,使生活變得更加便捷和智能。AI算法作為人工智能、區塊鏈、大數據分析等技術的核心要素,確實地推動人類生產生活的變革。但同時,AI算法作用過程和決策機制較為隱蔽甚至不便于人類思維理解,有時類似密不透風的“黑匣子”——這導致其被濫用的風險驟然提升,最終可能與使用初衷背道而馳。信息繭房、大數據殺熟、算法歧視等事件的層出不窮,也讓人們對看似理性、中立的算法進行反思。
本次法治青年論壇上,張凌寒在演講中表示,算法治理的背后,本質上是平臺治理。
事實上,平臺的運行有賴于各種技術的運用,近幾年來,算法被廣泛使用來推進平臺運行的自動化,人工干預大大減少。例如電商平臺利用算法進行商品定價、社交媒體平臺利用算法進行信息分發與推送。但平臺的自動化似乎必然導向了更輕的平臺主觀過錯,進而導向更輕的平臺責任。如此一來,AI時代下的平臺主觀過錯的認定機制變得模糊不清。也正是基于這樣的大背景,各國近年來都不約而同地加強了平臺責任,算法治理背后的平臺責任變得愈加關鍵。
去年7月,歐盟頒布了《數字服務法案》,其中包含平臺治理的一攬子計劃,例如要求平臺承擔監管非法內容和商品的責任,對消費者公平、合理地使用算法,法案也允許對大型在線平臺進行事前監管等。而在今年4月歐盟發布的《制定關于人工智能的統一規則(人工智能法案)并修訂某些歐盟立法》,明確對AI技術以及機器學習算法等進行監管,包括但不限于在整體層面上,設立AI的倫理原則,將算法的發展方向框定在“對人類有益”的范圍之內,而在各類應用場景中,提出算法透明、公正、保證算法的“可信度”等細致要求。
在中國,立法最早是2000年時候的《電信條例》,以及后來的《網絡安全法》、《電子商務法》等,從法律層面對網絡安全的監管和電子商務行為的規范做了系統規定,為網絡空間治理的法治化提供了制度保障。行政機關頻頻發布各種規章、文件對平臺施加更重的責任,監管部門也有突破立法原意、過度擴張平臺義務的潛在動力。
在張凌寒看來,如今平臺已經不是單純的網絡服務提供者角色,也不再局限于經濟基礎設施,而是一個兼具多重角色的社會經濟組織概念。平臺在社會生產中的地位主要體現為三個角色:1、平臺是數據生產要素的提煉加工者;2、平臺是數字經濟的基礎設施;3、平臺也是數字經濟交易的多邊市場。
以國內網約車平臺發展為例。早期依靠大量經濟補貼,將乘客、司機與車輛吸引到平臺上,通過推動市場交易便利化使市場信息更對稱,形成了多邊市場的網絡效應,就進一步享有了不斷擴大服務范圍和市場數量的話語權。網約車平臺可憑其海量乘客與司機以及車輛資源換取其更大讓步,而因其司機與車輛資源的市場份額優勢,也可通過算法個性化定價,壓榨消費者的剩余價格承擔空間。
不過,張凌寒也指出,隨著外界質疑越來越多,以及平臺運行日益自動化的當下,在法律規則沒完全覆蓋到平臺治理時,經常會面臨“政府管平臺,平臺管一切”這一尷尬境地。
她認為,出現上述問題的核心原因,主要是平臺3.0時代的責任沒搞清,生產關系還沒有適應生產力的發展。
“在平臺1.0時代,我們已經習慣了平臺作為一個信息門戶去分享消息內容,這個時候平臺所做的可能就像我們當時的遷徙版權法案一樣,只要做到傳播的管理就好;那么到了平臺2.0時代,社交媒體橫空出世,眾生喧嘩;可是,我們現在實際上已經到了平臺3.0時代。”張凌寒在演講中表示,現在平臺已經成為了現在數字社會生產的核心經濟組織。甚至還承擔了大量的公共治理的責任。那么當平臺成為這樣一個數字生產的核心經濟組織的時候,勢必用原來的法律框架已經無法有效的規制平臺。

張凌寒強調,平臺的商業模式和架構是由算法搭建的,甚至連個人信息和個人數據的收集處理工作,都是由算法自動進行的。也就是說,如果要進行平臺治理,勢必不可能離開人們對于算法的治理和問責。如果擁有負責任的算法,人們才能夠找到負責任的平臺。
平臺治理問責的三步方案
在演講中,張凌寒指出,AI時代平臺治理的未來走向,理應聚焦于對算法的問責,尤其是針對事前的、主觀的問責。既應符合平臺底層的技術邏輯,也應符合主客觀相一致、責罰相適應的法律原則。因此,如果想揭開平臺追責的技術面紗,就需要穿透這層面紗,而直指平臺底層的技術邏輯,也就是算法責任。
具體來說,張凌寒提出對平臺進行主觀方面問責的三步解決方案:
首先,在事前階段,通過算法備案制度,對平臺算法的過錯點進行事前固定。平臺因為算法被問責,通常是因為沒有履行法律和道德義務,以及無法向利益相關方作出解釋并證明自己沒有主觀過錯。合理的平臺算法問責離不開清晰的主觀過錯認定,通過算法評估、備案與審計對平臺事前和運行中的問責點進行固定,能夠有效評估平臺是否可以評估、控制、糾正算法帶來的危害。
其次,在過錯的事后認定階段,設置獨立的算法解釋環節。監管部門可依據算法事前備案內容,來判斷平臺是否具有故意或過失的主觀過錯,并結合客觀的損害結果直接進行行政處罰與問責。在此過程中平臺需進行算法解釋,算法解釋是認定主觀過錯進行平臺問責的必經程序。解釋環節不僅具有行政程序上的必要性、功能上的必要性,這個環節本身也理應成為監管考察的對象。
最后,在法律責任方面,應根據平臺主觀過錯的程度輕重分層次設置。對于故意和過失的平臺算法的主觀過錯,施以主客觀相一致的實質責任。對于提供虛假算法備案與虛假解釋的平臺,則施加類似于證券虛假陳述責任的虛假備案與虛假解釋責任。

張凌寒在演講結尾強調,她希望將來對于平臺的治理能夠圍繞著算法治理展開,有效的克服平臺自動化運行的這種技術面紗,實現一個有效的算法治理。
值得一提的是,阿里巴巴遭182億元重罰之后,7月27日,阿里巴巴董事局主席兼首席執行官張勇在股東信中首次指出,平臺經濟是全世界共同面臨的嶄新課題。過去一年,阿里巴巴對平臺經濟有了更深入的理解。平臺型企業帶有天然的社會公共屬性。作為一家平臺型公司,需要更多深入思考能創造多少社會價值,參與解決多少核心科技問題,如何更好地支持鄉村振興,如何變得更綠色和可持續,從而以平臺之心,聚八方之力,能夠做一家有擔當、負責任的好公司。
(本文首發鈦媒體App,作者|林志佳)

北京科技大學文法學院副教授張凌寒?
以下是張凌寒的演講全文,由鈦媒體編輯整理:
各位來賓好,今天我想分享的題目是:《平臺治理與算法問責》。
2020年底,一篇題為《外賣騎手,困在系統里》的網文火爆全網,使得全社會共同關注到了外賣騎手的困境。
那么,通過這篇文章,我們知道外賣平臺的系統,也就是算法,能夠極大的控制騎手接單的時間,送單的時間,甚至送單的路線。我們在享受了外賣騎手帶來的便利的同時,外賣騎手的工作時間則被壓榨到最低,他們的工作的效率也被算法逼到了極致。

其實,這已經不是第一次由算法引起的不利后果,引起社會的廣泛關注。
早在2017年,我們就注意到了,由于今日頭條推薦算法,造成內容的一些生態問題,引起了相關部門和人民日報的多次批評。而幾年之前一直到現在都很火的“大數據殺熟”,也使得我們知道了平臺的定價算法可能會對消費者造成傷害。
所以說,我們可以看到現在平臺可能引起的治理問題,往往圍繞著算法進行。可是,算法的自動化運行,又給平臺的治理造成了很多問題。
我們舉兩個簡單的例子:
第一,如果我們真的要對平臺追責的話,傳統的法律主體行為責任這樣的框架,經常會被平臺說,算法是自動運行的,你怎么能夠把這個罪責怪到我身上來進行推脫。
那么另外一方面,我們已經習慣了用過錯來衡量責任。也就是說,我們法律原則當中體現的“罪責刑相適應,主客觀相一致”這樣樸素的價值觀。可是,自動運行的算法,我們又如何衡量它的過錯呢?
面對這樣的問題,我們國家的監管部門通過主體責任和社會責任來推動平臺的監管。
簡而言之,主體責任就是監管部門認為“誰辦網誰負責”,只要出了事情我就找平臺;而社會責任又極大地擴展了平臺責任的范疇,不僅僅平臺要承擔內容治理的義務,同時視頻、勞動用工等等,都被囊括到了平臺的責任當中。

那么,這樣的治理方式是否是最佳的?主體責任和社會責任能解決如今AI時代平臺追責的問題嗎?
我們聽到很多學者批評說,現在平臺治理已經變得“管道化”了。就是政府管平臺,平臺管一切。那么,也有學者和平臺會抱怨說,“社會責任是個框,什么都能往里裝。”
也就是說,我們現在平臺治理的機制經常面臨這樣的尷尬境地:平臺覺得很委屈,公眾覺得不滿意,甚至監管部門自己也覺得底氣不足。
那么,究竟是什么原因,造成了平臺治理這樣的困境?簡而言之,不過是我們的生產關系還沒有適應生產力的發展。
隨著平臺的發展,在平臺1.0時代,我們已經習慣了平臺作為一個信息門戶去分享消息內容,這個時候平臺所做的可能就像我們當時的遷徙版權法案一樣,只要做到傳播的管理就好。那么到了平臺2.0時代,社交媒體橫空出世,眾生喧嘩。
可是,我們現在實際上已經到了平臺3.0時代,簡而言之,就是平臺已經成為了現在數字社會生產的核心經濟組織。平臺不僅僅通過數據和算法搭建自己的商業模式和架構,并且聯通了電商平臺、社交媒體等等的資源,同時把各種社會生產資料鏈接到平臺上。甚至我們可以看到在疫情期間,平臺還承擔了大量的公共治理的責任。
那么,當平臺成為這樣一個數字生產的核心經濟組織的時候,勢必用原來的法律框架已經無法有效的規制平臺。
我們可以看到,算法已經在平臺運行當中成為了平臺核心的角色。我們可以說,平臺的商業模式和架構是由算法搭建的,平臺上用戶的評分機制,乘客和司機之間的匹配是由算法進行的,甚至連個人信息和個人數據的收集處理工作也都是由算法自動進行的。也就是說,當我們要進行平臺治理,勢必不可能離開我們對于算法的治理和問責。只有有了負責任的算法,我們才能夠找到負責任的平臺。
所以,如果想揭開平臺追責的技術面紗,我們就要穿透這層面紗,而直指平臺底層的技術邏輯,也就是算法治理。
可以說,技術的原理毫無疑問是中立的,但是技術的應用絕對不是中立的。平臺在設計部署和運行算法的過程當中,都嵌入了自己的主觀價值和自己的這種價值排序。那么,這也是我們對平臺算法追責的根本原因,是法律對于平臺追責的指向所在。
所以,現在的問題來了,我們如何將平臺使用算法,進行數字社會生產的這種新興的生產方式,契合于傳統的法律職責框架?
我們可以回到平臺算法主觀過錯認定機制的這一法律框架當中。

既然要從算法當中去找平臺的主觀過錯,首先,我們要明確什么是過錯。
平臺在設計部署算法多個層面,我們都可以看到嵌入自己的主觀價值。比如說,曾經某平臺發生過順風車服務強奸殺人的惡性事件,可是在出事之前,當這款服務推出的時候,這個平臺的高管就曾經說過,“我們已經可以看到順風車服務是一個‘性感’的社交場景”。也就是說,他(她)預見到了可能會發生的這樣的情況,但是面對這樣的利益,把安全的價值排序到了后面。
再比如說,微軟曾在2016年上線過一個叫“Tay”的聊天機器人,在推特上,Tay機器人很快就說出了一些仇恨的語言。那么,如果說它沒有進行充分的事先的測試,就把這樣的一個可能有自動學習功能的機器人,上線到這樣一個充滿了仇恨言論的環境平臺當中去,本身平臺就沒有盡到自己應有的注意義務。
去年比較轟動的“企查查案件”,最后雖然說是公用數據的問題,但實際上,就是平臺對于自己算法自動運行的結果沒有進行充分的審核義務。

其次,算法使平臺運行日益“自動化”,我們又如何從自動化運行的算法當中去找到那些可以度量、可以追溯、可以標定的平臺的主觀過錯?
因此,算法的備案評估和審計工作,就成為了現在對于算法監管的重點。我很高興,在這篇文章發表之后不久,現在監管部門已經開始推廣算法的備案工作。
比如說,采用算法的備案,要求平臺在上線重要算法之前,要向監管部門說明自己的價值排序,設計目標和具體權重,這樣既使得我們將來可以追溯到平臺可能存在的設計層面的主觀過錯,同時也免去了平臺擔憂自己的商業秘密受到侵害的這種煩惱。
那么另一方面,在平臺的運行過程當中,你是否進行了風險與過程的有效控制?在結果輸出層面又是否盡到了應有的注意義務?這些都是我們將來在進行平臺算法問責的時候,可能去尋找的平臺算法的問責點,根據平臺主觀過錯的程度輕重分層次設置。

當平臺算法運行到不利后果發生的時候,如果說,我們可以找到平臺的實質責任,對于故意和過失的平臺算法的主觀過錯,施以主客觀相一致的實質責任。
但是,如果平臺進行虛假陳述,虛假備案或者誤導性的算法解釋,我們則要求平臺承擔類似于證券監管方面的這種虛假的陳述責任。
我們希望將來對于平臺的治理能夠圍繞著算法展開,有效的克服算法自動化運行的這種技術面紗,希望我們將來的平臺治理也是一個有效的算法治理。
我就分享到這里,謝謝大家。
注:張凌寒,女,法學博士,北京科技大學副教授,康奈爾大學訪問學者。本碩博均畢業于吉林大學法學院,北京航空航天大學法學院博士后。中國法學會網絡與信息研究會理事,中國法學會婚姻法學研究會理事。國家人工智能倫理與道德標準小組成員,國家工信部重點法治實驗室研究員,中央網信辦網絡安全治理基地特聘研究員,中國信息安全法律大會專家委員會委員。研究方向為民商法,網絡法,近年來專注于數據治理與算法規制方向,發表論文二十余篇,其中多篇被《人大報刊復印資料》《高等學校文科學術文摘》全文轉載,主持國家社科基金、教育部、司法部、中國法學會、博士后基金等人文社科項目。出版專著《網絡虛擬財產侵權責任研究》《權力之治:人工智能時代的算法規制》,參編參譯多部教材專著。
更多精彩內容,關注鈦媒體微信號(ID:taimeiti),或者下載鈦媒體App
核心關鍵字: 人工智能 科創板| 留言與評論(共有 0 條評論) |



