歐盟擬立法限制AI在社會中的使用|海外政策
創頭條編譯 ?擬議的歐盟人工智能(AI)法規將禁止使用面部識別技術進行監視,以及禁止使用操縱人類行為的算法。
歐委會將在下周正式提交這份內容涉及廣泛的條例草案,目前草案已被泄漏出來。
草案建議禁止使用的AI系統包括:
設計來或者被用來操縱人類行為、觀點或決定,讓人做出有害于己的行為或形成有害于己的觀點的系統。
被用來進行廣泛的不加區別的監視的系統。
被用來進行社交評分的系統。
那些利用信息或預測以及一個人或一群人來確定他們的弱點的系統。
專家們表示,這些規定含糊不清,存在漏洞,并且不涉及軍隊對AI的使用和當局為維護公共安全而使用的AI系統。
歐洲政策分析師丹尼爾·勒弗(Daniel Leufer)在推文中表示,這些定義可以有很多種解釋。“我們如何確定什么是‘有害于己’?誰將對此進行評估?”他寫道。
草案也針對高風險AI制定了更嚴格的規定。針對被認為是高風險的AI,成員國將不得不進行更多監督,包括需要指定評估機構對這些AI系統進行測試、認證和檢查。
高風險AI例子包括:
在緊急服務調度中建立優先級的系統。
招聘算法。
評估信用價值的系統。
評估個人風險的系統。
犯罪預測算法。
除了要求對新的AI系統進行人工監督之外,草案還建議高風險AI系統要設有“停止開關”,可以是一個停止按鈕,也可以是其他一些必要步驟,以便在需要時立即關閉系統。
任何開發違禁服務或未能提供相關正確信息的公司都可能面臨高達其全球收入4%的罰款,這與違反《通用數據保護條例》(GDPR)的罰款類似。
英國高偉紳律師事務所(Clifford Chance)律師赫伯特·斯瓦尼克(Herbert Swaniker)說:“這些提議將給AI的設計帶來根本性的改變,AI供應商要密切關注這些提議。”
編譯:鄧桂華。創頭條(Ctoutiao.com)獨家稿件,轉載請注明鏈接及出處。郵箱:dengguihua@ctoutiao.com
原文——Europe seeks to limit use of AI in society - BBC News
核心關鍵字: 政策| 留言與評論(共有 0 條評論) |



