歐盟提出AI監管新法案,違規公司或被罰營收的6%(圖)


據外媒報導,本週三,歐盟的執行機構提出了一項法案,來限制一些人工智能技術的使用,並將創建一份所謂的“人工智能高風險用途清單”,對相關行業進行監管,嚴重違規的公司可能會被處以相當於其全部年收入6%的罰款。這是迄今為止監管人工智能高風險應用的最大努力之一。

點擊圖片看原樣大小圖片





不過,這項提案要成為法律,還需用數年時間獲得歐盟理事會和議會的批准,並且在此過程中對其規定的範圍和具體監管措施做出調整。

2018年歐盟出台的新隱私法《一般數據保護條例(General Data Protection Regulation,GDPR)》為廣泛適用的數據監管規則提供了模板,並以高額罰款作為支撐,但據相關人士預測,此次的法案並不一定會產生相同的影響。

一、禁警察用人臉識別,法官卻可廣而豁免

該法案直接禁止了一些行為。作為對社會信用體系的補充,該提案還將禁止使用“潛意識技術”或侮辱殘疾人、“扭曲他人行為”、可能造成身體或心理傷害的人工智能係統。

歐盟官員希望用該法案來限制警察使用人臉識別技術。

雖然警方通常不能在公共場所使用所謂的“遠程生物識別系統”,比如人臉識別,但法官可以批准豁免權,例如在兒童綁架、恐怖威脅等場景下可以使用,也可以用來鎖定詐騙、謀殺等罪行的嫌疑人。

“豁免的範圍之廣令人難以置信,”非政府組織網絡歐洲數字權利(European Digital Rights)的高級政策顧問莎拉・錢德(Sarah Chander)說,這樣的清單“有點違背了宣稱人臉識別是禁令的目的。”

二、高風險人工智能提供商“交作業”,銀行領頭

用於高風險目的的人工智能係統提供商,需要向監管機構提交相關文件,在文件中詳細說明其係統如何工作。歐盟執行機構歐盟委員會(European Commission)執行副主席瑪格麗特・維斯特格(Margrethe Vestager)認為,這類系統還需要在系統的設計、使用方式,以及用於訓練人工智能的數據質量方面,顯示出“適當的人類監督”。

大型銀行率先向監管機構介紹了它們的人工智能算法,這些算法的應用可以幫助防止全球信貸危機。在高盛(Goldman Sachs)模型風險管理團隊前總監、人工智能初創公司causaLens現任數據科學總監安德烈・弗蘭卡(Andre Franca)看來,更多公司最終都將採取同樣的做法。