↑↑↑ 點(diǎn)擊上方藍(lán)字

關(guān)注AI世界公眾號(hào)

專注AI的新媒體，分享AI領(lǐng)域的新思想。

鎖手機(jī)”“刷臉購(gòu)物”“刷臉驗(yàn)證身份辦理銀行卡”……我們與生俱來(lái)的“臉”除了與顏值形象掛鉤，也在逐漸演變成中國(guó)人身份的識(shí)別標(biāo)識(shí)，逐漸深入我們的日常生活。

但當(dāng)人臉識(shí)別遇上現(xiàn)實(shí)，也不乏跪地躺槍，慘不忍睹的時(shí)候，比如今天我們上次提及的亞馬遜Rekognition（亞馬遜人臉識(shí)別從120名官員中認(rèn)出了26名罪犯）。

除了這個(gè)可笑“事故”之外，歐盟又傳來(lái)人臉識(shí)別罰單消息。

近日，瑞典數(shù)據(jù)監(jiān)管機(jī)構(gòu)（The Swedish Data Inspection Authority，下稱“DPA”）對(duì)當(dāng)?shù)匾凰�高中開(kāi)出第一張基于歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）的罰單，金額為20萬(wàn)瑞典克朗（約合人民幣14．8萬(wàn)元）。

據(jù)悉，該校使用人臉識(shí)別系統(tǒng)記錄學(xué)生的出勤率，而瑞典DPA通過(guò)對(duì)系統(tǒng)試行期間涉及的22名學(xué)生進(jìn)行調(diào)查，最終認(rèn)定學(xué)校董事會(huì)對(duì)學(xué)生個(gè)人信息的處理不符合GDPR的規(guī)定。

事實(shí)上，隨著人臉識(shí)別技術(shù)的廣泛應(yīng)用，歐洲已經(jīng)開(kāi)始考慮對(duì)人臉識(shí)別等人工智能（AI）技術(shù)進(jìn)行立法規(guī)管，限制公司和公共機(jī)構(gòu)“不加區(qū)分地使用人臉識(shí)別技術(shù)”，并賦予所有歐洲居民明確的決定權(quán)。

1

瑞典高中使用人臉識(shí)別監(jiān)控違反GDPR

8月21日，瑞典DPA在官網(wǎng)公布了GDPR生效以來(lái)的首張罰單。與其他歐盟國(guó)家普遍拿科技巨頭“開(kāi)刀”不同，瑞典DPA的處罰對(duì)象是斯蓋樂(lè)夫提的一所高中。

該校為了統(tǒng)計(jì)學(xué)生的出勤率，在校園內(nèi)試行人臉識(shí)別系統(tǒng)。在實(shí)施試驗(yàn)的三周內(nèi)，共涉及到22名學(xué)生。

學(xué)校強(qiáng)調(diào)，他們事先獲得了學(xué)生的同意。

但是，瑞典DPA律師Ranja Bunni指出：＂事先獲得學(xué)生同意＂的說(shuō)法不可接受，因?yàn)閷W(xué)生是在學(xué)校董事會(huì)管理之下的”。也就是說(shuō)，無(wú)法判斷這里的“同意”是否為學(xué)生的獨(dú)立意志。

經(jīng)調(diào)查， 瑞典DPA認(rèn)為，在日常環(huán)境中對(duì)學(xué)生進(jìn)行攝像監(jiān)控等行為侵犯了學(xué)生的隱私。因?yàn)閷W(xué)校統(tǒng)計(jì)學(xué)生出勤率完全可以通過(guò)其他方式完成，而這些方式都比人臉識(shí)別技術(shù)對(duì)學(xué)生權(quán)益的侵害要小得多。

因此，瑞典DPA以該校董事會(huì)處理個(gè)人信息不符合GDPR規(guī)定為由，對(duì)其處以20萬(wàn)瑞典克朗（約合人民幣14．8萬(wàn)元）的罰款。據(jù)悉，罰款金額最高可以達(dá)到一千萬(wàn)克朗（約合人民幣740萬(wàn)元）。

記者了解到，在瑞典，記錄每節(jié)課的出勤率是法律要求。據(jù)IT公司Tieto統(tǒng)計(jì)，每年瑞典老師需要花費(fèi)17，280小時(shí)在記錄出勤率的工作上，這相當(dāng)于10個(gè)全職工作的時(shí)間。

“人臉識(shí)別技術(shù)還處在起步階段，但是發(fā)展非常迅速，我們看到了建立一個(gè)適用于所有參與者的清晰準(zhǔn)則的巨大需求�！比鸬銬PA負(fù)責(zé)人Lena Lindgren Schelin表示。

2

歐盟正在探索嚴(yán)厲的人臉識(shí)別技術(shù)立法

不僅是在瑞典，英國(guó)數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)（ICO）也剛剛對(duì)一起人臉識(shí)別相關(guān)事件發(fā)起調(diào)查。

據(jù)英國(guó)媒體披露，倫敦國(guó)王十字車站地區(qū)安裝了帶有人臉識(shí)別系統(tǒng)的閉路電視攝像頭，可以監(jiān)控這一帶辦公室、商場(chǎng)的人流情況。據(jù)房地產(chǎn)開(kāi)發(fā)商表示，這些攝像頭不僅有人臉識(shí)別和追蹤功能，背后還有復(fù)雜的系統(tǒng)支撐，可以保護(hù)公眾隱私。

日前，ICO已對(duì)此展開(kāi)調(diào)查�！霸谌粘Ｉ�活中掃描人臉以識(shí)別他們的身份，這種對(duì)隱私的潛在威脅值得所有人重視”，ICO專員Elizabeth Denham認(rèn)為，“尤其是沒(méi)有經(jīng)過(guò)告知或理解的情況下”。

據(jù)《金融時(shí)報(bào)》報(bào)道， 歐盟委員會(huì)的高級(jí)官員透露，他們正在計(jì)劃一項(xiàng)關(guān)于人臉識(shí)別數(shù)據(jù)使用的立法，這將賦予所有歐洲居民明確的決定權(quán)，而這項(xiàng)立法也是歐洲AI監(jiān)管改革的一部分。

還有官員指出，這項(xiàng)立法的目的在于限制公司和公共機(jī)構(gòu)“不加區(qū)分地使用人臉識(shí)別技術(shù)”。歐洲居民將有權(quán)“知道人臉識(shí)別數(shù)據(jù)何時(shí)被使用”，即使有例外情況，也將是在“嚴(yán)格限制”之下，以確保適當(dāng)使用。

《金融時(shí)報(bào)》還提到，在一份相關(guān)文件中，歐盟提出希望制定一套“AI監(jiān)管的世界性標(biāo)準(zhǔn)”，并建立“足以保護(hù)個(gè)人的明確，可預(yù)測(cè)和統(tǒng)一的規(guī)則”。它將在GDPR的現(xiàn)有義務(wù)之上更進(jìn)一步，將目標(biāo)鎖定為“帶來(lái)特定風(fēng)險(xiǎn)”的人臉識(shí)別等技術(shù)。

“AI應(yīng)用可能對(duì)基本權(quán)利構(gòu)成重大風(fēng)險(xiǎn)，不受管制的AI系統(tǒng)可能會(huì)做出影響人們卻又無(wú)法解釋的決定，還無(wú)法溯源或者找到相關(guān)負(fù)責(zé)人”，該文件稱。

公開(kāi)資料顯示，歐盟委員會(huì)將在11月迎來(lái)新一任主席——Ursula von der Leyen。她計(jì)劃在其上任的前100天內(nèi)推出新的AI管理法規(guī)，為人類和AI倫理提供一個(gè)“經(jīng)過(guò)協(xié)調(diào)的歐洲方法”。

其實(shí)除了歐盟，美國(guó)舊金山議員丁右立（Phil Ting）早已就提議禁止使用人臉識(shí)別技術(shù)軟件系統(tǒng)，并且表示類似于低級(jí)錯(cuò)誤識(shí)別結(jié)果將會(huì)給人們帶來(lái)巨大的負(fù)面影響，當(dāng)你被人認(rèn)為是一個(gè)罪犯， “可能會(huì)影響你找工作的能力、影響你買房租房的能力。”這遠(yuǎn)不是一項(xiàng)技術(shù)犯了一個(gè)可笑的錯(cuò)誤那么簡(jiǎn)單，而是確確實(shí)實(shí)會(huì)有活生生的人們，受到這一錯(cuò)誤帶來(lái)的實(shí)際影響。

科技進(jìn)步、人工智能給我們的生活帶來(lái)的方便和快捷不言而喻，但是科技作為工具，能否使用的好最終還是掌握在人的手里，尤其是像這種涉及人們隱私的技術(shù)——人臉識(shí)別，是不是需要禁止或者是否要嚴(yán)加看管，在中國(guó)我們也需要一個(gè)保護(hù)自己隱私的權(quán)利！

歡迎加入“AI世界”