AI 傻嗎？這個問題很難回答。

通常情況下，它都是非常聰明的。但是，利用深度神經(jīng)網(wǎng)絡(luò)為輸入（圖像或語音）進(jìn)行分類的 AI 卻總會出現(xiàn)一些“智障”操作，犯的錯誤也可以低級到讓人驚嘆。這種情況就是科研人員經(jīng)常提到的 AI 的脆弱性。

換一種更學(xué)術(shù)的方式解釋 AI 的脆弱性：因為 AI 目前仍然非常缺乏像人類一樣的對現(xiàn)實(shí)世界復(fù)雜性的理解能力，而導(dǎo)致了它有時會以意想不到的方式迅速崩潰。

下面讓我們用一個最近發(fā)生的有趣的案例，來真切的感受一下 AI 的脆弱性。

足球與光頭，傻傻分不清楚

由于新冠疫情的大流行，廣大球迷們不能到現(xiàn)場去觀看比賽，為了給球迷們帶來更好的觀看體驗，蘇格蘭的因弗內(nèi)斯足球俱樂部啟用了 AI 攝像師。AI 攝像師可以在比賽直播時追蹤足球的位置，確�？梢詾橛^眾持續(xù)提供比賽的最佳視角

但是，在最近的一場比賽直播中，AI 攝像師被一名裁判的光頭迷惑。它無法正確判斷哪個是真正的足球，多次將自己的目光焦距在裁判的光頭上，甚至給了特寫鏡頭，導(dǎo)致觀眾無法正常觀看比賽。

圖 ｜ AI 攝像師：在這里在這里。

圖 ｜ AI 攝像師：我的天啊，寶貝，你怎么跑的這么快。

圖 ｜ AI 攝像師：回手，掏！原來你在這兒。

圖 ｜ AI 攝像師：上天了。哎？剛才那個追錯了？

圖 ｜ AI 攝像師：是你？不，是你。啊不！到底是誰！

鐵證如山，AI 攝像師確實(shí)是足球與光頭傻傻分不清楚。比賽期間，情況一度非常糟糕，以至于比賽的解說員不得不為攝像頭的故障道歉。甚至有球迷表示，因為 AI 的不專注，他錯過了觀看自己喜愛球隊進(jìn)球的精彩時刻。

比賽結(jié)束后，該俱樂部使用的 AI 攝像頭技術(shù)公司 Pixellot 發(fā)表聲明稱，這個問題是因為這名裁判的頭部和足球之間的視覺相似性。而且本場比賽的用球是黃色的，這進(jìn)一步讓 AI 陷入混亂。

該公司發(fā)言人說：＂上個月，我們在沒有任何工作人員在現(xiàn)場的情況下，完成了 10．5 萬小時的直播。這大約是 5 萬場比賽。只有這場確實(shí)出現(xiàn)了追蹤問題�，F(xiàn)在該情況已經(jīng)被解決。＂

AI 脆弱性的危害

這是一個展示 AI 脆弱性的有趣案例。人類是不會出現(xiàn)這種錯誤，但一個對足球和人類構(gòu)造都理解有限的機(jī)器學(xué)習(xí)系統(tǒng)來說，卻很容易犯這種錯誤。

這個例子很特殊，因為它讓人們感覺好笑，并沒有產(chǎn)生太大的危害。但事實(shí)上，這類錯誤可能發(fā)生在任何 AI 系統(tǒng)上。產(chǎn)生錯誤的原因是：當(dāng)環(huán)境數(shù)據(jù)與智能系統(tǒng)訓(xùn)練的環(huán)境大相徑庭，或者實(shí)際的應(yīng)用場景發(fā)生變化，或者這種變化超出機(jī)器可理解的范圍時，AI 可能就立刻失去判斷能力。

這種錯誤與自動駕駛汽車所犯的一些導(dǎo)致致命車禍的錯誤是類似的相似，因為它們的視覺識別系統(tǒng)都不能準(zhǔn)確地判斷物體。在足球比賽上無傷大雅，但是在自動駕駛汽車上確是人命關(guān)天。

圖 ｜ 特斯拉的 ＂自動駕駛 ＂軟件未能識別前方障礙導(dǎo)致駕駛員死亡

此外，AI 的這種弱點(diǎn)也會伴隨著很大的網(wǎng)絡(luò)安全問題。如果攻擊者在源數(shù)據(jù)上增加人類難以通過感官辨識到的細(xì)微改變，而這些改變卻可以讓機(jī)器學(xué)習(xí)模型接受并做出錯誤的分類決定，那么攻擊者就可以“趁虛而入”。

美國智庫“新美國安全中心”發(fā)布的《人工智能：每個決策者需要知道什么》報告顯示，人工智能的一些弱點(diǎn)可能對國家安全等領(lǐng)域造成巨大影響。

如何讓 AI“更聰明”

AI 的發(fā)展勢不可擋，我們不能否認(rèn) AI 為人類做出的貢獻(xiàn)。尤其是在全球疫情大流行的狀態(tài)下，當(dāng)人與人的交往受到限制時，AI 發(fā)揮了它前所未有的作用。

科學(xué)技術(shù)的發(fā)展從來不是一帆風(fēng)順的，AI 技術(shù)亦是如此。存在弱點(diǎn)，受到質(zhì)疑是必然要經(jīng)歷的過程。因此我們需要的是面對它、接受它、解決它。

對于 AI 的脆弱性，有專家提出過解決思路。一個解決思路是給 AI 更多數(shù)據(jù)，讓 AI 反復(fù)暴露在有問題的例子下，不斷地糾正它的錯誤。在這種“對抗訓(xùn)練”的方式下，其中一個網(wǎng)絡(luò)會學(xué)習(xí)識別物體，另一個網(wǎng)絡(luò)則嘗試改變前一個網(wǎng)絡(luò)的輸入來使它出錯。這樣就能把對抗樣本變成深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練數(shù)據(jù)的一部分。

而另一個解決思路是減少 AI 學(xué)習(xí)的數(shù)據(jù)，讓其學(xué)會學(xué)習(xí)。當(dāng)訓(xùn)練一個新的任務(wù)時，通過復(fù)用部分或整體的預(yù)訓(xùn)練網(wǎng)絡(luò)來作為訓(xùn)練的起始點(diǎn)，從而實(shí)現(xiàn)遷移學(xué)習(xí)，甚至進(jìn)一步學(xué)會如何學(xué)習(xí)。

目前來說，雖然科學(xué)家們意識到 AI 的脆弱性，但沒有人知道如何讓它變得更好，所有都還停留在思路構(gòu)建和嘗試中。但是 AI 正在飛速發(fā)展，通過巨量的計算資源訓(xùn)練神經(jīng)網(wǎng)絡(luò)，在各行各業(yè)都交出了兩眼的成績單。因此我們也有理由相信，未來 AI 可以被進(jìn)一步完善，變得更加“聰明”。