近日，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》明確網(wǎng)絡(luò)音視頻信息發(fā)布相關(guān)守則，網(wǎng)絡(luò)音視頻信息提供者和網(wǎng)絡(luò)音視頻信息使用者利用基于深度學習、虛擬現(xiàn)實等AI技術(shù)應(yīng)用制作、發(fā)布、傳播非真實音視頻信息的，應(yīng)當按照國家有關(guān)規(guī)定開展安全評估，并以顯著方式予以標識。

網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當部署應(yīng)用違法違規(guī)音視頻以及非真實音視頻鑒別技術(shù)，建立辟謠機制，并將相關(guān)信息報有關(guān)部門備案。

從網(wǎng)信辦有關(guān)負責人處了解，網(wǎng)絡(luò)信息服務(wù)發(fā)展迅速，用戶數(shù)量不斷增加，據(jù)數(shù)據(jù)顯示，我國網(wǎng)絡(luò)音頻用戶規(guī)模已達6．08億，網(wǎng)絡(luò)視頻用戶規(guī)模已達7．59億。隨著“深度偽造”等AI技術(shù)應(yīng)用在網(wǎng)絡(luò)音視頻領(lǐng)域的運用，也帶來了傳播違法與不良的作假信息、侵犯用戶合法權(quán)益等風險隱患。運用AI技術(shù)制作非真實的音視頻，可能被利用從事危害國家安全、破壞社會穩(wěn)定、擾亂社會秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動，造成政治安全風險和國家安全、公共安全風險，對社會穩(wěn)定造成不良影響。

近些年，隨著AI技術(shù)的高速發(fā)展，人臉識別應(yīng)用在商用場景中大規(guī)模部署。例如，蘇寧任性貸要求刷臉認證，支付寶提供了基于人臉的驗證登錄手段，很多銀行或者金融公司也提供了遠程的、基于人臉識別的視頻面審流程。

AI的人臉識別應(yīng)用在精確度上已經(jīng)高達95％，很多業(yè)務(wù)可以便捷地享受AI科技帶來的便捷核驗手段。但深度偽造技術(shù)應(yīng)用到圖像或視頻欺詐中不僅能實現(xiàn)換臉，更可以通過深度學習模擬真人聲音、創(chuàng)造出現(xiàn)實不存在的人物肖像。利用該技術(shù)，可以以視頻這一較為可信的方式讓某人說不曾說過的話，做不曾做的事，達到混淆觀眾的目的。

國外技術(shù)團隊也成功開展過欺騙“AI”的試驗，在3D車輛模型的車身上貼上特制的“紙片”，使得模型成功逃逸監(jiān)控識別。從具體效果來看，該“隱身”可在高度運動、光線變化等復(fù)雜環(huán)境中保持較高的“隱身性”，技術(shù)優(yōu)勢明顯。

AI安全問題已經(jīng)不再只是學術(shù)談?wù)�，民眾都�?yīng)該提高對AI安全的意識。AI技術(shù)本身是中立的，但發(fā)展成“以子之矛，攻子之盾”的狀況，我們才意識到AI技術(shù)，在沒有制約的情況下用在正面領(lǐng)域，帶來了革命性的便捷和高效；應(yīng)用于黑色非法領(lǐng)域，給我們帶來的風險可能遠超從前。

因此，明確網(wǎng)絡(luò)音視頻信息發(fā)布者的信息內(nèi)容安全管理責任，規(guī)范網(wǎng)絡(luò)音視頻信息服務(wù)提供者關(guān)于利用AI技術(shù)新應(yīng)用的管理要求，為網(wǎng)絡(luò)音視頻信息服務(wù)及其相關(guān)技術(shù)的提供、使用、管理等提供有效的依據(jù)是非常有必要的，據(jù)悉該規(guī)定將從2020年1月1日起正式施行。