12月11日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》（以下簡稱《規(guī)定》），自2023年1月10日起施行。

深度合成技術(shù)涵蓋了內(nèi)容合成、人臉合成、語音合成以及虛擬人全身合成等技術(shù)類型，如今大熱的AI作畫、AI創(chuàng)作、AI換臉以及虛擬人制作等，都屬于深度合成技術(shù)支持下的應用。

12月12日發(fā)布的《＜互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定＞答記者問》提到，《規(guī)定》出臺主要基于多個方面考慮，一是深入貫徹落實黨中央決策部署，進一步加強對新技術(shù)新應用新業(yè)態(tài)的管理；二是維護網(wǎng)絡空間良好生態(tài)，避免影響傳播秩序和社會秩序，損害人民群眾合法權(quán)益，危害國家安全和社會穩(wěn)定。三是促進深度合成服務規(guī)范發(fā)展，明確各類主體的信息安全義務。

對于深度合成技術(shù)的監(jiān)管，此前在《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《網(wǎng)絡音視頻信息服務管理規(guī)定》《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》等法規(guī)中均有提及，而《規(guī)定》則對深度合成內(nèi)容更有針對性地進行規(guī)制，標志著監(jiān)管部門針對互聯(lián)網(wǎng)信息內(nèi)容監(jiān)管版圖的進一步細化。

明確了哪些規(guī)定？

《規(guī)定》對深度合成服務提供者主體責任進行了明確規(guī)定�！兑�(guī)定》強調(diào)，任何人或組織不得利用深度合成服務制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，或從事法律、行政法規(guī)禁止的活動。

《規(guī)定》同時要求，深度合成服務者需要采取技術(shù)或者人工方式對輸入數(shù)據(jù)和合成結(jié)果進行審核，管理深度合成內(nèi)容，并建立辟謠機制，并且建立健全用戶注冊、算法機制機理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個人信息保護、反電信網(wǎng)絡詐騙、應急處置等管理制度。

就目前來看，新規(guī)明顯抬高了合規(guī)要求和合規(guī)成本，因此，對于提供深度合成服務的創(chuàng)業(yè)公司來說影響可能較大。

此次《規(guī)定》對深度合成服務提供者和技術(shù)支持者提出了明確的數(shù)據(jù)和技術(shù)管理規(guī)范。其中包括，深度合成服務提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。

有業(yè)內(nèi)人士稱，《規(guī)定》雖然目前只做了相對寬泛的限制，但是至少未來有不法分子利用AI從事不法行為時能夠有依據(jù)可以引用。

在具體的項目中，該人士提及，為滿足合規(guī)要求，項目可能需要進一步調(diào)試各類圖像／文字生成模型，保證模型不會輸出暴恐色情內(nèi)容、不會被人利用制作虛假圖像（換臉）等。

另外， 對于新規(guī)所強調(diào)的“具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)�！�

進一步加強“隱私保護”

清華大學公共管理學院教授、人工智能國際治理研究院副院長梁正分析，上述條例實際上是遵循了《個人信息保護法》，明確了在深度合成技術(shù)場景中的隱私保護。比如在AI換臉應用中，《規(guī)定》出臺之后，未經(jīng)他人同意情況下，使用他人照片進行AI換臉內(nèi)容制作將是違規(guī)行為。

梁正還提及，在上述條例支持下，人工智能模型的訓練不能隨意使用未經(jīng)同意的人臉、聲音等帶有生物特征的數(shù)據(jù)。

在以往，許多人工智能模型的訓練通常會經(jīng)歷“全網(wǎng)爬取數(shù)據(jù)”的階段，許多個人公布在公共社交媒體的照片、視頻可能會在不被告知的情況下被機器學習，成為某個模型的養(yǎng)料�！兑�(guī)定》中對于人臉、聲音等生物特征信息的使用提出明確的前提條件，一定程度上可以解決這個問題。

此次發(fā)布的《規(guī)定》明確提出，深度合成服務提供者對使用其服務生成或者編輯的信息內(nèi)容，應當采取技術(shù)措施添加不影響用戶使用的標識，并依法依規(guī)保存日志信息。

提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內(nèi)容功能服務的，應當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示信息內(nèi)容的合成情況，避免公眾混淆或者誤認；提供非上述深度合成服務的，應當提供顯著標識功能，并提示使用者可以進行顯著標識。任何組織和個人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標識。

梁正認為，標識可以讓受眾明白內(nèi)容是否屬于深度合成，一定程度上可以減少深度合成內(nèi)容產(chǎn)生的社會偏差。對于技術(shù)支持公司來說，對輸出內(nèi)容增加標識難度不大。不過，對于平臺型公司而言，如何識別出不同上傳者的深度合成內(nèi)容標識將成為一個難點。