今后所有由 AI 生成的文字、圖片、音頻、視頻乃至虛擬場景，都必須 “標注 AI 生成標識”。

該辦法從公布到施行，歷經半年，旨在給當前真假難辨的 AI 內容來一次大整頓，重建大眾對網絡信息的信任。

此前，歐盟《AI 法》、美國《深度偽造來源保護法案》、英國《AI 監(jiān)管草案》都要求水印。中國今天起把“建議”變“強制”，一步對齊全球最高標準。

“明牌”加“暗碼”雙保險

“明牌” 即 “顯式標識”，讓所有用戶一眼就能看到的顯式標識：文字要在開頭或結尾注明 “人工智能生成”；音頻要在前后插入語音提示；圖片和視頻則要在顯眼位置打上水印。

所謂 “暗碼”，則是隱藏在文件深處的隱式標識：在文件的元數(shù)據(jù)中寫入生成者的名稱、內容編號和數(shù)字水印隱式標識，方便追責和溯源。

明牌＋暗碼，雙保險點亮 AI 生成身份。

生成端、傳播端、用戶端：三方責任明確劃分

明確了標識方式，接下來就要分清責任。

首先是 “生成端”，也就是大模型公司、剪輯工具開發(fā)商等，必須在輸出內容時自動完成上述標識。

其次是 “傳播端”，也就是社交平臺、視頻網站等，必須在內容上線前核驗標識，凡缺標的一律彈出風險提示。

最后是 “用戶端”，也就是我們每個人，別手癢去摳標 —— 惡意刪除、篡改、偽造等動作一不小心就違法了。

監(jiān)管方設計三層技術過濾機制

那么，平臺如何確保這些標識真實可靠呢？監(jiān)管方已經設計了三層技術過濾機制。

第一層，平臺會自動讀取文件元數(shù)據(jù)，一旦發(fā)現(xiàn)隱式標識，便直接亮明身份。

第二層，若元數(shù)據(jù)空白，平臺則通過算法檢測內容特征，自動標注 “疑似 AI 生成”。

第三層，如果用戶主動聲明內容并非 AI 生成，平臺則需進行二次確認后再決定是否打標。

如此一來，AI 生成內容想蒙混過關，難度翻倍。

不過，再精準的算法也難免會有誤判。對此，法學專家提前打了預防針：原創(chuàng)作品被錯殺的情況在所難免。因此，監(jiān)管辦法明確規(guī)定，平臺必須提供申訴渠道，用戶一旦發(fā)現(xiàn)自己被誤標，可在 48 小時內申請人工復核，誰誤判誰負責。

相關企業(yè)與開發(fā)者：合規(guī)準備與接入要求

提醒一下相關企業(yè)與開發(fā)者。

生成類企業(yè)務必在 9 月 1 日前完成輸出模塊的升級，實現(xiàn)顯式與隱式標識的雙標功能。

平臺類企業(yè)則需盡快上線元數(shù)據(jù)掃描、前端提示、申訴后臺三套系統(tǒng)。

開發(fā)者們更別心存僥幸，最好提前接入浙江大學 GCmark 等合規(guī)檢測平臺，以免被抽查時措手不及。

違規(guī)行為的處罰規(guī)定

《標識辦法》強調，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務。

無論是 AI 內容的生成方還是傳播方，違規(guī)者將面臨一系列處罰措施，包括不限于：

①被網信部門責令整改；
②視情節(jié)情況，處以警告、罰款（罰款金額可達百萬元級別）、暫停相關服務、下架、禁言、限流、封號等懲罰措施；
③如果引發(fā)社會危害（如虛假新聞、謠言傳播），或追究更嚴重的行政或法律責任。

總之，從 9 月 1 日起，人工智能不再是 “匿名網友”。以后任何 AI 生成的內容若想公開發(fā)布，都必須先亮出自己的 “身份證”。