今天，也就是 9 月 1 日，人工智能正式迎來 “實名制” 的第一天。
由網信辦、工信部、公安部、廣電總局四部門聯合制定的《人工智能生成合成內容標識辦法》正式生效。
今后所有由 AI 生成的文字、圖片、音頻、視頻乃至虛擬場景，都必須 “標注 AI 生成標識”。
該辦法從公布到施行，歷經半年，旨在給當前真假難辨的 AI 內容來一次大整頓，重建大眾對網絡信息的信任。
此前，歐盟《AI 法》、美國《深度偽造來源保護法案》、英國《AI 監管草案》都要求水印。中國今天起把“建議”變“強制”，一步對齊全球最高標準。
“明牌”加“暗碼”雙保險
“明牌” 即 “顯式標識”，讓所有用戶一眼就能看到的顯式標識：文字要在開頭或結尾注明 “人工智能生成”；音頻要在前后插入語音提示；圖片和視頻則要在顯眼位置打上水印。
所謂 “暗碼”，則是隱藏在文件深處的隱式標識：在文件的元數據中寫入生成者的名稱、內容編號和數字水印隱式標識，方便追責和溯源。
明牌＋暗碼，雙保險點亮 AI 生成身份。
生成端、傳播端、用戶端：三方責任明確劃分
明確了標識方式，接下來就要分清責任。
首先是 “生成端”，也就是大模型公司、剪輯工具開發商等，必須在輸出內容時自動完成上述標識。
其次是 “傳播端”，也就是社交平臺、視頻網站等，必須在內容上線前核驗標識，凡缺標的一律彈出風險提示。
最后是 “用戶端”，也就是我們每個人，別手癢去摳標 —— 惡意刪除、篡改、偽造等動作一不小心就違法了。
監管方設計三層技術過濾機制
那么，平臺如何確保這些標識真實可靠呢？監管方已經設計了三層技術過濾機制。
第一層，平臺會自動讀取文件元數據，一旦發現隱式標識，便直接亮明身份。
第二層，若元數據空白，平臺則通過算法檢測內容特征，自動標注 “疑似 AI 生成”。
第三層，如果用戶主動聲明內容并非 AI 生成，平臺則需進行二次確認后再決定是否打標。
如此一來，AI 生成內容想蒙混過關，難度翻倍。
不過，再精準的算法也難免會有誤判。對此，法學專家提前打了預防針：原創作品被錯殺的情況在所難免。因此，監管辦法明確規定，平臺必須提供申訴渠道，用戶一旦發現自己被誤標，可在 48 小時內申請人工復核，誰誤判誰負責。
相關企業與開發者：合規準備與接入要求
提醒一下相關企業與開發者。
生成類企業務必在 9 月 1 日前完成輸出模塊的升級，實現顯式與隱式標識的雙標功能。
平臺類企業則需盡快上線元數據掃描、前端提示、申訴后臺三套系統。
開發者們更別心存僥幸，最好提前接入浙江大學 GCmark 等合規檢測平臺，以免被抽查時措手不及。
違規行為的處罰規定
《標識辦法》強調，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務。
無論是 AI 內容的生成方還是傳播方，違規者將面臨一系列處罰措施，包括不限于：
①被網信部門責令整改；
②視情節情況，處以警告、罰款（罰款金額可達百萬元級別）、暫停相關服務、下架、禁言、限流、封號等懲罰措施；
③如果引發社會危害（如虛假新聞、謠言傳播），或追究更嚴重的行政或法律責任。
總之，從 9 月 1 日起，人工智能不再是 “匿名網友”。以后任何 AI 生成的內容若想公開發布，都必須先亮出自己的 “身份證”。
分享
