完善人工智能生成合成內容標識方法 構建健康的信息網絡生態環境

隨著生成式人工智能技術快速發展，利用人工智能技術生成或合成文字、圖像、音樂、視頻、3D等數字內容成為網絡空間內容的主要生產方式，不斷為數字經濟、產業發展甚至社會變革注入強大動力。然而，伴隨內容生成合成門檻的不斷降低，新技術的濫用也對網絡空間治理提出了更大挑戰。當前，中美歐等均探索將內容披露和標識義務入法，國內外多家互聯網公司也逐步推進標識嵌入和管理舉措，內容標識已然成為全球打擊虛假有害信息的通行做法。為順應這一實踐趨勢和產業需求，國家互聯網信息辦公室等部門適時發佈《人工智能生成合成內容標識辦法》（下稱《辦法》）及配套國家標準《網絡安全技術 人工智能生成合成內容標識方法》（下稱《標識方法》），全方位、多層次地規範人工智能內容標識要求和方法，邁出了完善我國人工智能治理制度的重要一步。

一、問題導向，破解人工智能生成合成內容新需求新風險

立足於生成式人工智能健康發展和規範應用，《辦法》以問題為導向，通過系統性、創新性制度設計，全面回應了對人工智能生成合成內容標識的要求。

一是先行提出生成合成內容標識的中國方案。針對人工智能內容生成合成帶來的顛覆性風險挑戰，國際層面也在不斷探索內容標識方法和路徑。歐盟2024年8月正式生效的《人工智能法案》規定了要確保人工智能生成合成內容的透明度義務，要求平台添加強制性水印。美國加州2024年8月發佈《數字內容溯源標識法案》，要求在人工智能生成物中嵌入可溯源數據，以確保內容來源的透明度。國際電信聯盟2024年7月發佈《檢測深度偽造和生成式人工智能：人工智能水印和多媒體真實性標準研討會的報告》，包括內容標識在內，初步探討深度合成內容檢測的標準協作安排。《辦法》根植於我國發展實踐，立足長遠、著眼前瞻、行動快速，率先通過標準完善補充生成式人工智能綜合治理機制，有力支撐了科技向善的治理理念，為世界貢獻發展與安全並行的人工智能治理中國方案。

二是著力加強服務商生成合成內容標識的規範性。隨著人工智能生成合成內容工具的普及化和可及化發展，技術應用的門檻較之前大大降低。早在2022年中央網信辦等就發佈了《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），明確指出深度合成服務提供者應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況。但《規定》主要明確了需要添加標識的情況，對於添加標識的位置、字型和表達並未做出具體要求，因此各類企業在實施過程中出現了文本內容顯式標識不明顯、難察覺，音頻、視頻等內容顯式標識未插入、淺提示，隱式標識少信息、難校驗等問題，對於落實監管提出了挑戰。出台《辦法》，是進一步推進生成合成內容標識工作的必要舉措，對規範互聯網信息服務深度合成管理、解決生成合成內容標識突出問題、推進信息網絡生態環境治理意義重大，影響深遠。

三是進一步完善生成式人工智能監管問責體系。生成式人工智能生成合成內容涉及多種類型的主體，清晰界定各主體義務更有利於壓實主體責任，便利技術檢測實施，進而落實精準問責。《辦法》不僅界定了人工智能生成合成內容的基本概念，更針對服務提供者、傳播平台、應用服務分發平台和用戶分別規定了具體標識要求，為各相關主體落實合規指明了方向。由此，《辦法》在現行責任制度作出補充，充分細化了《規定》提出的深度合成服務提供者和技術支持者行為規範，為促進新技術新應用的規範發展提供了有益範例。

二、明確要求，促進人工智能生成合成內容精細化治理

人工智能生成合成內容不僅包括文本、圖像、音頻、視頻等多種表現形式，更在“元宇宙”等交互式、沈浸式場景中提供了更多實現方案。《標識方法》對於人工智能生成合成內容進行了全方位覆蓋，並且進一步明確了《辦法》要求和具體操作指引。

一是區分顯式標識和隱式標識規範要求。為滿足當前可感知和不可感知的兩類標識方法需要，《標識方法》清晰闡述了各自的關鍵要素要求，對於顯式標識主要圍繞文字要素、位置、字型、顏色、音頻節奏、視頻像素和交互提示等提出要求，對於元數據和內容隱式標識提出生成合成標簽要素、服務提供者要素和內容編號要素等關鍵指引。

二是列舉顯式標識典型應用場景。《標識方法》通過列舉式的方式對於顯式標識的應用場景做出了進一步細化，在《規定》中提到的五類顯著標識應用場景之外加以補充，包括文生圖片等圖片內容生成服務；音樂等音頻內容生成服務；文生視頻、圖生視頻等視頻內容生成服務。新列舉的三類典型應用場景屬於2022年後迅速發展起來的新型生成合成內容形式，尤其是ChatGPT、Sora展示出視頻內容生成的強大潛能，在《標識方法》囊括此三類典型應用場景有利於針對性、前瞻性開展監管，符合生成式人工智能的技術原理與產業需要。

三是規範元數據隱式標識格式要求。此前生成合成內容隱式標識方法在不同規模、不同技術水平的企業間應用各不相同，標識的標簽信息也未有一致，這就導致識別隱式標識對於監管主體和內容平台而言面臨挑戰。《標識方法》為解決這一問題，對於隱式標識擴展字段關鍵詞和應包括的標簽、編號、預留字段的值等添加了具體說明，為行業統一、穩定、持續落實隱式標識要求提供了有效措施。

四是展示顯式和隱式標識各要求對應示例。《標識方法》以圖片示例的形式對於各類顯式和隱式標識要求進行了展示，有助於企業直觀了解標準要求，避免因文字表述引發的模糊和歧義，從而推動行業協同落實，提升治理效能。

三、守正創新，兼顧內容生成合成服務管理與技術創新應用

人工智能生成合成技術應在安全的前提下規範使用、加速發展，以高水平的治理保障高質量發展。《辦法》及《標識方法》充分考慮“用”和“管”兩側需求，最大限度減少內容標識對於用戶使用的影響，推動企業自主自願展示標識。一是提供多種標識方法，適應更多產品形態。《標識方法》對於文本內容顯式標識創新提出角標形式，僅需在內容末尾加注角標“AI”即可高效滿足要求，對於音頻內容則首次提出音頻節奏標識，在音頻適當位置加入“短長短短”節奏的摩斯碼表示即可達到提示作用。此類標識方法不僅對於企業而言便於打造不同產品樣態，也能保障用戶使用體驗和認知效果，在實現監管目的的同時也為技術發展提供了有效保障。二是劃分不同主體責任，精細化避風港原則適用。《辦法》雖然將標識添加的責任主要施加於服務提供者和上傳內容的用戶，但未對傳播平台和應用分發平台實施“一刀切”式的避風港規則。《辦法》採取一種更為精細化的路徑，詳細規定傳播平台應當對文件元數據中的擴展字段進行核驗，提示用戶生成合成內容信息，並在文件元數據中添加傳播要素信息；應用服務分發平台應在應用程序上架或上線審核前核驗服務提供者是否按要求提供生成合成內容標識功能。此舉有助於適當調整服務提供者、使用者和傳播分發平台的義務分配，避免相關平台“隱身”於深度合成監管體系，從而真正實現齊抓共管、協同共治的治理機制，有效維護健康向善的信息網絡生態環境。

作者：魏凱　中國信息通信研究院人工智能研究所所長

來源：“網信中國”微信公眾號