打造生成式人工智能可信生態的技術基石

生成式人工智能技術因ChatGPT的爆火而獲得了社會各界的廣泛關注，並在近年來取得了突飛猛進的發展。然而，其強大的學習與生成能力也帶來了諸如惡意輸出、版權侵犯、深度偽造等熱點安全問題。2023年10月18日，習近平主席在第三屆“一帶一路”國際合作高峰論壇開幕式主旨演講中提出《全球人工智能治理倡議》，指出“人工智能治理攸關全人類命運，是世界各國面臨的共同課題”，應當“共同做好風險防範，形成具有廣泛共識的人工智能治理框架和標準規範，不斷提升人工智能技術的安全性、可靠性、可控性、公平性”。在此背景下，國家網信辦發佈了《人工智能生成合成內容標識辦法（徵求意見稿）》（以下簡稱《辦法》）以及配套強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法（徵求意見稿）》（以下簡稱《標準》）。《辦法》、《標準》的提出，旨在應對人工智能技術發展帶來的新型挑戰，通過構建標識驗證技術體系，有效識別和管理合成內容，保障信息的真實性與公正性，維護技術的穩定發展和社會秩序。

一、規範內容標識，防範誤解與濫用風險

隨著人工智能技術的快速發展，AI生成合成內容的逼真度不斷提升，其與真實信息的界限日益模糊。這種高度仿真的內容不僅容易造成公眾誤解，更有可能被不法分子利用，對個人隱私、組織聲譽以及社會穩定、國家安全產生巨大危害。《辦法》和《標準》立足於規範化人工智能生成合成內容的標識方法，明確了使用的技術手段和基本目標，並提出了一系列的檢測手段和添加目標，解決了當前人工智能面臨的諸多問題。

首先是人工智能生成合成內容混淆誤認的問題。當前，公眾在獲取和傳播信息時，常常難以分辨由AI生成的內容，導致公眾錯誤傳播。為防止AI生成內容被錯誤傳播或被公眾誤認為真實信息，《標準》採用顯式標識的方法，在生成內容的顯著地方提示用戶該內容為人工智能生成合成。這種措施旨在提高公眾的辨識能力，促進信息傳播的真實性和可靠性，同時也為內容創作者和合規檢測平台提供了明確的操作指南。

其次是AI生成內容可能被惡意使用或濫用的問題。當前生成式人工智能性能出色，使用門檻低，任何人都可能輕易生成大量AI生成的內容，從而增加了濫用或惡意使用的風險。《標準》採用隱式標識的方法，在不影響內容呈現的同時，在生成內容中嵌入可追溯信息。我們可以在發現內容被濫用或惡意使用時，迅速追溯其來源，確定責任主體，從而有效遏制惡意使用行為，維護網絡空間秩序。同時，這種方法也為後續的監管執法、糾紛處理提供了關鍵的技術支持。

二、標準化多模態標識與全周期監管，推動AI健康發展

生成式人工智能重塑了人類與技術的交互方式，改變了知識信息的生產方式，涉及範圍廣，應用模態多，涉及場景複雜。不充分、不協調、不完整的標識技術與應用覆蓋將會對網絡信息空間安全帶來巨大隱患。

《辦法》和《標準》充分結合人工智能生成合成內容的典型應用場景，圍繞相關關鍵技術環節提出多項條款，為應對多種可能存在的風險場合提出合適的生成標識方法，有效推動生成式人工智能技術健康發展。針對不同場景，《標準》以顯式標識為主，隱式標識為輔，圍繞相關關鍵技術環節提出多項舉措以加強監管治理：一是明確了顯式與隱式標識結合的方案。未經監管的生成內容存在難以辨別真假、缺乏透明度且易於構造誤導信息的潛在威脅，《標準》在顯式上注重標識的易添加和易檢測，在隱式上注重標識的安全性和不可篡改性，從而保證生成內容溯源可查以降低風險。二是確立了多種模態下的治理手段。多模態技術發達且不同的模態具有獨特的數據表徵，《標準》針對主流的生成式人工智能應用音、視、圖、文四種模態各自獨特的應用特點提出相應的約束，從而提高各界對生成內容的識別能力。三是覆蓋了人工智能生命全周期。《標準》確保從制作、發佈、下載的每個階段都符合相應的安全要求，提出各個環節下嚴格的技術規範和管理措施，有助於保障人工智能技術在發展階段始終符合隱私保護和安全防控的要求，以全方位指導規範生成式人工智能合規應用。

三、推進開放產業生態建設，作出中國回答

《辦法》和《標準》的制定和出台，是我國推進生成式人工智能服務領域治理、促進產業規範健康發展、引導技術向善的重要舉措。在生成式人工智能發展的新階段，如何劃定合理的安全紅線，建立安全、開放、公平、符合國情的人工智能產業生態，推動人工智能技術的健康發展，成為了管理者與相關從業者即將面臨的一大難點。

針對這一問題，《標準》作出了回應。一是加強技術，提升多模態全周期場景下人工智能生成合成內容的標識與檢測能力，指導相關安全平台的建設。二是提升管理，《標準》積極引導企業正確理解並落實強制性國家標準要求，幫助部門督促指導當地企業貫徹強制性國家標準要求，提升整體監管效能。三是落實“包容審慎”，正視中國的技術發展與產業現狀，積極聽取群眾的建議，完善制度與政策。在人工智能技術快速發展的時期，我們要平衡安全監管與創新引導，推動健康發展，促進社會活力，建立良好的產業生態。《辦法》和《標準》通過明確發展與安全並重的原則，構建生成式AI的安全治理環境，幫助公眾識別人工智能生成合成內容，保障信息安全，促進協同治理與良性發展。

生成式人工智能擁有巨大的潛力，很可能在未來對人類經濟、政治、社會、文化、軍事各方面產生深刻影響。面對核心技術革新帶來的巨大挑戰，《辦法》和《標準》對於人工智能產業的開發部署、檢測評估、合規管理以及安全應用有著重要的指導作用，讓中國能夠在全球智能技術浪潮中先行一步。我們期待著《辦法》與《標準》的實施能夠為後續人工智能的立法積累中國經驗，為全球人工智能治理貢獻中國智慧，推進全社會共同治理，建立開放和諧的網絡空間命運共同體。

作者：任奎　浙江大學計算機科學與技術學院院長，區塊鏈與數據安全全國重點實驗室常務副主任

來源：“網信中國”微信公眾號