國家網信辦等四部門聯合發(fā)布的《人工智能生成合成內容標識辦法》，9月1日起將正式施行，所有AI生成的文字、圖片、視頻等內容都要“亮明身份”。針對這些內容在傳播過程中該由誰來管？怎么管？

　　《人工智能生成合成內容標識辦法》明確，人工智能生成合成內容是指利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。人工智能生成合成內容標識包括顯式標識和隱式標識。

　　平臺在服務提供者的內容上架或上線時要進行審核，核驗生成合成內容標識，對未標識或疑似生成內容要添加風險提示，從而在傳播端阻斷虛假信息擴散。

　　中國人民大學未來法治研究院執(zhí)行院長 張吉豫：“標識辦法”中進行檢測分三個層次，如果平臺是從元數據中檢測出隱式標簽，那么平臺就可以標識這個內容是AI生成的，但是如果它只是通過一些算法推測這個內容是AI生成的，它應該是標識為疑似AI生成。

　　針對目前由于技術的局限性而導致的部分原創(chuàng)內容被誤判為AI生成，創(chuàng)作者權益受損等情況，法學專家指出，當前的算法仍然存在數據偏差和場景適配不足等問題，在誤判率難以歸零的情況下，應當建立相應的保障機制。

　　張吉豫：未來相關平臺進行了分級標識后，其實也應該建立分級的處理辦法，比如說對于明確它是AI生成的，通過隱式標識確定的，應該采取更嚴格的措施，但是對于很多應該標識為疑似AI生成的，應該提供更便捷的用戶反饋渠道，也不宜對用戶進行嚴肅的懲罰。

　　法學專家建議，首先網絡服務提供者要公開算法原理及誤判樣本數據，提升透明度；其次要設立申訴渠道，允許用戶提交證據申請復核，從而保證監(jiān)管與創(chuàng)作自由的平衡。

　　讓生成內容看得見查得著 以規(guī)范促發(fā)展

　　據記者了解，截至目前，我國已有490余款大模型在國家網信辦完成備案，240余款大模型在省級網信辦完成登記，我國生成式人工智能產品的用戶規(guī)模已達2.3億人。“標識辦法”的施行，會對行業(yè)、個人用戶，以及相關技術的發(fā)展帶來哪些影響？

　　據記者了解，作為我國人工智能領域首部“辦法+強標”的組合拳，強制性的國家標準《網絡安全技術人工智能生成合成內容標識方法》將于9月1日與《人工智能生成合成內容標識辦法》同步施行，在監(jiān)管維度建立審核、監(jiān)測、追責的閉環(huán)機制，在技術維度規(guī)范標識體系并預留創(chuàng)新空間。

　　中國社科院法學所研究員 支振鋒：特別要提出的是這種生成式人工智能治理，我們一系列國家法律法規(guī)，還有規(guī)范性文件以及標準，一個很重要的治理目的是以規(guī)范促發(fā)展，通過治理和規(guī)范去凈化互聯網市場，凈化網絡信息內容、生態(tài)空間，從而促進人工智能特別是生成式人工智能，它的規(guī)范運用和健康良性的發(fā)展，實際上還是通過規(guī)范去促進發(fā)展的。

　　另外，據專家介紹，高質量數據對生成式人工智能產業(yè)發(fā)展至關重要，基于錯誤或不完整的數據作出的決策可能偏離正確方向，不符合法規(guī)要求的數據可能帶來法律風險。如果未經標識的內容進入公開數據領域，被大模型用于預訓練會出現數據污染等情況，最終會導致技術可信度的大大降低，而“標識辦法”的出臺，正是從源頭破解這一困局的關鍵舉措。

　　張吉豫：對于人工智能企業(yè)去選擇相應的訓練數據能夠起到很好的指引，特別是所有的這樣的生成內容都需要進行隱式的標識，這些標識是很便捷的，可以被機器檢測的，就可以很便捷的去篩選哪些可能的內容是機器產生的，也便于他們去進行訓練的選擇。

　　有利于公平競爭 減少侵權詐騙等問題

　　據專家介紹，在《人工智能生成合成內容標識辦法》以及強制性的國家標準同步施行的情況下，標識的存在也會對大規(guī)模搬運人工智能直接生成內容的行為進行攔截，讓內容平臺有了更明確的合規(guī)要求和管理程序，有利于降低總體的審核運營成本。

　　據法學專家介紹，《人工智能生成合成內容標識辦法》的施行有利于公平競爭和有效管理。

　　首先，強制“標識”有利于保護傳統(tǒng)內容產業(yè)，能在一定程度上降低AI技術帶來的沖擊；

　　另外，通過標識可以追溯AI生成內容的來源，減少因AI生成內容引發(fā)的侵權、詐騙等問題，維護個人隱私和財產安全。

　　支振鋒：這些生成人工智能服務的使用者，比如說自媒體賬號、博主，他們要使用這些服務的話，他們自己也有合規(guī)的要求，特別是一些MCN機構，一些自媒體賬號，它其實背后有公司在運營，他們都有這樣的合規(guī)義務，都要按照這個辦法，還有國家標準去做生成合成內容的標識。

　　據法學專家介紹，“標識辦法”與《互聯網信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等法規(guī)充分銜接。其中，服務提供者在履行算法備案、安全評估等手續(xù)時，相關材料可能涉及標識的技術細節(jié)，如水印算法、元數據格式、服務商編碼等，這些信息能夠幫助執(zhí)法部門在發(fā)現違法內容時快速識別內容來源，追蹤到服務提供者或者用戶。