《人工智能生成合成內容標識辦法》從今年9月1日起將正式施行，“標識辦法”提出強制添加顯式和隱式標識等規范要求，所有AI生成的文字、圖片、視頻等內容，都要“亮明身份”，再也不能偷偷摸摸“以假亂真”了！那么，AI生成合成的內容標識由誰(shuí)來(lái)添加？該怎么添加呢？對那些利用AI工具進(jìn)行虛假信息傳播的“營(yíng)銷(xiāo)號”能起到遏制作用嗎？
專(zhuān)家解讀：
AI生成內容要“亮明身份”
據中國人民大學(xué)未來(lái)法治研究院執行院長(cháng)張吉豫介紹，“標識辦法”明確了相關(guān)主體的責任義務(wù)，包括服務(wù)提供者需在內容生成、傳播、下載等環(huán)節確保標識完整，互聯(lián)網(wǎng)應用程序分發(fā)平臺需審核應用是否合規添加標識，個(gè)人用戶(hù)發(fā)布生成內容時(shí)需要主動(dòng)聲明。
中國人民大學(xué)未來(lái)法治研究院執行院長(cháng) 張吉豫：它也是對隱式標識進(jìn)行了具體細化，特別說(shuō)明了在目前的技術(shù)情況下，至少要對這種文件的元數據進(jìn)行標識，就是在文件中進(jìn)行描述的數據，用戶(hù)看不到，這樣隱式標識就不影響用戶(hù)的使用，又起到了標識重要信息的作用。那么對于一些比如說(shuō)可能引起公眾的混淆，甚至比較重要的誤解的這樣的一些重要的內容就需要去添加顯式的標識。
據張吉豫介紹，針對個(gè)人用戶(hù)借助AI進(jìn)行文字創(chuàng )作時(shí)，如果不存在侵犯個(gè)人、企業(yè)、社會(huì )等主體利益的情況下，用戶(hù)則不需進(jìn)行專(zhuān)門(mén)的標識。但是，如果借助AI生成的文字內容涉及模仿某人的話(huà)語(yǔ)表達、模仿媒體進(jìn)行新聞發(fā)布，或者模仿政府部門(mén)發(fā)布相關(guān)公告等，這些容易讓人對客觀(guān)事實(shí)產(chǎn)生誤解、混淆的內容，都必須進(jìn)行顯式標識。
張吉豫介紹，現在人工智能技術(shù)還都在發(fā)展，相應的檢測風(fēng)險防范的技術(shù)還在發(fā)展中，所以目前來(lái)講，我們也不能說(shuō)它是一個(gè)終極的辦法，只能說(shuō)其實(shí)是在現在的技術(shù)條件之下采取的一個(gè)考慮到發(fā)展應用與安全風(fēng)險防控，相平衡的這樣的一種目前階段比較良好的辦法。
將對行業(yè)和個(gè)人用戶(hù)產(chǎn)生哪些影響？
據記者了解，截至2024年12月31日，我國已經(jīng)有302款生成式人工智能服務(wù)在國家網(wǎng)信辦完成備案；生成式人工智能產(chǎn)品的用戶(hù)規模達2.3億人。那么，“標識辦法”的施行會(huì )對行業(yè)、個(gè)人用戶(hù)，以及相關(guān)技術(shù)的發(fā)展帶來(lái)哪些影響呢？為什么要在半年之后才施行呢？我們繼續聽(tīng)聽(tīng)專(zhuān)家的解讀。
據專(zhuān)家介紹，在“標識辦法”的要求下，標識的存在也會(huì )對大規模搬運人工智能直接生成內容的行為進(jìn)行攔截，讓內容平臺有了更明確的合規要求和管理程序，有利于降低總體的審核運營(yíng)成本。
張吉豫表示，對于整個(gè)網(wǎng)絡(luò )空間、數字空間內容的真實(shí)性會(huì )有更大的促進(jìn)，那也是我們的自媒體可以利用人工智能技術(shù)去使得自己視頻更加出彩，但是不要用它們去制造一些虛假的新聞來(lái)博得眼球，所以是引導廣大的自媒體可以更積極地利用人工智能技術(shù)。
專(zhuān)家介紹，“標識辦法”的施行有利于公平競爭和有效管理：
強制“標識”有利于保護傳統內容產(chǎn)業(yè)，能在一定程度上降低AI技術(shù)帶來(lái)的沖擊；
通過(guò)標識可以追溯AI生成內容的來(lái)源，減少因AI生成內容引發(fā)的侵權、詐騙等問(wèn)題，維護個(gè)人隱私和財產(chǎn)安全。
據記者了解，作為我國人工智能領(lǐng)域首部“辦法+強標”的組合拳，強制性的國家標準《網(wǎng)絡(luò )安全技術(shù)人工智能生成合成內容標識方法》將于9月1日與《人工智能生成合成內容標識辦法》同步施行。
張吉豫介紹，在內容生成方這一點(diǎn)，它既需要去進(jìn)行顯著(zhù)的標識和一些隱性的標識，同時(shí)它也要為用戶(hù)去提供加入顯著(zhù)標識，同時(shí)因為辦法里面也要求了傳播平臺也需要去部署相應的對標識的檢測，所以這樣的一些技術(shù)措施的部署還是需要一定的時(shí)間準備。(來(lái)源：央視新聞客戶(hù)端)
