新江蘇評論員 清陽

近日，中央網信辦向社會發(fā)布《網絡安全技術人工智能生成合成內容標識方法》國家標準的征求意見稿，這則消息迅速引起網友廣泛關注。有媒體認為，這一文件標志著我國在人工智能內容生成技術及其應用方面的規(guī)范化管理向前邁出了重要一步，也為數(shù)字經濟和信息安全的協(xié)調發(fā)展奠定了基礎。

2024 年被眾多業(yè)內人士、研究機構和市場觀察者稱為 “AI元年”。我們也明顯感覺到，這一年，人工智能技術在諸多方面達到了一個新的高度，其影響深遠地滲透到了各行各業(yè)。但是，人工智能技術的飛速普及與應用又是一把雙刃劍。一方面，AI技術為各行各業(yè)帶來了創(chuàng)新動力，推動了生產力的提升；但另一方面，隨著AI生成合成內容的廣泛應用，網絡內容的真實性和安全性也面臨著前所未有的挑戰(zhàn)。

比如，在商業(yè)活動中，一些不法分子利用AI編造誤導性商業(yè)信息。去年12月，有網民利用AI工具專門制造“廣州即將成為全國首個限制外賣配送的城市”的謠言，并進行引流牟利。該謠言引發(fā)了不小的震動，影響了廣州多家外賣配送企業(yè)的正常運作、數(shù)以萬計的外賣騎手工作以及成百上千家餐飲和商戶的日常經營。

還有利用AI技術編造虛假新聞誤導公眾。河南鶴壁網民戶某為博眼球、蹭流量，在網上利用AI拼圖技術生成直升機飛躍麥田的圖片，并配文“省領導XXX到浚縣視察小麥倒伏情況”，編造虛假新聞，引發(fā)網民關注，擾亂公共秩序。有網民為博取流量，對網上看到的一篇關于“小孩偷鉛筆”內容的文章，通過AI軟件生成視頻，編造為茂名市下轄某縣級市發(fā)生的案件，并在三個網絡社交短視頻平臺發(fā)布傳播，造成惡劣影響。

而更多的是遍布在各個網絡平臺的虛假文章，如江西南昌的一個MCN機構利用具有語音交互功能的AI軟件，輸入關鍵詞自動收集網絡上的信息，生成幾百到上千字的文章，并配上虛假圖片。這些虛假文章被廣泛傳播于多個網絡平臺，最高產時一天能達到4000至7000篇。這些文章內容看似信息豐富，實際上卻是捏造的，騙取公眾的流量，甚至欺騙公眾的感情。

不少網友感嘆，現(xiàn)在網絡平臺上充斥著這類紛繁雜亂真假莫辨的信息。這不僅會影響信息的正常傳播和交流，有時甚至會引發(fā)公眾恐慌尤其是涉及到安全、健康、災害等方面的虛假信息，可能會導致一些社會公眾的不理智行為，影響社會的正常秩序。

因此，如何從國家層面立法和規(guī)范這種AI合成信息，顯然是勢在必行，制定《網絡安全技術人工智能生成合成內容標識方法》也是恰逢其時。

制定該標識方法可以明確不同場景下、不同類型內容的標識要求，為行業(yè)提供具體的操作指南，規(guī)范行業(yè)發(fā)展。例如，對于文本、音頻、視頻等不同形式的內容，規(guī)定其顯式標識和隱式標識的具體方式和位置等，避免企業(yè)在實施過程中出現(xiàn)標識不明顯、不規(guī)范等問題。

對于用戶來說，在使用人工智能生成合成內容時，往往對內容的真實性和可靠性存在疑慮。一旦有了明確的標識方法，就可以讓用戶清楚地知道哪些內容是人工智能生成的，哪些是真實的人類創(chuàng)作，增強用戶對人工智能技術的理解，促進人工智能技術的良性發(fā)展。

總的來說，《網絡安全技術人工智能生成合成內容標識方法》的出臺，是我國在人工智能管理領域邁出的重要一步。這將不僅促進行業(yè)的健康發(fā)展，還有助于提升公眾的自我保護能力，抵御網絡謠言及虛假信息的侵擾，讓我們的網絡空間更加清朗。