你的聲音，我們愿意聽見；
你的關切，我們一同看見。
公安部門又打假了。
近日，一則“有頂流明星在澳門輸了10億”的信息在網上掀起驚濤駭浪。“頂流”“澳門”“10億”等炸裂字眼迅速引發(fā)網友討論和猜測，短短72小時內，該話題點擊量就破億。不過，所謂的“驚天大瓜”最終被證實為虛假信息。經公安網安部門查明，該謠言是某網民為博取流量、謀取非法利益，使用AI技術輸入社會熱點詞制作而成，嚴重擾亂公共秩序。目前，公安機關已根據(jù)相關法律法規(guī)，對該網民處以行政拘留8日的處罰。
實際上，這已經不是第一起用AI技術生成的假消息了。從詐騙老年人錢財?shù)摹凹俳鶘|”，到用換臉技術冒充張文宏直播帶貨，再到更多網絡上“有憑有據(jù)”“有圖有真相”的內部消息。越來越頻繁的網絡謠言提醒著人們，在人工智能時代下，AI的技術賦能很可能成為虛假信息的幫兇。在更為復雜的技術語境下去治理謠言，也成為擺在明面上的事。
不可否認，AI憑借強大的信息處理能力在工作生活上給人們帶來了便利，但也正是這種技術處理太過于迅速，且能根據(jù)部分關鍵詞或指令就生成一份看起來“邏輯自洽”的謠言，一旦被有心人利用，很可能引發(fā)社會層面的信任動蕩。從以往多個類似事件中不難發(fā)現(xiàn)，被造謠的公眾人物通常選擇發(fā)布官方聲明或者直接報案以證清白，但海量懷疑和審視的目光一旦落在他們身上，事情真相反而會被邊緣化，新一輪的腦補和猜想影響社會大眾對他們的評價，進而損害公眾人物的職業(yè)生涯。
AI加持下，網絡謠言不光生成速度快，溯源難度也非比尋常。在越來越多由算法構建的網絡環(huán)境里，謠言可以更精準地投放到特定受眾跟前，再通過網絡四散開來。等大部分人反應過來時，已經很難找到謠言傳播的源頭，辟謠成本和難度大增，正應了那句“造謠一張嘴，辟謠跑斷腿”。
數(shù)字時代，AI謠言的生成與治理，說到底是一個技術倫理的事情。早在AI大規(guī)模貼近現(xiàn)實生活之前，技術被創(chuàng)造出來的終極目標是不損害人的生存與健康，促進人類社會沿著合乎倫理和道德的方向可持續(xù)發(fā)展。可以說，當前我們知曉的許多應用在不同場景的人工智能技術都秉持了這一理念，但隨著AI技術的普及與應用領域的拓寬，有一部分人為了個人利益或特定目的，利用技術制造謠言，讓網民陷入信任危機中，危害社會公共秩序。不得不強調的一點是，除了造謠內容觸及公眾核心利益或是引發(fā)社會巨大關注，其實還有大量網絡謠言沒有浮出水面，這些失實內容摻雜在各種信息里，就像一顆顆定時炸彈，在日復一日的信息篡改中造成危害。
那么，想要從根本上化解AI造假的亂象，最有效的方法還是技術把關，從源頭遏制AI謠言的生成和傳播。近年來，《生成式人工智能服務管理暫行辦法》和《互聯(lián)網信息服務深度合成管理規(guī)定》都對AI生成內容作出了強制標記的要求，幫助受眾更加直白清晰地分辨內容真假。不過，此要求主要針對發(fā)布在平臺上的AI短視頻，至于以圖文為傳播形式的AI內容，有關部門不妨也盡快跟進并實施類似的監(jiān)管措施。
再來，政策出臺的意義在于執(zhí)行，大模型工具企業(yè)和網絡平臺作為技術的開發(fā)者與主要傳播載體，也應承擔起相應的社會責任。例如，如何更直觀地標記AI生成內容？如何從技術層面建立防火墻，防止部分用戶以改變畫幅的形式抹去AI標記？又或者，當未經證實的內容經過舉報達到一定閾值，平臺方能否自動啟動事實核查程序并限制傳播？以上問題還需要大模型工具企業(yè)和網絡平臺，繼續(xù)依照實際情況不斷探索和思考。
回過頭來看，“有頂流明星在澳門輸了10億”的AI謠言在警方的嚴打下落幕了，這一場鬧劇勢必會警醒更多人冷靜看待網絡信息，仔細分辨網絡內容。但不管怎么樣， 我們不需要因此對技術產生恐懼，畢竟，比謠言更可怕的，是對真相的集體冷漠；比技術更強大的，是永不停歇的求真意識。
（江一葦）
