摘 要:生成式人工智能具有高度擬真性、規模化生成、語境適應性、交互代理等特質，可對網絡信息生產、流通與聚合機制產生深刻影響。這一技術變革，既給網絡生態治理帶來新考驗、新課題，也為提升治理效能、壯大主流輿論、優化內容生態提供新的技術支撐。應對其給現有輿論生態治理框架帶來的機遇和挑戰，需從技術、制度、素養等維度協同發力，夯實網絡空間的信用基礎，推動網絡生態治理范式轉型。
關鍵詞:生成式人工智能 網絡生態治理 治理范式 協同治理
【中圖分類號】G206 【文獻標識碼】A
隨著生成式人工智能技術的快速發展，網絡內容的生產方式與傳播格局正經歷深刻變革。當海量虛實難辨的信息涌入輿論場，網絡輿論所反映的民意就需要審慎研判；當文字、圖像、聲音、視頻均可由算法生成，“公眾意見”的內涵也在經歷深刻變化。而這些變化，關乎網絡空間能否真正成為思想引領、道德培育、文化傳承的重要陣地。習近平總書記指出：“網絡生態治理是網絡強國建設的重要任務，事關國家發展和安全，事關人民群眾切身利益。”[1]如何構建與新技術發展相適應的網絡治理體系，持續優化網絡生態，已成為我們必須回答的時代課題。
生成式人工智能的技術特質及其對網絡生態的重構
生成式人工智能對網絡生態的影響源于其獨特的技術特質，主要體現在四個方面。一是高度擬真性。大語言模型對人類語言風格、情感表達和論證邏輯的深度模仿，使其輸出在表面上難以與人類創作相區分。二是規模化生成能力。內容生產的邊際成本趨近于零，單一主體能夠在短時間內生成海量差異化內容，生成式人工智能使“意見”生產不再受制于人類表達的時間與精力限制。三是語境適應性。模型可以根據指令調整輸出風格、立場和受眾定位，精準針對特定群體，實現“千人千面”的定制化內容生成。四是交互代理能力。人工智能不僅能夠生成靜態內容，還能作為“對話者”持續參與輿論互動，模糊內容生產與參與傳播之間的邊界。
將人工智能時代與此前的不同媒介時代相比較，可以更清晰地看到媒介生態的深刻變遷。在大眾媒體時代，信息環境主要由專業新聞機構建構，內容生產具有明確的主體責任，信息來源可追溯、可問責。進入社交媒體時代，專業機構的信息壟斷被打破，用戶生成內容成為主流，但內容仍然源于真實的人類表達。人工智能時代，信息環境則發生質變，內容不再僅僅被選擇性呈現，而是可以被大規模合成創造；信息環境的“原材料”本身就可能是機器生產的；創作主體從人類擴展到人機混合甚至純機器，“作者”這一概念的邊界變得模糊。生成式人工智能技術若被不當使用，可能使輿論環境從“對現實的選擇性呈現”演變為“對現實的合成性替代”。這將對網絡生態治理構成嚴峻挑戰，我們需系統審視其中薄弱環節，通過制度完善、技術治理與多方協同，切實筑牢治理屏障，推動形成清朗有序、向上向好的網絡生態。
人工智能時代網絡生態可能面臨的系統性風險
生成式人工智能的規模化生成能力，若缺乏有效規制，可能給網絡生態帶來系統性風險。
主流價值影響力被稀釋。海量合成內容會導致單位信息的價值被稀釋。在此情形下，真實的民意表達被淹沒在合成信息的“噪聲”中，導致公眾難以辨識有效信息，有限的公共注意力被大量低質內容消耗，使嚴肅議題難以得到充分討論。同時，由于“量”已不能反映真實民意的“質”，傳統基于數量統計的輿情分析方法面臨失效風險。長期接觸由特定大語言模型構建的信息環境，會使公眾的價值觀念受到持續影響，更容易接受其中隱含的立場或觀念，進而可能對主流價值認同和社會治理效能產生潛在影響。[2]
公共話語生態受到沖擊。低成本、規模化的人工智能生成內容在注意力競爭中占據優勢，而需要投入時間與精力的深度思考則面臨被邊緣化的風險。隨著“發聲”門檻降低，理性參與者逐步離場，致使公共討論呈現出從實質性觀點交鋒，滑向形式化符號堆砌的趨勢。此外，專業人士基于審慎判斷的見解，也往往會被海量看似專業、實則似是而非的人工智能“分析”所淹沒。
社會信任基礎面臨考驗。從信任利用角度看，生成式人工智能能夠模仿熟人語氣、冒充權威機構、制造看似專業的論述，系統性利用社會信任網絡。然而，一旦這種利用被識別，又容易導致信任的全面退潮。從證據環境角度看，深度合成技術使圖片、視頻、音頻等傳統“證據”都可能被偽造，“以證據論事”的認知框架隨之受到挑戰，公共討論可能陷入“無限舉證”的困境。更值得關注的是，生成式人工智能在一定程度上突破了傳統輿論操縱的約束條件，既能實現百萬量級的規模傳播，又能進行個性化精準定制，這種技術能力是此前傳播手段所不具備的。
生成式人工智能給現有輿論生態治理框架帶來的機遇和挑戰
當前，人工智能、大數據等新技術新應用不斷涌現，給網絡生態治理帶來挑戰，也提供新的支持條件。[3]就機遇而言，生成式人工智能為網絡生態重構和治理范式重塑提供新的技術支撐。在賦能主流內容生產、壯大網絡正能量方面，生成式人工智能可以大幅提升優質內容的生產效率，輔助主流媒體創作有內涵、有溫度、有影響且符合新媒體傳播規律的作品，將主流價值內容轉化為適合不同受眾的多樣化表達形式，實現分眾化、精準化傳播。與此同時，相關技術能夠顯著提升輿情感知的精準性與時效性。生成式人工智能憑借其強大的自然語言理解能力，能夠實時分析輿情的情感、路徑與趨勢，精準把握輿論氣候，并輔助識別虛假及深度偽造信息，為事實核查提供技術支撐。在網絡空間治理方面，生成式人工智能可以為網絡平臺的內容審核提供智能輔助，在海量信息中快速識別違規內容；在網絡政務服務中，驅動智能問答系統全天候響應群眾咨詢；在網絡安全防護中，實時監測異常行為。在支撐國際傳播能力建設方面，借助大模型多語言生成能力，可以將中國聲音高效轉化為多語種內容，突破語言傳播壁壘，并幫助分析不同文化背景受眾的信息偏好，實現更精準的跨文化傳播。
就挑戰方面而言，生成式人工智能的廣泛應用，給現有治理框架帶來一些有待解決的新課題。在感知層面，傳統輿情監測主要依賴關鍵詞識別、情感分析和傳播網絡追蹤，這些方法難以有效區分內容真實來源，容易導致對輿論態勢的誤判。在歸責層面，當人工智能生成能力擴展到廣大用戶層面時，責任鏈條在“模型開發者—部署者—使用者—分發平臺”之間變得分散，難以明確界定追責主體。在時效層面，人工審核與事實核查的速度往往落后于人工智能生成與傳播的速度，形成結構性“時滯”。更深層的問題在于網絡輿論出現的“異化”現象。人工智能生成的“意見”脫離人類主體的真實意圖，成為一種無主體的符號存在；輿論渠道可能被用于影響甚至操縱公眾；表面的“公眾意見”可能與真實民意存在脫節。這種“異化”不僅降低公眾參與公共討論的積極性，也使“什么都可能是假的”成為一種較為普遍的心態，進而對社會公共生活的信任基礎產生一定影響。
網絡生態治理的范式轉型勢在必行
將人工智能時代網絡空間的輿論風險類比為“信用危機”，治理的目標就不能局限于管理具體內容，更重要的是夯實網絡空間的“信用基礎”。為此，需從以下幾個方面入手實現范式轉型。
在技術層面，建設網絡空間的“信用基礎設施”，從“事后監管”轉向“事前與事中嵌入”，提升網絡生態治理的前瞻性和精準性。建立內容溯源機制，推動人工智能生成內容的數字水印、元數據標注等技術標準化，使內容來源可追溯、可驗證。加強檢測能力建設，發展深度合成內容的檢測技術，建立人工智能生成內容的特征數據庫，支持跨平臺協同識別。推動負責任人工智能的設計嵌入，在基礎模型訓練與對齊階段植入防止濫用的技術約束，推動“可信人工智能”原則落地。[4]
在制度層面，從“集中式管控”轉向“分布式協同治理”，提升網絡生態治理的系統性和協同性。必須堅持黨管媒體原則不動搖，加強對網絡平臺、自媒體及多頻道網絡機構等的引導，推動其切實履行社會責任，主動傳播正能量。在責任框架設計上，應依據主體角色明確分層責任：基礎模型提供者須承擔防范能力濫用的主體責任，服務部署者應落實具體場景下的風險管理責任，內容分發平臺則需履行傳播環節的內容把關責任。通過政策引導、許可管理等多種方式，促進行政監管與行業自律有效銜接，統籌推進網絡領域立法、執法、司法與普法各項工作，形成治理合力。
在素養層面，強化公眾對網絡信息的認知判斷能力，提升網絡生態治理的持久性。引導公眾理解生成式人工智能的能力邊界與風險特征，培養公眾對信息來源的批判性審視習慣。同時，培育公眾建立基于來源評估與交叉驗證的判斷習慣，既不輕信一切信息，也不陷入虛無主義。更為關鍵的是，主流媒體需發揮網絡優質內容供給的示范引領作用，在眾聲喧嘩中建立可信賴的“定海神針”，深化黨的創新理論網上宣傳，大力弘揚社會主義核心價值觀，推出多有內涵、有溫度、有影響的網絡作品，為公眾正確感知輿論氣候提供權威參照系。
在國際合作層面，推動建構網絡空間命運共同體，提升網絡空間治理的國際話語權。習近平總書記強調：“網絡生態治理是世界各國面臨的共同課題。”[5]當前，面對生成式人工智能等新技術帶來的全球性挑戰，加強國際協作顯得尤為重要與緊迫。我們應秉持共商共建共享的全球治理觀，主動參與并引領人工智能治理、數據安全、數字倫理等新興領域的國際規則與標準制定，以網絡空間命運共同體理念凝聚全球共識。同時，加強國際傳播網絡平臺和能力建設，積極運用人工智能等新技術賦能國際傳播全鏈條，通過更精準、更生動、更具文化穿透力的內容生產和傳播，向世界展現可信、可愛、可敬的中國形象。
【本文作者為山東大學輿論研究中心主任，山東大學新聞傳播學院教授、博導；本文系國家社科基金一般項目“社會時空視角下媒體深度融合的發展策略與理論路徑研究”（項目編號：21BXW003）的階段性成果；山東大學新聞傳播學院博士研究生吳元浩，對本文亦有貢獻】
注釋略
責編：馮一帆／美編：石 玉