【摘要】生成式人工智能正從應(yīng)用工具朝著通用基礎(chǔ)設(shè)施邁進(jìn)，憑借模型推理與多模態(tài)感知，對公共信息的生產(chǎn)與傳播流程進(jìn)行重塑，在提升效率的同時(shí)導(dǎo)致風(fēng)險(xiǎn)增加，事實(shí)一致性、責(zé)任可追溯性、交互安全和數(shù)據(jù)合規(guī)成為信任重建的關(guān)鍵要點(diǎn)。當(dāng)前，人工智能還不具有規(guī)范判斷和制度設(shè)計(jì)的能力，其透明性與倫理邊界仍依賴人的設(shè)定與監(jiān)督。對此，需構(gòu)建“人機(jī)協(xié)同”的治理格局，憑借技術(shù)治理、數(shù)據(jù)資源、用戶素養(yǎng)、生態(tài)協(xié)同等方面的共同推進(jìn)，落實(shí)工程化規(guī)則、合規(guī)數(shù)據(jù)底座和分層能力建設(shè)，重新塑造開放、透明、可審計(jì)、可問責(zé)的可信治理秩序。

【關(guān)鍵詞】生成式人工智能 大語言模型 可信治理 數(shù)據(jù)治理 多主體協(xié)同

【中圖分類號(hào)】TP18 【文獻(xiàn)標(biāo)識(shí)碼】A

隨著生成式人工智能技術(shù)的加速發(fā)展，基于大語言模型的內(nèi)容生成工具不斷嵌入政務(wù)問答、公眾咨詢、媒體傳播等領(lǐng)域，推動(dòng)信息生產(chǎn)方式由人工編輯向人機(jī)協(xié)作轉(zhuǎn)變。人工智能生成內(nèi)容（AIGC）呈現(xiàn)出生成智能化、規(guī)模擴(kuò)張化與主體多樣化的趨勢，顯著降低內(nèi)容生產(chǎn)的技術(shù)門檻，并引發(fā)社會(huì)信息結(jié)構(gòu)的深度調(diào)整。與此同時(shí)，“生成式治理”理念開始進(jìn)入公共事務(wù)領(lǐng)域。生成式人工智能技術(shù)通過全域數(shù)據(jù)感知、跨域知識(shí)萃取、多情景策略生成等機(jī)制，為公共治理提供新的方法論支撐①，對既有信任機(jī)制與規(guī)范體系提出更高要求。在此背景下，構(gòu)建兼具制度約束、公共價(jià)值導(dǎo)向與社會(huì)參與基礎(chǔ)的可信治理體系，已成為生成式人工智能發(fā)展中亟需回應(yīng)的關(guān)鍵議題。

大模型應(yīng)用正在重塑公眾信息認(rèn)知

在生成式人工智能融入內(nèi)容生產(chǎn)與傳播的過程中，信息的生成、使用與核驗(yàn)環(huán)節(jié)同步演化。這些變化系統(tǒng)性重塑內(nèi)容生產(chǎn)流程、用戶行為角色與信任評(píng)判基準(zhǔn)，深刻影響公眾對信息的認(rèn)知與判斷。

內(nèi)容創(chuàng)作門檻下降帶來生產(chǎn)主體協(xié)作多樣化。得益于大規(guī)模語言模型、多模態(tài)生成與自然語言理解等技術(shù)的發(fā)展，生成式人工智能顯著降低創(chuàng)作的技能門檻，使普通用戶在文本、圖像、音視頻乃至代碼的內(nèi)容生產(chǎn)中，具備與專業(yè)生產(chǎn)者相近的技術(shù)能力。低門檻的工具特性縮短了內(nèi)容生產(chǎn)周期，同時(shí)拓展公眾參與的廣度，使內(nèi)容創(chuàng)作從機(jī)構(gòu)主導(dǎo)走向以多方協(xié)同為特征的開放模式。生成式工具在與平臺(tái)分發(fā)機(jī)制的互動(dòng)中，逐漸削弱傳統(tǒng)由專業(yè)機(jī)構(gòu)主導(dǎo)的中心化格局，使內(nèi)容形態(tài)、生產(chǎn)結(jié)構(gòu)與協(xié)作邏輯，呈現(xiàn)出分布化、網(wǎng)絡(luò)化和多樣化的發(fā)展特征。

內(nèi)容交互特性增強(qiáng)使得用戶治理責(zé)任突顯化。生成式人工智能的交互特性，讓用戶在提示詞設(shè)計(jì)、迭代反饋、結(jié)果評(píng)估等環(huán)節(jié)，直接對信息生成的方向和質(zhì)量產(chǎn)生影響。同時(shí)，交互特性會(huì)影響用戶對輸出內(nèi)容的可信度判斷和使用行為②。從可信治理的角度來看，用戶維度需被納入大語言模型可信體系，這意味著用戶是內(nèi)容使用者，也是治理的參與者，需要在真實(shí)性判斷、風(fēng)險(xiǎn)識(shí)別和合規(guī)使用等方面承擔(dān)主體責(zé)任③。用戶不再只是“消費(fèi)者”，而是共建共治的參與者。用戶借助需求與提示限定生成邊界，依據(jù)真實(shí)性與合規(guī)性查驗(yàn)決定采信，憑借糾錯(cuò)與風(fēng)險(xiǎn)反饋驅(qū)動(dòng)平臺(tái)處置與模型迭代，這三者與技術(shù)流程、平臺(tái)規(guī)則相互配合，形成共塑信任、共擔(dān)責(zé)任的互動(dòng)格局。

內(nèi)容生成模式轉(zhuǎn)變要求信任保障機(jī)制制度化。在大模型驅(qū)動(dòng)的內(nèi)容生成過程中，傳統(tǒng)依靠信息源聲譽(yù)和身份背書的信任模式，難以應(yīng)對大模型幻覺頻發(fā)、算法不可完全解釋等問題，單純依靠來源判斷可信度的方式逐漸失去效用，取而代之的是以“可操控、可解釋、可問責(zé)”為特征的制度化信任基準(zhǔn)。這需要在算法透明、數(shù)據(jù)可追溯、責(zé)任可分配等方面形成剛性約束，讓生成過程可驗(yàn)證、生成風(fēng)險(xiǎn)可防控、生成責(zé)任可落實(shí)。依靠法律法規(guī)、行業(yè)標(biāo)準(zhǔn)與技術(shù)措施的協(xié)同嵌入，用戶對生成式內(nèi)容的信任基礎(chǔ)將從特征依賴轉(zhuǎn)向機(jī)制保障，進(jìn)而確保生成式人工智能在公共信息系統(tǒng)與社會(huì)治理中的可控性與可靠性。

生成式人工智能帶來的沖擊

當(dāng)前，大模型從應(yīng)用工具向通用基礎(chǔ)設(shè)施轉(zhuǎn)變，正在改變公共信任的形成途徑，并且在政務(wù)服務(wù)、媒體傳播，以及公共咨詢等場景之間引發(fā)連鎖反應(yīng)。

幻覺輸出削弱事實(shí)基礎(chǔ)。當(dāng)生成式人工智能缺乏高質(zhì)量數(shù)據(jù)支持時(shí)，就更容易生成看似合理但與事實(shí)不符的內(nèi)容。例如，除了政策條文虛構(gòu)、數(shù)據(jù)口徑混淆等情況外，還存在把北京懷柔的雁棲湖錯(cuò)誤描述為位于杭州這類地理信息方面的幻覺，這會(huì)削弱公共信息的事實(shí)基礎(chǔ)。從評(píng)估角度來看，“事實(shí)一致性”與“可驗(yàn)證性”意味著生成內(nèi)容需要在來源、證據(jù)鏈和時(shí)間這三個(gè)方面可被外部核查，在現(xiàn)實(shí)中常見三種缺口：一是出處指向不清晰或者引用不完整，讀者沒辦法定位原始依據(jù)；二是論證過程被省略，只留下結(jié)論陳述，導(dǎo)致證據(jù)鏈斷裂；三是數(shù)據(jù)時(shí)間與版本沒有標(biāo)注，舊口徑和新口徑混合使用。這些缺口疊加在一起，使得表面合理的表述難以被證實(shí)，并且持續(xù)放大“看似可靠、實(shí)則無據(jù)”的幻覺風(fēng)險(xiǎn)。由此可以看出，幻覺并非偶然的錯(cuò)誤，而是訓(xùn)練數(shù)據(jù)質(zhì)量、檢索增強(qiáng)精度、對齊機(jī)制和生成模式等多種因素疊加的結(jié)果。當(dāng)事實(shí)核查缺失或者不充分時(shí)，失真信息會(huì)在平臺(tái)機(jī)制及跨場景復(fù)用中不斷被放大，持續(xù)侵蝕公共認(rèn)知基礎(chǔ)。

算法黑箱阻斷責(zé)任界定。一些大模型內(nèi)部生產(chǎn)內(nèi)容過程的不透明，會(huì)導(dǎo)致外部主體無法驗(yàn)證結(jié)果的來源及其推理的邏輯。推理型大模型中引入的思維鏈生成與自更新機(jī)制，雖然提升了模型能力，但是也加大過程失去控制的風(fēng)險(xiǎn)④。結(jié)論不可解釋與過程失控的雙重特性，致使責(zé)任難以劃分與追溯。和“全生命周期可解釋與留痕”的要求相比，現(xiàn)實(shí)系統(tǒng)一般存在三個(gè)關(guān)鍵斷裂點(diǎn)：其一，外部難以查看模型的中間檢索步驟與推理路徑；其二，日志記錄中輸入處理、特征轉(zhuǎn)換與模型版本迭代的內(nèi)容往往缺失或不完整；其三，缺乏便于第三方獨(dú)立審查的可訪問驗(yàn)證接口。上述三點(diǎn)相互疊加，進(jìn)一步削弱識(shí)別錯(cuò)誤的能力，難以確定責(zé)任歸屬⑤。

交互過程存在安全風(fēng)險(xiǎn)。用戶與模型交互過程中缺乏提示詞編寫技巧和隱私泄露風(fēng)險(xiǎn)意識(shí)，在輸入時(shí)很容易無意識(shí)地將身份信息、商業(yè)秘密或者受保護(hù)的敏感內(nèi)容透露出來。生成式人工智能可能在多輪對話中保留敏感信息并在其他場景中意外暴露，而在平臺(tái)管理與用戶實(shí)踐中，對于敏感內(nèi)容提示、訪問權(quán)限設(shè)定、異常請求攔截及記錄留痕等關(guān)鍵環(huán)節(jié)，仍存在標(biāo)準(zhǔn)不一與執(zhí)行不力等問題。與此同時(shí)，用戶對平臺(tái)的信任程度與使用行為，還會(huì)受到系統(tǒng)界面提示與反饋內(nèi)容質(zhì)量的影響。當(dāng)風(fēng)險(xiǎn)提示缺失與留痕工作不完整時(shí)，敏感數(shù)據(jù)更易在多輪會(huì)話或協(xié)作場景中被非預(yù)期地重復(fù)調(diào)用與擴(kuò)散，用戶的核查意愿由于系統(tǒng)界面中輸出結(jié)果的確定性表達(dá)方式而降低，導(dǎo)致錯(cuò)誤信息在未經(jīng)驗(yàn)證下被迅速擴(kuò)散，放大潛在風(fēng)險(xiǎn)。

算法、算力、算據(jù)缺少可信治理機(jī)制的表現(xiàn)

在大模型能力和場景邊界不斷向外擴(kuò)展的情形下，支撐其實(shí)現(xiàn)“可控、可審計(jì)、可問責(zé)”的底層條件卻未能同步完善，使得大模型輸出結(jié)果難以復(fù)現(xiàn)、責(zé)任歸屬難以界定，同時(shí)在風(fēng)險(xiǎn)出現(xiàn)時(shí)缺乏靈活應(yīng)對機(jī)制。

算法側(cè)的可見性與合規(guī)審查有待提升。從可信治理的視角出發(fā)，算法系統(tǒng)理應(yīng)具備可解釋、可追溯與可問責(zé)等基本能力?，F(xiàn)實(shí)運(yùn)行中，這一完整責(zé)任鏈在多個(gè)關(guān)鍵環(huán)節(jié)發(fā)生斷裂。由于模型訓(xùn)練和微調(diào)階段的數(shù)據(jù)范圍、對齊策略與參數(shù)更新等關(guān)鍵信息披露不足，外部主體難以識(shí)別模型輸出所依賴的語料邊界與內(nèi)在約束，進(jìn)而壓縮了解釋基礎(chǔ)和監(jiān)管空間。模型版本控制與審計(jì)日志管理尚不規(guī)范，面對“同題異答”或“同題異時(shí)答”等現(xiàn)象，往往缺乏連續(xù)可追蹤的證據(jù)路徑，難以復(fù)原具體狀態(tài)與推理依據(jù)，影響輸出結(jié)果的穩(wěn)定性與復(fù)現(xiàn)能力。應(yīng)用界面反饋顯著影響用戶的信任感知，而內(nèi)容來源不標(biāo)注、提示不確定，以及檢索與計(jì)算工具調(diào)用不可見，使用戶難以評(píng)估推理過程的可靠性與證據(jù)強(qiáng)度，使“結(jié)果難判、責(zé)任難分”的處境進(jìn)一步加劇。算法偏誤與歧視難以被及時(shí)識(shí)別與糾正，倫理與侵權(quán)層面的合規(guī)壓力隨之上升。

算力側(cè)的隔離與供應(yīng)鏈可信度存在短板。算力作為運(yùn)行和服務(wù)的承載層面，對審計(jì)復(fù)現(xiàn)的邊界條件，以及證據(jù)完整性起到重要作用。當(dāng)下的難點(diǎn)主要呈現(xiàn)在四個(gè)方面：其一，系統(tǒng)對于少數(shù)軟硬件棧及固件版本存在高度依賴，這壓縮了供應(yīng)鏈的可驗(yàn)證空間，底層組件透明度欠缺，關(guān)鍵環(huán)節(jié)呈現(xiàn)出“黑箱化”，外部機(jī)構(gòu)難以建立穩(wěn)定的可核查基線。其二，多租戶共享與彈性調(diào)度已然成為常態(tài)，虛擬化隔離、側(cè)信道，以及緩存競爭等客觀因素提升了潛在干擾和信息外泄風(fēng)險(xiǎn)，推理行為的穩(wěn)定可觀測性降低。其三，跨地域集群在鏡像、驅(qū)動(dòng)、補(bǔ)丁與加速庫方面的版本一致性難以長時(shí)間維持，環(huán)境漂移減弱了結(jié)果復(fù)現(xiàn)和故障定位的可操作性。其四，在線服務(wù)的自動(dòng)擴(kuò)縮容和熱更新記錄粒度偏粗，運(yùn)行環(huán)境及權(quán)重版本在事后難以準(zhǔn)確對應(yīng)，致使審計(jì)與責(zé)任認(rèn)定面臨“關(guān)鍵證據(jù)缺位”的現(xiàn)實(shí)限制。上述這些因素相互疊加，使得“同一算法在不同時(shí)間或者環(huán)境表現(xiàn)存在差異”的概率增加，擴(kuò)大了外部核查及歸責(zé)的不確定性。

算據(jù)側(cè)受制于語料質(zhì)量不穩(wěn)定與權(quán)屬不清晰。數(shù)據(jù)（算據(jù)）質(zhì)量與合規(guī)是模型可信的地基，目前至少存在四類結(jié)構(gòu)性問題。一是語料來源多樣而權(quán)屬邊界不清，授權(quán)類型與使用條件缺乏機(jī)器可讀標(biāo)注，批量化治理中難以保持合規(guī)一致性。二是當(dāng)下數(shù)據(jù)污染和投毒的風(fēng)險(xiǎn)呈現(xiàn)出上升態(tài)勢，在網(wǎng)絡(luò)抓取內(nèi)容的過程中，夾雜了偽造或者質(zhì)量較低的樣本，而合成內(nèi)容回流到訓(xùn)練環(huán)節(jié)，引發(fā)分布漂移的情況，事實(shí)一致性及穩(wěn)健性都承受了壓力。三是元數(shù)據(jù)和版本管理記錄存在不完整的情況，具體涉及采集時(shí)點(diǎn)、處理流程、去重策略等方面。在此之后，時(shí)效退化、證據(jù)鏈斷裂的現(xiàn)象隨之出現(xiàn)，使得可追溯及外推判斷的空間被壓縮。四是樣本分布失衡與長尾的匱乏會(huì)造成系統(tǒng)性的偏差，一些特定的群體及專業(yè)場景存在著表征不足，公平性風(fēng)險(xiǎn)外溢。尤其在訓(xùn)練與優(yōu)化階段，若缺少授權(quán)核驗(yàn)與可追溯標(biāo)注，版權(quán)侵害與數(shù)據(jù)泄露風(fēng)險(xiǎn)將同步上升。上述因素共同作用，既降低生成結(jié)果與客觀事實(shí)的吻合度，又加劇對特定群體與專業(yè)場景的不利偏差，并在發(fā)生爭議時(shí)使生成依據(jù)與流轉(zhuǎn)路徑難以還原、責(zé)任界定更為困難。

構(gòu)建四位一體的可信治理方案

人工智能時(shí)代可信治理亟需從技術(shù)治理、資源建設(shè)、用戶賦能與生態(tài)培育四個(gè)維度系統(tǒng)推進(jìn)，所形成的可信治理方案需貫穿模型構(gòu)建、運(yùn)行至退場的全周期，并滿足可解釋性和可審計(jì)性的技術(shù)要求。

技術(shù)治理需轉(zhuǎn)化為具有執(zhí)行性的工程規(guī)則。技術(shù)治理需貫穿模型構(gòu)建、訓(xùn)練、部署到推理和退場的全流程，并形成標(biāo)準(zhǔn)化的操作規(guī)范。在準(zhǔn)入階段，根據(jù)應(yīng)用場景的不同對模型設(shè)定評(píng)估要求與限定范圍。在運(yùn)行階段，在日志中詳實(shí)記錄數(shù)據(jù)來源、處理方式、參數(shù)變化與運(yùn)行環(huán)境。在決策生成環(huán)節(jié)，呈現(xiàn)模型推理路徑并提供外部復(fù)核接口。在異常處置階段，建立應(yīng)對偏差輸出、數(shù)據(jù)違規(guī)與侵權(quán)的澄清披露、公開更正與用戶告知的標(biāo)準(zhǔn)響應(yīng)流程。另外，在責(zé)任劃分方面，圍繞數(shù)據(jù)供給、模型開發(fā)與應(yīng)用部署三類主體，明確責(zé)任邊界，并細(xì)化舉證流程與獎(jiǎng)懲處理機(jī)制。通過上述機(jī)制嵌入，可信治理將能夠?qū)崿F(xiàn)流程留痕、證據(jù)可查，將質(zhì)量控制與風(fēng)險(xiǎn)管理建立在系統(tǒng)性、可驗(yàn)證的技術(shù)基礎(chǔ)上。

資源建設(shè)需形成合規(guī)可用安全的公共底座。數(shù)據(jù)資源建設(shè)方面最關(guān)鍵的是利用公共平臺(tái)，統(tǒng)籌來源分散、質(zhì)量不齊及權(quán)屬不清的問題，形成高質(zhì)量、可溯源，并且可安全共享的算據(jù)基礎(chǔ)。具體而言，供給層面，整合權(quán)威數(shù)據(jù)與多語種平行語料，優(yōu)先補(bǔ)齊高質(zhì)量中文語料，保證來源可考、內(nèi)容可核、更新可持續(xù)。標(biāo)準(zhǔn)層面，圍繞采集、標(biāo)注、去重、清洗、更新與退出，明確必要的元數(shù)據(jù)要素，包括時(shí)間標(biāo)記、來源路徑與處理流程，并建立質(zhì)量評(píng)估與偏差檢測規(guī)則，降低統(tǒng)計(jì)口徑或版本漂移導(dǎo)致的證據(jù)鏈斷裂。合規(guī)模塊層面，推動(dòng)許可類型、使用范圍、期限管理與引用追溯的機(jī)器可讀標(biāo)注與自動(dòng)校核，平臺(tái)側(cè)同步落實(shí)加密存儲(chǔ)、訪問控制、用途限定與獨(dú)立審查，形成可檢查的合規(guī)閉環(huán)。工具與服務(wù)模塊層面，提供標(biāo)準(zhǔn)化接口、標(biāo)注與許可管理工具、引用追溯組件，以及偏差檢測與對齊評(píng)測服務(wù)，降低機(jī)構(gòu)與開發(fā)者的合規(guī)成本。運(yùn)行保障層面，借助建設(shè)指引、專項(xiàng)基金及績效評(píng)估等手段，形成“推動(dòng)立項(xiàng)—制定標(biāo)準(zhǔn)—組織評(píng)估—持續(xù)改進(jìn)”的閉環(huán)迭代過程，讓可用且可信的算據(jù)沉淀下來，成為訓(xùn)練、優(yōu)化與評(píng)測的共同基礎(chǔ)。

用戶賦能需以分層能力建設(shè)穩(wěn)住風(fēng)險(xiǎn)入口。用戶的合規(guī)性和認(rèn)知能力直接影響可信治理是否有效，因此需針對不同群體和場景制定相應(yīng)策略。使用端用戶需履行不濫用、不誤用、不擴(kuò)散的基本義務(wù)，并對生成內(nèi)容進(jìn)行必要的核實(shí)與規(guī)范引用：對于一般用戶，提升其在需求表達(dá)、提示詞設(shè)計(jì)、追問澄清、參數(shù)限制與結(jié)果核驗(yàn)等方面的能力，避免因輸入模糊或過度依賴模型輸出結(jié)果而導(dǎo)致誤判。對于政務(wù)問答、新聞采編和公眾咨詢等崗位人員，重點(diǎn)強(qiáng)化內(nèi)容來源的追溯能力、事實(shí)核查能力與敏感信息識(shí)別能力，并對交互記錄留痕，確?？刹尚诺年P(guān)鍵決策具備可查證依據(jù)。對于開發(fā)與管理人員，著重強(qiáng)化數(shù)據(jù)合規(guī)管理、輸出偏差識(shí)別、模型質(zhì)量評(píng)測與日志治理等能力，以提升系統(tǒng)供給側(cè)的穩(wěn)定性與可追溯性。另外，在標(biāo)準(zhǔn)化操作流程方面，建立起具有來源檢索、事實(shí)復(fù)核與偏差識(shí)別的基礎(chǔ)用戶操作流程，并且在關(guān)鍵場景保留交互記錄和版本信息，以便事后復(fù)核。在制度方面，可以把上述能力要求納入教育課程、職業(yè)培訓(xùn)和平臺(tái)使用規(guī)范，配套場景化提示模板、校驗(yàn)清單與風(fēng)險(xiǎn)告知，借助持續(xù)科普降低誤用概率，推動(dòng)構(gòu)建覆蓋廣泛的用戶治理體系。

生態(tài)培育需依托分級(jí)與協(xié)同機(jī)制形成閉環(huán)。面向跨域耦合、外溢面廣的生成式系統(tǒng)，需建立分級(jí)管理、各盡其責(zé)、協(xié)同運(yùn)轉(zhuǎn)的治理格局。分類分級(jí)依據(jù)場景風(fēng)險(xiǎn)與主體類型實(shí)施差異化要求：高風(fēng)險(xiǎn)領(lǐng)域從嚴(yán)準(zhǔn)入，并開展嚴(yán)格的上線審查與持續(xù)評(píng)估，低風(fēng)險(xiǎn)應(yīng)用以提示與教育為主，避免簡單化的一體規(guī)定。同時(shí)，激勵(lì)與約束并行，對落實(shí)數(shù)據(jù)與輸出治理、完成合規(guī)與倫理培訓(xùn)的主體給予正向激勵(lì)，對違規(guī)輸出與濫用行為依法依規(guī)分級(jí)處置，并把糾偏公開、用戶告知與復(fù)盤報(bào)告作為程序性要求。分工協(xié)作方面，政府部門負(fù)責(zé)制定標(biāo)準(zhǔn)規(guī)范、實(shí)施分級(jí)監(jiān)管并推動(dòng)信息公開，平臺(tái)與企業(yè)承擔(dān)數(shù)據(jù)合規(guī)與產(chǎn)品質(zhì)量責(zé)任，并開放必要的審計(jì)接口與評(píng)測通道，學(xué)術(shù)與專業(yè)機(jī)構(gòu)提供獨(dú)立評(píng)估與第三方審計(jì)能力，社會(huì)公眾與媒體參與監(jiān)督與反饋，形成內(nèi)外部共同約束的協(xié)同治理。此外，積極建設(shè)動(dòng)態(tài)評(píng)測平臺(tái)與事故復(fù)盤平臺(tái)，前者圍繞透明度、可解釋性與安全性，開展常態(tài)化測評(píng)并適度公開評(píng)測結(jié)果，后者通過沉淀典型案例、分析工具與操作流程，以服務(wù)跨部門聯(lián)動(dòng)、能力建設(shè)與規(guī)則優(yōu)化。在實(shí)施路徑上，優(yōu)先在外部影響顯著且信息敏感度高的場景，開展試點(diǎn)與限制范圍運(yùn)行，經(jīng)評(píng)估成熟后有序擴(kuò)展覆蓋范圍，逐步形成規(guī)則供給、平臺(tái)支撐、能力培育與社會(huì)監(jiān)督協(xié)同發(fā)力的長效治理體系。

以技術(shù)治理、數(shù)據(jù)資源、用戶教育與生態(tài)協(xié)同為重點(diǎn)的治理方案，旨在通過工程化規(guī)則、合規(guī)數(shù)據(jù)底座、分層能力建設(shè)和分級(jí)協(xié)同機(jī)制，重塑開放、透明、可審計(jì)、可問責(zé)的治理秩序。由于技術(shù)迭代迅速與案例積累有限，該方案在不同制度與文化語境下的適用性仍需進(jìn)一步驗(yàn)證。未來研究可從兩個(gè)方向深化：一是針對政務(wù)服務(wù)、醫(yī)療咨詢、金融決策等高敏感場景，建立可審計(jì)、可追責(zé)的責(zé)任閉環(huán)；二是構(gòu)建可信治理成熟度評(píng)估指標(biāo)體系，以衡量不同國家與行業(yè)的治理能力水平。同時(shí)，還需前瞻性關(guān)注量子計(jì)算、腦機(jī)接口等新興技術(shù)疊加帶來的治理風(fēng)險(xiǎn)?？傮w而言，人工智能治理體系需通過制度嵌入與人機(jī)協(xié)同雙重路徑，推動(dòng)實(shí)現(xiàn)從風(fēng)險(xiǎn)對抗到協(xié)同共生的范式躍遷。

【注：本文系北京市社會(huì)科學(xué)基金項(xiàng)目（項(xiàng)目編號(hào)：25GJA010）與北京高校思想政治工作研究重點(diǎn)課題（項(xiàng)目編號(hào)：BJSZ2025ZD03）研究成果】

【注釋】

①米加寧：《生成式治理：大模型時(shí)代的治理新范式》，《中國社會(huì)科學(xué)》，2024年第10期。

②吳丹、孫國燁：《生成式智能搜索結(jié)果可信度研究》，《中國圖書館學(xué)報(bào)》，2023年第6期。

③錢明輝、李胡蓉、楊建梁：《大語言模型可信：內(nèi)涵、影響、挑戰(zhàn)與對策》，《圖書情報(bào)工作》，2024年第20期。

④龔煊：《推理模型的治理悖論與突破》，《情報(bào)雜志》，2025年第8期。

⑤孔祥維、王子明、王明征等：《人工智能使能系統(tǒng)的可信決策：進(jìn)展與挑戰(zhàn)》，《管理工程學(xué)報(bào)》，2022年第6期。

責(zé)編/李丹妮 美編/王夢雅

聲明：本文為人民論壇雜志社原創(chuàng)內(nèi)容，任何單位或個(gè)人轉(zhuǎn)載請回復(fù)本微信號(hào)獲得授權(quán)，轉(zhuǎn)載時(shí)務(wù)必標(biāo)明來源及作者，否則追究法律責(zé)任。