【摘要】隨著大數(shù)據(jù)、生成式人工智能等技術(shù)的快速變革與深度發(fā)展，不同國(guó)家針對(duì)人工智能的治理表現(xiàn)出顯著的路徑差異，我國(guó)堅(jiān)持統(tǒng)籌發(fā)展和安全，為人工智能技術(shù)的發(fā)展與應(yīng)用指明新的方向。人工智能成為推進(jìn)社會(huì)治理現(xiàn)代化的重要支撐和關(guān)鍵路徑，在治理模式、治理機(jī)制、治理效能方面展現(xiàn)出強(qiáng)大的賦能效應(yīng)。基于統(tǒng)籌發(fā)展和安全的基本原則，我國(guó)社會(huì)治理現(xiàn)代化仍面臨“發(fā)展不足”和“風(fēng)險(xiǎn)積累”的雙重挑戰(zhàn)，從實(shí)際出發(fā)，在加大創(chuàng)新、推動(dòng)發(fā)展的同時(shí)，一方面需緊跟前沿、加大投入，全方位推動(dòng)人工智能賦能社會(huì)治理效能提升；另一方面要以人為本、制度創(chuàng)新，全方位構(gòu)筑人工智能時(shí)代的風(fēng)險(xiǎn)防控體系，努力為智能社會(huì)現(xiàn)代化治理提供中國(guó)方案和中國(guó)經(jīng)驗(yàn)。
【關(guān)鍵詞】人工智能 社會(huì)治理 賦能效應(yīng) 現(xiàn)實(shí)困境 制度回應(yīng)
【中圖分類號(hào)】C93 【文獻(xiàn)標(biāo)識(shí)碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2026.07.011
【作者簡(jiǎn)介】陶希東，上海社會(huì)科學(xué)院智庫(kù)研究中心副主任、研究員。研究方向?yàn)樯鐣?huì)治理、區(qū)域治理、行政區(qū)劃，主要著作有《全球超大城市社會(huì)治理模式與經(jīng)驗(yàn)》《世界發(fā)達(dá)國(guó)家或地區(qū)社會(huì)治理的十大經(jīng)驗(yàn)》《中國(guó)跨界區(qū)域管理：理論與實(shí)踐探索》等。
全球人工智能變局與中國(guó)治理的“發(fā)展-安全”新議程
全球人工智能技術(shù)呈現(xiàn)指數(shù)級(jí)增長(zhǎng)態(tài)勢(shì)。人類社會(huì)的發(fā)展過(guò)程就是一部科技進(jìn)步史，技術(shù)革新與社會(huì)發(fā)展處于同步演進(jìn)之中。隨著大數(shù)據(jù)、區(qū)塊鏈、云計(jì)算、人工智能等信息技術(shù)革新，人類社會(huì)發(fā)展邁入數(shù)智時(shí)代。作為人工智能領(lǐng)域創(chuàng)新的重要突破，2022年以來(lái)出現(xiàn)的ChatGPT、DeepSeek等生成式人工智能大模型，不僅能夠?qū)崿F(xiàn)自然語(yǔ)言對(duì)話、圖像生成等基礎(chǔ)功能，更在政策模擬、輿情分析、公共服務(wù)優(yōu)化等社會(huì)治理領(lǐng)域展現(xiàn)出革命性潛力。[1]自此，人工智能技術(shù)發(fā)展速度和關(guān)注度呈指數(shù)級(jí)增長(zhǎng)，這預(yù)示著人工智能將給人類發(fā)展帶來(lái)無(wú)限可能，但也將帶來(lái)多重風(fēng)險(xiǎn)挑戰(zhàn)。習(xí)近平總書記指出，完善人工智能監(jiān)管體制機(jī)制，牢牢掌握人工智能發(fā)展和治理主動(dòng)權(quán)。[2]當(dāng)下，如何處理好人工智能發(fā)展與治理的關(guān)系，是亟須世界各國(guó)政府共同應(yīng)對(duì)的全球性治理難題。
如何治理人工智能尚未達(dá)成國(guó)際共識(shí)。作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，人工智能是人類發(fā)展的新領(lǐng)域和國(guó)際競(jìng)爭(zhēng)的新賽道，隨著生成式人工智能的加速發(fā)展，關(guān)于其相對(duì)風(fēng)險(xiǎn)和收益的辯論也在加劇，尚未在國(guó)際治理領(lǐng)域達(dá)成共識(shí)。有的“技術(shù)樂(lè)觀主義者”指出，人類的生產(chǎn)力、探索和創(chuàng)造力將呈指數(shù)級(jí)增長(zhǎng)；而反對(duì)者則擔(dān)心，人工智能的高速發(fā)展，將會(huì)給經(jīng)濟(jì)、倫理、環(huán)境等領(lǐng)域帶來(lái)一系列嚴(yán)峻挑戰(zhàn)，認(rèn)為“不受控制的人工智能發(fā)展到最后，可能造成大規(guī)模的生命損失和生物圈傷害，甚至可能危及人類自身安全”。[3]在國(guó)際治理層面，各國(guó)基于自身利益制定人工智能治理規(guī)則，缺乏統(tǒng)一框架。例如，歐盟的《人工智能法案》強(qiáng)調(diào)“風(fēng)險(xiǎn)分級(jí)監(jiān)管”，對(duì)高風(fēng)險(xiǎn)人工智能（如生物識(shí)別）設(shè)置嚴(yán)格合規(guī)要求，中心治理目標(biāo)在于保障公民數(shù)字人權(quán)；美國(guó)則采取以創(chuàng)新優(yōu)先為導(dǎo)向的分散式治理，推行“行業(yè)自律優(yōu)先”“敏捷監(jiān)管”，聯(lián)邦層面僅出臺(tái)指導(dǎo)性文件，未明確強(qiáng)制標(biāo)準(zhǔn)，以最小化政府干預(yù)為原則推動(dòng)技術(shù)發(fā)展，[4]并制定《美國(guó)人工智能行動(dòng)計(jì)劃》，力圖維持美國(guó)在人工智能領(lǐng)域的領(lǐng)先地位。這場(chǎng)對(duì)于人工智能相對(duì)風(fēng)險(xiǎn)和收益的辯論，使得全球人工智能發(fā)展處于機(jī)遇和挑戰(zhàn)并存的“戰(zhàn)略十字路口”。
人工智能是一把機(jī)遇挑戰(zhàn)并存的“雙刃劍”。當(dāng)前，雖然關(guān)于生成式人工智能的變革潛力尚未達(dá)成國(guó)際共識(shí)，世界上各類機(jī)構(gòu)卻已提出至少200項(xiàng)的人工智能倫理原則和框架，幾乎沒(méi)有人質(zhì)疑其廣泛的經(jīng)濟(jì)和社會(huì)影響。人工智能助力諸多科學(xué)研究領(lǐng)域?qū)崿F(xiàn)突破，如谷歌旗下的DeepMind基于AlphaFold框架開(kāi)發(fā)的全新人工智能系統(tǒng)，將蛋白質(zhì)復(fù)合物結(jié)構(gòu)方面的預(yù)測(cè)準(zhǔn)確率提升了60%，這對(duì)于理解疾病機(jī)制和藥物開(kāi)發(fā)具有重要意義，有助于科研人員盡快研制出治療癌癥、阿爾茨海默病等重大疾病的新藥。但與此同時(shí)，來(lái)自合成圖像的虛假信息威脅、利用聲音模仿技術(shù)欺詐毫無(wú)戒備的受害者的騙局、人工智能算法中的歧視和偏見(jiàn)，以及聊天機(jī)器人提供不準(zhǔn)確回應(yīng)所造成的一系列問(wèn)題接踵而至，給人類社會(huì)帶來(lái)巨大安全隱患和風(fēng)險(xiǎn)挑戰(zhàn)。
統(tǒng)籌發(fā)展和安全的人工智能治理方針。解決因人工智能技術(shù)深度應(yīng)用而造成的社會(huì)問(wèn)題，需平衡技術(shù)利益實(shí)現(xiàn)和未來(lái)風(fēng)險(xiǎn)防范。對(duì)此，與世界上大多數(shù)國(guó)家采取自由放任（以美國(guó)為典型代表）、強(qiáng)制命令與控制（以歐盟為代表）的治理路徑不同，中國(guó)則采取“統(tǒng)籌發(fā)展和安全”的方針，認(rèn)為發(fā)展和安全是一體之兩翼、驅(qū)動(dòng)之雙輪，需要統(tǒng)籌兼顧、協(xié)同推進(jìn)。推動(dòng)發(fā)展和安全深度融合，以高質(zhì)量發(fā)展促進(jìn)高水平安全，以高水平安全保障高質(zhì)量發(fā)展，實(shí)現(xiàn)發(fā)展和安全動(dòng)態(tài)平衡、相得益彰。[5]在此方針指引下，我國(guó)順應(yīng)和遵循人工智能發(fā)展演進(jìn)的歷史潮流，不僅高度重視人工智能同社會(huì)治理的結(jié)合，發(fā)揮人工智能技術(shù)優(yōu)勢(shì)，著力破解社會(huì)治理中的各種難題，而且也注重通過(guò)立法、技術(shù)等手段，努力防范技術(shù)風(fēng)險(xiǎn)和社會(huì)失序。例如，一方面國(guó)家制定實(shí)施《國(guó)務(wù)院關(guān)于深入實(shí)施“人工智能＋”行動(dòng)的意見(jiàn)》，明確推動(dòng)“人工智能＋”治理能力創(chuàng)新，全面提升治理效能和治理現(xiàn)代化；另一方面同步頒布《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》等法律法規(guī)，依法促進(jìn)人工智能健康發(fā)展和規(guī)范應(yīng)用。[6]
在全球人工智能領(lǐng)域多點(diǎn)突破、交叉融合的背景下，我國(guó)社會(huì)治理現(xiàn)代化深受國(guó)際人工智能技術(shù)競(jìng)爭(zhēng)態(tài)勢(shì)和治理博弈的影響，尤其是在我國(guó)統(tǒng)籌發(fā)展和安全的方針指引下，“如何利用技術(shù)提升社會(huì)治理效能”的議題，演變?yōu)?ldquo;如何在確保國(guó)家安全、社會(huì)秩序與數(shù)據(jù)主權(quán)（安全）的前提下，最大程度釋放人工智能的創(chuàng)新活力與發(fā)展動(dòng)能（發(fā)展），提升我國(guó)在人工智能技術(shù)社會(huì)應(yīng)用領(lǐng)域的全球話語(yǔ)權(quán)、規(guī)則制定權(quán)”，以期在激烈的全球人工智能發(fā)展競(jìng)爭(zhēng)中，實(shí)現(xiàn)中國(guó)社會(huì)治理體系的整體性升級(jí)，開(kāi)創(chuàng)更加精準(zhǔn)、高效、安全的社會(huì)治理現(xiàn)代化新局面，為全球人工智能治理提供中國(guó)方案、中國(guó)經(jīng)驗(yàn)。
人工智能重塑中國(guó)社會(huì)治理現(xiàn)代化的效能基礎(chǔ)
近年來(lái)，生成式人工智能在全球掀起創(chuàng)新浪潮，不僅重構(gòu)全球人工智能的競(jìng)爭(zhēng)格局，而且深度應(yīng)用到公共安全、政務(wù)服務(wù)、社會(huì)服務(wù)等諸多社會(huì)治理領(lǐng)域。從發(fā)展的視角看，人工智能賦能我國(guó)社會(huì)治理的基礎(chǔ)效應(yīng)主要體現(xiàn)在三個(gè)方面。
從“經(jīng)驗(yàn)治理”到“模型治理”：決策范式的科學(xué)優(yōu)化與治理效能的系統(tǒng)躍升。面對(duì)超大規(guī)模、結(jié)構(gòu)多樣的社會(huì)群體，政府如何在合理范圍內(nèi)最大限度地獲取社會(huì)數(shù)據(jù)和社會(huì)行動(dòng)者信息，從而作出全面、科學(xué)的決策，竭力實(shí)現(xiàn)治理的精細(xì)化、高效化，是實(shí)現(xiàn)社會(huì)治理現(xiàn)代化的基礎(chǔ)和前提。在沒(méi)有大數(shù)據(jù)、人工智能支撐的條件下，政府大多依賴線下數(shù)據(jù)，政策的科學(xué)性、針對(duì)性、有效性存在一定局限。建立在大數(shù)據(jù)、算法、算力基礎(chǔ)上的人工智能，則驅(qū)動(dòng)政府決策從“人腦”的經(jīng)驗(yàn)判斷轉(zhuǎn)向“算法模型”的模擬推演與優(yōu)化求解，依托大數(shù)據(jù)構(gòu)建需求驅(qū)動(dòng)、模型推演和情景模擬的決策范式，社會(huì)服務(wù)的精準(zhǔn)化程度和社會(huì)治理效能得到系統(tǒng)性躍升。例如，近年來(lái)一些地方在大數(shù)據(jù)和人工智能協(xié)助下，在社會(huì)救助、生育補(bǔ)貼發(fā)放、企業(yè)退稅等領(lǐng)域，實(shí)現(xiàn)從傳統(tǒng)的“人或企業(yè)找政策”向“政策找人或企業(yè)”的轉(zhuǎn)變，形成數(shù)據(jù)驅(qū)動(dòng)、主動(dòng)觸達(dá)、精準(zhǔn)適配的服務(wù)新范式。
從“科層治理”到“平臺(tái)治理”：組織形態(tài)的扁平化重構(gòu)和服務(wù)管理的跨部門協(xié)同。從治理體制機(jī)制上看，社會(huì)治理現(xiàn)代化的基本要求，是更好適應(yīng)數(shù)字經(jīng)濟(jì)時(shí)代社會(huì)要素流動(dòng)和經(jīng)濟(jì)社會(huì)跨界融合發(fā)展大趨勢(shì)，全面搭建跨層級(jí)、跨部門、跨領(lǐng)域的綜合性治理平臺(tái)，通過(guò)系統(tǒng)集成、數(shù)據(jù)共享、協(xié)同聯(lián)動(dòng)，實(shí)現(xiàn)高效率為民為企服務(wù)、高效率處置社會(huì)公共事件的目的。而要實(shí)現(xiàn)這樣的平臺(tái)治理，離不開(kāi)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等現(xiàn)代科技的深度賦能和有效支撐。相應(yīng)地，人工智能通過(guò)構(gòu)建協(xié)同平臺(tái)，推動(dòng)政府結(jié)構(gòu)從“金字塔式”向“扁平化、網(wǎng)絡(luò)化”演進(jìn)，極大提升跨部門協(xié)同效能。中國(guó)各大城市的社會(huì)治理實(shí)踐可以充分證明這一點(diǎn)，最具有代表性的當(dāng)屬上海在全國(guó)首創(chuàng)推出政務(wù)服務(wù)“一網(wǎng)通辦”和城市運(yùn)行“一網(wǎng)統(tǒng)管”，成為人工智能時(shí)代全球超大城市跨部門協(xié)同治理的典范。
從“事后治理”到“預(yù)見(jiàn)治理”：能力維度的時(shí)空拓展與安全風(fēng)險(xiǎn)的預(yù)判預(yù)警。完善共建共治共享的社會(huì)治理制度，除隱患、防風(fēng)險(xiǎn)、保安全，全面構(gòu)筑安全韌性的城鄉(xiāng)社會(huì)，既是社會(huì)治理現(xiàn)代化的關(guān)鍵任務(wù)，也是檢驗(yàn)治理現(xiàn)代化成效的重要試金石。從這一視角來(lái)看，過(guò)去面對(duì)各種不確定性安全風(fēng)險(xiǎn)，“看不見(jiàn)、想不到、防不住”是關(guān)鍵的治理難題。而人工智能依賴自動(dòng)感知、數(shù)據(jù)融合、模式識(shí)別與動(dòng)態(tài)推理等數(shù)據(jù)算法優(yōu)勢(shì)而特有的預(yù)測(cè)預(yù)警能力，將治理的觸角從“已發(fā)生”的事件延伸至“將發(fā)生”的風(fēng)險(xiǎn)，實(shí)質(zhì)推動(dòng)從事后治理向事前預(yù)防轉(zhuǎn)變，極大增強(qiáng)社會(huì)系統(tǒng)的韌性與穩(wěn)定性。此類實(shí)踐案例在全國(guó)各地屢見(jiàn)不鮮，人工智能正在重新定義人類感知風(fēng)險(xiǎn)的能力邊界，社會(huì)風(fēng)險(xiǎn)治理正實(shí)現(xiàn)從“人工巡檢”向“智能預(yù)警”的轉(zhuǎn)變，有助于真正實(shí)現(xiàn)防患于未然。
發(fā)展邏輯下智能社會(huì)治理的內(nèi)部瓶頸
社會(huì)領(lǐng)域新基建建設(shè)不夠充分。所謂“社會(huì)領(lǐng)域新基建”，是指面向教育、醫(yī)療、養(yǎng)老、就業(yè)、社區(qū)治理、社會(huì)保障等民生和社會(huì)治理中心領(lǐng)域的數(shù)字化、智能化基礎(chǔ)設(shè)施，這是全面深化人工智能賦能社會(huì)治理的重要物質(zhì)基礎(chǔ)和運(yùn)行條件。當(dāng)前，我國(guó)個(gè)別城市在這一領(lǐng)域的建設(shè)仍存在“三重三輕”現(xiàn)象：重經(jīng)濟(jì)型基建、輕社會(huì)型基建；重城市中心、輕城鄉(xiāng)均衡；重硬件部署、輕系統(tǒng)集成與持續(xù)運(yùn)營(yíng)，尤其是城鄉(xiāng)之間存在信息設(shè)施和技術(shù)方面的差距，致使人工智能應(yīng)用難以在鄉(xiāng)村地區(qū)落地。這是我國(guó)人工智能賦能社會(huì)治理中一個(gè)短板，不僅制約人工智能技術(shù)在民生服務(wù)、基層治理、公共安全等領(lǐng)域的深度應(yīng)用，也影響國(guó)家治理體系現(xiàn)代化的整體效能。
人工智能技術(shù)應(yīng)用場(chǎng)景規(guī)模及適配性不足。針對(duì)社會(huì)治理的各種問(wèn)題挑戰(zhàn)，開(kāi)發(fā)開(kāi)放規(guī)模化的創(chuàng)新應(yīng)用場(chǎng)景，是發(fā)揮人工智能賦能社會(huì)治理的重要橋梁和載體。然而，人工智能技術(shù)應(yīng)用于社會(huì)治理領(lǐng)域主要集中在治安防控、交通管理、政務(wù)服務(wù)“一網(wǎng)通辦”等方面，在更為復(fù)雜、需要人性化判斷的領(lǐng)域，如社會(huì)矛盾調(diào)解、社區(qū)情感融合、困難群體精準(zhǔn)幫扶等方面，人工智能有效應(yīng)用的場(chǎng)景有限，人工智能賦能仍存在技術(shù)盲區(qū)。同時(shí)，當(dāng)前人工智能在治理中的應(yīng)用多集中于“單一環(huán)節(jié)”，如政務(wù)服務(wù)的智能客服、交通領(lǐng)域的違章識(shí)別，尚未深度融入“問(wèn)題發(fā)現(xiàn)—決策制定—執(zhí)行監(jiān)督—效果評(píng)估”的治理全流程。例如，一些城市的人工智能風(fēng)險(xiǎn)預(yù)警系統(tǒng)，僅能識(shí)別公共安全隱患，卻無(wú)法聯(lián)動(dòng)資源調(diào)配、應(yīng)急處置模塊，導(dǎo)致“預(yù)警≠解決”。此外，當(dāng)前諸多人工智能治理工具的“適老化”與“無(wú)障礙化”設(shè)計(jì)不足，老年人群難以獲得人工智能賦能社會(huì)治理的紅利，不同群體間數(shù)字鴻溝較為明顯。
數(shù)據(jù)共享不足且數(shù)據(jù)質(zhì)量有待提高。數(shù)據(jù)是人工智能的主要“燃料”。構(gòu)建高效的人工智能治理場(chǎng)景，關(guān)鍵在于獲得多維度共享的高質(zhì)量數(shù)據(jù)，尤其要確保治理要素?cái)?shù)據(jù)的“全量、高質(zhì)、鮮活”，這對(duì)提升人工智能大模型的公平性、精準(zhǔn)性、預(yù)判性至關(guān)重要。但實(shí)際上，當(dāng)前數(shù)據(jù)治理能力在一定程度上滯后于人工智能技術(shù)發(fā)展的需求。一方面，跨部門、跨層級(jí)、跨區(qū)域的數(shù)據(jù)共享尚未完全實(shí)現(xiàn)，人工智能輔助治理難以建立完整的治理畫像，多要素動(dòng)態(tài)關(guān)聯(lián)的分析準(zhǔn)確性降低，無(wú)法跨場(chǎng)景協(xié)同；另一方面，不同部門、區(qū)域的數(shù)據(jù)采集標(biāo)準(zhǔn)、形式不一，大量非標(biāo)準(zhǔn)化數(shù)據(jù)清洗成本高、誤差大，在一些基層治理場(chǎng)景中，甚至存在數(shù)據(jù)錄入不規(guī)范、更新不及時(shí)的問(wèn)題，這種低質(zhì)量數(shù)據(jù)容易造成人工智能算法應(yīng)用的偏差乃至產(chǎn)生錯(cuò)誤，影響人工智能決策的準(zhǔn)確性和有效性。
滿足智能治理需求的復(fù)合型人才較為缺乏。具備良好數(shù)字素養(yǎng)的民眾、既懂?dāng)?shù)字技術(shù)又懂社會(huì)治理的復(fù)合型人才，是加快推動(dòng)、更好發(fā)揮人工智能賦能社會(huì)治理功效的重要力量。但在人工智能賦能社會(huì)治理的實(shí)際進(jìn)程中，在頂層設(shè)計(jì)和核心技術(shù)攻關(guān)層面，既懂前沿技術(shù)又深諳公共治理之道的戰(zhàn)略科學(xué)家和領(lǐng)軍人才仍然不足，導(dǎo)致技術(shù)研發(fā)與治理應(yīng)用融合不足；在中層項(xiàng)目落地和執(zhí)行層面，業(yè)務(wù)和技術(shù)之間的橋梁型人才相對(duì)缺乏，治理需求和技術(shù)方案難以有效轉(zhuǎn)換銜接，政府部門中既熟悉公安、城管、民政等具體業(yè)務(wù)，又掌握數(shù)據(jù)科學(xué)、算法模型知識(shí)的項(xiàng)目負(fù)責(zé)人較為稀缺，存在需求未能明確、項(xiàng)目管理協(xié)調(diào)性不足，且效果難以評(píng)估的情況；在最終使用環(huán)節(jié)，廣大基層公務(wù)員和社區(qū)工作者的數(shù)字素養(yǎng)和人工智能應(yīng)用能力仍需提升，努力發(fā)揮出先進(jìn)的治理工具在“最后一公里”的重要作用。
安全邏輯下中國(guó)智能社會(huì)治理的外部性風(fēng)險(xiǎn)
人工智能快速發(fā)展引發(fā)就業(yè)替代效應(yīng)。人工智能在社會(huì)治理和經(jīng)濟(jì)運(yùn)行中大規(guī)模應(yīng)用的同時(shí)，可能引發(fā)就業(yè)結(jié)構(gòu)失衡、技能錯(cuò)配、收入差距擴(kuò)大等一系列社會(huì)問(wèn)題。這些問(wèn)題若不加以重視和調(diào)控，或?qū)⒀葑優(yōu)橄到y(tǒng)性社會(huì)風(fēng)險(xiǎn)。值得高度關(guān)注的是，當(dāng)前人工智能技術(shù)發(fā)展對(duì)就業(yè)的替代效應(yīng)局部顯現(xiàn)，并呈現(xiàn)擴(kuò)散趨勢(shì)，[7]據(jù)世界經(jīng)濟(jì)論壇和國(guó)際勞工組織的數(shù)據(jù)，全球約有8500萬(wàn)到1.5億個(gè)工作崗位面臨被人工智能取代的風(fēng)險(xiǎn)。就中國(guó)而言，以人工智能、無(wú)人駕駛等技術(shù)興起為代表的新一輪科技革命浪潮來(lái)襲，部分領(lǐng)域“機(jī)器換人潮”已經(jīng)出現(xiàn)，對(duì)就業(yè)市場(chǎng)和社會(huì)心理均帶來(lái)一定沖擊。國(guó)內(nèi)一項(xiàng)研究表明，76.87%的大學(xué)生明確表示，由于招聘單位對(duì)人工智能相關(guān)技能的需求增加，其求職壓力顯著增大。[8]此類現(xiàn)象亟待政策層面的關(guān)注。
數(shù)據(jù)安全與隱私泄露導(dǎo)致的社會(huì)秩序風(fēng)險(xiǎn)。涉及十多億人口和數(shù)千萬(wàn)企業(yè)主體的超大規(guī)模數(shù)據(jù)，是人工智能賦能城市或社會(huì)治理場(chǎng)景有效運(yùn)轉(zhuǎn)的支柱。在此過(guò)程中，如何依法確保各類數(shù)據(jù)安全、各類主體隱私信息不被泄露，是一個(gè)關(guān)乎社會(huì)能否實(shí)現(xiàn)秩序活力并存、人民能否信任技術(shù)的重大議題。當(dāng)前數(shù)據(jù)安全形勢(shì)復(fù)雜嚴(yán)峻，[9]在“數(shù)據(jù)越多、模型越準(zhǔn)”的邏輯下，在各種大模型建構(gòu)及其個(gè)人信息收集、使用和保護(hù)過(guò)程中，相關(guān)法律銜接協(xié)調(diào)機(jī)制仍不夠完善，存在信息收集泛化、數(shù)據(jù)保護(hù)不力、個(gè)人隱私泄露等問(wèn)題。比如，員工在使用ChatGPT、DeepSeek等工具時(shí)，往往忽視信息留痕與泄漏風(fēng)險(xiǎn)，使企業(yè)在不知不覺(jué)中暴露敏感數(shù)據(jù)。再如，被稱為“帶娃神器”的人工智能玩具，其國(guó)內(nèi)市場(chǎng)正持續(xù)升溫，備受追捧，但其內(nèi)置的高敏麥克風(fēng)和超廣角攝像頭等設(shè)備，增加孩子的語(yǔ)音和行為信息、家庭對(duì)話內(nèi)容，甚至居住環(huán)境等隱私數(shù)據(jù)泄露的風(fēng)險(xiǎn)。又如，國(guó)內(nèi)手機(jī)廠商接入DeepSeek大模型成為趨勢(shì)，手機(jī)智能助手接入人工智能多模態(tài)大模型后，可在繞過(guò)第三方APP授權(quán)的基礎(chǔ)上，以“識(shí)屏＋模擬點(diǎn)擊”的方式實(shí)現(xiàn)各種功能，在帶來(lái)便利的同時(shí)存在隱私風(fēng)險(xiǎn)。更為嚴(yán)重的是，一些不法分子利用人工智能驅(qū)動(dòng)的深度偽造技術(shù)、人工智能換臉制作技術(shù)、語(yǔ)音克隆等手段，實(shí)施詐騙或套取機(jī)密，進(jìn)一步加劇信息泄露的復(fù)雜性和危害性，對(duì)用戶的人身安全帶來(lái)巨大威脅。此外，一些網(wǎng)民或自媒體為追求流量，利用人工智能造假生成網(wǎng)絡(luò)謠言，不僅誤導(dǎo)民眾，更擾亂了社會(huì)秩序。
污染數(shù)據(jù)運(yùn)行下的算法產(chǎn)生偏見(jiàn)及加劇社會(huì)不平等風(fēng)險(xiǎn)。不斷縮小社會(huì)差距、促進(jìn)社會(huì)平等，是中國(guó)社會(huì)治理現(xiàn)代化的重要目標(biāo)。在人工智能技術(shù)賦能社會(huì)治理過(guò)程中，確保各種大模型算法的透明、公平、公正，通過(guò)消除或降低算法偏見(jiàn)來(lái)提升輸出結(jié)果的客觀性和可靠性，是確保智能社會(huì)更加平等、包容、公平的重要保證。但實(shí)踐中，因受大模型開(kāi)發(fā)者價(jià)值觀、訓(xùn)練數(shù)據(jù)樣本結(jié)構(gòu)缺陷、數(shù)字鴻溝（也稱為數(shù)據(jù)污染）等影響，算法本身可能存在偏見(jiàn)或誤差，深度學(xué)習(xí)模型從有偏數(shù)據(jù)中習(xí)得并產(chǎn)生歧視性輸出，或?qū)⑦M(jìn)一步加劇社會(huì)群體的分化和社會(huì)不平等。當(dāng)人工智能系統(tǒng)助力在醫(yī)療保健、執(zhí)法和人力資源等領(lǐng)域作出改變生活的決策時(shí)，亦需重視因算法偏見(jiàn)而產(chǎn)生的不良影響。當(dāng)前，一些大模型算法因其商業(yè)性而高度不透明，其潛在風(fēng)險(xiǎn)少有公開(kāi)案例，但從互聯(lián)網(wǎng)商家的“大數(shù)據(jù)殺熟”、猜測(cè)用戶喜好的算法推薦等技術(shù)應(yīng)用中可見(jiàn)端倪。在算法的引導(dǎo)下，用戶傾向待在自己的信息舒適區(qū)，如有的老年人尤為偏愛(ài)算法推薦的短視頻，從而出現(xiàn)相互孤立的“信息繭房”，不僅對(duì)人們的心理和精神健康帶來(lái)負(fù)面影響，也不利于社會(huì)共識(shí)的達(dá)成，為社會(huì)整合性治理帶來(lái)挑戰(zhàn)。
人機(jī)共生治理中責(zé)任邊界不清引發(fā)的社會(huì)矛盾風(fēng)險(xiǎn)。清晰界定責(zé)任歸屬，高效化解和處置社會(huì)矛盾糾紛事件，是中國(guó)社會(huì)治理現(xiàn)代化的應(yīng)有之義。但在大模型深度參與公共事務(wù)治理的場(chǎng)景中，相關(guān)責(zé)任歸屬與界定存在模糊不清的現(xiàn)象，一旦用戶在醫(yī)療、司法、公共安全或其他領(lǐng)域，因?yàn)槿斯ぶ悄芟到y(tǒng)幻覺(jué)或故障而出現(xiàn)決策失誤、發(fā)生事故時(shí)，損失后果的歸責(zé)問(wèn)題亟待厘清：究竟是產(chǎn)品責(zé)任還是服務(wù)責(zé)任？這是當(dāng)下需要高度重視的社會(huì)治理風(fēng)險(xiǎn)問(wèn)題。隨著人工智能的深度應(yīng)用和商業(yè)化推進(jìn)，責(zé)任界定不清引發(fā)的社會(huì)矛盾糾紛可能越來(lái)越多。比如，2025年11月，一則“保安和人工智能對(duì)話6個(gè)月，打印50萬(wàn)字聊天記錄要討說(shuō)法”的新聞引發(fā)全網(wǎng)關(guān)注，不僅展現(xiàn)人工智能技術(shù)便利帶來(lái)的認(rèn)知鴻溝與情感迷思問(wèn)題，也引發(fā)責(zé)任歸屬界定問(wèn)題，大模型人工智能的輸出結(jié)果可能造成涉及對(duì)名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)或者個(gè)人信息權(quán)益的侵權(quán)事件。再如，在智能駕駛領(lǐng)域，當(dāng)自動(dòng)駕駛汽車發(fā)生安全事故時(shí)，究竟是由車主（作為監(jiān)督員）、汽車制造商、自動(dòng)駕駛算法公司，還是傳感器供應(yīng)商承擔(dān)責(zé)任？責(zé)任邊界模糊化不僅可能削弱治理的責(zé)任感，還可能帶來(lái)信任危機(jī)。
人工智能系統(tǒng)遭受網(wǎng)絡(luò)攻擊犯罪帶來(lái)的國(guó)家或網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。當(dāng)前，全球網(wǎng)絡(luò)空間技術(shù)競(jìng)爭(zhēng)愈演愈烈，隨著數(shù)字技術(shù)尤其是人工智能技術(shù)的快速發(fā)展和廣泛應(yīng)用，網(wǎng)絡(luò)空間和現(xiàn)實(shí)世界呈現(xiàn)加速融合趨勢(shì)，網(wǎng)絡(luò)安全風(fēng)險(xiǎn)日益增加，[10]其中，出于各種目的的網(wǎng)絡(luò)攻擊成為全球共同性治理難題。人工智能大模型既可能成為實(shí)施網(wǎng)絡(luò)攻擊的新工具，又是需要有效防范網(wǎng)絡(luò)攻擊的重點(diǎn)領(lǐng)域。從這個(gè)意義上說(shuō)，隨著人工智能賦能社會(huì)治理場(chǎng)景的不斷拓展、深化，時(shí)刻警惕和防范來(lái)自境內(nèi)外黑客的網(wǎng)絡(luò)攻擊行為，包括數(shù)據(jù)投毒、對(duì)抗性攻擊、模型竊取等，確保不同社會(huì)治理領(lǐng)域人工智能系統(tǒng)本身的安全，是防范風(fēng)險(xiǎn)的重中之重。一旦公共安全、醫(yī)療服務(wù)、金融服務(wù)、智慧城市等領(lǐng)域的人工智能系統(tǒng)受到惡意攻擊，可能造成嚴(yán)重的社會(huì)危害和經(jīng)濟(jì)損失。
統(tǒng)籌發(fā)展和安全的中國(guó)智能社會(huì)治理策略
《中華人民共和國(guó)國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十五個(gè)五年規(guī)劃綱要》提出：“全面實(shí)施‘人工智能＋’行動(dòng)，加強(qiáng)人工智能同科技創(chuàng)新、產(chǎn)業(yè)發(fā)展、文化建設(shè)、民生保障、社會(huì)治理相結(jié)合，搶占人工智能產(chǎn)業(yè)應(yīng)用制高點(diǎn)，全方位賦能千行百業(yè)。”[11]在人工智能發(fā)展機(jī)遇與挑戰(zhàn)并存的當(dāng)下，借助人工智能技術(shù)實(shí)現(xiàn)社會(huì)治理現(xiàn)代化的關(guān)鍵在于不能“因噎廢食”（因安全放棄發(fā)展），也不能盲目冒進(jìn)（為發(fā)展忽視安全），而必須統(tǒng)籌兼顧，當(dāng)務(wù)之急是構(gòu)建一個(gè)“可控賦能”體系。一方面，要把發(fā)展擺在更加突出的地位，進(jìn)一步推動(dòng)人工智能賦能社會(huì)治理工作縱深發(fā)展，搶占“人工智能＋”治理的全球市場(chǎng)，提升運(yùn)行規(guī)則制定和治理話語(yǔ)權(quán)；另一方面，要切實(shí)采取措施，積極防范各種潛在危機(jī)風(fēng)險(xiǎn)，確保社會(huì)不發(fā)生系統(tǒng)性風(fēng)險(xiǎn)和顛覆性危機(jī)，開(kāi)創(chuàng)智能高效、公平包容、安全有序、活力十足的中國(guó)社會(huì)治理現(xiàn)代化新局面。
緊跟前沿、加大投入，全方位推動(dòng)人工智能賦能社會(huì)治理效能提升。在人工智能全球競(jìng)爭(zhēng)進(jìn)入白熱化的階段，應(yīng)堅(jiān)持發(fā)展導(dǎo)向，始終堅(jiān)持技術(shù)創(chuàng)新、實(shí)踐應(yīng)用并重的“人工智能＋”行動(dòng)，促進(jìn)人工智能賦能社會(huì)治理各方面、全過(guò)程，推動(dòng)社會(huì)經(jīng)濟(jì)治理的數(shù)字化、智能化轉(zhuǎn)型，為此，應(yīng)重點(diǎn)采取以下策略。
其一，構(gòu)建“以人為本、普惠智能”的社會(huì)新基建體系。在人工智能時(shí)代，加大社會(huì)新基建體系建設(shè)，是一項(xiàng)能夠補(bǔ)齊社會(huì)治理短板、釋放內(nèi)需潛力、促進(jìn)社會(huì)公平、提升國(guó)家軟實(shí)力的戰(zhàn)略性、系統(tǒng)性的基礎(chǔ)工程，對(duì)推動(dòng)社會(huì)治理現(xiàn)代化意義重大。如果說(shuō)交通、能源、信息網(wǎng)絡(luò)等傳統(tǒng)新基建是國(guó)家發(fā)展的“骨架”，那么社會(huì)領(lǐng)域新基建則是維系智能社會(huì)運(yùn)行的“血脈”與“神經(jīng)”。因此，必須把社會(huì)領(lǐng)域新基建擺在更加突出的位置，加快構(gòu)建覆蓋全民、城鄉(xiāng)一體、智能高效、溫暖可及的新型社會(huì)基礎(chǔ)設(shè)施體系，讓人工智能真正成為增進(jìn)人民福祉的“善治之器”。因此，建議國(guó)家層面出臺(tái)社會(huì)領(lǐng)域新型基礎(chǔ)設(shè)施建設(shè)的行動(dòng)計(jì)劃，明確目標(biāo)、標(biāo)準(zhǔn)與責(zé)任分工；中央財(cái)政可考慮設(shè)立“社會(huì)智治基金”，重點(diǎn)支持中西部、農(nóng)村、邊境地區(qū)的智能服務(wù)設(shè)施建設(shè)；建設(shè)全國(guó)統(tǒng)一的“基層治理智能服務(wù)平臺(tái)”，實(shí)現(xiàn)一網(wǎng)統(tǒng)管、一端通辦；制定智慧社區(qū)、數(shù)字養(yǎng)老、智能社工等技術(shù)與服務(wù)標(biāo)準(zhǔn)，推動(dòng)互聯(lián)互通，從而為全面推動(dòng)“人工智能＋”社會(huì)治理奠定基礎(chǔ)。同時(shí)，有條件的地方，可探索開(kāi)展“人工智能社會(huì)實(shí)驗(yàn)室”建設(shè)，借助大語(yǔ)言模型積極構(gòu)筑社會(huì)實(shí)驗(yàn)裝置和模擬技術(shù)，旨在精準(zhǔn)分析社會(huì)個(gè)體行為與社會(huì)之間的互動(dòng)規(guī)律，為人工智能時(shí)代的社會(huì)預(yù)測(cè)性治理打下堅(jiān)實(shí)基礎(chǔ)。
其二，以破解社會(huì)問(wèn)題為導(dǎo)向，加快社會(huì)治理場(chǎng)景培育和開(kāi)放，推動(dòng)新場(chǎng)景大規(guī)模應(yīng)用落地。人工智能不是“萬(wàn)能藥”，但其可以成為提升治理精度、溫度與韌性的強(qiáng)大工具。而實(shí)現(xiàn)這一轉(zhuǎn)變的關(guān)鍵樞紐，就是高質(zhì)量的應(yīng)用場(chǎng)景。當(dāng)前我國(guó)雖已在智慧交通、公共安全、政務(wù)服務(wù)等領(lǐng)域開(kāi)展試點(diǎn)探索，但仍存在“場(chǎng)景碎片化、應(yīng)用淺層化、復(fù)制困難化”等問(wèn)題。要真正釋放人工智能的治理潛力，必須從國(guó)家戰(zhàn)略高度出發(fā)，系統(tǒng)性推進(jìn)社會(huì)治理場(chǎng)景的制度化開(kāi)放、標(biāo)準(zhǔn)化建設(shè)與規(guī)模化落地。國(guó)家層面制定出臺(tái)的《國(guó)務(wù)院辦公廳關(guān)于加快場(chǎng)景培育和開(kāi)放推動(dòng)新場(chǎng)景大規(guī)模應(yīng)用的實(shí)施意見(jiàn)》，為全國(guó)各地借助人工智能推動(dòng)社會(huì)治理現(xiàn)代化提供了政策支持和行動(dòng)指南。未來(lái)，全國(guó)各地既要總結(jié)成功治理場(chǎng)景的經(jīng)驗(yàn)并復(fù)制推廣，適時(shí)推動(dòng)從“盆景”到“風(fēng)景”的規(guī)模化推廣躍遷，更要以貫徹落實(shí)《國(guó)務(wù)院辦公廳關(guān)于加快場(chǎng)景培育和開(kāi)放推動(dòng)新場(chǎng)景大規(guī)模應(yīng)用的實(shí)施意見(jiàn)》為契機(jī)，圍繞民生、服務(wù)、管理、安全、消費(fèi)等重點(diǎn)領(lǐng)域，以解決社會(huì)治理難點(diǎn)、痛點(diǎn)和堵點(diǎn)為導(dǎo)向，加大加強(qiáng)各類政策協(xié)同配合，統(tǒng)籌開(kāi)展場(chǎng)景策劃，因地制宜培育早期場(chǎng)景，開(kāi)放地方綜合性特色場(chǎng)景，全方位構(gòu)筑適應(yīng)技術(shù)進(jìn)步、社會(huì)發(fā)展的社會(huì)治理場(chǎng)景體系。讓人工智能真正下沉到社區(qū)、走進(jìn)千家萬(wàn)戶、服務(wù)于每一個(gè)普通人，以社會(huì)治理場(chǎng)景大規(guī)模應(yīng)用，推動(dòng)社會(huì)治理智能化水平穩(wěn)步提升。
其三，構(gòu)建高效流通、可信可用、持續(xù)優(yōu)化的數(shù)據(jù)治理體系。在人工智能賦能社會(huì)治理的過(guò)程中，數(shù)據(jù)的數(shù)量與質(zhì)量直接影響人工智能在城市治理、應(yīng)急管理、社會(huì)保障等場(chǎng)景中的實(shí)際效能。要破解這一難題，必須堅(jiān)持系統(tǒng)觀念，統(tǒng)籌發(fā)展和安全，在保障數(shù)據(jù)主權(quán)和公民隱私的前提下，構(gòu)建高效流通、可信可用、持續(xù)優(yōu)化的數(shù)據(jù)治理體系。建議在國(guó)家層面，加快構(gòu)筑以制度創(chuàng)新為引領(lǐng)、技術(shù)支撐為基礎(chǔ)、質(zhì)量管理為一體的數(shù)據(jù)治理體系，推動(dòng)數(shù)據(jù)治理向主動(dòng)協(xié)同、精準(zhǔn)供給轉(zhuǎn)變。具體而言，堅(jiān)決貫徹落實(shí)《中共中央辦公廳 國(guó)務(wù)院辦公廳關(guān)于加快公共數(shù)據(jù)資源開(kāi)發(fā)利用的意見(jiàn)》，并在更好利用國(guó)家數(shù)據(jù)確權(quán)服務(wù)平臺(tái)的基礎(chǔ)上，進(jìn)一步建立健全“有權(quán)共享、有責(zé)共享、有利共享”的激勵(lì)相容機(jī)制，推廣“數(shù)據(jù)經(jīng)紀(jì)人”與“數(shù)據(jù)信托”模式，破解和消除部門間“數(shù)據(jù)不愿不敢共享”的問(wèn)題；加快推進(jìn)國(guó)家及省級(jí)政務(wù)數(shù)據(jù)共享交換平臺(tái)建設(shè)，實(shí)現(xiàn)跨層級(jí)、跨地域、跨系統(tǒng)聯(lián)通；設(shè)置關(guān)鍵數(shù)據(jù)質(zhì)量監(jiān)測(cè)指標(biāo)，建立數(shù)據(jù)質(zhì)量動(dòng)態(tài)監(jiān)測(cè)儀表盤，確保數(shù)據(jù)的完整性、準(zhǔn)確性、時(shí)效性等，為人工智能賦能社會(huì)治理提供更加權(quán)威、高質(zhì)量的大數(shù)據(jù)基礎(chǔ)。
其四，加快培養(yǎng)既懂技術(shù)又懂治理的復(fù)合型人才隊(duì)伍。因?qū)I(yè)背景與知識(shí)結(jié)構(gòu)的不同，人工智能工程師與公務(wù)人員存在一定的認(rèn)知偏差，制約智能系統(tǒng)與治理體系的深度融合。要實(shí)現(xiàn)從“工具輔助”到“機(jī)制重構(gòu)”的躍升，必須加快“技術(shù)＋治理”復(fù)合型人才隊(duì)伍建設(shè)。為此，要改革試點(diǎn)大學(xué)人才培養(yǎng)模式，在重點(diǎn)高校試點(diǎn)開(kāi)設(shè)“人工智能與公共治理”“數(shù)字政府工程”等本科／碩士項(xiàng)目。政府部門與高校共建“城市社會(huì)智能治理實(shí)驗(yàn)室”，創(chuàng)建國(guó)家級(jí)“社會(huì)智能治理人才孵化基地”等，讓學(xué)生參與真實(shí)項(xiàng)目開(kāi)發(fā)。面向社會(huì)治理相關(guān)部門人員，尤其是針對(duì)基層社會(huì)治理工作者，通過(guò)開(kāi)展“人工智能賦能治理”專題輪訓(xùn)、推行“技術(shù)見(jiàn)習(xí)”制度、建立“數(shù)字能力認(rèn)證”機(jī)制等方式，構(gòu)建社會(huì)治理公務(wù)員數(shù)字能力提升體系，全方位提升其技術(shù)理解力、治理洞察力和融合創(chuàng)新能力。
以人為本、制度創(chuàng)新，全方位構(gòu)筑人工智能時(shí)代的風(fēng)險(xiǎn)防控體系。當(dāng)下，人工智能正全方位融入社會(huì)生活，在加大研發(fā)人工智能最新技術(shù)并掌握話語(yǔ)權(quán)，推動(dòng)人工智能深度賦能社會(huì)治理的同時(shí)，要針對(duì)已經(jīng)發(fā)生或可預(yù)見(jiàn)的重大風(fēng)險(xiǎn)挑戰(zhàn)，站在以人為本、讓科技服務(wù)于人的立場(chǎng)，同步加快制度創(chuàng)新步伐，完善技術(shù)治理體系，構(gòu)筑管用、高效的技術(shù)風(fēng)險(xiǎn)防控體系，重點(diǎn)強(qiáng)化如下相關(guān)制度建設(shè)。
其一，針對(duì)人工智能可能引發(fā)的失業(yè)風(fēng)險(xiǎn)，大力推動(dòng)實(shí)施就業(yè)服務(wù)保障和技能培訓(xùn)項(xiàng)目，幫助工作被替代群體穩(wěn)步度過(guò)技術(shù)革新陣痛期。人工智能在創(chuàng)造更多新崗位的同時(shí)，會(huì)替代部分工作，并可能引發(fā)公平性問(wèn)題。因此，應(yīng)全方位做好失業(yè)者、低技能群體的就業(yè)服務(wù)和保障工作，有效防范化解規(guī)模化失業(yè)風(fēng)險(xiǎn)或就業(yè)難問(wèn)題，這是推動(dòng)社會(huì)治理現(xiàn)代化的首要任務(wù)。
對(duì)此，建議加快制定保護(hù)相關(guān)勞動(dòng)者的專項(xiàng)法律政策，通過(guò)政府和企業(yè)合作，在社會(huì)保障兜底中幫助部分勞動(dòng)者渡過(guò)技術(shù)替代難關(guān)。一方面，評(píng)估和監(jiān)測(cè)人工智能對(duì)低技能勞動(dòng)力或易被替代行業(yè)的潛在破壞，建立相關(guān)信息平臺(tái)，提高勞動(dòng)力市場(chǎng)信息的透明度，合理預(yù)測(cè)結(jié)構(gòu)性失業(yè)。應(yīng)充分利用大數(shù)據(jù)，建立完善國(guó)家就業(yè)信息監(jiān)測(cè)平臺(tái)，實(shí)施對(duì)重點(diǎn)地區(qū)、重點(diǎn)群體、關(guān)鍵崗位就業(yè)動(dòng)態(tài)變化的實(shí)時(shí)監(jiān)測(cè)，發(fā)布就業(yè)狀況信息，提供就業(yè)預(yù)警、預(yù)測(cè)和預(yù)報(bào)。以稅收優(yōu)惠政策鼓勵(lì)企業(yè)推行邊工作邊學(xué)習(xí)的預(yù)備學(xué)徒制項(xiàng)目，積極開(kāi)展適應(yīng)人工智能崗位需求的員工培訓(xùn)；研制遭受技術(shù)沖擊的程度認(rèn)定標(biāo)準(zhǔn)，加強(qiáng)人工智能技術(shù)及相關(guān)工作的統(tǒng)計(jì)調(diào)查和專業(yè)評(píng)估，為遭受技術(shù)沖擊的工人提供技能訓(xùn)練、就業(yè)援助和失業(yè)補(bǔ)貼，并鼓勵(lì)失業(yè)群體參與職業(yè)技能培訓(xùn)，以提高其適用技能；酌情延長(zhǎng)部分人員的失業(yè)保險(xiǎn)期限，切實(shí)保障其有足夠的時(shí)間獲得新的資格認(rèn)證，找到合適的工作。另一方面，深化教育系統(tǒng)改革，鼓勵(lì)各類高校圍繞人工智能和大數(shù)據(jù)分析增設(shè)相關(guān)專業(yè)，加快研究新職業(yè)和工作崗位的技能需求，增加勞動(dòng)者在感知、創(chuàng)造和社會(huì)能力方面的技能和知識(shí)，并培養(yǎng)其難以被人工智能替代、適應(yīng)未來(lái)工作場(chǎng)景的技能。建立符合創(chuàng)新經(jīng)濟(jì)和智能社會(huì)需求的終身學(xué)習(xí)和就業(yè)培訓(xùn)體系。加強(qiáng)創(chuàng)新、技術(shù)、專業(yè)技術(shù)人員的培訓(xùn)，重點(diǎn)培養(yǎng)跨學(xué)科和人工智能及相關(guān)專業(yè)人才，提高勞動(dòng)者對(duì)新產(chǎn)業(yè)和新技術(shù)的適應(yīng)能力。鼓勵(lì)企業(yè)員工通過(guò)職業(yè)技術(shù)學(xué)校、企業(yè)大學(xué)和人員交流等途徑參與職業(yè)技能培訓(xùn)和文化知識(shí)學(xué)習(xí)。
其二，構(gòu)建以“平臺(tái)原生安全”為內(nèi)核，以“分類分級(jí)管控”為準(zhǔn)繩，以“法治與標(biāo)準(zhǔn)”為保障的數(shù)據(jù)安全與隱私泄露防御體系。全方位保障數(shù)據(jù)安全、隱私保護(hù)，是更好發(fā)揮人工智能促進(jìn)社會(huì)治理現(xiàn)代化的根基。首先，要筑牢“平臺(tái)原生安全”底座。這意味著安全不是事后添加的功能，而是人工智能治理平臺(tái)的“出廠設(shè)置”。在建設(shè)用于社會(huì)治理的人工智能系統(tǒng)時(shí)，應(yīng)直接采用具備企業(yè)級(jí)知識(shí)庫(kù)安全、智能體行為可控和數(shù)據(jù)隱私保護(hù)能力的平臺(tái)。其次，落實(shí)“分類分級(jí)”與“集約部署”。分類分級(jí)是精準(zhǔn)施策的前提，比如，涉及個(gè)人生物特征、醫(yī)療健康的數(shù)據(jù)必須劃為高級(jí)別，并嚴(yán)格限制在脫敏后用于模型訓(xùn)練；而公開(kāi)的、不包含個(gè)人信息的數(shù)據(jù)可按較低級(jí)別管理，以促進(jìn)流通利用。集約部署是控制風(fēng)險(xiǎn)的關(guān)鍵，社會(huì)治理人工智能項(xiàng)目，尤其是基層項(xiàng)目，應(yīng)堅(jiān)決避免重復(fù)建設(shè)。必須遵循“省級(jí)統(tǒng)籌、地市或基層復(fù)用”的原則。這不僅能節(jié)約資源，更能將敏感數(shù)據(jù)匯聚在防護(hù)等級(jí)更高的中心節(jié)點(diǎn)統(tǒng)一管理，極大壓縮數(shù)據(jù)暴露面。法治是最終的保障，密切關(guān)注并積極落實(shí)新修訂的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》中關(guān)于人工智能的規(guī)定，將安全風(fēng)險(xiǎn)監(jiān)測(cè)評(píng)估和創(chuàng)新監(jiān)管的要求，內(nèi)化為各單位人工智能項(xiàng)目的必經(jīng)流程，尤其要嚴(yán)格執(zhí)行《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，加大對(duì)隱私泄露的企業(yè)以及利用個(gè)人隱私信息深度偽造進(jìn)行詐騙犯罪的懲戒力度，形成強(qiáng)大的法律威懾力。依據(jù)國(guó)家層面的《智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)化指引》，在具體的行業(yè)和地方形成更細(xì)化的落地規(guī)范，例如，在“人工智能＋社區(qū)養(yǎng)老”場(chǎng)景中，標(biāo)準(zhǔn)應(yīng)明確規(guī)定哪些老年人的數(shù)據(jù)可以采集、如何使用、存儲(chǔ)多久以及如何安全銷毀等。
其三，積極開(kāi)展算法偏見(jiàn)專項(xiàng)治理，確保人工智能驅(qū)動(dòng)的商業(yè)分析應(yīng)用的公平性、透明性和合規(guī)性。隨著越來(lái)越多社會(huì)組織應(yīng)用機(jī)器學(xué)習(xí)和大數(shù)據(jù)分析進(jìn)行客戶畫像、信用評(píng)分、招聘決策和預(yù)測(cè)分析，如何加大算法偏見(jiàn)和數(shù)據(jù)倫理的治理，以算法的可解釋性、公平性、透明性、合規(guī)性減少歧視性結(jié)果，促進(jìn)社會(huì)平等，是智能社會(huì)治理亟待解決的基本問(wèn)題。為此，在人工智能賦能社會(huì)治理過(guò)程中，相關(guān)企業(yè)和組織應(yīng)增強(qiáng)社會(huì)責(zé)任意識(shí)，實(shí)施定期的算法偏見(jiàn)檢測(cè)，利用技術(shù)手段識(shí)別和減輕潛在的算法偏見(jiàn)，以減少意外后果，確保不同社會(huì)群體（如性別、民族、教育和經(jīng)濟(jì)背景）的公平性，確保技術(shù)發(fā)展惠及所有人；政府要將強(qiáng)有力的數(shù)據(jù)倫理框架納入人工智能賦能社會(huì)治理策略之中，要求治理主體和平臺(tái)企業(yè)制定負(fù)責(zé)任的人工智能使用原則，規(guī)范數(shù)據(jù)收集、模型開(kāi)發(fā)和決策過(guò)程，按規(guī)定公開(kāi)“算法透明度報(bào)告”，提升算法的透明度，確保算法決策過(guò)程可以被理解和審查，同時(shí)強(qiáng)化問(wèn)責(zé)機(jī)制，明確對(duì)算法結(jié)果的責(zé)任承擔(dān)。鼓勵(lì)公眾參與人工智能系統(tǒng)的設(shè)計(jì)與實(shí)施，加強(qiáng)對(duì)人工智能技術(shù)的普及教育，提高社會(huì)對(duì)算法偏見(jiàn)的認(rèn)識(shí)和應(yīng)對(duì)能力。
其四，加快立法進(jìn)程，依法明確人工智能技術(shù)應(yīng)用引發(fā)社會(huì)矛盾的責(zé)任邊界及追責(zé)懲戒方法。為應(yīng)對(duì)未來(lái)人工智能賦能社會(huì)治理多場(chǎng)景中可能多發(fā)高發(fā)的社會(huì)矛盾糾紛，需要通過(guò)立法完善、責(zé)任細(xì)化、執(zhí)行保障三方面建設(shè)，確保人工智能應(yīng)用引發(fā)的社會(huì)矛盾有法可依、追責(zé)有據(jù)。在立法層面，制定人工智能專項(xiàng)立法或修訂現(xiàn)有法律，明確人工智能技術(shù)應(yīng)用的“負(fù)面清單”，界定合法與違法的邊界，分場(chǎng)景、分類型細(xì)化責(zé)任主體，區(qū)分開(kāi)發(fā)者、運(yùn)營(yíng)者、使用者等不同角色的責(zé)任比例，避免責(zé)任模糊，同步出臺(tái)配套司法解釋，明確“人工智能社會(huì)矛盾”的具體認(rèn)定標(biāo)準(zhǔn)，減少司法實(shí)踐中的爭(zhēng)議。在責(zé)任細(xì)化方面，按矛盾嚴(yán)重程度劃分追責(zé)梯度，構(gòu)建可操作的懲戒體系，明確懲戒方式的具體適用場(chǎng)景，如罰款金額、市場(chǎng)禁入期限、刑事責(zé)任量刑標(biāo)準(zhǔn)等，增強(qiáng)可執(zhí)行性。在執(zhí)行保障方面，成立跨部門監(jiān)管機(jī)制，整合網(wǎng)信、司法、行業(yè)主管部門力量，實(shí)現(xiàn)全鏈條監(jiān)管，設(shè)立專門的人工智能糾紛調(diào)解與仲裁機(jī)構(gòu)，提供專業(yè)、高效的非訴訟解決渠道，分流司法壓力。
其五，搭建政企協(xié)同與跨部門治理平臺(tái)，嚴(yán)防境外敵對(duì)勢(shì)力對(duì)人工智能系統(tǒng)的攻擊破壞。當(dāng)前人工智能在政務(wù)服務(wù)、智慧城市、公共安全等社會(huì)治理領(lǐng)域應(yīng)用廣泛，一旦遭受境外攻擊，不僅會(huì)破壞社會(huì)運(yùn)行秩序，更可能直接威脅網(wǎng)絡(luò)安全與國(guó)家安全，需從多維度構(gòu)建防控體系。在技術(shù)層面，相關(guān)企業(yè)和治理主體要強(qiáng)化全生命周期安全管控，研發(fā)階段嵌入對(duì)抗性樣本檢測(cè)技術(shù)，提前防范算法漏洞；部署時(shí)采用零信任架構(gòu)，對(duì)訪問(wèn)人工智能系統(tǒng)的主體實(shí)施嚴(yán)格權(quán)限管控，避免越權(quán)操作。運(yùn)行中設(shè)置智能“熔斷”機(jī)制，一旦檢測(cè)到異常訪問(wèn)或數(shù)據(jù)篡改，立即暫停高風(fēng)險(xiǎn)功能并啟動(dòng)備用系統(tǒng)。在部署人工智能系統(tǒng)時(shí)，優(yōu)先選用自主可控的硬件設(shè)備和算法框架，建立人工智能供應(yīng)鏈“白名單”制度，對(duì)開(kāi)源庫(kù)、第三方插件進(jìn)行常態(tài)化安全檢測(cè)，防范境外惡意植入的后門程序。在制度層面，制定專項(xiàng)應(yīng)急預(yù)案，針對(duì)不同攻擊場(chǎng)景制定差異化處置流程，如數(shù)據(jù)泄露后的數(shù)據(jù)溯源、系統(tǒng)癱瘓后的應(yīng)急接管等，定期組織跨部門應(yīng)急演練，聯(lián)合網(wǎng)信、公安、行業(yè)主管部門模擬境外攻擊事件，提升快速響應(yīng)與損失控制能力，避免風(fēng)險(xiǎn)擴(kuò)散。
注釋
[1]張振、周奕文、劉馳：《生成式人工智能嵌入社會(huì)治理：內(nèi)在機(jī)理、風(fēng)險(xiǎn)樣態(tài)與規(guī)制路徑》，《自然辯證法通訊》，2025年第11期。
[2]《堅(jiān)持自立自強(qiáng) 突出應(yīng)用導(dǎo)向 推動(dòng)人工智能健康有序發(fā)展》，《人民日?qǐng)?bào)》，2025年4月27日，第1版。
[3]李韜、王滆洱：《通往智能善治之路：人工智能時(shí)代社會(huì)風(fēng)險(xiǎn)及治理》，《學(xué)術(shù)界》，2025年第8期。
[4]張濤、呂騫慧：《歐美生成式人工智能治理實(shí)踐對(duì)中國(guó)的啟示研究》，《農(nóng)業(yè)圖書情報(bào)學(xué)報(bào)》，2025年第4期。
[5]蔣熙輝：《統(tǒng)籌高質(zhì)量發(fā)展和高水平安全》，《人民日?qǐng)?bào)》，2024年1月9日，第9版。
[6]丁元竹：《發(fā)展和完善人工智能的社會(huì)治理體制機(jī)制》，《天津日?qǐng)?bào)》，2025年3月21日，第9版。
[7]公丕明：《積極應(yīng)對(duì)人工智能對(duì)就業(yè)的影響》，《學(xué)習(xí)時(shí)報(bào)》，2025年11月12日，第6版。
[8]沈黎勇、袁晶、魏菁娜：《被動(dòng)焦慮還是主動(dòng)適應(yīng)：人工智能影響下的大學(xué)生就業(yè)心態(tài)研究》，《中國(guó)青年研究》，2025年第10期。
[9]左曉棟：《當(dāng)前我國(guó)數(shù)據(jù)安全工作面臨的形勢(shì)與任務(wù)》，《國(guó)家治理》，2023年第10期。
[10]《網(wǎng)絡(luò)空間技術(shù)競(jìng)爭(zhēng)日趨激烈，如何筑牢國(guó)家網(wǎng)絡(luò)安全堅(jiān)實(shí)“堤壩”》，2025年9月25日，https://export.shobserver.com/baijiahao/html/987276.html。
[11]《中華人民共和國(guó)國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十五個(gè)五年規(guī)劃綱要》，《人民日?qǐng)?bào)》，2026年3月14日，第1版。
Challenges and Responses to the Modernization
of China's Social Governance in the Era of Artificial Intelligence
Tao Xidong
Abstract: With the rapid transformation and in-depth development of big data, generative artificial intelligence and other technologies, countries have exhibited significant divergent paths in the governance of artificial intelligence. Adhering to the holistic coordination of development and security, China has pointed out a new direction for the development and application of artificial intelligence technologies. As an important support and key path for advancing the modernization of social governance, artificial intelligence has demonstrated a strong empowering effect in terms of governance models, governance mechanisms and governance efficiency. Based on the fundamental principle of coordinating development and security, the modernization of China's social governance still faces the dual challenges of "insufficient development" and "accumulating risks". Proceeding from reality, while intensifying innovation and promoting development, efforts should be made on the one hand to keep abreast of cutting-edge trends, increase investment, and comprehensively enhance the empowering effect of artificial intelligence on social governance efficiency; on the other hand, to put people first, advance institutional innovation, and build an all-round risk prevention and control system for the era of artificial intelligence, so as to strive to provide Chinese solutions and Chinese experience for the modern governance of an intelligent society.
Keywords: artificial intelligence, social governance, empowering effect, practical dilemmas, institutional response
責(zé) 編∕方進(jìn)一 美 編∕梁麗琛
