編者按：
為深入學(xué)習(xí)貫徹黨的二十屆四中全會精神，把學(xué)習(xí)好、宣傳好、貫徹好黨的二十屆四中全會精神作為當前和今后一個時期的重大政治任務(wù)，集團宣傳平臺特開設(shè)“學(xué)習(xí)貫徹黨的二十屆四中全會精神”專欄，選取人民網(wǎng)、新華網(wǎng)、央視網(wǎng)、學(xué)習(xí)強國等權(quán)威媒體平臺的相關(guān)內(nèi)容定期推送，以權(quán)威深度、生動新穎的內(nèi)容和形式，在集團廣大干部職工中迅速興起學(xué)習(xí)宣傳貫徹黨的二十屆四中全會精神的熱潮，推動全會精神深入人心、落地見效。
黨的二十屆四中全會通過的《中共中央關(guān)于制定國民經(jīng)濟和社會發(fā)展第十五個五年規(guī)劃的建議》（以下簡稱《建議》）提出，“加快人工智能等數(shù)智技術(shù)創(chuàng)新，突破基礎(chǔ)理論和核心技術(shù)，強化算力、算法、數(shù)據(jù)等高效供給。”全會立足新的時代方位和發(fā)展階段，以深遠的戰(zhàn)略眼光與系統(tǒng)的全局謀劃，開啟了未來五年經(jīng)濟社會發(fā)展的新航程。這將成為加快人工智能等數(shù)智技術(shù)創(chuàng)新、促進實體經(jīng)濟和數(shù)字經(jīng)濟深度融合發(fā)展的重要驅(qū)動力。實踐中，人工智能越來越多地運用于工業(yè)、醫(yī)療、家居、零售、交通、公共安全、環(huán)境保護等諸多領(lǐng)域。然而，人工智能等數(shù)智技術(shù)是一把“雙刃劍”，它在成為推動社會進步強大引擎的同時，也潛藏著濫用或失控風(fēng)險，可能給社會帶來安全、倫理、輿情等諸多方面的問題。對此，習(xí)近平總書記強調(diào)，要加強人工智能發(fā)展的潛在風(fēng)險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控。《建議》要求，“加強人工智能治理，完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準則”。因此，亟須加強人工智能立法促進數(shù)智技術(shù)創(chuàng)新發(fā)展。
人工智能可能帶來的問題
第一，人工智能可能帶來的安全問題。所謂人工智能，是指通過機器學(xué)習(xí)、深度學(xué)習(xí)、自然語言處理等技術(shù)，模擬人類智能，從數(shù)據(jù)中識別規(guī)律和特征，并進行一定程度的自動化決策。實踐中，人工智能帶來的安全風(fēng)險主要體現(xiàn)在以下方面：一是處理數(shù)據(jù)資源過程中的安全風(fēng)險。數(shù)據(jù)是人工智能的基礎(chǔ)，它既是人工智能和訓(xùn)練人工智能的“養(yǎng)料”，又是人工智能處理問題和作出決策的依據(jù)。然而，人工智能在處理數(shù)據(jù)時可能存在數(shù)據(jù)泄露、侵犯隱私、植入惡意信息等問題。二是人工智能系統(tǒng)錯誤帶來的安全風(fēng)險。人工智能主要包括傳感系統(tǒng)、算法系統(tǒng)和執(zhí)行系統(tǒng)等。任何一個系統(tǒng)出現(xiàn)問題都可能偏離預(yù)設(shè)目標，輸出不可預(yù)期的結(jié)果，引發(fā)系統(tǒng)失控風(fēng)險。三是關(guān)鍵基礎(chǔ)設(shè)施的安全問題。人工智能廣泛運用于金融、交通、電網(wǎng)、水利等關(guān)鍵領(lǐng)域。一旦人工智能系統(tǒng)出現(xiàn)問題，就可能引發(fā)系統(tǒng)性安全風(fēng)險。
第二，人工智能可能帶來的倫理問題。受算法主導(dǎo)，人工智能主要遵循概率統(tǒng)計邏輯和效率邏輯。其在運行過程中易出現(xiàn)關(guān)聯(lián)歧視、特征選擇歧視等問題。這些歧視具有較強的隱蔽性，難以有效追責和糾正。同時，算法在很大程度上是一個“黑箱子”，普通人很難知道算法決策如何產(chǎn)生，也不知道算法決策所依據(jù)的具體數(shù)據(jù)和遵循的決策原則。“算法黑箱”的存在使得傳統(tǒng)透明性原則和告知同意原則對人工智能的規(guī)范作用愈來愈小，使得人容易成為被計算的對象。除此之外，人工智能對于不同主體的賦能也有區(qū)別，如弱勢群體可能不僅缺乏訪問人工智能技術(shù)和互聯(lián)網(wǎng)的必要設(shè)備、網(wǎng)絡(luò)和資金，而且缺乏使用和理解人工智能所需要的數(shù)字素養(yǎng)和技能。這又反過來進一步加劇了弱勢群體的弱勢地位。
第三，人工智能可能帶來的輿情問題。人工智能在推動社會發(fā)展的同時，對相關(guān)部門的輿情處置與網(wǎng)絡(luò)治理工作帶來巨大挑戰(zhàn)。一方面，它通過大型語言模型和深度偽造技術(shù)，可以快速生成以假亂真的文字、圖片和視頻，憑空捏造虛假新聞。犯罪分子可能通過人工智能操縱社交機器人網(wǎng)絡(luò)、偽裝信息源等手段進行病毒式傳播，并動態(tài)優(yōu)化內(nèi)容，混淆視聽、誤導(dǎo)公眾。另一方面，人工智能通過大數(shù)據(jù)分析，可根據(jù)用戶的興趣特點、行為動態(tài)精準投放信息，這成為一種高效且隱蔽的輿論操控工具。它通過對用戶海量數(shù)據(jù)的算法解析，為其勾勒出精細的“心理畫像”，并據(jù)此構(gòu)建高度個性化的“信息繭房”，從而為其“投喂”和灌輸某些片面或極端觀點，沖擊主流意識形態(tài)。
第四，人工智能可能帶來的就業(yè)替代問題。人工智能高度智能化釋放出巨大的生產(chǎn)力，越來越多原本由人所從事的勞動和工作被其接管，從而出現(xiàn)就業(yè)替代問題。這種替代呈現(xiàn)出速度快、規(guī)模大、領(lǐng)域廣、全球性等特點。這會大大減少人類的工作崗位，而且被替代的勞動者很難通過短期培訓(xùn)重新上崗。人工智能帶來的“技術(shù)鴻溝”也可能導(dǎo)致大量人群陷入永久性失業(yè)狀態(tài)，帶來大量社會保障難題和社會治理問題。
人工智能立法應(yīng)堅持的基本原則
面對人工智能帶來的一系列問題，我們應(yīng)當加強人工智能治理，盡快制定完善相關(guān)法律法規(guī)。這既關(guān)系到國家安全保障和產(chǎn)業(yè)發(fā)展，又涉及新一輪技術(shù)革命背景下的全球制度競爭和人工智能全球治理中的話語權(quán)和影響力。具體來講，人工智能立法應(yīng)堅持以下基本原則：
第一，堅持發(fā)展和安全統(tǒng)籌原則。統(tǒng)籌高質(zhì)量發(fā)展和高水平安全，是以習(xí)近平同志為核心的黨中央站在“兩個一百年”奮斗目標歷史交匯點，立足新發(fā)展階段國際國內(nèi)新形勢新情況所作出的重大戰(zhàn)略部署，是中國共產(chǎn)黨治國理政的一個重大原則。黨的二十屆四中全會進一步指出，“十五五”時期經(jīng)濟社會發(fā)展必須堅持統(tǒng)籌發(fā)展和安全。人工智能立法也應(yīng)堅持這一原則。人工智能發(fā)展具有典型的復(fù)雜性、快速變化和不可預(yù)測性等特點。立法時，必須既要看到人工智能發(fā)展的重要性，又要看到人工智能潛在的風(fēng)險性。應(yīng)當推動人工智能安全可靠可控發(fā)展，反對追求絕對安全和將人工智能安全泛化，堅持在法律治理穩(wěn)定性與人工智能治理靈活性之間保持平衡。
第二，堅持產(chǎn)業(yè)促進與底線管控并重原則。作為引領(lǐng)未來的基礎(chǔ)性、戰(zhàn)略性技術(shù)，人工智能遠超任何其他單一技術(shù)的戰(zhàn)略價值已經(jīng)在實踐中顯現(xiàn)，并且深刻改變著人類生產(chǎn)生活方式。人工智能立法的定位應(yīng)當是大力推動人工智能技術(shù)與產(chǎn)業(yè)創(chuàng)新發(fā)展，營造開放包容、充滿活力的制度環(huán)境；系統(tǒng)規(guī)范人工智能技術(shù)的研發(fā)與應(yīng)用行為，構(gòu)建敏捷協(xié)同、科學(xué)審慎的治理體系；切實維護個人的合法權(quán)益與人格尊嚴，筑牢以人為本、公平正義的法治屏障；堅決確保國家安全與社會穩(wěn)定，防范化解各類潛在風(fēng)險與挑戰(zhàn)。因此，人工智能立法既是人工智能產(chǎn)業(yè)的促進法，又是公民合法權(quán)益的保障法。人工智能立法既要確立清晰的法律邊界與規(guī)則，提供穩(wěn)定的預(yù)期，掃清創(chuàng)新道路上的障礙，釋放產(chǎn)業(yè)活力，又要樹立底線管控意識，通過建立清晰、可預(yù)期的負面清單和監(jiān)管框架，將人工智能發(fā)展過程中的不確定性降至最低。
第三，堅持軟法與硬法協(xié)同發(fā)展原則。人工智能是一種技術(shù)，具有不同的應(yīng)用場景，應(yīng)有不同的制度規(guī)則，且不同規(guī)則之間的規(guī)范強度應(yīng)有所區(qū)別。因此，我國在加強人工智能立法時，應(yīng)當堅持軟法與硬法相結(jié)合原則，除進一步完善國家層面的《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等法律外，還需要加快制定相關(guān)地方性和行業(yè)性法規(guī)、政策制度、標準規(guī)范、倫理準則等。通過倡議、指南、標準、準則等軟法方式彌補國家法律在應(yīng)對人工智能快速變化時的滯后性。
第四，堅持國家治理與全球治理耦合原則。人工智能與互聯(lián)網(wǎng)之間存在緊密關(guān)系?；ヂ?lián)網(wǎng)增強了人工智能自我學(xué)習(xí)和進化能力，人工智能增強了互聯(lián)網(wǎng)的創(chuàng)新應(yīng)用場景。人工智能與互聯(lián)網(wǎng)的深度融合使得其發(fā)展具有跨國性。因此，進行人工智能立法時，既需要加強國內(nèi)層面的人工智能治理，又要考慮全球人工智能治理問題，并將國家治理與全球治理進行耦合?！督ㄗh》提出，“維護大國關(guān)系總體穩(wěn)定，深化同發(fā)展中國家團結(jié)合作，落實全球發(fā)展倡議、全球安全倡議、全球文明倡議、全球治理倡議，引領(lǐng)國際秩序朝著更加公正合理的方向發(fā)展。”這自然也涉及人工智能的發(fā)展與安全問題。因此，我國人工智能立法應(yīng)在充分考慮中國國情和國家治理需要的同時，呼應(yīng)全球范圍內(nèi)對于人工智能可信、安全、可控的共同關(guān)切，并在具體措施上借鑒其他國家先進法律制度和經(jīng)驗?？傮w來看，我國人工智能立法應(yīng)積極回應(yīng)全球人工智能治理過程中的關(guān)鍵問題和重要問題，為國際人工智能治理標準與規(guī)則的制定貢獻中國智慧、中國方案。
