一、新質(zhì)生產(chǎn)力視野下加強(qiáng)人工智能立法研究的重要性和必要性

2023年9月，習(xí)近平總書記在黑龍江考察期間首次提出“新質(zhì)生產(chǎn)力”這一重要概念，指出“整合科技創(chuàng)新資源，引領(lǐng)發(fā)展戰(zhàn)略性新興產(chǎn)業(yè)和未來產(chǎn)業(yè)，加快形成新質(zhì)生產(chǎn)力”。這是在繼承創(chuàng)新馬克思主義生產(chǎn)力理論基礎(chǔ)上，結(jié)合新時(shí)代中國特色社會主義實(shí)際提出的原創(chuàng)性概念，由技術(shù)革命性突破、生產(chǎn)要素創(chuàng)新性配置、產(chǎn)業(yè)深度轉(zhuǎn)型升級而催生，以勞動者、勞動資料、勞動對象及其優(yōu)化組合的躍升為基本內(nèi)涵，以全要素生產(chǎn)率大幅提升為核心標(biāo)志，特點(diǎn)是創(chuàng)新，關(guān)鍵在質(zhì)優(yōu)，本質(zhì)是先進(jìn)生產(chǎn)力。2024年1月31日，習(xí)近平總書記在二十屆中央政治局第十一次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)，“新質(zhì)生產(chǎn)力是創(chuàng)新起主導(dǎo)作用，擺脫傳統(tǒng)經(jīng)濟(jì)增長方式、生產(chǎn)力發(fā)展路徑，具有高科技、高效能、高質(zhì)量特征，符合新發(fā)展理念的先進(jìn)生產(chǎn)力質(zhì)態(tài)”；“要以科技創(chuàng)新推動產(chǎn)業(yè)創(chuàng)新，特別是以顛覆性技術(shù)和前沿技術(shù)催生新產(chǎn)業(yè)、新模式、新動能，發(fā)展新質(zhì)生產(chǎn)力”。黨的二十屆三中全會通過的《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國式現(xiàn)代化的決定》要求，健全因地制宜發(fā)展新質(zhì)生產(chǎn)力體制機(jī)制；完善推動新一代信息技術(shù)、人工智能等戰(zhàn)略性產(chǎn)業(yè)發(fā)展政策和治理體系；推動制造業(yè)高端化、智能化、綠色化發(fā)展；加快構(gòu)建促進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展體制機(jī)制；建立人工智能安全監(jiān)管制度；完善生成式人工智能發(fā)展和管理機(jī)制。

2025年3月5日，習(xí)近平總書記在參加他所在的十四屆全國人大三次會議江蘇代表團(tuán)審議時(shí)指出，科技創(chuàng)新和產(chǎn)業(yè)創(chuàng)新，是發(fā)展新質(zhì)生產(chǎn)力的基本路徑。近年來，隨著科技創(chuàng)新的持續(xù)推進(jìn)，互聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)、人工智能、區(qū)塊鏈、元宇宙等現(xiàn)代新興信息技術(shù)迅速發(fā)展，已成為新質(zhì)生產(chǎn)力的代表，正催生著新一輪科技革命和產(chǎn)業(yè)變革，由此推動科技法治與科技法學(xué)的新發(fā)展。其中，人工智能作為數(shù)字科技領(lǐng)域中最具代表性的核心技術(shù)，是促進(jìn)新質(zhì)生產(chǎn)力發(fā)展的重要引擎。同時(shí)，隨著人工智能產(chǎn)業(yè)對生產(chǎn)力和生產(chǎn)關(guān)系的深刻影響和深度改造，也加劇了技術(shù)發(fā)展與現(xiàn)有法律關(guān)系、法律體系之間的矛盾。早在2017年，國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》就指出，“人工智能是影響面廣的顛覆性技術(shù)，可能帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會倫理、侵犯個(gè)人隱私、挑戰(zhàn)國際關(guān)系準(zhǔn)則等問題，將對政府管理、經(jīng)濟(jì)安全和社會穩(wěn)定乃至全球治理產(chǎn)生深遠(yuǎn)影響”，并提出“初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系”。當(dāng)前，人工智能技術(shù)處于快速發(fā)展期，治理體系正在加速構(gòu)建完善。作為新質(zhì)生產(chǎn)力的人工智能既帶來了法治風(fēng)險(xiǎn)，也帶來了法律制度和規(guī)則更新迭代的契機(jī)。

二、人工智能作為新質(zhì)生產(chǎn)力帶來的法律挑戰(zhàn)

2021年，聯(lián)合國教科文組織大會將人工智能定義為：整合模型和算法的信息處理技術(shù)，這些模型和算法能夠生成學(xué)習(xí)和執(zhí)行認(rèn)知任務(wù)的能力，從而在物質(zhì)環(huán)境和虛擬環(huán)境中實(shí)現(xiàn)預(yù)測和決策等結(jié)果。美國斯坦福大學(xué)教授約翰·麥卡錫將其定義為：人工智能是制造智能機(jī)器，特別是智能計(jì)算機(jī)程序的科學(xué)和工程。人工智能作為引領(lǐng)未來的戰(zhàn)略性技術(shù)，具有自主智能屬性、通用賦能屬性、要素撬動屬性，高度契合新質(zhì)生產(chǎn)力內(nèi)涵。人工智能重塑了既有的生產(chǎn)方式與生產(chǎn)關(guān)系，技術(shù)發(fā)展的速度超出了社會預(yù)期，由此產(chǎn)生了安全、倫理、規(guī)則等多重層面的法律問題，傳統(tǒng)法律制度和法治體系逐漸顯現(xiàn)出諸多不適應(yīng)，社會治理體系也亟需完善。加強(qiáng)人工智能立法，首先要對人工智能的獨(dú)特屬性形成清晰明確的認(rèn)識，制定合理有效的法律法規(guī)來規(guī)范引導(dǎo)人工智能的科學(xué)有序發(fā)展，進(jìn)而推動新質(zhì)生產(chǎn)力發(fā)展。

（一）安全問題

當(dāng)今人工智能的發(fā)展以海量的數(shù)據(jù)資源為支撐，不僅涉及數(shù)據(jù)潛在價(jià)值的發(fā)掘，還包括通過技術(shù)創(chuàng)新和智能算法的應(yīng)用來實(shí)現(xiàn)數(shù)據(jù)的價(jià)值創(chuàng)造，并最終將這些價(jià)值轉(zhuǎn)化為經(jīng)濟(jì)增長和社會發(fā)展動力。人工智能催生出新產(chǎn)業(yè)新業(yè)態(tài)，推動生產(chǎn)力向更高級、更先進(jìn)的質(zhì)態(tài)演進(jìn)。但在處理數(shù)據(jù)資源過程中，也帶來了諸如數(shù)據(jù)泄露、深度偽造、事故責(zé)任等一系列不容忽視的安全問題，給國家安全、社會秩序和網(wǎng)絡(luò)空間安全帶來嚴(yán)峻挑戰(zhàn)。

一方面，輸入的數(shù)據(jù)存在一定隱患。數(shù)據(jù)本身可能潛藏問題或有被篡改的風(fēng)險(xiǎn)，一定程度上源于數(shù)據(jù)收集過程中存在偏差、不準(zhǔn)確或不完整，或者數(shù)據(jù)標(biāo)注時(shí)有錯(cuò)誤或不一致性。這可能導(dǎo)致原始數(shù)據(jù)質(zhì)量下降，影響輸入數(shù)據(jù)的可靠性，致使人工智能分析應(yīng)用數(shù)據(jù)的結(jié)果不準(zhǔn)確，引起原始數(shù)據(jù)與衍生數(shù)據(jù)的歸屬權(quán)、控制權(quán)和使用權(quán)的界定難題。另一方面，通過深度學(xué)習(xí)和大數(shù)據(jù)處理來構(gòu)建人工智能模型時(shí)，由于數(shù)字技術(shù)缺陷、人為操作失誤或黑客惡意攻擊等原因，數(shù)據(jù)造假、算法竊取、軟件漏洞等安全隱患易發(fā)頻發(fā)。此外，人工智能還可能危及人身安全。例如，以分析患者的醫(yī)療數(shù)據(jù)來提供個(gè)性化治療方案的醫(yī)療機(jī)器人、以處理道路交通數(shù)據(jù)來提供出行服務(wù)的自動駕駛汽車等智能設(shè)施，當(dāng)其算法運(yùn)行程序出現(xiàn)漏洞或安全系統(tǒng)遭到惡意破壞時(shí)，容易引發(fā)重大安全事故。因此，保障作為新質(zhì)生產(chǎn)力的人工智能在安全有序的環(huán)境下發(fā)展，是貫徹新發(fā)展理念的必然要求，更是維護(hù)國家安全、網(wǎng)絡(luò)與數(shù)據(jù)安全的應(yīng)有之義。

（二）倫理問題

隨著新型生產(chǎn)關(guān)系的構(gòu)建，人工智能帶來的倫理問題正逐漸沖擊已有人類主導(dǎo)的法律秩序、社會秩序，人機(jī)之間的界限逐漸模糊，由此帶來與個(gè)人、社會、環(huán)境等多方面相關(guān)的倫理風(fēng)險(xiǎn)，應(yīng)制定科學(xué)合理的法律法規(guī)，實(shí)現(xiàn)人工智能穩(wěn)定應(yīng)用，保障新質(zhì)生產(chǎn)力發(fā)展。

首先，個(gè)人層面的人工智能倫理問題。人工智能在實(shí)踐中會采集、模仿人類的聲音聲紋、面部表情、肢體動作、知識作品等，并借助光學(xué)技術(shù)、聲音控制、人臉識別、深度思維等技術(shù)，提升技術(shù)服務(wù)水平，完成自身研發(fā)升級。但在這一過程中，若未經(jīng)他人允許而進(jìn)行采集模仿或利用他人肖像、隱私等人格權(quán)客體，即存在一定的安全風(fēng)險(xiǎn)和權(quán)利爭議。此外，基于人工智能可不受他人干擾而獨(dú)立自主行為的屬性特征，其廣泛應(yīng)用會在一定程度上限制人類的自主權(quán)，需要立法者慎重考慮是否承認(rèn)其法律主體地位。其次，社會層面的人工智能倫理問題。人工智能借助算法實(shí)際操作運(yùn)行時(shí)，既有可能自主調(diào)整各項(xiàng)參數(shù)和規(guī)則，也有可能利用算法歧視、算法合謀等方式侵害用戶權(quán)益，致使“算法黑箱”的形成，由于不易察覺或舉證且缺乏程序透明度，難以保證公民的知情權(quán)和監(jiān)督權(quán)，挑戰(zhàn)社會公平正義。此外，由于勞動者使用人工智能的能力各不相同，人工智能的廣泛發(fā)展可能會導(dǎo)致“數(shù)字鴻溝”，引發(fā)結(jié)構(gòu)性失業(yè)，激化社會矛盾，影響社會穩(wěn)定。最后，環(huán)境層面的人工智能倫理問題。2021年11月24日，聯(lián)合國教科文組織第41屆大會通過了《人工智能倫理問題建議書》，強(qiáng)調(diào)“在人工智能系統(tǒng)的整個(gè)生命周期內(nèi)，會員國和工商企業(yè)應(yīng)評估對環(huán)境產(chǎn)生的直接和間接影響”。人工智能的發(fā)展應(yīng)用依賴大量的硬件設(shè)備，以高能耗為運(yùn)行特征。因此，人工智能系統(tǒng)在其生命周期內(nèi)，通常會消耗巨大的自然資源，如不加規(guī)制便會造成嚴(yán)重的環(huán)境污染，不利于可持續(xù)發(fā)展。

（三）規(guī)則問題

2024年3月21日，聯(lián)合國大會通過首個(gè)關(guān)于人工智能的全球決議《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機(jī)遇，促進(jìn)可持續(xù)發(fā)展》，已認(rèn)識到人工智能規(guī)制不足所帶來的風(fēng)險(xiǎn)。決議指出，“人工智能系統(tǒng)，其生命周期包括前期設(shè)計(jì)、開發(fā)、評價(jià)、測試、部署、使用、銷售、采購、運(yùn)行和淘汰等階段”“不當(dāng)或惡意地設(shè)計(jì)、開發(fā)、部署和使用人工智能系統(tǒng)——例如在沒有適當(dāng)保障措施或不符合國際法的情況下——構(gòu)成風(fēng)險(xiǎn)”。

一方面，在設(shè)計(jì)開發(fā)環(huán)節(jié)，人工智能的算法、數(shù)據(jù)、算力三要素存在規(guī)制不足問題。算法作為人工智能的核心技術(shù)，具有自主學(xué)習(xí)、輔助決策、配置社會資源等作用，憑借機(jī)器優(yōu)勢、架構(gòu)優(yōu)勢和嵌入優(yōu)勢演化為新型的準(zhǔn)權(quán)力，如果缺乏規(guī)制會出現(xiàn)新的權(quán)力濫用。例如因算法的高度復(fù)雜技術(shù)特征導(dǎo)致權(quán)力不透明的“算法黑箱”，又如利益驅(qū)使下算法通過數(shù)據(jù)分析導(dǎo)致對特定群體的“算法歧視”等。而算法的基礎(chǔ)是大數(shù)據(jù)，是人工智能的主要社會資源和新型生產(chǎn)要素，在數(shù)據(jù)確權(quán)、數(shù)據(jù)安全、數(shù)據(jù)流通規(guī)則等方面需要完善。另外，服務(wù)于算法和數(shù)據(jù)的硬件、軟件基礎(chǔ)算力，依賴于能源、資源、人力等市場要素的配置，算力作為數(shù)字時(shí)代的新型生產(chǎn)力對推進(jìn)“東數(shù)西算”戰(zhàn)略的落實(shí)至關(guān)重要，其發(fā)展需要規(guī)則予以保障。另一方面，在部署應(yīng)用環(huán)節(jié)，人工智能的通用賦能屬性，使其對人類社會產(chǎn)生廣泛而深遠(yuǎn)的影響。自動駕駛汽車、智能診療系統(tǒng)、人形機(jī)器人、生成式人工智能等具體應(yīng)用不斷出現(xiàn)，產(chǎn)生了全新的權(quán)利義務(wù)關(guān)系。其中，自動駕駛車輛存在道路交通事故的歸責(zé)對象爭議問題，智能診療系統(tǒng)存在自主性、透明性、安全性不足以及醫(yī)療事故歸責(zé)問題。隨著人工智能機(jī)器人的出現(xiàn)，“機(jī)器犯罪”對刑法規(guī)制體系帶來沖擊，傳統(tǒng)的刑法構(gòu)成要件難以辨析責(zé)任承擔(dān)，以及如何區(qū)分研發(fā)者、使用者與人工智能致害結(jié)果的因果關(guān)系問題。另外，目前人工智能已經(jīng)進(jìn)入執(zhí)法、司法領(lǐng)域，給法律程序、訴訟參與人制度、訴訟權(quán)利義務(wù)關(guān)系帶來了許多不容忽視的問題。

三、強(qiáng)化人工智能發(fā)揮新質(zhì)生產(chǎn)力作用的立法保障

人工智能是新一輪科技革命和產(chǎn)業(yè)革命的核心引擎，是推動新質(zhì)生產(chǎn)力快速發(fā)展的重要驅(qū)動力，但亟待通過制定法律法規(guī)來規(guī)范和引導(dǎo)人工智能技術(shù)的進(jìn)步，以“善治”促“善智”。2025年3月11日，第十四屆全國人民代表大會第三次會議審議批準(zhǔn)了《全國人民代表大會常務(wù)委員會工作報(bào)告》，在今后一年的任務(wù)中明確提出，圍繞人工智能、數(shù)字經(jīng)濟(jì)、大數(shù)據(jù)、自動駕駛等新興領(lǐng)域加強(qiáng)立法研究。我國人工智能制度設(shè)計(jì)和立法實(shí)踐，一方面要具備前瞻性和先進(jìn)性視角，在推動出臺具有中國特色的人工智能法的同時(shí)，靈活修改完善相關(guān)法律規(guī)則，發(fā)展具有中國特色的人工智能治理體系，在人工智能的國際治理競爭與合作中發(fā)出中國聲音、提出中國方案；另一方面要具有國際視野，統(tǒng)籌推進(jìn)國內(nèi)法治和涉外法治，促進(jìn)人工智能立法與國際接軌，加強(qiáng)人工智能領(lǐng)域的國際交流與合作，推動構(gòu)建開放包容的全球人工智能治理體系。

（一）當(dāng)前國際人工智能立法規(guī)制情況

加強(qiáng)人工智能治理已成為當(dāng)今世界各國面臨的共同課題。前述聯(lián)合國大會決議、聯(lián)合國教科文組織的建議就是人工智能規(guī)制倡議性文件。2023年10月，美國發(fā)布的《關(guān)于安全、可靠、可信地開發(fā)和使用人工智能的行政命令》，為人工智能安全和保障建立了新標(biāo)準(zhǔn)。歐盟理事會于2024年5月正式批準(zhǔn)全球第一部人工智能法案，以人工智能技術(shù)風(fēng)險(xiǎn)分級管理為核心，為人工智能治理提供了高標(biāo)準(zhǔn)規(guī)則框架。歐盟人工智能法強(qiáng)調(diào)立法的留白，重點(diǎn)關(guān)注高風(fēng)險(xiǎn)人工智能，注重?cái)?shù)據(jù)合規(guī)、個(gè)人數(shù)據(jù)保護(hù)等。美國的行政命令僅要求能力超過GPT-4的超大能力大模型強(qiáng)制披露必要信息。英國《支持創(chuàng)新的人工智能監(jiān)管方式》白皮書指出，由于通用大模型涉及領(lǐng)域的廣泛性，難以將其納入任一監(jiān)管機(jī)構(gòu)的職權(quán)范圍，應(yīng)加強(qiáng)中央層面的監(jiān)管協(xié)調(diào)。新加坡將建設(shè)全球人工智能解決方案中心、參與全球人工智能技術(shù)規(guī)則制定、形成多方共贏的合作模式，作為人工智能發(fā)展戰(zhàn)略的三個(gè)核心方向?？傮w看，多數(shù)國家對人工智能立法比較慎重，呈現(xiàn)出保守傾向。由于人工智能技術(shù)發(fā)展已經(jīng)成為政治、經(jīng)濟(jì)和技術(shù)“三位一體”的復(fù)合型問題，各國需要協(xié)作面對。但美國高度警惕我國的技術(shù)追趕，出臺了大量針對中國人工智能領(lǐng)域的封鎖、制裁和懲罰性舉措。鑒于此，我國人工智能立法應(yīng)當(dāng)積極應(yīng)對風(fēng)險(xiǎn)挑戰(zhàn)，承擔(dān)大國責(zé)任，展現(xiàn)大國擔(dān)當(dāng)，探索全球人工智能法治的思路和方案，引領(lǐng)全球人工智能產(chǎn)業(yè)走普惠、有益、安全的發(fā)展道路。

（二）國內(nèi)視角下人工智能立法展望

第一，當(dāng)前國內(nèi)立法概況。我國人工智能的發(fā)展走在世界前列，也在不斷探索對人工智能的立法規(guī)制。2023年10月18日，習(xí)近平主席在第三屆“一帶一路”國際合作高峰論壇開幕式上宣布中方提出《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國方案，主要包括堅(jiān)持以人為本、智能向善，堅(jiān)持相互尊重、平等互利，建立風(fēng)險(xiǎn)等級測試評估體系等。近年來，我國相繼出臺了網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等法律，為人工智能的發(fā)展提供了基本法律框架。2025年3月7日，國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》，將于2025年9月1日起施行。我國人工智能立法，應(yīng)當(dāng)從中國本土實(shí)踐特色出發(fā)，秉持人本理念，堅(jiān)持發(fā)展與安全并重的系統(tǒng)思維，既注重人工智能帶來的創(chuàng)新和進(jìn)步，也重視可能帶來的風(fēng)險(xiǎn)和挑戰(zhàn)；既總結(jié)既往網(wǎng)絡(luò)立法經(jīng)驗(yàn)，又合理借鑒國外法律和國際規(guī)則中的制度資源，適應(yīng)國際合作與競爭。通過科學(xué)、全面的立法，構(gòu)建具有中國特色的人工智能法治體系。

我國人工智能立法可以在“集中立法+要素立法+場景立法（1+3+X）”的模式下有序推進(jìn)。一方面，應(yīng)當(dāng)出臺一部具有中國特色的人工智能法，為依法加強(qiáng)人工智能治理提供基礎(chǔ)規(guī)則，保障新質(zhì)生產(chǎn)力下新型勞動關(guān)系與要素在安全的基礎(chǔ)上不斷發(fā)展。在此過程中，需要充分認(rèn)識人工智能法“公私交融”的特征，避免陷入私法規(guī)范或公法規(guī)制的單一路徑。同時(shí)，還要看到人工智能不僅具有技術(shù)性還具有社會性，人工智能的綜合立法應(yīng)包含人工智能的權(quán)利法、責(zé)任法、市場法、監(jiān)管法和促進(jìn)法，構(gòu)建自上而下與自下而上的雙向治理范式。另一方面，人工智能的集中立法固然能從整體上明確原則、提供指導(dǎo)、提煉共識、挖掘共性、劃定紅線，但不應(yīng)寄希望于畢其功于一役。一是人工智能產(chǎn)業(yè)的應(yīng)用廣泛，不同應(yīng)用場景的人工智能風(fēng)險(xiǎn)類型與發(fā)展挑戰(zhàn)各不相同，集中式的立法無法面面俱到。二是算法、算力、數(shù)據(jù)的共同作用是新一輪人工智能熱潮的根本原因。在人工智能集中立法的同時(shí)，還需要結(jié)合人工智能的要素與場景進(jìn)行分散式的補(bǔ)充立法，才能適應(yīng)人工智能作為新質(zhì)生產(chǎn)力更新迭代迅速、技術(shù)不確定、風(fēng)險(xiǎn)難預(yù)見等特征。要在人工智能法的基礎(chǔ)上，結(jié)合網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等已有智能要素立法，完善數(shù)據(jù)財(cái)產(chǎn)法、算法問責(zé)法、算力安全法等智能要素法的制定；同時(shí)，推動自動駕駛汽車、醫(yī)療人工智能、人形機(jī)器人等應(yīng)用場景的專門立法，破解不同人工智能應(yīng)用形式面臨的法律挑戰(zhàn)，最大程度激活新質(zhì)生產(chǎn)力的潛能。

第二，人工智能立法理念。人工智能技術(shù)的深入研發(fā)與應(yīng)用，不僅涉及國家利益和社會公共利益，還涉及私人利益。對人工智能進(jìn)行法律規(guī)制，是一項(xiàng)牽一發(fā)而動全身的系統(tǒng)工程。人工智能立法應(yīng)以增進(jìn)人類共同福祉為目標(biāo)，以保障社會安全、尊重人類權(quán)益為前提，以規(guī)范人工智能在法律、倫理和人道主義層面的價(jià)值取向?yàn)樽谥?，?jiān)持平等互利，促進(jìn)智能向善。

立法目標(biāo)。人工智能法的制定，應(yīng)“以增加社會公共福祉為目標(biāo)”，既保障安全又強(qiáng)調(diào)發(fā)展，在參考既往科技領(lǐng)域立法的基礎(chǔ)上，結(jié)合人工智能實(shí)踐中的問題，前瞻性地涵蓋適用范圍、法律原則、法律義務(wù)、法律責(zé)任等方面內(nèi)容，保障人工智能發(fā)揮新質(zhì)生產(chǎn)力作用。

法律價(jià)值原則。堅(jiān)持以人為本、智能向善，應(yīng)將道德、倫理、公平、自由等價(jià)值因素納入人工智能法的制定考量中，闡明人工智能法治實(shí)踐應(yīng)當(dāng)遵循的基本原則，包括人本原則、安全原則、發(fā)展原則、公平原則、透明原則等，確保人工智能始終朝著有利于人類文明進(jìn)步的方向發(fā)展。

法律適用范圍。立法應(yīng)涵蓋人工智能設(shè)計(jì)研發(fā)、提供、使用等生命周期各環(huán)節(jié)，實(shí)現(xiàn)對人工智能法律風(fēng)險(xiǎn)的全生命周期治理。在人工智能實(shí)踐過程中，科學(xué)劃定應(yīng)當(dāng)重點(diǎn)監(jiān)管的高風(fēng)險(xiǎn)領(lǐng)域，其他低風(fēng)險(xiǎn)領(lǐng)域可以采取適當(dāng)?shù)姆潘烧?，確保監(jiān)管的精準(zhǔn)性和有效性，進(jìn)一步激發(fā)市場活力和創(chuàng)新動力。

權(quán)利義務(wù)設(shè)置?；谌斯ぶ悄墚a(chǎn)業(yè)鏈中主體的多樣性與復(fù)雜性，可按照不同活動特點(diǎn)區(qū)分人工智能的研發(fā)者、提供者、使用者，合理分配權(quán)利義務(wù)，包括但不限于保障人工智能安全性、公平性和可解釋性，進(jìn)行科技倫理審查和安全審查等，確保所承擔(dān)的義務(wù)與潛在風(fēng)險(xiǎn)相匹配，堅(jiān)決維護(hù)安全底線，保障人工智能技術(shù)健康發(fā)展。

第三，人工智能立法具體規(guī)則。堅(jiān)持分級治理理念。人工智能更新迭代快、發(fā)展?jié)摿Υ?，?shí)行風(fēng)險(xiǎn)分類分級的動態(tài)監(jiān)督管理，能夠保障人工智能的安全性和合規(guī)性。同時(shí)，還可以提高人工智能治理的適配性與精確度，避免“一刀切”帶來的安全與發(fā)展的失衡，激勵(lì)人工智能產(chǎn)業(yè)創(chuàng)新，促進(jìn)其健康、合規(guī)、可持續(xù)發(fā)展。應(yīng)當(dāng)全面考慮各類人工智能對新質(zhì)生產(chǎn)力發(fā)展的重要程度，高度關(guān)注其發(fā)展過程中可能帶來的潛在風(fēng)險(xiǎn)，審查其對國家安全、社會利益或者個(gè)人合法權(quán)益可能造成的危害，定期評估、調(diào)整現(xiàn)有的風(fēng)險(xiǎn)分級標(biāo)準(zhǔn)，針對性地制定監(jiān)管措施。同時(shí)，對于具有高風(fēng)險(xiǎn)的人工智能，應(yīng)當(dāng)構(gòu)建人工智能“守門人”規(guī)則，確保風(fēng)險(xiǎn)管理職責(zé)到位。

完善人工智能責(zé)任規(guī)則。目前，人工智能已在多個(gè)應(yīng)用領(lǐng)域引發(fā)事故、造成損害侵權(quán)等，產(chǎn)生了責(zé)任分配問題，比如自動駕駛汽車失控導(dǎo)致交通事故、生成式人工智能著作權(quán)侵權(quán)等，亟需完善相關(guān)責(zé)任規(guī)則。一是適度的罰款制度。對于嚴(yán)重違法開展人工智能研發(fā)、提供、使用活動的，應(yīng)當(dāng)綜合考慮行為人的規(guī)模、主觀過錯(cuò)、行為后果、獲利情況等進(jìn)行罰款，以便起到威懾作用。二是合理的侵權(quán)責(zé)任規(guī)則。針對人工智能風(fēng)險(xiǎn)事故、損害侵權(quán)等情況，應(yīng)當(dāng)以主客觀因素、因果關(guān)系為基礎(chǔ)，分配不同法律主體的責(zé)任。既要完善人工智能產(chǎn)品責(zé)任，以便應(yīng)對研發(fā)生產(chǎn)端的風(fēng)險(xiǎn)致害問題，解決生產(chǎn)者、銷售者一方的責(zé)任，又要完善應(yīng)用端的提供者、使用者一方的責(zé)任規(guī)則。三是適當(dāng)?shù)拿庳?zé)規(guī)則。為推動人工智能產(chǎn)業(yè)的發(fā)展與應(yīng)用，鼓勵(lì)企業(yè)采取合規(guī)措施預(yù)防風(fēng)險(xiǎn)，確保人工智能的良性發(fā)展。同時(shí)，對于免費(fèi)開源人工智能進(jìn)行適當(dāng)?shù)呢?zé)任豁免，以便鼓勵(lì)知識共享與技術(shù)創(chuàng)新。此外，對于以生成式人工智能為代表的人工智能服務(wù)，應(yīng)當(dāng)更新“避風(fēng)港”規(guī)則，合理界定提供者與使用者之間的責(zé)任。

構(gòu)建新型產(chǎn)權(quán)規(guī)則。一方面，通過法律的形式明確數(shù)據(jù)產(chǎn)權(quán)規(guī)則，構(gòu)建新質(zhì)生產(chǎn)力作為新型勞動對象的人工智能要素分配規(guī)則，合理確定數(shù)據(jù)在獲取、處理、流通過程中的權(quán)利歸屬，完善和細(xì)化數(shù)據(jù)產(chǎn)權(quán)的結(jié)構(gòu)性分置規(guī)則。另一方面，對于算法等新型勞動資料，可以探索以專利權(quán)、新型知識產(chǎn)權(quán)等規(guī)則為代表的確權(quán)和權(quán)利保護(hù)路徑。此外，對于生成式人工智能生成內(nèi)容的權(quán)利確認(rèn)和歸屬，則需要更新現(xiàn)行著作權(quán)法中的獨(dú)創(chuàng)性認(rèn)定標(biāo)準(zhǔn)、“思想表達(dá)二分法”和合理使用、風(fēng)險(xiǎn)負(fù)擔(dān)以及責(zé)任承擔(dān)等規(guī)則，積極推動知識產(chǎn)權(quán)制度的理論創(chuàng)新、功能發(fā)展和機(jī)制優(yōu)化，構(gòu)建新質(zhì)生產(chǎn)力下人工智能新型生產(chǎn)關(guān)系中的產(chǎn)權(quán)規(guī)則，重新定義專利、外觀設(shè)計(jì)、文學(xué)和藝術(shù)作品等固有的知識產(chǎn)權(quán)概念。

構(gòu)建風(fēng)險(xiǎn)防控機(jī)制。鑒于人工智能技術(shù)及其廣泛應(yīng)用會帶來“算法黑箱”、隱私泄露、“大數(shù)據(jù)殺熟”等風(fēng)險(xiǎn)隱患，主管部門應(yīng)當(dāng)加強(qiáng)與企業(yè)、組織、科研機(jī)構(gòu)以及公眾之間的合作和溝通，收集分析人工智能安全信息，按照危害程度、影響范圍等因素對安全事件予以準(zhǔn)確分類分級，制定合理且切實(shí)可行的處理方案，構(gòu)建風(fēng)險(xiǎn)監(jiān)測預(yù)警和信息通報(bào)制度。同時(shí)，還應(yīng)引導(dǎo)企業(yè)和行業(yè)組織進(jìn)行自我監(jiān)管，要求科研機(jī)構(gòu)協(xié)助監(jiān)督和識別潛在風(fēng)險(xiǎn)，幫助公眾提升人工智能風(fēng)險(xiǎn)防范意識，確保對既有風(fēng)險(xiǎn)和潛在風(fēng)險(xiǎn)的及時(shí)處置和有效防范。

建立統(tǒng)籌協(xié)調(diào)治理機(jī)制。實(shí)現(xiàn)人工智能有效治理，應(yīng)以統(tǒng)籌發(fā)展與安全為目標(biāo)，以統(tǒng)籌倫理、立法、標(biāo)準(zhǔn)等治理板塊為核心，以統(tǒng)籌既有治理經(jīng)驗(yàn)及資源與人工智能發(fā)展實(shí)際問題為切入點(diǎn)，建立并完善國家層面的人工智能統(tǒng)籌治理機(jī)制，定期開展人工智能技術(shù)監(jiān)測、評估、審計(jì)工作，調(diào)查收集人工智能發(fā)展和治理情況，統(tǒng)籌設(shè)置國家層面的人工智能管理機(jī)構(gòu)，以提供強(qiáng)有力的組織與制度保障。

（作者系西南政法大學(xué)教授，重慶市人大法制委員會主任委員）

來源：《習(xí)近平法治思想研究與實(shí)踐》?？?/p>

責(zé)任編輯：馬毓晨 廖衛(wèi)華