全國(guó)首個(gè)《人(rén)工(gōng)智能(néng)法示範λ♥↓≠法 1.0(專家(jiā)建議(yì)稿)》發β∞布
全文(wén)共計(jì)16427字,預計(jì)閱讀(dú)時(shí)間(jiān)12分(fēn)鐘(zhōng)
來(lái)源 | 中國(guó)社會(huì)科(kē)學院法學研究所(轉載請(qǐn>β₽g)注明(míng)來(lái)源)
編輯 | 蒲蒲
人(rén)工(gōng)智能(néng)飛(fēi)速發φ↔♠γ展,在為(wèi)新一(yī)輪技(jì)術(shù)革命提供支撐的('✘ de)同時(shí),也(yě)給社會(huì α<)帶來(lái)諸多(duō)風(fēng)<₽™¶險和(hé)挑戰。
自(zì)2017年(nián)以來(lái),美(měi)國(guó)、歐盟、中國(guó₹↕)、加拿(ná)大(dà)、日(rì)本、 ↕新加坡等國(guó)家(jiā)或地(dì)區(qū)陸續發布AI發展和(hé)治理(lǐ)的(de)法律法規準則₹πα,立法探索也(yě)曆經從(cóng)宏觀性準π&≠ε則和(hé)戰略到(dào)條款逐漸細化(huà)的(de)β₽過程。
2022年(nián),ChatGPT橫空(kōng)出世,生(shēng)成式人(réεπ"n)工(gōng)智能(néng)的(de)驚豔表現(xi♣♥✔àn)和(hé)其背後暗(àn)藏的(dβ®÷e)新型風(fēng)向都(dōu)被推至聚光(guāng)燈下•$ £(xià)。美(měi)國(guó)、歐盟等紛紛出台相∏©(xiàng)關人(rén)工(gōng)智能(né↓₽↔∑ng)治理(lǐ)文(wén)件(jiàn),以應♦π→←對(duì)這(zhè)一(yī)新生(shēng)事(shì λπσ)物(wù)的(de)機(jī)遇和(hé)σ₩挑戰。各國(guó)如(rú)何通(tōng)過從↔→(cóng)法律的(de)角度回應人(rén)工(gōng)智能(né♠≥ ng)發展過程中提出的(de)一(yī)系列新問(wèn)題?我國(βγ∞guó)又(yòu)将如(rú)何通(tōng)過立πβ$φ法構建具有(yǒu)中國(guó)特色的±©(de)人(rén)工(gōng)智能(néng)治理(≥♠®lǐ)路(lù)徑?
近(jìn)日(rì),由中國(guó)社會(huì)科(k₩λ&ē)學院法學研究所主辦,中國(guó)社會(huì☆∞✔)科(kē)學院法學研究所網絡與信息法研究✔>≈室、南(nán)财合規科(kē)技(jì≤φ)研究院等共同承辦的(de)“全球治理(lǐ)話(huà)語競賽下(xià₽∏)人(rén)工(gōng)智能(néng)立法的(de)≥€✘₩中國(guó)方案”研討(tǎo)會(huì)在北(běi)京舉行(xíng)。會(huì)上(£¥shàng),中國(guó)社會(huì)科(kē)學院國(guó)情<™調研重大(dà)項目《我國(guó)人(rén)工(gōng)智能(nén±εg)倫理(lǐ)審查和(hé)監管制(zhì)度建設狀況調研》課₩∏題組(以下(xià)簡稱“課題組”)主持人(rén)、中國(guó)社會(huì)科(kē₽)學院法學研究所網絡與信息法研究室副主任周輝正式發布《人(rén)工(gōng≤±)智能(néng)法(示範法)》(以下(xi↔≠≠à)簡稱《示範法》)。
《示範法》涵蓋總則、工(gōng)智能(néng)支持與促進、人(rén)工(§α≠ gōng)智能(néng)管理(lǐ)制(zhì)度、人(rén)工(g∏☆↓ōng)智能(néng)研發者和(hé)提供者義務、人(rén) ×♠♠工(gōng)智能(néng)綜合治理(lǐ)機(jī)制(z≠↓∏hì)、法律責任和(hé)附則七大(dà)章(zhāng)節。總體(t¥∑ǐ)來(lái)看(kàn),《示範法》堅持發展與安全并行(xíng)&≤的(de)中國(guó)式治理(lǐ)思路(lù),提出了(le)負面清單管理¥(lǐ)等治理(lǐ)制(zhì)度,并對(duì)人(rén↕ππ)工(gōng)智能(néng)産業(yè)鏈條各主γ≠←¥體(tǐ)責任義務分(fēn)配等核心問(wèn♥¶)題進行(xíng)了(le)回應。
起草(cǎo)說(shuō)明(míng)&↕
一(yī)、起草(cǎo)背景
今年(nián)以來(lái),以ChatGPT等産品為(wèi)代表的(de)生(shēng)成式人± ∑(rén)工(gōng)智能(néng)技(jì)術(s£αΩ✘hù)迅猛發展,為(wèi)人(rén)工(gōng)智能(ε∑néng)産業(yè)注入一(yī)針強心劑,Ω≈♦引發新一(yī)輪人(rén)工(gōng)智能(n↑Ω↑éng)革命。但(dàn)同時(shí),新技(jì)術∏♥≤(shù)新應用(yòng)也(yě)會(huì)帶來✘£(lái)網絡安全、數(shù)據安全、個(±'gè)人(rén)信息保護等方面的(de)風(fēng)險。人(rén)工(≥÷'↓gōng)智能(néng)治理(lǐ)需要(yào)抓≥φ住技(jì)術(shù)發展機(jī)遇,科(kē)學合理(lǐ)推進,以δ∞£在未來(lái)新一(yī)輪科(kē)技(jì)革命和(hé∞β↓♥)國(guó)際科(kē)技(jì)競争中取得(de)主動權。目前,全球™✘各主要(yào)經濟體(tǐ)均在進行(xíng)實踐♠✘探索,嘗試構建人(rén)工(gōng)智能(n∑₽éng)治理(lǐ)規則體(tǐ)系、話(huà&λ&)語體(tǐ)系。歐盟《人(rén)工(gōng)智能(nén §g)法案》已進入最終談判階段,該法案采用(yòng)α×δ風(fēng)險等級分(fēn)類方式對(duì)人(rén)工(gōn₩∞∞g)智能(néng)進行(xíng)監管,針對(duì)其中高(gāo"★)風(fēng)險類别規定了(le)詳細的(de)全流程↕≥÷風(fēng)險管理(lǐ)措施,并引入了(le)監管λ$沙盒等治理(lǐ)手段。美(měi)國(gu♣£πó)雖尚未有(yǒu)成體(tǐ)系立法,但(dàn)于2022年(nián)10月(yuè)發布了(le)《人(rén)工(gōng)智能(néng)權↑₽±利法案藍(lán)圖》,提出了(le)安全有(yǒu)效的(de♥→)系統、算(suàn)法歧視(shì)保護、數(shù)據隐私、通(t&↑®ōng)知(zhī)和(hé)解釋、人(rén)工(gōng₹±)替代方案與後備等五項人(rén)工(gōng)智能(néng)治理(lǐλδ♦↓)原則。在這(zhè)一(yī)文(wén)件(jiàn ✔←)的(de)基礎上(shàng),美(měi)國(guó)∑>£聯邦政府各部門(mén)、各州正在推進政策制(zh&§ì)定或立法工(gōng)作(zuò)。≠λ
中國(guó)在2023年(nián)4月(yuè)份就(jiù)《生(shēng)成式人(ré₽≥n)工(gōng)智能(néng)服務管理(↑'≥♦lǐ)辦法(征求意見(jiàn)稿)》公±₩開(kāi)征求意見(jiàn),并于7月(yuè)正式發布《生(shēng)成式人(rén♥φ♦)工(gōng)智能(néng)服務管理(lǐ)暫行(xíng)辦法》,σ₽率先就(jiù)生(shēng)成式人(rén)工(×£®Ωgōng)智能(néng)監管這(zhè)一(yī)議(yì)題給出中€"☆國(guó)方案。此外(wài),人(rén)工(gōnγ g)智能(néng)法也(yě)已被列入國(guó)務院2023年(nián)立法工(gōng)作(zuò)計(jì)劃。未來(lái),中國→Ω(guó)如(rú)何通(tōng)過立法•¥€在擁抱技(jì)術(shù)發展的(de)同時(÷±>shí)有(yǒu)效規制(zhì)風(fēng±€)險,貢獻出具有(yǒu)中國(guó)特色→✘的(de)人(rén)工(gōng)智能(nén♣>"g)治理(lǐ)路(lù)徑,将受到(dào)國(guóε≥↑)內(nèi)外(wài)各界的(de)密切關注。
2023年(nián)上(shàng)半年(nián)以來(l ∞ái),在持續、長(cháng)期追蹤研究人(r&én)工(gōng)智能(néng)發展、監管的(de)基礎上(shà ♥★ng),中國(guó)社會(huì)科(¶ε₽©kē)學院國(guó)情調研重大(dà)項目《我國(guó)人(rén)工(®σ♥gōng)智能(néng)倫理(lǐ)審查和(hé)監管制(zhì)度建設←δ狀況調研》課題組主持人(rén)、中國(guó)社會(huì)科(kē)學↕♣÷院法學研究所網絡與信息法研究室副主任周輝組織多(duō)方專家(jiā)團&'✔隊,經多(duō)次調研、討(tǎo)論、修π←®∏改,起草(cǎo)形成《人(rén)工(gōng)智能(n§<δ$éng)法(示範法)》(以下(xià)簡稱《示範法》)。《示範法》立足時(sh≥'í)代前沿,把握人(rén)工(gōng)智能(néng)發展規律和(hé₽ )全球治理(lǐ)趨勢,在為(wèi)國(guó)家(jiā)關立β≤法提供參考的(de)同時(shí),也(yě♥ )期待通(tōng)過1.0、2.0、及至N.0的(de)叠代討(tǎo)論,不(bù)斷适應人(®"rén)工(gōng)智能(néng)發展安全态勢,更好(hǎo)推動凝聚依法≥★發展和(hé)治理(lǐ)人(rén)工(gōng)智能(néng)的(de&∞∑)共識。
二、起草(cǎo)思路(lù)與主要(yào)結構
《示範法》分(fēn)為(wèi)六章(zhāng),包₹←Ω 括人(rén)工(gōng)智能(néng)基本原則,促進發展舉措、風(fēn÷g)險管理(lǐ)制(zhì)度、主體(tǐ)責任分(fēn)配、治理(l ≠®ǐ)機(jī)制(zhì)設計(jì)、法律責任。《示範法》堅持中 '國(guó)式治理(lǐ)思路(lù),既鼓勵技(jì)術(shù)發展♥φ,又(yòu)堅守安全底線,是(shì)具有(yǒαγu)綜合性、統轄性的(de)立法設計(jì)。
第一(yī)章(zhāng)“總則”,闡明(míng)人(rén)工(gōng)智能(né©>♦"ng)發展的(de)基本原則,包括治理(lǐ)原¥ π←則、人(rén)類自(zì)主原則、安全原則±λ、透明(míng)可(kě)解釋、公平原則等。在總則确立的(de)原則基礎上$≠δ (shàng),下(xià)述各章(zhāng)将圍繞總©₽則展開(kāi),并與相(xiàng)關條文(↕♠λwén)呼應。
第二章(zhāng)“人(rén)工(gōng)智能(néng)發展”,抓住促進發展這(zhè)一(yī)“牛鼻子(zǐ)”,從(cóng)基礎設施、人(rén)才培養、技(jì<¶ )術(shù)創新、體(tǐ)制(zhì)機(₩$÷jī)制(zhì)支持等維度提出相(xiàng)•↑應制(zhì)度規範,結合産業(yè)發展實際,采取有(yǒu)✘✘↓'力措施鼓勵人(rén)工(gōng)智能(nén&γg)創新。本章(zhāng)還(hái)強調以國(guó)家(jiā)機(Ω>βjī)關的(de)先行(xíng)先試促進人(r$'¶én)工(gōng)智能(néng)的(de)推廣♠Ωδ•應用(yòng)。
第三章(zhāng)“人(rén)工(gōng)智能(néng)管理(lǐ)制(zh∑φì)度”,沿用(yòng)近(jìn)年(nián)來(lái)實踐證明(mí♠ σng)較為(wèi)可(kě)行(xíng)的(de)風(fēng)險≈分(fēn)類分(fēn)級管理(lǐ)方式δ&,對(duì)人(rén)工(gōng)智能(néng)技(jì)©£±₩術(shù)研發和(hé)提供活動作(zuò)出規定。起草(cǎo)組認為(wπ$>±èi),鑒于人(rén)工(gōng)智能(néng)技(jì§Ωφ<)術(shù)叠代迅速、未來(lái)發展潛力較大(÷≤£dà),應在監管中适度予以放(fàng)寬,不(bù)應規定過重義務、設定₩®₽過多(duō)限制(zhì)。因此,起草(cǎo)組采用(yòng ★÷↔)負面清單管理(lǐ)制(zhì)度對(duì)人(rén)♠ ₩工(gōng)智能(néng)進行(xíng)風(fσ∑ēng)險管理(lǐ):負面清單內(nèi)的(de)研發、提供₩•活動采取許可(kě)機(jī)制(zhì),實行(x₩$≤íng)事(shì)前監管;負面清單外(wài)的(de)研發、提供活動則采∞•取備案機(jī)制(zhì),實行(xíng)事(shì)後監★>管。這(zhè)一(yī)設計(jì)旨在減輕人(©'rén)工(gōng)智能(néng)研發、★$≤★提供等活動的(de)審查、許可(kě)等環節成本,既有(yǒu)&¥↑效防範關鍵風(fēng)險,又(yòu)容許創新發展。
第四章(zhāng)“人(rén)工(gōng)智能(néng)δ"研發者、提供者義務”,明(míng)确人(rén)工(gōng)智能(néng)研發者、®€<提供者應承擔相(xiàng)應合規義務,如(rú)保障公平性和(hé£<)可(kě)解釋性、進行(xíng)科(kē)技(jì)倫理(l÷∞<ǐ)審查和(hé)安全審查等,并且應将安全義務貫穿于人(>φrén)工(gōng)智能(néng)活動整個(gè)生(✔☆Ω☆shēng)命周期,将人(rén)工(gōng)÷σπ≥智能(néng)治理(lǐ)的(de)基本原則轉化(huà)α£為(wèi)企業(yè)可(kě)落地(dì)π♥≈¶、監管可(kě)監督的(de)義務類型。同時(shí♦α),基于人(rén)工(gōng)智能(né•α↓ng)産業(yè)鏈中主體(tǐ)的(de)複雜(zá)性,本章(zhāng) εαφ第二、第三節對(duì)人(rén)工( ©¶gōng)智能(néng)研發者、提供者進行(xí∞≈™ng)了(le)區(qū)分(fēn),依據其不(bù)同活 ✔β×動特點分(fēn)配主體(tǐ)義務。最後€₹←,結合本法前述條款設定的(de)負面清單管理(lǐ)制(zhì)度,本章(zσγhāng)針對(duì)負面清單內(nèi)的(de)人(rén)•φπ工(gōng)智能(néng)研發、提供活動進一≤®$←(yī)步規定了(le)相(xiàng)應的(de)義務類型,保障義務與風✘σ(fēng)險一(yī)緻,堅守安全底線。
第五章(zhāng)“綜合治理(lǐ)機(jī)制(zhì)”。本章(zhāng)銜接總則規定,明(míng)确國(guó)家(jiā)人(☆≤↓✔rén)工(gōng)智能(néng)主管機(jī)關職 ®責,如(rú)統籌人(rén)工(gōng)智能£≈≤(néng)發展和(hé)管理(lǐ),制(zhì↕φε)定人(rén)工(gōng)智能(néng)監管規則、指引,組織₽Ω•&制(zhì)定人(rén)工(gōng)智能(néng)✘×∏倫理(lǐ)、安全、管理(lǐ)等方面标準,組織↕☆人(rén)工(gōng)智能(néng)技(jì¶₽)術(shù)監測、評估、審計(jì)工(gōng)作(zuò)等。此&'外(wài),本章(zhāng)還(hái)提出φ₹≥創新監管、協同監管等機(jī)制(zhì),提高(gāo)監管效率和(hé)治β$♠€理(lǐ)效能(néng),加強多(duō↔÷Ω)元主體(tǐ)溝通(tōng)協作(z€↔↓§uò)。
第六章(zhāng)“法律責任”,根據人(rén)工(gōng)智能(néng)的(de)風≠®₹(fēng)險活動,設計(jì)相(xiàng)應的(de)法律責任→↔•。同時(shí),本章(zhāng)兼顧發★↑展導向,明(míng)确盡職免責等制(zhì)度,以為(wèi)人(rén©£φγ)工(gōng)智能(néng)創新活動提供寬松政策環境。
三、示範法創新點
示範法起草(cǎo)團隊成員(yuán)長(cháng)期研究✔♣¥₽人(rén)工(gōng)智能(néng)<λ發展與治理(lǐ),根據人(rén)工(gōng)智能(n$σéng)的(de)最新動态著(zhe)手起草(cǎo)工(gōng)作(¥•>πzuò),起草(cǎo)過程曆經數(shù)月(yuè),充分(fε±<λēn)結合産業(yè)發展動态以及國(guó)內×δ(nèi)外(wài)人(rén)工(gōng)智能ΩΩα (néng)發展最新進展。總體(tǐ)來(lái)看(k☆≤÷àn),起草(cǎo)說(shuō)明(mín≥$g)具有(yǒu)如(rú)下(xià)創新點:
(一(yī))明(míng)确人(rén)工(gōng)智能( ₽néng)主管機(jī)關
在示範法設計(jì)階段,就(jiù)人(rén)工(gōng✔★σ)智能(néng)治理(lǐ)機(jī)制($→✘zhì),起草(cǎo)組提出兩種思路(lù):一(yī)是(shì)設置主管> φ機(jī)關統籌人(rén)工(gōng)智能(néng™←≥)發展與管理(lǐ),二是(shì)根據此前各個(gè)部門(mén)職責,分≤¥(fēn)行(xíng)業(yè)、分(fēn)領域實施治理 ™↓ (lǐ)。最終,起草(cǎo)組認為(wèi>γ§)應以更高(gāo)維度來(lái)對(duì)待人(rén)工(gōng)智✘®✘'能(néng)治理(lǐ)問(wèn)題,避免産生(≤∏ shēng)類似互聯網平台治理(lǐ)等問(wèn)♣©♥題上(shàng)“九龍治水(shuǐ)”的(de)困境,故創設性提出設置國(guó₹®✔)家(jiā)人(rén)工(gōng)智能(néng)₹λ♣≤主管機(jī)關和(hé)地(dì)方人(rén)工(gōng)智能(↕±≈néng)主管機(jī)關,統籌負責全國(guó↑✔♣)範圍內(nèi)人(rén)工(gōng)智能(néng)發展與管理(l☆≈★↑ǐ)工(gōng)作(zuò)。
(二)劃明(míng)安全底線
随著(zhe)商用(yòng)化(huà)序•γ±幕拉開(kāi),人(rén)工(gōng∑ε )智能(néng)帶來(lái)的(de)“副作(zuò)用(yòng)”——虛假新聞、電(diàn)信網絡詐騙、個(gè)人(rén)信息×✘洩露等逐漸顯現(xiàn)。安全是(shì)發展的(de)基礎,堅守人∏γ§(rén)工(gōng)智能(néng)安全底線£ α有(yǒu)利于構建良好(hǎo)的(de)行(xíng)♥δ♥業(yè)氛圍、增進社會(huì)公衆對(duì→¥<<)人(rén)工(gōng)智能(néng)的(de)認識與信任♠÷ ¶,也(yě)能(néng)更好(hǎo)在人(rén)工(<gōng)智能(néng)研發應用(yòng)過程中保護個(gè)人(r&Ωén)權利、公共利益和(hé)國(guó)家(₹ ♠jiā)安全。
聚焦人(rén)工(gōng)智能(nénε®¶g)産業(yè)鏈治理(lǐ)難題。人(rén)工(gōng)智能(↔•☆néng)産業(yè)鏈包括訓練數(shù)據處理(lǐ)、數(shΩ•∞ù)據标注、模型開(kāi)發、算(suàn)力基礎建設和(hé★')落地(dì)服務場(chǎng)景等多(du¶₽ō)個(gè)環節,包含了(le)大(dà)量不(bù)同類型的♣★λ(de)行(xíng)為(wèi)主體(tǐ),具有(yǒu)高(₽₽gāo)度協作(zuò)的(de)特點。人(rén)工(gōng)智能(néγ φng)研發、提供和(hé)使用(yòng)行(xíng)為(wèi)所造成的(<£φde)風(fēng)險不(bù)僅影(yǐng)響行↑§(xíng)為(wèi)者自(zì)身(shēn),還(hái)會★®(huì)沿産業(yè)鏈向其他(tā)合作(zuò)方傳導,造成風(fēγβ¥≠ng)險擴散。尤其是(shì),人(rén)工(gōng)智能π↓(néng)基礎模型在應用(yòng)體(tǐ)系中扮演重要(yào)角色,一≈$≠★(yī)旦出現(xiàn)相(xiàng)關風(fēng)π♥♠險,可(kě)能(néng)沿服務提供鏈條影(yǐng)響下(xi♥$à)遊所有(yǒu)各類垂直細分(fēn)♠π 場(chǎng)景的(de)服務提供和(hé•™∞>)使用(yòng)。因此,起草(cǎo)團隊抓住Ω¥産業(yè)鏈關鍵環節,明(míng)确規定了(le)基礎模型研發者→₹£應遵循的(de)義務,要(yào)求其制(zhì)定使用(yòng)規則、公π§ 平公正提供基礎模型、協助其他(tā)研發者、提供者履™£行(xíng)相(xiàng)關義務、對(duìε₩♦)嚴重違反示範法規定的(de)其他(tā)主體(tǐ)采取措施等。∑≈ 同時(shí),示範法還(hái)要(yào)求研發者和(hé)提供δ±↕者之間(jiān)應當密切配合,避免互相(xiàng)推×诿責任的(de)情形。
基于人(rén)工(gōng)智能(néng)帶來(lái)的(de)£ α風(fēng)險在當前法律體(tǐ)系中增設義務。目前國(guó)內(>φ↔nèi)在個(gè)人(rén)信息保護、¥$×→數(shù)據安全、網絡安全、互聯網信息服務、知(zhī)識産>§"權、競争法等方面已有(yǒu)清晰、成熟的(de)法律制(zhì)度體(t ÷ǐ)系,示範法則聚焦人(rén)工(gō∑λσ↓ng)智能(néng)應用(yòng)過程可(kě)能(néng)造成的(•♣de)潛在風(fēng)險,保障人(rén)工>(gōng)智能(néng)産品與服務的(de)公開(kāi)、透明(mí≥↔≥↓ng)、公平與可(kě)解釋,并依法進行(xíng)科(kē)技™ π(jì)倫理(lǐ)審查。鑒于人(rén)工(gōng)智能(néng)模 ™型算(suàn)法的(de)運行(xíng)機(jī)制(zhì)并不(bù)×™ε↓完全明(míng)晰,會(huì)産生(s &< hēng)“開(kāi)悟”“湧現(xiàn)”現(xiàn)象,可(kě)能(néng) ≤導緻違背預期的(de)結果。起草(cǎo)團隊還∑φ↑(hái)要(yào)求相(xiàng)關主體(tǐ)在履行(♥♠∑xíng)一(yī)般安全義務的(de)同時(shí),需保障人 >β★(rén)工(gōng)智能(néng)的(de)π♠運行(xíng)結果符合預期,保證其服務的(de)穩定,确保人(÷☆ rén)類對(duì)人(rén)工(gōng)智能(néng)的(d €&'e)監督和(hé)控制(zhì),促進技(jì)術(shù)向善。此外(wàαφ∞i),示範法采取負面清單管理(lǐ)機(jī)制(zhì),明(míng)确÷↓将符合一(yī)定條件(jiàn)的(de)人(r÷∏én)工(gōng)智能(néng)研發、提供活動納入清單,對(du€∑↕ì)清單內(nèi)活動進行(xíng)事(shì)前監 ∑管,并規定了(le)相(xiàng)應程序☆₽,賦予實施負面清單內(nèi)行(xíng)為(wèi)的(de)主體(ε←∞tǐ)以特别義務。
(三)促進發展有(yǒu)實招
示範法堅持發展方向,采取有(yǒu)效措施鼓勵生(shēng)成式人✔¥(rén)工(gōng)智能(néng)創新發展,對€&(duì)人(rén)工(gōng)智能(néng)服務實行(✘•xíng)包容審慎态度。相(xiàng)較于側重₹≤>于懲罰性、管制(zhì)類的(de)立法,示範法更偏向于促進發↔ §δ展,在制(zhì)度設計(jì)上(shàng)留出更多←↑(duō)容錯(cuò)空(kōng)間(jiān≠★<)。
在第二章(zhāng)人(rén)工(gōng)智α¥♣σ能(néng)發展中,圍繞目前人(rén ♦> )工(gōng)智能(néng)發展的(de)關鍵環節:算(suàn)₩<力技(jì)術(shù)設施,算(suàn)法和♦φ¥(hé)基礎模型創新、數(shù)據要(yào)素供給以及商®✘業(yè)應用(yòng)創新,進行(xíng)了(↕<le)制(zhì)度設計(jì)。
示範法采用(yòng)前文(wén)所述負Ω±面清單監管思路(lù),也(yě)出于審慎監管、包容發展的(de)考量。在籌備↔¶©階段,起草(cǎo)團隊考慮借鑒歐盟風(fēng)險分(fēn)級管↕♦§β理(lǐ)思路(lù)設計(jì)我國(guó)₽ 監管機(jī)制(zhì),但(dàn)歐盟模式☆★對(duì)企業(yè)合規壓力仍然較大(dàδπ∏),宜更進一(yī)步聚焦重點。因此,示範法最終采取負面清π€♥單管理(lǐ)機(jī)制(zhì),在明(míng)确對(duì)✘£$ 清單內(nèi)活動采取事(shì)前監管機(jī)制(zhì)之外(wài'÷ ),允許負面清單外(wài)活動保留更大(dà≥>₩↔)自(zì)主性,采取事(shì)前備案、×ε 事(shì)後執法方式,減輕企業(yè)負擔。↔"這(zhè)一(yī)制(zhì)度設計(jì)'α×同樣要(yào)求及時(shí)制(zhì)定和(hé)更新負面清單,示範法α 對(duì)此進行(xíng)了(le)主管機(jī)關職責、清單更新期☆ ✘限等要(yào)求,以督促相(xiàng)關部↔<α門(mén)積極履職。
此外(wài),考慮到(dào)創新發展過程中應有(yǒu)必要(yàλ∞o)的(de)容錯(cuò)機(jī)制(zhì ≈γ↓),示範法對(duì)行(xíng)為(wèi)主體(tǐ)責任承擔&也(yě)設計(jì)了(le)相(xiàng)應&$π的(de)豁免條款。例如(rú):“人(rén)工(gōng)智能(néng)研發者、提供者承諾限期整改合規σ§₩,且能(néng)夠有(yǒu)效避免人(r"α∑↑én)工(gōng)智能(néng)研發、提供或使用✘✘(yòng)活動造成危害的(de),可(kě)以不(bù)暫停相(xiàngβ×≤δ)關活動。國(guó)家(jiā)人(rén)工(gōng)§↔智能(néng)主管機(jī)關認為(wèi)→π×¥可(kě)能(néng)造成危害的(de),可(♠♣←♥kě)以責令暫停相(xiàng)關活動。”在相(xiàng)應條款設計(jì)上(shàng)最大(dà)限度×<上(shàng)給予人(rén)工(gōn☆♦g)智能(néng)研發企業(yè)充分(fēn)的(d÷®←e)發展空(kōng)間(jiān)和(hé)試錯(c≤₩uò)機(jī)會(huì)。示範法還(hái)授權國(guó)家 §(jiā)人(rén)工(gōng)智能(nén ₽g)主管機(jī)關制(zhì)定依法不(bù)予行(xíng☆)政處罰清單,對(duì)符合标準的(de)輕微(wēi)違法行(xíng)★β 為(wèi)采取會(huì)商、約談等手段督促整改,©'δ避免給技(jì)術(shù)創新造成過度影(y ¥€ǐng)響。
(四)科(kē)學設計(jì)主體(tǐ)架構
示範法結合人(rén)工(gōng)智能(néng)↓ 發展狀況、技(jì)術(shù)特點設計(jì)了(le)不(bù)同主體(∏" tǐ)責任。主體(tǐ)責任分(fēn)配是(shì)法律設計(jì)↓$♠≠的(de)核心關鍵環節,人(rén)工(g→α↑ōng)智能(néng)行(xíng)業(yè)σ$生(shēng)态正在快(kuài)速發展形成中,規模龐大(d&∑&✘à),主體(tǐ)呈現(xiàn)多(duō)樣化(huà),産業(yè)鏈∞→迅速擴大(dà)。主體(tǐ)的(de)界分(fē↓∞n)已不(bù)再是(shì)傳統互聯網平台治理(l§®ǐ)時(shí)期的(de)以平台為(wèi)主特點,需要(yào)₽±考慮當前的(de)技(jì)術(shù)特點,并•φ應放(fàng)眼長(cháng)遠(yuǎn),看(kàn)到(d 'ào)未來(lái)通(tōng)用(yòng)★α ∏人(rén)工(gōng)智能(néng$σ)的(de)方向。
經反複深入研究,起草(cǎo)團隊跳(tià$ o)出具體(tǐ)應用(yòng)場(chǎng)景,根據人(rén)工(gō'₩≈'ng)智能(néng)技(jì)術(shù'•)鏈條将主體(tǐ)定為(wèi)“研發者-提供者-使用(yòng)者”三層結構,依據不(bù)同的(de)研發、提供和± ♣(hé)使用(yòng)行(xíng)為(wèi)規定®®λ✘相(xiàng)應責任義務。即使在不(bù)同場(chǎng)景下(xi₽☆à),同一(yī)主體(tǐ)身(shēn)份可(kě)能(néng)存在♥↑交叉重合,也(yě)無需另行(xíng)制(zhì)定規範,僅需基♦§βσ于其實際開(kāi)展的(de)活動匹配相(xiàng)應義σ≥ 務。這(zhè)一(yī)結構設計(jì)避免了(le)過細的επ♠λ(de)主體(tǐ)責任分(fēn)配損害應用(yòng)層面商業(yèβ↔₹♥)模式發展,直接穿透底層技(jì)術(shù)邏輯 Ω、服務提供路(lù)徑,并同時(shí)保證了(le)風(fēng)險防範→↓"←、安全保障義務能(néng)夠得(de)到(dào)順利履行(xín αg)。
四、未來(lái)展望
人(rén)工(gōng)智能(néng)法将是(shì∑✘≤)一(yī)部面向前沿技(jì)術(shù)、面向數(shù)字經濟、面←♦'向未來(lái)的(de)重要(yào)立法,作(zu☆♦ò)為(wèi)1.0版本的(de)示範法提供了(le)階段性的(de)結論和(hé)制(zhì∏↔>)度建議(yì),但(dàn)其理(lǐ)念、原則和(hé)具體(tǐ)制(z∑ & hì)度設計(jì)不(bù)僅将随著(zheα©×)法律和(hé)信息技(jì)術(shù)等領域的(de)επ理(lǐ)論研究而更新,也(yě)會(hu♠₩$ì)随著(zhe)實踐發展而不(bù)斷叠代。起草(cǎo)團隊期待就(♥↔jiù)示範法及本法未盡之處與各界同仁深入交流探討(tǎo),以期得( ₹de)出更成熟、更全面、更有(yǒu)效率的(dε₩☆↓e)治理(lǐ)方案。