人工智能發(fā)展日新月異，其引發(fā)的安全風(fēng)險(xiǎn)與治理挑戰(zhàn)也在持續(xù)演進(jìn)。為增強(qiáng)對(duì)新型風(fēng)險(xiǎn)的前瞻性識(shí)別與主動(dòng)應(yīng)對(duì)能力，人工智能安全治理框架勢(shì)必需要進(jìn)行優(yōu)化調(diào)整與升級(jí)。
一、重要意義
《人工智能安全治理框架》2.0版（以下簡(jiǎn)稱《框架》2.0版）是中國(guó)人工智能治理實(shí)踐持續(xù)探索的經(jīng)驗(yàn)?zāi)?，同時(shí)為全球人工智能治理貢獻(xiàn)出了中國(guó)智慧和方案，體現(xiàn)了中國(guó)在推動(dòng)技術(shù)高質(zhì)量發(fā)展的同時(shí)，對(duì)風(fēng)險(xiǎn)防控的高度重視。
首先，《框架》2.0版是中國(guó)人工智能安全治理實(shí)踐不斷深化的成果。《框架》2.0版并非簡(jiǎn)單更新，而是基于對(duì)技術(shù)演進(jìn)規(guī)律的深刻洞察和對(duì)實(shí)際治理需求的精準(zhǔn)把握，進(jìn)行了系統(tǒng)性升級(jí)。通過(guò)“持續(xù)跟蹤風(fēng)險(xiǎn)變化、完善優(yōu)化風(fēng)險(xiǎn)分類、研究探索風(fēng)險(xiǎn)分級(jí)、動(dòng)態(tài)調(diào)整更新防范治理措施”，體現(xiàn)了中國(guó)治理模式的敏捷性，以治理框架與技術(shù)發(fā)展同步為目標(biāo)，提供動(dòng)態(tài)、開(kāi)放、演進(jìn)的“中國(guó)范式”。
其次，《框架》2.0版為中國(guó)人工智能安全治理提供清晰的基本思路與路線圖。《框架》2.0版注重產(chǎn)業(yè)需求與國(guó)際合作，不僅明確了風(fēng)險(xiǎn)識(shí)別、評(píng)估、分級(jí)、處置的全流程治理機(jī)制，還提出了政府、企業(yè)、科研機(jī)構(gòu)、社會(huì)組織等多元主體共同參與，推動(dòng)形成跨國(guó)界、跨領(lǐng)域、跨行業(yè)的協(xié)同治理格局，力求打破“先發(fā)展后治理”或“重發(fā)展輕治理”的傳統(tǒng)路徑依賴，實(shí)現(xiàn)促進(jìn)人工智能發(fā)展與保障安全的動(dòng)態(tài)平衡，為中國(guó)人工智能產(chǎn)業(yè)的健康可持續(xù)發(fā)展打下了堅(jiān)實(shí)基礎(chǔ)。
最后，相較于歐美已有的人工智能安全治理方案，《框架》2.0版具有一定的進(jìn)步性與獨(dú)特性。不同于美國(guó)以產(chǎn)業(yè)競(jìng)爭(zhēng)為核心、歐盟以權(quán)利驅(qū)動(dòng)為指引，《框架》2.0版堅(jiān)持“發(fā)展”與“安全”并重，既防范風(fēng)險(xiǎn)，又不抑制創(chuàng)新，秉持敏捷治理理念，為新技術(shù)、新業(yè)態(tài)預(yù)留成長(zhǎng)空間，體現(xiàn)出更強(qiáng)的平衡性與前瞻性。同時(shí)，《框架》2.0版突出“全流程治理、動(dòng)態(tài)調(diào)整”，既提升了治理效率，也降低了企業(yè)的合規(guī)不確定性，體現(xiàn)了中國(guó)安全治理模式對(duì)技術(shù)快速迭代的適應(yīng)性優(yōu)勢(shì)。此外，《框架》2.0版提出“推動(dòng)多邊機(jī)制下人工智能安全治理合作”“促進(jìn)技術(shù)成果普惠共享”，強(qiáng)調(diào)構(gòu)建開(kāi)放、公正、非歧視的全球人工智能治理環(huán)境，體現(xiàn)了中國(guó)作為負(fù)責(zé)任大國(guó)的擔(dān)當(dāng)。
二、內(nèi)容優(yōu)化
相較于《人工智能安全治理框架》1.0版（以下簡(jiǎn)稱《框架》），《框架》2.0版在以下三個(gè)關(guān)鍵方面作出了顯著優(yōu)化：
一是風(fēng)險(xiǎn)分類分級(jí)維度進(jìn)一步拓展。在分類上，新增了“應(yīng)用衍生安全風(fēng)險(xiǎn)”，將人工智能安全風(fēng)險(xiǎn)的認(rèn)知維度拓展為“技術(shù)內(nèi)生安全、技術(shù)應(yīng)用安全、應(yīng)用衍生安全”，這一調(diào)整區(qū)分了人工智能應(yīng)用的直接風(fēng)險(xiǎn)與其在社會(huì)環(huán)境和倫理層面可能帶來(lái)的間接影響，增強(qiáng)了人工智能風(fēng)險(xiǎn)分類的系統(tǒng)性和層次性。在分級(jí)上，《框架》未明確提及分級(jí)機(jī)制，《框架》2.0版進(jìn)一步提出“從應(yīng)用場(chǎng)景、智能化水平、應(yīng)用規(guī)模入手，對(duì)安全風(fēng)險(xiǎn)進(jìn)行科學(xué)評(píng)價(jià)分級(jí)，進(jìn)而采取針對(duì)性、差異化安全防范措施”，同時(shí)初步明確了分級(jí)要素、風(fēng)險(xiǎn)級(jí)別、風(fēng)險(xiǎn)定級(jí)等重要內(nèi)容，為人工智能風(fēng)險(xiǎn)分級(jí)的實(shí)踐提供確切依據(jù)。
二是綜合治理措施進(jìn)一步深化。在數(shù)量上，《框架》2.0版增加了4條具體措施建議。在內(nèi)容上，《框架》2.0版對(duì)《框架》的既有提議進(jìn)行了延展和擴(kuò)充，提出了更具有可行性的措施：其一，從方向性的制度建議到明確立法與標(biāo)準(zhǔn)建設(shè)，明確推動(dòng)人工智能高位階立法，并鼓勵(lì)地方出臺(tái)實(shí)施細(xì)則，并新增“人工智能科技倫理準(zhǔn)則”建設(shè)的要求；其二，從單點(diǎn)監(jiān)管模式轉(zhuǎn)向全流程治理模式，細(xì)化了包括供應(yīng)鏈安全保障、開(kāi)源生態(tài)治理、用途追溯等在內(nèi)的跨環(huán)節(jié)協(xié)同機(jī)制，尤其關(guān)注生成合成內(nèi)容等重點(diǎn)板塊，進(jìn)一步壓實(shí)多方主體共治責(zé)任；其三，在安全保障的同時(shí)，促進(jìn)人工智能發(fā)展的政策導(dǎo)向逐漸凸顯，新增“安全有效釋放重要行業(yè)應(yīng)用需求”，倡導(dǎo)各行業(yè)結(jié)合自身屬性和實(shí)際情況，因“行”制宜，制定本行業(yè)的應(yīng)用安全指南，構(gòu)建差異化、個(gè)性化、針對(duì)性更強(qiáng)的安全應(yīng)用路徑。
三是應(yīng)用指引由靜態(tài)角色建議轉(zhuǎn)向動(dòng)態(tài)流程規(guī)范。《框架》主要依照研發(fā)者、服務(wù)提供者、使用者、社會(huì)公眾四種角色提出原則性建議，內(nèi)容多為概括要求，如“加強(qiáng)訓(xùn)練數(shù)據(jù)內(nèi)容和質(zhì)量的抽查檢測(cè)”等；《框架》2.0版則明確劃分為“算法研發(fā)、建設(shè)部署、運(yùn)行管理、訪問(wèn)使用”四個(gè)階段，強(qiáng)調(diào)“怎么做”，提供可落地的技術(shù)工具與治理思路，如“采取分類模型、人工抽檢等方式，過(guò)濾錯(cuò)誤或不良內(nèi)容”，時(shí)間節(jié)點(diǎn)更加清晰，行為指引更加明確。同時(shí)，《框架》對(duì)重點(diǎn)領(lǐng)域的界定較為寬泛，僅籠統(tǒng)列出政府、關(guān)鍵基礎(chǔ)設(shè)施等，《框架》2.0版則細(xì)化了更多元的高風(fēng)險(xiǎn)場(chǎng)景，如政務(wù)公開(kāi)、司法取證、智能駕駛等。此外，針對(duì)“二次開(kāi)發(fā)”，《框架》2.0版新增了安全審計(jì)、遵守協(xié)議、修復(fù)潛在漏洞等方面要求；針對(duì)服務(wù)對(duì)象，除未成年人外，《框架》2.0版著重強(qiáng)調(diào)了面向“老年人及特殊群體”提供人工智能服務(wù)，應(yīng)充分考慮可用性和安全性。
《人工智能安全治理框架》2.0版的發(fā)布，標(biāo)志著我國(guó)在人工智能治理體系建設(shè)方面邁入更為系統(tǒng)、精細(xì)、聚焦的發(fā)展新階段?！犊蚣堋?.0版不僅拓展了風(fēng)險(xiǎn)分類分級(jí)的維度、全面深化了各項(xiàng)綜合治理措施，還實(shí)現(xiàn)了從靜態(tài)角色指引到動(dòng)態(tài)流程規(guī)范的重要轉(zhuǎn)型，體現(xiàn)出我國(guó)人工智能安全治理框架從“節(jié)點(diǎn)治理”到“全流程治理”的深刻轉(zhuǎn)變。（作者：張凌寒，中國(guó)政法大學(xué)）
