文 | 復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院院長 楊珉

當(dāng)前，生成式人工智能正加速發(fā)展，不斷催生新行業(yè)、新賽道、新模式，是發(fā)展新質(zhì)生產(chǎn)力、布局未來產(chǎn)業(yè)的重要抓手。黨的二十大報(bào)告強(qiáng)調(diào)，“健全網(wǎng)絡(luò)綜合治理體系，推動形成良好網(wǎng)絡(luò)生態(tài)”。習(xí)近平總書記在主持召開中共中央政治局會議時(shí)指出：“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)?！睘榇龠M(jìn)我國生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，國家網(wǎng)信辦聯(lián)合有關(guān)部門公布了《生成式人工智能服務(wù)管理暫行辦法》（以下稱“《辦法》”），圍繞鼓勵(lì)人工智能創(chuàng)新發(fā)展的主旋律，堅(jiān)守輿論引導(dǎo)、文化建設(shè)和國家安全底線。近日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會組織全國多家龍頭企業(yè)和科研院所，編制發(fā)布全球首個(gè)清晰、具體、可操作的安全評估要求--《生成式人工智能服務(wù)安全基本要求》（以下稱“《要求》”），從語料安全、模型安全、安全措施等方面提出了服務(wù)提供者需遵循的安全標(biāo)準(zhǔn)，通過系統(tǒng)性、規(guī)范性、創(chuàng)新性制度設(shè)計(jì)，首次回應(yīng)了對生成式人工智能服務(wù)的安全管理要求，為生成式人工智能服務(wù)的規(guī)范發(fā)展提供了基本技術(shù)遵循和評估依據(jù)，是支撐《辦法》有效落地的關(guān)鍵性技術(shù)文件。為全力抓好生成式人工智能產(chǎn)業(yè)布局深化、生態(tài)優(yōu)化、系統(tǒng)支撐，加快推動我國人工智能發(fā)展高地建設(shè)取得新的更大突破奠定堅(jiān)實(shí)基礎(chǔ)。

在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等上位法框架下，《要求》有效支撐了《辦法》中關(guān)于生成式人工智能模型管理、模型安全評估、生成內(nèi)容管理、備案管理等制度規(guī)定，對生成式人工智能服務(wù)管理機(jī)制、責(zé)任范圍等作出了具體技術(shù)安排?！兑蟆妨⒆阌诖龠M(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，在總體撰寫中落實(shí)了國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則。

一、源頭治理，嚴(yán)控人工智能訓(xùn)練語料安全

生成式人工智能依賴海量數(shù)據(jù)構(gòu)建，此類數(shù)據(jù)來源廣泛，面臨違法不良、知識產(chǎn)權(quán)侵權(quán)、個(gè)人隱私侵權(quán)等多維度安全風(fēng)險(xiǎn)，直接影響大模型有用性、可靠性和安全性?！兑蟆逢P(guān)注數(shù)據(jù)源頭治理，圍繞訓(xùn)練數(shù)據(jù)生命周期提出全方位安全要求，從源頭上保證生成式人工智能服務(wù)生成內(nèi)容合法合規(guī)。一是強(qiáng)調(diào)語料來源的安全合規(guī)。《要求》明確對特定語料來源實(shí)施采集前評估、采集后核驗(yàn)、使用后追溯的安全要求，嚴(yán)格控制語料內(nèi)容中違法不良信息比例，構(gòu)建可追溯、可檢驗(yàn)的語料合規(guī)閉環(huán)。二是明確語料內(nèi)容安全的多元內(nèi)涵。《要求》從違法不良信息、知識產(chǎn)權(quán)、個(gè)人信息三方面明確語料內(nèi)容安全的具體維度，對服務(wù)提供者提出違法不良信息過濾、知識產(chǎn)權(quán)風(fēng)險(xiǎn)識別、個(gè)人隱私信息授權(quán)等數(shù)據(jù)合規(guī)要求。三是明確語料標(biāo)注安全要求。為保障標(biāo)注過程切實(shí)產(chǎn)生有助于生成式人工智能發(fā)展的訓(xùn)練數(shù)據(jù)，堅(jiān)持發(fā)展和安全并重的主基調(diào)，從功能性和安全性兩方面分別明確標(biāo)注規(guī)則制定原則。

二、夯實(shí)地基，保障基礎(chǔ)模型有序向善發(fā)展

基礎(chǔ)模型是提供生成式人工智能服務(wù)的核心部件，然而，其底層所采用深度學(xué)習(xí)技術(shù)在可靠性、魯棒性、透明性等方面存在風(fēng)險(xiǎn)，受攻擊后容易產(chǎn)生包括違反核心價(jià)值觀、違法犯罪、歧視偏見、隱私侵權(quán)等在內(nèi)的多種風(fēng)險(xiǎn)內(nèi)容，對輿論引導(dǎo)、文化建設(shè)乃至國家安全產(chǎn)生重大威脅?！兑蟆访嫦蚰Ｐ桶踩@一薄弱環(huán)節(jié)精準(zhǔn)施策，提出解決方案。一是強(qiáng)調(diào)第三方基礎(chǔ)模型使用的合規(guī)性。《要求》明確規(guī)定服務(wù)提供者在基于第三方基礎(chǔ)模型提供服務(wù)時(shí)，必須采用已通過主管部門審核備案的基礎(chǔ)模型，確保底層技術(shù)資源的安全合法。二是突出模型生成內(nèi)容的安全控制機(jī)制。《要求》提出在模型訓(xùn)練環(huán)節(jié)，須將生成內(nèi)容的安全性納入評價(jià)生成結(jié)果的關(guān)鍵指標(biāo)體系之外，《要求》還強(qiáng)調(diào)了動態(tài)監(jiān)控和評測的重要性，要求服務(wù)提供者建立健全常態(tài)化的監(jiān)測機(jī)制，對服務(wù)過程中發(fā)現(xiàn)的安全問題能夠迅速響應(yīng),以消除潛在風(fēng)險(xiǎn)，引導(dǎo)生成式人工智能模型自主向善發(fā)展。三是明確生成內(nèi)容準(zhǔn)確性的技術(shù)保障措施。《要求》規(guī)定服務(wù)提供者采取有效技術(shù)手段，著力提升模型響應(yīng)用戶輸入意圖的精準(zhǔn)度。

三、堅(jiān)守底線，審慎開展大模型安全評估備案
生成內(nèi)容安全逐漸成為基礎(chǔ)模型應(yīng)用生態(tài)安全的重中之重：當(dāng)生成式大模型產(chǎn)生的自主行為規(guī)劃在物理世界中具象執(zhí)行，原本停留于屏幕的歧視偏見、違法犯罪乃至反人類的違規(guī)內(nèi)容將對社會生活造成實(shí)際嚴(yán)重安全風(fēng)險(xiǎn)?！兑蟆犯叨葟?qiáng)調(diào)安全評估的重要性，細(xì)致闡述了生成式人工智能服務(wù)安全評估方法多個(gè)關(guān)鍵環(huán)節(jié)的標(biāo)準(zhǔn)操作程序，為大模型備案制度有序執(zhí)行提供了可量化的明確要求。一是關(guān)注生成式人工智能服務(wù)安全評估的動態(tài)持續(xù)性特點(diǎn)。《要求》要求規(guī)范模型更新升級過程中的安全評估舉措，需面向大模型迭代特性建立安全管理策略，在關(guān)鍵更新升級后重新進(jìn)行內(nèi)部安全評估。二是確立全面而細(xì)致的安全評估覆蓋范圍。安全評估過程必須囊括語料安全、模型安全、安全措施和基礎(chǔ)設(shè)施相關(guān)條款，覆蓋違反社會主義核心價(jià)值觀、歧視性內(nèi)容、商業(yè)違法違規(guī)、侵犯他人合法權(quán)益、無法滿足特定服務(wù)類型等主要安全風(fēng)險(xiǎn)。三是壓實(shí)安全評估結(jié)論的主體責(zé)任，體現(xiàn)了堅(jiān)守生成內(nèi)容安全底線的基本原則。此外，《要求》編制過程中組織一線工作者對各類評估內(nèi)容指標(biāo)進(jìn)行細(xì)化和反復(fù)論證，針對具體的評估內(nèi)容，對所需的關(guān)鍵詞庫、生成內(nèi)容測試題庫、拒答測試題庫和分類模型等安全評估基礎(chǔ)設(shè)施提出具體清晰的建設(shè)規(guī)范，形成了清晰、具體、可操作的安全評估標(biāo)準(zhǔn)。

四、

五、多方協(xié)作，共促生成式人工智能服務(wù)安全透明
此外，《要求》還對生成式人工智能服務(wù)應(yīng)用范圍、系統(tǒng)安全、流程安全和服務(wù)透明度提出了明確治理要求，與《辦法》"鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級監(jiān)管"的治理方針同頻共振。一是生成式人工智能應(yīng)用分級分類管理。生成式人工智能服務(wù)提供者，既是新技術(shù)新應(yīng)用的創(chuàng)造者、受益者，也應(yīng)是控制技術(shù)風(fēng)險(xiǎn)、引導(dǎo)技術(shù)向善的責(zé)任踐行者。《要求》強(qiáng)調(diào)，服務(wù)提供者必須審慎評估并確保在其服務(wù)所涉各領(lǐng)域應(yīng)用生成式人工智能的必要性、適用性和安全性。對于關(guān)鍵信息基礎(chǔ)設(shè)施及其他重要領(lǐng)域，服務(wù)提供者應(yīng)采取與風(fēng)險(xiǎn)水平及應(yīng)用場景相適應(yīng)的保護(hù)措施，并對未成年人用戶提出多項(xiàng)保護(hù)要求。二是加強(qiáng)系統(tǒng)安全保障。《要求》提出，服務(wù)提供者需評估并確保生成式人工智能系統(tǒng)運(yùn)行在安全環(huán)境中，隔離訓(xùn)練與推理環(huán)境以防止數(shù)據(jù)泄露，持續(xù)監(jiān)測輸入內(nèi)容防御惡意攻擊，定期開展安全審計(jì)保障智能系統(tǒng)供應(yīng)鏈安全漏洞，構(gòu)建完整的數(shù)據(jù)、模型、框架備份與恢復(fù)體系，保障服務(wù)穩(wěn)定性和連續(xù)性。三是細(xì)化服務(wù)提供環(huán)節(jié)安全管控，須借助關(guān)鍵詞過濾、內(nèi)容分類、監(jiān)看人員等對用戶輸入進(jìn)行實(shí)時(shí)監(jiān)測，對連續(xù)違規(guī)、誘導(dǎo)生成不良信息、明顯偏激和違法誘導(dǎo)內(nèi)容依法依規(guī)采取限制服務(wù)等措施。四是提升服務(wù)透明度和健全投訴舉報(bào)機(jī)制。《要求》提出服務(wù)提供者在網(wǎng)站主頁等顯著位置公示服務(wù)適用對象、場景及用途，并建議披露基礎(chǔ)模型使用詳情、服務(wù)局限性、個(gè)人信息采集與使用情況等，并為用戶數(shù)據(jù)是否參與訓(xùn)練的靈活選擇機(jī)制和多元化的公眾及用戶投訴舉報(bào)渠道和反饋方式。

六、守正創(chuàng)新，貢獻(xiàn)生成式人工智能服務(wù)治理中國方案
習(xí)近平總書記指出：“要深度參與全球科技治理，貢獻(xiàn)中國智慧，塑造科技向善的文化理念，讓科技更好增進(jìn)人類福祉，讓中國科技為推動構(gòu)建人類命運(yùn)共同體作出更大貢獻(xiàn)！”近年來，我國加快推進(jìn)新行業(yè)新技術(shù)新賽道創(chuàng)新發(fā)展，并對技術(shù)發(fā)展過程中帶來的挑戰(zhàn)及時(shí)回應(yīng)，針對新興技術(shù)領(lǐng)域加速出臺相關(guān)立法，為保障網(wǎng)絡(luò)強(qiáng)國高質(zhì)量發(fā)展、提升我國網(wǎng)絡(luò)強(qiáng)國治理能力提供了法治保障。

針對生成式人工智能技術(shù)帶來的顛覆性風(fēng)險(xiǎn)挑戰(zhàn)，多個(gè)國家和地區(qū)不斷探索生成式人工智能服務(wù)的治理路徑：2023年10月，美國總統(tǒng)拜登簽署《安全、穩(wěn)定、可信的人工智能行政令》，同年12月，歐洲議會、歐盟成員國和歐盟委員會三方就人工智能領(lǐng)域的全面監(jiān)管法規(guī)《人工智能法案》達(dá)成協(xié)議。盡管如此，當(dāng)前尚未有國家就生成式人工智能服務(wù)管理層面推出切實(shí)可行的安全評估標(biāo)準(zhǔn)。《要求》作為世界上首個(gè)針對生成式人工智能給出清晰、具體、可操作的安全評估的技術(shù)參考，在總體撰寫中始終堅(jiān)持國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，編制過程始終遵循"務(wù)實(shí)功、求實(shí)效"的原則，匯聚眾多行業(yè)專家智慧和前沿實(shí)踐經(jīng)驗(yàn)，為服務(wù)提供方持續(xù)提升安全水平提供重要技術(shù)遵循，為相關(guān)主管部門監(jiān)管生成式人工智能服務(wù)提供技術(shù)支撐，必將成為我國人工智能治理體系中的標(biāo)桿性技術(shù)藍(lán)本。
《要求》是我國對新興領(lǐng)域立法后展開技術(shù)評估的又一次探索?！兑蟆烦浞謪f(xié)調(diào)發(fā)展與安全之間的關(guān)系，構(gòu)建生成式人工智能精細(xì)化治理體系，有利于推動生成式人工智能健康有序發(fā)展，為世界貢獻(xiàn)人工智能治理的中國理念和中國方案。

（來源：網(wǎng)安標(biāo)委網(wǎng)站）