摘 要：人工智能技術是當今世界最具變革性的新興技術之一，以 ChatGPT 掀起的人工智能大模型發(fā)展浪潮引領了人工智能技術發(fā)展的范式變革，呈現出更加智能化、自動化、高效化和可靠化的發(fā)展趨勢，在電力行業(yè)得到了廣泛深入的應用，有力推動了電網企業(yè)數字化發(fā)展。但人工智能技術的應用是一把“雙刃劍”，存在數據安全、網絡攻擊、技術缺陷和社會工程學風險，需要采取全面安全可靠的防護措施，更好地發(fā)揮人工智能技術的優(yōu)勢和價值，助推電力行業(yè)發(fā)展。

內容目錄：
1 人工智能技術發(fā)展現狀及趨勢
1.1 學習更加智能化
1.2 感知更加自動化
1.3 處理更加高效化
2 人工智能技術應用安全風險分析
2.1 人工智能技術自身的安全風險
2.2 人工智能應用帶來的安全風險
3 人工智能技術在電力行業(yè)的主要應用
3.1 電力設備故障診斷及運維管理
3.2 電力負荷預測
3.3 電力市場分析及營銷服務
3.4 電力安全管控

4 電力行業(yè)人工智能技術應用的網絡安全風險
4.1 數據安全風險
4.2 網絡攻擊風險

4.3 技術本身風險

4.4 社會工程學風險
5 電力行業(yè)人工智能技術應用的網絡安全風險防范策略
5.1 健全政策法規(guī)，強化人工智能應用保障機制
5.2 加強自主可控，夯實安全與創(chuàng)新發(fā)展的基礎
5.3 優(yōu)化防護策略，完善安全技術防護體系
5.4 強化宣傳培訓，提升安全防范意識水平
6 結 語

當今時代，數字技術、數字經濟成為世界科技革命和產業(yè)變革的先機。黨的二十大報告指出，要加快建設網絡強國、數字中國，進一步將以人工智能（Artificial Intelligence，AI）為代表的數字技術創(chuàng)新和應用提到戰(zhàn)略性高度，推動人工智能技術對各行各業(yè)產生深遠影響。其中，電力行業(yè)的人工智能戰(zhàn)略布局和推廣應用得到顯著發(fā)展，有力推動了電力企業(yè)的數字化轉型，為國家能源數字化、智能化發(fā)展奠定了堅實基礎。當前對電力行業(yè)人工智能技術的研究主要聚焦于技術創(chuàng)新、管理變革、價值創(chuàng)造等正面效應上，但是人工智能技術的應用也存在“雙刃劍”效應，面臨著數據安全、網絡攻擊等各類風險挑戰(zhàn)，將會影響電力安全保供，因此本文在介紹人工智能技術發(fā)展趨勢及在電力行業(yè)應用的基礎上，聚焦技術本身和應用管理等方面，指出電力行業(yè)人工智能技術應用中主要存在的 4 類風險，并提出風險防范策略，以更全面、更健康地推動人工智能技術的應用。

1人工智能技術發(fā)展現狀及趨勢

人工智能技術是當今世界最具變革性的新興技術之一，并作為核心主導技術驅動著科學技術進步和經濟社會發(fā)展，深刻影響著人類生活的方方面面。人工智能技術歷經 60 余年的發(fā)展壯大，順應互聯網技術迅速規(guī)?；瘧玫某绷?，在自然語言處理、計算機視覺、語音識別、機器學習等領域已經取得了顯著成果，被廣泛應用于各種生產和生活場景，如智能家居、自動駕駛汽車、醫(yī)療保健、智慧教育等，賦能智慧城市和數字中國建設。

以 ChatGPT（Chat Generative Pre-trained Transformer）為代表掀起的人工智能大模型發(fā)展浪潮引領了人工智能技術發(fā)展的范式變革，正在重塑產業(yè)鏈上下游，全球范圍內的新一輪科技革命已經到來 ，未來人工智能技術的發(fā)展將更加智能化、自動化、高效化和可靠化。主要趨勢體現在以下幾個方面。

1.1 學習更加智能化

人工智能的核心技術是內生的學習能力，包括深度學習、增強學習、機器學習、多模態(tài)學習、自適應學習等方面。深度學習可以幫助人工智能系統(tǒng)更好地理解和處理復雜的數據，包括圖像、語音和自然語言；增強學習是一種能夠讓計算機通過試錯學習的方法，幫助計算機實現對環(huán)境的感知和控制，實現智能化決策；機器學習可以通過對大量數據進行分析和學習，實現對模式的識別和預測；多模態(tài)學習可以通過多種數據源（如圖像、聲音、文本等）進行學習和預測，實現對真實世界更加準確地理解、映射和預測；自適應學習可以讓人工智能系統(tǒng)根據環(huán)境和任務的變化，自主地調整學習策略和模型結構，實現對不同環(huán)境、不同任務的自主適應。

1.2 感知更加自動化

邊緣計算技術的發(fā)展為人工智能技術快速響應用戶需求提供了可靠的基礎支撐，將計算和存儲資源放置在離用戶更近的地方，使得人工智能系統(tǒng)的運轉擁有充足的調取資源，提高計算速度和響應時間。人工智能技術與物聯網技術的融合發(fā)展，可幫助物聯網設備傳感器自動感知收集數據，并及時進行分析處理得到需要的結果。例如在制造業(yè)、物流和交通等領域，人工智能技術可以幫助實現更高效的自動化過程。

1.3 處理更加高效化

人工智能最核心的能力和特征之一是對輸入信息做出判斷或預測，自然語言處理可以幫助系統(tǒng)更好地理解和處理人類的自然語言，實現人機交互。隨著自然語言處理技術的不斷發(fā)展，計算機對人類語言的理解和處理能力也在不斷提高，將成為人類應用更廣的智能輔助工具。

1.4 決策更加可靠化

人工智能技術在感知、處理的技術上輸出使用者需要的結果，從而達到智能決策的目的?？山忉屝匀斯ぶ悄芟到y(tǒng)可以向使用者解釋自己的決策和推理過程，使得人類可以更好地理解和信任人工智能系統(tǒng)的決策。同時，隨著應用主體、領域和場景的擴展，數據隱私和數據保護也將成為人工智能技術越來越重要的問題，各種安全防護技術和措施也將同步發(fā)展。

2人工智能技術應用安全風險分析

人工智能技術是引領新一輪科技革命和產業(yè)變革的關鍵技術，其在推動科學技術進步、傳統(tǒng)產業(yè)優(yōu)化升級、經濟高質量發(fā)展等方面發(fā)揮了重要作用，與此同時也會帶來前所未有的安全風險。

2.1 人工智能技術自身的安全風險

人工智能技術主要由大數據、算法模型、基礎設施、產品服務和行業(yè)應用等部分組成，攻擊者會針對這些組成部分制定針對性的特定攻擊，如投毒攻擊、對抗樣本攻擊、供應鏈風險等。

2.1.1 投毒攻擊

攻擊者將惡意數據注入從而污染和篡改訓練好的模型，傳統(tǒng)機器學習方法認為輸入模型的數據可信，攻擊者可以通過注入大量惡意數據來攪亂數據的分布，調教大模型輸出他們所期望的值，讓 ChatGPT 等人工智能應用產生錯誤的預測結果，特別是在圖像識別、生物特征識別中，此類攻擊威脅很大。

2.1.2 對抗樣本攻擊

對抗樣本是一種能夠讓模型產生錯誤判斷的數據樣本，對抗樣本攻擊不會改變模型本身。研究者發(fā)現在某些人工智能模型的輸入上增加少量人為無法分辨區(qū)別的“干擾”，可使模型對輸入的分類結果做出錯誤判斷。利用對抗樣本可方便攻擊者在很多應用場景對人工智能模型發(fā)起攻擊，而由于人工智能模型在業(yè)務系統(tǒng)中往往處于核心決策地位，因此與以往的網絡安全攻擊相比，這類攻擊對實際業(yè)務運行造成的后果往往更加嚴重。

2.1.3 供應鏈安全風險

人工智能應用是系統(tǒng)、網絡、軟件、硬件的結合，在供應鏈方面也存在通用的網絡安全風險，如算法后門嵌入、代碼安全漏洞等，存在可信、可控、可靠的安全風險。此外，高端芯片是 ChatGPT 等系統(tǒng)所用的大型語言模型研發(fā)的“剛需”，在高端芯片領域受美國出口管制的國家，可能因高端芯片供給不足導致供應鏈存在被“卡脖子”的風險。

2.2 人工智能應用帶來的安全風險

人工智能技術已經滲透到我們的日常生活中，以 ChatGTP 為代表的 AI 應用，若被不當使用或濫用，很有可能影響到國家安全、政治安全、社會穩(wěn)定、企業(yè)利益和個人用戶權益等諸多方面。

2.2.1 數據泄露問題

在許多 AI 應用中，需要使用大量的用戶數據進行訓練和學習，若用戶在輸入請求時，所輸入的個人相關信息、業(yè)務數據或涉及商業(yè)秘密等內容沒有得到很好的保護，就可能被黑客攻擊者竊取，從而導致用戶數據泄露和隱私問題。

2.2.2 網絡安全問題

隨著 AI 技術在網絡安全方面的應用受到廣泛關注，當安全專家嘗試用最新的算法加強安全防御時，越來越多的攻擊者同樣使用人工智能和機器學習技術來提高攻擊速度。例如，攻擊者正在使用 ChatGPT 來改進惡意軟件、批量制作個性化網絡釣魚電子郵件，并竊取算法優(yōu)化攻擊過程。

2.2.3 技術濫用問題

在 ChatGPT 等 AI 應用迅速發(fā)展的同時，也同樣面臨對 AI 技術的濫用問題。一是違法、不良信息傳播。AI 應用雖然對交互內容采取了過濾策略，但由于多媒體內容識別技術不足、監(jiān)控策略不完善、無法對生成內容進行“前置審核”等原因使得過濾機制被繞過，造成交互或傳播內容中存在涉及政治、詐騙、身份偽造、涉黃等不良信息，從而影響公眾輿論，惡意影響用戶認知。二是引發(fā)內容知識產權問題。利用 ChatGPT 等 AI 應用完成文本創(chuàng)作、代碼編寫、代寫論文等，可能會影響正常的社會秩序。

3人工智能技術在電力行業(yè)的主要應用

國家高度重視人工智能發(fā)展，早在 2016 年，“人工智能”就被列入國家“十三五”規(guī)劃綱要，2017 年首次寫入政府工作報告，同年國務院正式印發(fā)《新一代人工智能發(fā)展規(guī)劃》，為加強技術創(chuàng)新，搶占人工智能關鍵核心技術制高點提供了重要方向。能源電力領域是國之重器，電力行業(yè)應積極響應國家號召，加速人工智能戰(zhàn)略布局和推廣應用。在國家政策支持驅動下，我國在電力系統(tǒng)的人工智能應用方面與國外處于并跑階段，國內電力行業(yè)人工智能的應用涉及發(fā)、輸、變、配、用全環(huán)節(jié)，如基于深度強化學習的優(yōu)化調度、基于生成對抗學習的場景生成、基于深度學習的故障連鎖辨識、基于卷積神經網絡的巡檢圖像識別等。電力系統(tǒng)是一個復雜的動態(tài)系統(tǒng)，目前國內電力行業(yè)人工智能技術應用主要集中在以下幾個方面。

3.1 電力設備故障診斷及運維管理

通過構建圖像識別技術，對設備傳感器數據進行分析和建模，實現對電力設備的故障診斷和預警，以便電網部門及時采取措施維護設備。其中，利用無人機、智能傳感器等技術，能夠降低巡線人員工作負擔，實現對輸電線路的全天候實時狀態(tài)監(jiān)測，自動識別輸電線路及通道環(huán)境中的潛在缺陷，有效避免和減少停電損失。

3.2 電力負荷預測

通過對歷史負荷數據的分析和建模，預測未來的負荷變化趨勢，以便電網部門做出相應的調度決策。其中，為提高供電可靠性，越來越多的配電作業(yè)機器人得到大規(guī)模應用，既降低了作業(yè)人員工作強度，也保障了人身安全。

3.3 電力市場分析及營銷服務

通過對電力市場數據的分析和建模，預測市場價格變化趨勢，以便電力企業(yè)做出相應的市場決策。將人工智能深度學習與語音識別、圖像識別、流程自動化等技術融合，利用海量業(yè)務信息和數據，通過不斷的訓練，構建供電指揮服務虛擬指揮員、虛擬客服坐席，實現精準輔助決策和全流程智能化業(yè)務處理。同時，營業(yè)廳智能問答機器人、交互實體機器人也越來越成為常態(tài)化配置。

3.4 電力安全管控

通過應用人工智能技術，開展現場作業(yè)人員、作業(yè)關鍵環(huán)節(jié)、作業(yè)全過程安全管控，輔助調度人員快速定位和處置故障，實現故障處置全流程在線管控，減少資源浪費，保障電力系統(tǒng)的安全性。

今年以來，中共中央、國務院印發(fā)了《數字中國建設整體布局規(guī)劃》，國家能源局印發(fā)了《關于加快推進能源數字化智能化發(fā)展的若干意見》，人工智能技術將在能源數字化智能化發(fā)展，以及新型電力系統(tǒng)建設和新型能源體系構建中發(fā)揮更大的價值和作用。

4電力行業(yè)人工智能技術應用的網絡安全風險

能源是經濟發(fā)展的命脈，是國民經濟發(fā)展和人民美好生活的重要保障，在社會經濟體系中占據著重要的地位。習近平總書記提出了“四個革命、一個合作”的能源安全新戰(zhàn)略，其中，“能源技術革命”提出以綠色低碳為方向，推動技術創(chuàng)新、產業(yè)創(chuàng)新、商業(yè)模式創(chuàng)新，因此人工智能技術在電力行業(yè)得到了迅速而廣泛的應用。但是人工智能也是一把“雙刃劍”，在享受其帶來的極大便利和價值的同時，仍需清醒認識到存在的風險。一方面，其不斷沖擊著人類工作、生活，帶來了各種社會輿論關注的焦點問題；另一方面，其技術本身仍存在不可避免的各種內生和衍生的安全風險。電力企業(yè)承擔著重大的保供電責任，保證電力系統(tǒng)的安全穩(wěn)定運行是首要任務，因此在應用人工智能技術的時候，要特別注意當中的網絡安全方面的風險。

4.1 數據安全風險

數字時代，數據的價值越來越被人們重視，是數字技術應用的核心資源。在人工智能技術應用中，為了達到智能化、自動化的效果，需要海量數據分析作為基礎進行模型構建，并通過用戶側的不斷訓練和學習，使模型更加滿足使用需求。電力系統(tǒng)涵蓋發(fā)、輸、變、配、用各環(huán)節(jié)，涉及的電力設備數據、電量數據、電力負荷數據、用電客戶信息等都是關鍵敏感數據，在人工智能系統(tǒng)建設過程中，從數據收集、存儲、傳輸、處理、分析，到模型構建、結果輸出和規(guī)模化應用，這一系列的環(huán)節(jié)都存在技術上和人為操作上的數據泄露、數據竊取風險，不僅對電力系統(tǒng)的安全運行造成不利影響，還會涉及用戶的家庭地址、身份等隱私信息泄露，嚴重影響社會秩序。

4.2 網絡攻擊風險

當前國家級網絡對抗不斷升級，電力、水利、交通、能源等國家關鍵信息基礎設施已成為黑客重點攻擊的對象，同時人工智能等數字新技術的深入應用，使得電力系統(tǒng)與互聯網連接更緊密更廣泛，無形之中所暴露的網絡安全風險逐步增加，面臨的網絡威脅日益嚴峻。攻擊方通過篡改、擾亂等手段影響人工智能系統(tǒng)的學習、控制和反應過程，從而獲得系統(tǒng)的支配權，破壞模型的正常運行，這可能會導致電力設備損壞、電力負荷過載等問題，嚴重時甚至導致電力系統(tǒng)癱瘓和停電事故。國外已發(fā)生過通過網絡攻擊造成停電事件的情況，這也為國內電力企業(yè)敲響了警鐘。

4.3 技術本身風險

“人工智能的本質是處理、匹配、決策和生成等任務”，系統(tǒng)的學習、反應和決策主要基于模型、數據和算法，不可避免地存在因數據質量問題、算法偏差、模型不健全等內生技術風險而出現誤判的情況，導致電力設備、系統(tǒng)的錯誤操作，從而影響電力系統(tǒng)的正常運行。此外，電力行業(yè)的人工智能系統(tǒng)依然存在供應商研發(fā)而非自主可控的情形，所以系統(tǒng)后門、超級權限等安全隱患依然存在，如果供應商系統(tǒng)或者整個供應鏈存在安全漏洞或違規(guī)行為，同樣會對電力系統(tǒng)的安全運行造成威脅。

4.4 社會工程學風險

社會工程學（Social Engineering）入侵是指利用人的弱點而不是計算機系統(tǒng)漏洞來突破信息安全防御措施的入侵手段。如果說以上 3 種風險是可預防、可預警的，那么社會工程學風險則存在很大的不可控和不可預見性，因為它主要由人的心理和行為決定，“人”是“整個安全鏈中最薄弱的一環(huán)”。社會工程學攻擊的過程包括目標確認、信息收集、信任建立、陷阱設置和利益獲取。人工智能系統(tǒng)的操作對人員的要求較高，如果人員存在安全意識不強、操作不當等情況，則會很容易被別有用心之人利用，通過釣魚攻擊（最常見的是釣魚郵件，通過使用自然語言處理技術生成偽造的電子郵件或者消息）、等價交換、誘餌計劃、主動提供技術支持等社會工程學手段攻擊，從而造成敏感信息泄露、被勒索詐騙等后果，影響電力生產環(huán)境的安全和電力系統(tǒng)的安全穩(wěn)定運行。

5電力行業(yè)人工智能技術應用的網絡安全風險防范策略

為了減少和避免人工智能技術應用給電力行業(yè)帶來的網絡安全風險，需要強化統(tǒng)籌安全與發(fā)展，從而更好地發(fā)揮人工智能技術的優(yōu)勢和價值，助推電力行業(yè)的數字化轉型。

5.1 健全政策法規(guī)，強化人工智能應用保障機制

一是推進現有網絡安全法律法規(guī)向人工智能領域延伸適用，國家及電力行業(yè)主管部門應結合《網絡安全法》《數據安全法》《個人信息保護法》等法律法規(guī)出臺人工智能行業(yè)應用新的監(jiān)管要求，為人工智能在電力行業(yè)應用“保駕護航”。二是結合國家發(fā)展改革委 2014 年第14 號令《電力監(jiān)控系統(tǒng)安全防護規(guī)定》等電力行業(yè)網絡安全監(jiān)管要求，完善電力行業(yè)人工智能領域法規(guī)體系，重點對電力生產安全、數據安全、個人隱私保護、算法規(guī)范應用等方面加強監(jiān)管，強化對人工智能技術應用的法律約束。三是依據國家頂層人工智能發(fā)展戰(zhàn)略，結合“十四五”規(guī)劃和黨的二十大報告里面提到的人工智能發(fā)展規(guī)劃，研究制定電力行業(yè)發(fā)展規(guī)劃，充分考慮人工智能在電力行業(yè)應用的可靠性、穩(wěn)定性和安全性，落實人工智能國家戰(zhàn)略，以應對日趨激烈的國際競爭。

5.2 加強自主可控，夯實安全與創(chuàng)新發(fā)展的基礎

為保障人工智能技術在電力行業(yè)的可靠應用，國家應加大政策扶持力度，推進電力人工智能系統(tǒng)基礎設備安全自主可控。一是推進核心技術研發(fā)攻關，提升軟硬件實力。主要包括智能芯片、智能服務器、智能傳感器及配套的智能操作系統(tǒng)、軟件框架、第三方庫等，保障軟硬件供應鏈安全可信、可控、可靠，實現人工智能高端基礎設備不被“卡脖子”。二是強化電力行業(yè)人工智能大模型發(fā)展。作為人工智能的核心，可靠、可控、安全的人工智能模型需要以海量優(yōu)質數據和強大的算力作為支撐， 進 行 反 復 訓 練、 不 斷 迭 代。我 國 應 充 分發(fā)揮自身在大算力方面的優(yōu)勢，結合電力大數據，實現電力行業(yè)人工智能核心能力的自主可控 。

5.3 優(yōu)化防護策略，完善安全技術防護體系

從風險的精準化解到安全漏洞的全面填補，應從風險產生的技術源頭出發(fā)，實現對新一代人工智能失本、失新、失控、失權、失管 5 大風險的精準聚焦。因此，在技術本質層面，要加強數據加密、權限管控、模型監(jiān)控、攻擊檢測、實戰(zhàn)攻防演練、應急演練等技術防護手段的應用。一是電力行業(yè)應根據電力監(jiān)控系統(tǒng)安全防護“十六字”方針，即“安全分區(qū)、網絡專用、橫向隔離、縱向認證”，結合人工智能應用情況，制定新的安全防護策略，編制行業(yè)標準規(guī)范與技術指南。二是針對人工智能在發(fā)、輸、變、配、用各環(huán)節(jié)的應用，完善網絡安全、數據安全、算法安全等安全防護技術手段，常態(tài)化開展攻防演練，為人工智能應用提供充足的安全防護。三是堅持電力人工智能系統(tǒng)建設與網絡安全防護建設同步規(guī)劃、同步建設、同步使用，讓網絡安全防護理念貫穿人工智能系統(tǒng)全生命周期。

5.4 強化宣傳培訓，提升安全防范意識水平

一是強化人工智能技術應用的網絡安全宣傳和教育培訓，重點針對電力行業(yè)涉密數據、關鍵信息、模型算法邏輯等開展保密教育，尤其是面對新型社會工程學攻擊手段，需要結合實際案例開展學習宣貫，同時常態(tài)化開展演習，提升員工的風險識別和處理能力。二是發(fā)揮考核指揮棒作用，在人工智能技術應用的重大生產和管理活動中，應將網絡安全納入具體的考核體系，進一步嚴格管理，或制定專項的防護策略，強化網絡安全的紅線意識和底線思維。

6結 語

電力行業(yè)人工智能技術的應用是順應國家數字中國建設、加快推進能源數字化智能化發(fā)展的必然選擇和重要舉措，也是能源企業(yè)加快數字化轉型、構建新型能源體系的必然趨勢和重要支撐。能源安全關乎國家安全，電力行業(yè)人工智能技術的應用需要以安全為前提和基礎，要清醒認識到人工智能技術自身的不足與局限，全面梳理人工智能系統(tǒng)或產品的全生命周期中的安全風險，從技術和管理上加強安全風險識別和防范，有效地化解人工智能應用的網絡安全風險，統(tǒng)籌人工智能發(fā)展與安全，為人工智能技術在電力行業(yè)的創(chuàng)新應用護航。由于人工智能技術尚處于蓬勃發(fā)展階段，在電力行業(yè)的應用也正處于規(guī)?；A段，因此本文對電力行業(yè)人工智能應用存在的網絡安全風險分析還存在局限，在應對安全風險的防范策略研究上還存在不足，后續(xù)將持續(xù)關注人工智能技術在電力行業(yè)的應用，加強研究分析，以取得更全面、深入的研究成果。

選自《信息安全與通信保密》2023年第10期