摘 要：人工智能技術(shù)是當(dāng)今世界最具變革性的新興技術(shù)之一，以 ChatGPT 掀起的人工智能大模型發(fā)展浪潮引領(lǐng)了人工智能技術(shù)發(fā)展的范式變革，呈現(xiàn)出更加智能化、自動(dòng)化、高效化和可靠化的發(fā)展趨勢(shì)，在電力行業(yè)得到了廣泛深入的應(yīng)用，有力推動(dòng)了電網(wǎng)企業(yè)數(shù)字化發(fā)展。但人工智能技術(shù)的應(yīng)用是一把“雙刃劍”，存在數(shù)據(jù)安全、網(wǎng)絡(luò)攻擊、技術(shù)缺陷和社會(huì)工程學(xué)風(fēng)險(xiǎn)，需要采取全面安全可靠的防護(hù)措施，更好地發(fā)揮人工智能技術(shù)的優(yōu)勢(shì)和價(jià)值，助推電力行業(yè)發(fā)展。

內(nèi)容目錄：

1 人工智能技術(shù)發(fā)展現(xiàn)狀及趨勢(shì)

1.1 學(xué)習(xí)更加智能化
1.2 感知更加自動(dòng)化
1.3 處理更加高效化
2 人工智能技術(shù)應(yīng)用安全風(fēng)險(xiǎn)分析
2.1 人工智能技術(shù)自身的安全風(fēng)險(xiǎn)
2.2 人工智能應(yīng)用帶來(lái)的安全風(fēng)險(xiǎn)
3 人工智能技術(shù)在電力行業(yè)的主要應(yīng)用
3.1 電力設(shè)備故障診斷及運(yùn)維管理
3.2 電力負(fù)荷預(yù)測(cè)
3.3 電力市場(chǎng)分析及營(yíng)銷(xiāo)服務(wù)
3.4 電力安全管控
4 電力行業(yè)人工智能技術(shù)應(yīng)用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)
4.1 數(shù)據(jù)安全風(fēng)險(xiǎn)
4.2 網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)

4.3 技術(shù)本身風(fēng)險(xiǎn)

4.4 社會(huì)工程學(xué)風(fēng)險(xiǎn)
5 電力行業(yè)人工智能技術(shù)應(yīng)用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)防范策略
5.1 健全政策法規(guī)，強(qiáng)化人工智能應(yīng)用保障機(jī)制
5.2 加強(qiáng)自主可控，夯實(shí)安全與創(chuàng)新發(fā)展的基礎(chǔ)
5.3 優(yōu)化防護(hù)策略，完善安全技術(shù)防護(hù)體系
5.4 強(qiáng)化宣傳培訓(xùn)，提升安全防范意識(shí)水平
6 結(jié) 語(yǔ)

當(dāng)今時(shí)代，數(shù)字技術(shù)、數(shù)字經(jīng)濟(jì)成為世界科技革命和產(chǎn)業(yè)變革的先機(jī)。黨的二十大報(bào)告指出，要加快建設(shè)網(wǎng)絡(luò)強(qiáng)國(guó)、數(shù)字中國(guó)，進(jìn)一步將以人工智能（Artificial Intelligence，AI）為代表的數(shù)字技術(shù)創(chuàng)新和應(yīng)用提到戰(zhàn)略性高度，推動(dòng)人工智能技術(shù)對(duì)各行各業(yè)產(chǎn)生深遠(yuǎn)影響。其中，電力行業(yè)的人工智能戰(zhàn)略布局和推廣應(yīng)用得到顯著發(fā)展，有力推動(dòng)了電力企業(yè)的數(shù)字化轉(zhuǎn)型，為國(guó)家能源數(shù)字化、智能化發(fā)展奠定了堅(jiān)實(shí)基礎(chǔ)。當(dāng)前對(duì)電力行業(yè)人工智能技術(shù)的研究主要聚焦于技術(shù)創(chuàng)新、管理變革、價(jià)值創(chuàng)造等正面效應(yīng)上，但是人工智能技術(shù)的應(yīng)用也存在“雙刃劍”效應(yīng)，面臨著數(shù)據(jù)安全、網(wǎng)絡(luò)攻擊等各類(lèi)風(fēng)險(xiǎn)挑戰(zhàn)，將會(huì)影響電力安全保供，因此本文在介紹人工智能技術(shù)發(fā)展趨勢(shì)及在電力行業(yè)應(yīng)用的基礎(chǔ)上，聚焦技術(shù)本身和應(yīng)用管理等方面，指出電力行業(yè)人工智能技術(shù)應(yīng)用中主要存在的 4 類(lèi)風(fēng)險(xiǎn)，并提出風(fēng)險(xiǎn)防范策略，以更全面、更健康地推動(dòng)人工智能技術(shù)的應(yīng)用。

1

人工智能技術(shù)發(fā)展現(xiàn)狀及趨勢(shì)

人工智能技術(shù)是當(dāng)今世界最具變革性的新興技術(shù)之一，并作為核心主導(dǎo)技術(shù)驅(qū)動(dòng)著科學(xué)技術(shù)進(jìn)步和經(jīng)濟(jì)社會(huì)發(fā)展，深刻影響著人類(lèi)生活的方方面面。人工智能技術(shù)歷經(jīng) 60 余年的發(fā)展壯大，順應(yīng)互聯(lián)網(wǎng)技術(shù)迅速規(guī)?；瘧?yīng)用的潮流，在自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、語(yǔ)音識(shí)別、機(jī)器學(xué)習(xí)等領(lǐng)域已經(jīng)取得了顯著成果，被廣泛應(yīng)用于各種生產(chǎn)和生活場(chǎng)景，如智能家居、自動(dòng)駕駛汽車(chē)、醫(yī)療保健、智慧教育等，賦能智慧城市和數(shù)字中國(guó)建設(shè)。

以 ChatGPT（Chat Generative Pre-trained Transformer）為代表掀起的人工智能大模型發(fā)展浪潮引領(lǐng)了人工智能技術(shù)發(fā)展的范式變革，正在重塑產(chǎn)業(yè)鏈上下游，全球范圍內(nèi)的新一輪科技革命已經(jīng)到來(lái) ，未來(lái)人工智能技術(shù)的發(fā)展將更加智能化、自動(dòng)化、高效化和可靠化。主要趨勢(shì)體現(xiàn)在以下幾個(gè)方面。

1.1 學(xué)習(xí)更加智能化

人工智能的核心技術(shù)是內(nèi)生的學(xué)習(xí)能力，包括深度學(xué)習(xí)、增強(qiáng)學(xué)習(xí)、機(jī)器學(xué)習(xí)、多模態(tài)學(xué)習(xí)、自適應(yīng)學(xué)習(xí)等方面。深度學(xué)習(xí)可以幫助人工智能系統(tǒng)更好地理解和處理復(fù)雜的數(shù)據(jù)，包括圖像、語(yǔ)音和自然語(yǔ)言；增強(qiáng)學(xué)習(xí)是一種能夠讓計(jì)算機(jī)通過(guò)試錯(cuò)學(xué)習(xí)的方法，幫助計(jì)算機(jī)實(shí)現(xiàn)對(duì)環(huán)境的感知和控制，實(shí)現(xiàn)智能化決策；機(jī)器學(xué)習(xí)可以通過(guò)對(duì)大量數(shù)據(jù)進(jìn)行分析和學(xué)習(xí)，實(shí)現(xiàn)對(duì)模式的識(shí)別和預(yù)測(cè)；多模態(tài)學(xué)習(xí)可以通過(guò)多種數(shù)據(jù)源（如圖像、聲音、文本等）進(jìn)行學(xué)習(xí)和預(yù)測(cè)，實(shí)現(xiàn)對(duì)真實(shí)世界更加準(zhǔn)確地理解、映射和預(yù)測(cè)；自適應(yīng)學(xué)習(xí)可以讓人工智能系統(tǒng)根據(jù)環(huán)境和任務(wù)的變化，自主地調(diào)整學(xué)習(xí)策略和模型結(jié)構(gòu)，實(shí)現(xiàn)對(duì)不同環(huán)境、不同任務(wù)的自主適應(yīng)。

1.2 感知更加自動(dòng)化

邊緣計(jì)算技術(shù)的發(fā)展為人工智能技術(shù)快速響應(yīng)用戶(hù)需求提供了可靠的基礎(chǔ)支撐，將計(jì)算和存儲(chǔ)資源放置在離用戶(hù)更近的地方，使得人工智能系統(tǒng)的運(yùn)轉(zhuǎn)擁有充足的調(diào)取資源，提高計(jì)算速度和響應(yīng)時(shí)間。人工智能技術(shù)與物聯(lián)網(wǎng)技術(shù)的融合發(fā)展，可幫助物聯(lián)網(wǎng)設(shè)備傳感器自動(dòng)感知收集數(shù)據(jù)，并及時(shí)進(jìn)行分析處理得到需要的結(jié)果。例如在制造業(yè)、物流和交通等領(lǐng)域，人工智能技術(shù)可以幫助實(shí)現(xiàn)更高效的自動(dòng)化過(guò)程。

1.3 處理更加高效化

人工智能最核心的能力和特征之一是對(duì)輸入信息做出判斷或預(yù)測(cè)，自然語(yǔ)言處理可以幫助系統(tǒng)更好地理解和處理人類(lèi)的自然語(yǔ)言，實(shí)現(xiàn)人機(jī)交互。隨著自然語(yǔ)言處理技術(shù)的不斷發(fā)展，計(jì)算機(jī)對(duì)人類(lèi)語(yǔ)言的理解和處理能力也在不斷提高，將成為人類(lèi)應(yīng)用更廣的智能輔助工具。

1.4 決策更加可靠化

人工智能技術(shù)在感知、處理的技術(shù)上輸出使用者需要的結(jié)果，從而達(dá)到智能決策的目的?？山忉屝匀斯ぶ悄芟到y(tǒng)可以向使用者解釋自己的決策和推理過(guò)程，使得人類(lèi)可以更好地理解和信任人工智能系統(tǒng)的決策。同時(shí)，隨著應(yīng)用主體、領(lǐng)域和場(chǎng)景的擴(kuò)展，數(shù)據(jù)隱私和數(shù)據(jù)保護(hù)也將成為人工智能技術(shù)越來(lái)越重要的問(wèn)題，各種安全防護(hù)技術(shù)和措施也將同步發(fā)展。

2人工智能技術(shù)應(yīng)用安全風(fēng)險(xiǎn)分析

人工智能技術(shù)是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的關(guān)鍵技術(shù)，其在推動(dòng)科學(xué)技術(shù)進(jìn)步、傳統(tǒng)產(chǎn)業(yè)優(yōu)化升級(jí)、經(jīng)濟(jì)高質(zhì)量發(fā)展等方面發(fā)揮了重要作用，與此同時(shí)也會(huì)帶來(lái)前所未有的安全風(fēng)險(xiǎn)。

2.1 人工智能技術(shù)自身的安全風(fēng)險(xiǎn)

人工智能技術(shù)主要由大數(shù)據(jù)、算法模型、基礎(chǔ)設(shè)施、產(chǎn)品服務(wù)和行業(yè)應(yīng)用等部分組成，攻擊者會(huì)針對(duì)這些組成部分制定針對(duì)性的特定攻擊，如投毒攻擊、對(duì)抗樣本攻擊、供應(yīng)鏈風(fēng)險(xiǎn)等。

2.1.1 投毒攻擊

攻擊者將惡意數(shù)據(jù)注入從而污染和篡改訓(xùn)練好的模型，傳統(tǒng)機(jī)器學(xué)習(xí)方法認(rèn)為輸入模型的數(shù)據(jù)可信，攻擊者可以通過(guò)注入大量惡意數(shù)據(jù)來(lái)攪亂數(shù)據(jù)的分布，調(diào)教大模型輸出他們所期望的值，讓 ChatGPT 等人工智能應(yīng)用產(chǎn)生錯(cuò)誤的預(yù)測(cè)結(jié)果，特別是在圖像識(shí)別、生物特征識(shí)別中，此類(lèi)攻擊威脅很大。

2.1.2 對(duì)抗樣本攻擊

對(duì)抗樣本是一種能夠讓模型產(chǎn)生錯(cuò)誤判斷的數(shù)據(jù)樣本，對(duì)抗樣本攻擊不會(huì)改變模型本身。研究者發(fā)現(xiàn)在某些人工智能模型的輸入上增加少量人為無(wú)法分辨區(qū)別的“干擾”，可使模型對(duì)輸入的分類(lèi)結(jié)果做出錯(cuò)誤判斷。利用對(duì)抗樣本可方便攻擊者在很多應(yīng)用場(chǎng)景對(duì)人工智能模型發(fā)起攻擊，而由于人工智能模型在業(yè)務(wù)系統(tǒng)中往往處于核心決策地位，因此與以往的網(wǎng)絡(luò)安全攻擊相比，這類(lèi)攻擊對(duì)實(shí)際業(yè)務(wù)運(yùn)行造成的后果往往更加嚴(yán)重。

2.1.3 供應(yīng)鏈安全風(fēng)險(xiǎn)

人工智能應(yīng)用是系統(tǒng)、網(wǎng)絡(luò)、軟件、硬件的結(jié)合，在供應(yīng)鏈方面也存在通用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，如算法后門(mén)嵌入、代碼安全漏洞等，存在可信、可控、可靠的安全風(fēng)險(xiǎn)。此外，高端芯片是 ChatGPT 等系統(tǒng)所用的大型語(yǔ)言模型研發(fā)的“剛需”，在高端芯片領(lǐng)域受美國(guó)出口管制的國(guó)家，可能因高端芯片供給不足導(dǎo)致供應(yīng)鏈存在被“卡脖子”的風(fēng)險(xiǎn)。

2.2 人工智能應(yīng)用帶來(lái)的安全風(fēng)險(xiǎn)

人工智能技術(shù)已經(jīng)滲透到我們的日常生活中，以 ChatGTP 為代表的 AI 應(yīng)用，若被不當(dāng)使用或?yàn)E用，很有可能影響到國(guó)家安全、政治安全、社會(huì)穩(wěn)定、企業(yè)利益和個(gè)人用戶(hù)權(quán)益等諸多方面。

2.2.1 數(shù)據(jù)泄露問(wèn)題

在許多 AI 應(yīng)用中，需要使用大量的用戶(hù)數(shù)據(jù)進(jìn)行訓(xùn)練和學(xué)習(xí)，若用戶(hù)在輸入請(qǐng)求時(shí)，所輸入的個(gè)人相關(guān)信息、業(yè)務(wù)數(shù)據(jù)或涉及商業(yè)秘密等內(nèi)容沒(méi)有得到很好的保護(hù)，就可能被黑客攻擊者竊取，從而導(dǎo)致用戶(hù)數(shù)據(jù)泄露和隱私問(wèn)題。

2.2.2 網(wǎng)絡(luò)安全問(wèn)題

隨著 AI 技術(shù)在網(wǎng)絡(luò)安全方面的應(yīng)用受到廣泛關(guān)注，當(dāng)安全專(zhuān)家嘗試用最新的算法加強(qiáng)安全防御時(shí)，越來(lái)越多的攻擊者同樣使用人工智能和機(jī)器學(xué)習(xí)技術(shù)來(lái)提高攻擊速度。例如，攻擊者正在使用 ChatGPT 來(lái)改進(jìn)惡意軟件、批量制作個(gè)性化網(wǎng)絡(luò)釣魚(yú)電子郵件，并竊取算法優(yōu)化攻擊過(guò)程。

2.2.3 技術(shù)濫用問(wèn)題

在 ChatGPT 等 AI 應(yīng)用迅速發(fā)展的同時(shí)，也同樣面臨對(duì) AI 技術(shù)的濫用問(wèn)題。一是違法、不良信息傳播。AI 應(yīng)用雖然對(duì)交互內(nèi)容采取了過(guò)濾策略，但由于多媒體內(nèi)容識(shí)別技術(shù)不足、監(jiān)控策略不完善、無(wú)法對(duì)生成內(nèi)容進(jìn)行“前置審核”等原因使得過(guò)濾機(jī)制被繞過(guò)，造成交互或傳播內(nèi)容中存在涉及政治、詐騙、身份偽造、涉黃等不良信息，從而影響公眾輿論，惡意影響用戶(hù)認(rèn)知。二是引發(fā)內(nèi)容知識(shí)產(chǎn)權(quán)問(wèn)題。利用 ChatGPT 等 AI 應(yīng)用完成文本創(chuàng)作、代碼編寫(xiě)、代寫(xiě)論文等，可能會(huì)影響正常的社會(huì)秩序。

3人工智能技術(shù)在電力行業(yè)的主要應(yīng)用

國(guó)家高度重視人工智能發(fā)展，早在 2016 年，“人工智能”就被列入國(guó)家“十三五”規(guī)劃綱要，2017 年首次寫(xiě)入政府工作報(bào)告，同年國(guó)務(wù)院正式印發(fā)《新一代人工智能發(fā)展規(guī)劃》，為加強(qiáng)技術(shù)創(chuàng)新，搶占人工智能關(guān)鍵核心技術(shù)制高點(diǎn)提供了重要方向。能源電力領(lǐng)域是國(guó)之重器，電力行業(yè)應(yīng)積極響應(yīng)國(guó)家號(hào)召，加速人工智能戰(zhàn)略布局和推廣應(yīng)用。在國(guó)家政策支持驅(qū)動(dòng)下，我國(guó)在電力系統(tǒng)的人工智能應(yīng)用方面與國(guó)外處于并跑階段，國(guó)內(nèi)電力行業(yè)人工智能的應(yīng)用涉及發(fā)、輸、變、配、用全環(huán)節(jié)，如基于深度強(qiáng)化學(xué)習(xí)的優(yōu)化調(diào)度、基于生成對(duì)抗學(xué)習(xí)的場(chǎng)景生成、基于深度學(xué)習(xí)的故障連鎖辨識(shí)、基于卷積神經(jīng)網(wǎng)絡(luò)的巡檢圖像識(shí)別等。電力系統(tǒng)是一個(gè)復(fù)雜的動(dòng)態(tài)系統(tǒng)，目前國(guó)內(nèi)電力行業(yè)人工智能技術(shù)應(yīng)用主要集中在以下幾個(gè)方面。

3.1 電力設(shè)備故障診斷及運(yùn)維管理

通過(guò)構(gòu)建圖像識(shí)別技術(shù)，對(duì)設(shè)備傳感器數(shù)據(jù)進(jìn)行分析和建模，實(shí)現(xiàn)對(duì)電力設(shè)備的故障診斷和預(yù)警，以便電網(wǎng)部門(mén)及時(shí)采取措施維護(hù)設(shè)備。其中，利用無(wú)人機(jī)、智能傳感器等技術(shù)，能夠降低巡線(xiàn)人員工作負(fù)擔(dān)，實(shí)現(xiàn)對(duì)輸電線(xiàn)路的全天候?qū)崟r(shí)狀態(tài)監(jiān)測(cè)，自動(dòng)識(shí)別輸電線(xiàn)路及通道環(huán)境中的潛在缺陷，有效避免和減少停電損失。

3.2 電力負(fù)荷預(yù)測(cè)

通過(guò)對(duì)歷史負(fù)荷數(shù)據(jù)的分析和建模，預(yù)測(cè)未來(lái)的負(fù)荷變化趨勢(shì)，以便電網(wǎng)部門(mén)做出相應(yīng)的調(diào)度決策。其中，為提高供電可靠性，越來(lái)越多的配電作業(yè)機(jī)器人得到大規(guī)模應(yīng)用，既降低了作業(yè)人員工作強(qiáng)度，也保障了人身安全。

3.3 電力市場(chǎng)分析及營(yíng)銷(xiāo)服務(wù)

通過(guò)對(duì)電力市場(chǎng)數(shù)據(jù)的分析和建模，預(yù)測(cè)市場(chǎng)價(jià)格變化趨勢(shì)，以便電力企業(yè)做出相應(yīng)的市場(chǎng)決策。將人工智能深度學(xué)習(xí)與語(yǔ)音識(shí)別、圖像識(shí)別、流程自動(dòng)化等技術(shù)融合，利用海量業(yè)務(wù)信息和數(shù)據(jù)，通過(guò)不斷的訓(xùn)練，構(gòu)建供電指揮服務(wù)虛擬指揮員、虛擬客服坐席，實(shí)現(xiàn)精準(zhǔn)輔助決策和全流程智能化業(yè)務(wù)處理。同時(shí)，營(yíng)業(yè)廳智能問(wèn)答機(jī)器人、交互實(shí)體機(jī)器人也越來(lái)越成為常態(tài)化配置。

3.4 電力安全管控

通過(guò)應(yīng)用人工智能技術(shù)，開(kāi)展現(xiàn)場(chǎng)作業(yè)人員、作業(yè)關(guān)鍵環(huán)節(jié)、作業(yè)全過(guò)程安全管控，輔助調(diào)度人員快速定位和處置故障，實(shí)現(xiàn)故障處置全流程在線(xiàn)管控，減少資源浪費(fèi)，保障電力系統(tǒng)的安全性。

今年以來(lái)，中共中央、國(guó)務(wù)院印發(fā)了《數(shù)字中國(guó)建設(shè)整體布局規(guī)劃》，國(guó)家能源局印發(fā)了《關(guān)于加快推進(jìn)能源數(shù)字化智能化發(fā)展的若干意見(jiàn)》，人工智能技術(shù)將在能源數(shù)字化智能化發(fā)展，以及新型電力系統(tǒng)建設(shè)和新型能源體系構(gòu)建中發(fā)揮更大的價(jià)值和作用。

4

電力行業(yè)人工智能技術(shù)應(yīng)用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)

能源是經(jīng)濟(jì)發(fā)展的命脈，是國(guó)民經(jīng)濟(jì)發(fā)展和人民美好生活的重要保障，在社會(huì)經(jīng)濟(jì)體系中占據(jù)著重要的地位。習(xí)近平總書(shū)記提出了“四個(gè)革命、一個(gè)合作”的能源安全新戰(zhàn)略，其中，“能源技術(shù)革命”提出以綠色低碳為方向，推動(dòng)技術(shù)創(chuàng)新、產(chǎn)業(yè)創(chuàng)新、商業(yè)模式創(chuàng)新，因此人工智能技術(shù)在電力行業(yè)得到了迅速而廣泛的應(yīng)用。但是人工智能也是一把“雙刃劍”，在享受其帶來(lái)的極大便利和價(jià)值的同時(shí)，仍需清醒認(rèn)識(shí)到存在的風(fēng)險(xiǎn)。一方面，其不斷沖擊著人類(lèi)工作、生活，帶來(lái)了各種社會(huì)輿論關(guān)注的焦點(diǎn)問(wèn)題；另一方面，其技術(shù)本身仍存在不可避免的各種內(nèi)生和衍生的安全風(fēng)險(xiǎn)。電力企業(yè)承擔(dān)著重大的保供電責(zé)任，保證電力系統(tǒng)的安全穩(wěn)定運(yùn)行是首要任務(wù)，因此在應(yīng)用人工智能技術(shù)的時(shí)候，要特別注意當(dāng)中的網(wǎng)絡(luò)安全方面的風(fēng)險(xiǎn)。

4.1 數(shù)據(jù)安全風(fēng)險(xiǎn)

數(shù)字時(shí)代，數(shù)據(jù)的價(jià)值越來(lái)越被人們重視，是數(shù)字技術(shù)應(yīng)用的核心資源。在人工智能技術(shù)應(yīng)用中，為了達(dá)到智能化、自動(dòng)化的效果，需要海量數(shù)據(jù)分析作為基礎(chǔ)進(jìn)行模型構(gòu)建，并通過(guò)用戶(hù)側(cè)的不斷訓(xùn)練和學(xué)習(xí)，使模型更加滿(mǎn)足使用需求。電力系統(tǒng)涵蓋發(fā)、輸、變、配、用各環(huán)節(jié)，涉及的電力設(shè)備數(shù)據(jù)、電量數(shù)據(jù)、電力負(fù)荷數(shù)據(jù)、用電客戶(hù)信息等都是關(guān)鍵敏感數(shù)據(jù)，在人工智能系統(tǒng)建設(shè)過(guò)程中，從數(shù)據(jù)收集、存儲(chǔ)、傳輸、處理、分析，到模型構(gòu)建、結(jié)果輸出和規(guī)?；瘧?yīng)用，這一系列的環(huán)節(jié)都存在技術(shù)上和人為操作上的數(shù)據(jù)泄露、數(shù)據(jù)竊取風(fēng)險(xiǎn)，不僅對(duì)電力系統(tǒng)的安全運(yùn)行造成不利影響，還會(huì)涉及用戶(hù)的家庭地址、身份等隱私信息泄露，嚴(yán)重影響社會(huì)秩序。

4.2 網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)

當(dāng)前國(guó)家級(jí)網(wǎng)絡(luò)對(duì)抗不斷升級(jí)，電力、水利、交通、能源等國(guó)家關(guān)鍵信息基礎(chǔ)設(shè)施已成為黑客重點(diǎn)攻擊的對(duì)象，同時(shí)人工智能等數(shù)字新技術(shù)的深入應(yīng)用，使得電力系統(tǒng)與互聯(lián)網(wǎng)連接更緊密更廣泛，無(wú)形之中所暴露的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)逐步增加，面臨的網(wǎng)絡(luò)威脅日益嚴(yán)峻。攻擊方通過(guò)篡改、擾亂等手段影響人工智能系統(tǒng)的學(xué)習(xí)、控制和反應(yīng)過(guò)程，從而獲得系統(tǒng)的支配權(quán)，破壞模型的正常運(yùn)行，這可能會(huì)導(dǎo)致電力設(shè)備損壞、電力負(fù)荷過(guò)載等問(wèn)題，嚴(yán)重時(shí)甚至導(dǎo)致電力系統(tǒng)癱瘓和停電事故。國(guó)外已發(fā)生過(guò)通過(guò)網(wǎng)絡(luò)攻擊造成停電事件的情況，這也為國(guó)內(nèi)電力企業(yè)敲響了警鐘。

4.3 技術(shù)本身風(fēng)險(xiǎn)

“人工智能的本質(zhì)是處理、匹配、決策和生成等任務(wù)”，系統(tǒng)的學(xué)習(xí)、反應(yīng)和決策主要基于模型、數(shù)據(jù)和算法，不可避免地存在因數(shù)據(jù)質(zhì)量問(wèn)題、算法偏差、模型不健全等內(nèi)生技術(shù)風(fēng)險(xiǎn)而出現(xiàn)誤判的情況，導(dǎo)致電力設(shè)備、系統(tǒng)的錯(cuò)誤操作，從而影響電力系統(tǒng)的正常運(yùn)行。此外，電力行業(yè)的人工智能系統(tǒng)依然存在供應(yīng)商研發(fā)而非自主可控的情形，所以系統(tǒng)后門(mén)、超級(jí)權(quán)限等安全隱患依然存在，如果供應(yīng)商系統(tǒng)或者整個(gè)供應(yīng)鏈存在安全漏洞或違規(guī)行為，同樣會(huì)對(duì)電力系統(tǒng)的安全運(yùn)行造成威脅。

4.4 社會(huì)工程學(xué)風(fēng)險(xiǎn)

社會(huì)工程學(xué)（Social Engineering）入侵是指利用人的弱點(diǎn)而不是計(jì)算機(jī)系統(tǒng)漏洞來(lái)突破信息安全防御措施的入侵手段。如果說(shuō)以上 3 種風(fēng)險(xiǎn)是可預(yù)防、可預(yù)警的，那么社會(huì)工程學(xué)風(fēng)險(xiǎn)則存在很大的不可控和不可預(yù)見(jiàn)性，因?yàn)樗饕扇说男睦砗托袨闆Q定，“人”是“整個(gè)安全鏈中最薄弱的一環(huán)”。社會(huì)工程學(xué)攻擊的過(guò)程包括目標(biāo)確認(rèn)、信息收集、信任建立、陷阱設(shè)置和利益獲取。人工智能系統(tǒng)的操作對(duì)人員的要求較高，如果人員存在安全意識(shí)不強(qiáng)、操作不當(dāng)?shù)惹闆r，則會(huì)很容易被別有用心之人利用，通過(guò)釣魚(yú)攻擊（最常見(jiàn)的是釣魚(yú)郵件，通過(guò)使用自然語(yǔ)言處理技術(shù)生成偽造的電子郵件或者消息）、等價(jià)交換、誘餌計(jì)劃、主動(dòng)提供技術(shù)支持等社會(huì)工程學(xué)手段攻擊，從而造成敏感信息泄露、被勒索詐騙等后果，影響電力生產(chǎn)環(huán)境的安全和電力系統(tǒng)的安全穩(wěn)定運(yùn)行。

5電力行業(yè)人工智能技術(shù)應(yīng)用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)防范策略

為了減少和避免人工智能技術(shù)應(yīng)用給電力行業(yè)帶來(lái)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，需要強(qiáng)化統(tǒng)籌安全與發(fā)展，從而更好地發(fā)揮人工智能技術(shù)的優(yōu)勢(shì)和價(jià)值，助推電力行業(yè)的數(shù)字化轉(zhuǎn)型。

5.1 健全政策法規(guī)，強(qiáng)化人工智能應(yīng)用保障機(jī)制

一是推進(jìn)現(xiàn)有網(wǎng)絡(luò)安全法律法規(guī)向人工智能領(lǐng)域延伸適用，國(guó)家及電力行業(yè)主管部門(mén)應(yīng)結(jié)合《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律法規(guī)出臺(tái)人工智能行業(yè)應(yīng)用新的監(jiān)管要求，為人工智能在電力行業(yè)應(yīng)用“保駕護(hù)航”。二是結(jié)合國(guó)家發(fā)展改革委 2014 年第14 號(hào)令《電力監(jiān)控系統(tǒng)安全防護(hù)規(guī)定》等電力行業(yè)網(wǎng)絡(luò)安全監(jiān)管要求，完善電力行業(yè)人工智能領(lǐng)域法規(guī)體系，重點(diǎn)對(duì)電力生產(chǎn)安全、數(shù)據(jù)安全、個(gè)人隱私保護(hù)、算法規(guī)范應(yīng)用等方面加強(qiáng)監(jiān)管，強(qiáng)化對(duì)人工智能技術(shù)應(yīng)用的法律約束。三是依據(jù)國(guó)家頂層人工智能發(fā)展戰(zhàn)略，結(jié)合“十四五”規(guī)劃和黨的二十大報(bào)告里面提到的人工智能發(fā)展規(guī)劃，研究制定電力行業(yè)發(fā)展規(guī)劃，充分考慮人工智能在電力行業(yè)應(yīng)用的可靠性、穩(wěn)定性和安全性，落實(shí)人工智能?chē)?guó)家戰(zhàn)略，以應(yīng)對(duì)日趨激烈的國(guó)際競(jìng)爭(zhēng)。

5.2 加強(qiáng)自主可控，夯實(shí)安全與創(chuàng)新發(fā)展的基礎(chǔ)

為保障人工智能技術(shù)在電力行業(yè)的可靠應(yīng)用，國(guó)家應(yīng)加大政策扶持力度，推進(jìn)電力人工智能系統(tǒng)基礎(chǔ)設(shè)備安全自主可控。一是推進(jìn)核心技術(shù)研發(fā)攻關(guān)，提升軟硬件實(shí)力。主要包括智能芯片、智能服務(wù)器、智能傳感器及配套的智能操作系統(tǒng)、軟件框架、第三方庫(kù)等，保障軟硬件供應(yīng)鏈安全可信、可控、可靠，實(shí)現(xiàn)人工智能高端基礎(chǔ)設(shè)備不被“卡脖子”。二是強(qiáng)化電力行業(yè)人工智能大模型發(fā)展。作為人工智能的核心，可靠、可控、安全的人工智能模型需要以海量?jī)?yōu)質(zhì)數(shù)據(jù)和強(qiáng)大的算力作為支撐， 進(jìn) 行 反 復(fù) 訓(xùn) 練、 不 斷 迭 代。我 國(guó) 應(yīng) 充 分發(fā)揮自身在大算力方面的優(yōu)勢(shì)，結(jié)合電力大數(shù)據(jù)，實(shí)現(xiàn)電力行業(yè)人工智能核心能力的自主可控 。

5.3 優(yōu)化防護(hù)策略，完善安全技術(shù)防護(hù)體系

從風(fēng)險(xiǎn)的精準(zhǔn)化解到安全漏洞的全面填補(bǔ)，應(yīng)從風(fēng)險(xiǎn)產(chǎn)生的技術(shù)源頭出發(fā)，實(shí)現(xiàn)對(duì)新一代人工智能失本、失新、失控、失權(quán)、失管 5 大風(fēng)險(xiǎn)的精準(zhǔn)聚焦。因此，在技術(shù)本質(zhì)層面，要加強(qiáng)數(shù)據(jù)加密、權(quán)限管控、模型監(jiān)控、攻擊檢測(cè)、實(shí)戰(zhàn)攻防演練、應(yīng)急演練等技術(shù)防護(hù)手段的應(yīng)用。一是電力行業(yè)應(yīng)根據(jù)電力監(jiān)控系統(tǒng)安全防護(hù)“十六字”方針，即“安全分區(qū)、網(wǎng)絡(luò)專(zhuān)用、橫向隔離、縱向認(rèn)證”，結(jié)合人工智能應(yīng)用情況，制定新的安全防護(hù)策略，編制行業(yè)標(biāo)準(zhǔn)規(guī)范與技術(shù)指南。二是針對(duì)人工智能在發(fā)、輸、變、配、用各環(huán)節(jié)的應(yīng)用，完善網(wǎng)絡(luò)安全、數(shù)據(jù)安全、算法安全等安全防護(hù)技術(shù)手段，常態(tài)化開(kāi)展攻防演練，為人工智能應(yīng)用提供充足的安全防護(hù)。三是堅(jiān)持電力人工智能系統(tǒng)建設(shè)與網(wǎng)絡(luò)安全防護(hù)建設(shè)同步規(guī)劃、同步建設(shè)、同步使用，讓網(wǎng)絡(luò)安全防護(hù)理念貫穿人工智能系統(tǒng)全生命周期。

5.4 強(qiáng)化宣傳培訓(xùn)，提升安全防范意識(shí)水平

一是強(qiáng)化人工智能技術(shù)應(yīng)用的網(wǎng)絡(luò)安全宣傳和教育培訓(xùn)，重點(diǎn)針對(duì)電力行業(yè)涉密數(shù)據(jù)、關(guān)鍵信息、模型算法邏輯等開(kāi)展保密教育，尤其是面對(duì)新型社會(huì)工程學(xué)攻擊手段，需要結(jié)合實(shí)際案例開(kāi)展學(xué)習(xí)宣貫，同時(shí)常態(tài)化開(kāi)展演習(xí)，提升員工的風(fēng)險(xiǎn)識(shí)別和處理能力。二是發(fā)揮考核指揮棒作用，在人工智能技術(shù)應(yīng)用的重大生產(chǎn)和管理活動(dòng)中，應(yīng)將網(wǎng)絡(luò)安全納入具體的考核體系，進(jìn)一步嚴(yán)格管理，或制定專(zhuān)項(xiàng)的防護(hù)策略，強(qiáng)化網(wǎng)絡(luò)安全的紅線(xiàn)意識(shí)和底線(xiàn)思維。

6結(jié) 語(yǔ)

電力行業(yè)人工智能技術(shù)的應(yīng)用是順應(yīng)國(guó)家數(shù)字中國(guó)建設(shè)、加快推進(jìn)能源數(shù)字化智能化發(fā)展的必然選擇和重要舉措，也是能源企業(yè)加快數(shù)字化轉(zhuǎn)型、構(gòu)建新型能源體系的必然趨勢(shì)和重要支撐。能源安全關(guān)乎國(guó)家安全，電力行業(yè)人工智能技術(shù)的應(yīng)用需要以安全為前提和基礎(chǔ)，要清醒認(rèn)識(shí)到人工智能技術(shù)自身的不足與局限，全面梳理人工智能系統(tǒng)或產(chǎn)品的全生命周期中的安全風(fēng)險(xiǎn)，從技術(shù)和管理上加強(qiáng)安全風(fēng)險(xiǎn)識(shí)別和防范，有效地化解人工智能應(yīng)用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，統(tǒng)籌人工智能發(fā)展與安全，為人工智能技術(shù)在電力行業(yè)的創(chuàng)新應(yīng)用護(hù)航。由于人工智能技術(shù)尚處于蓬勃發(fā)展階段，在電力行業(yè)的應(yīng)用也正處于規(guī)模化階段，因此本文對(duì)電力行業(yè)人工智能應(yīng)用存在的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析還存在局限，在應(yīng)對(duì)安全風(fēng)險(xiǎn)的防范策略研究上還存在不足，后續(xù)將持續(xù)關(guān)注人工智能技術(shù)在電力行業(yè)的應(yīng)用，加強(qiáng)研究分析，以取得更全面、深入的研究成果。

作者：向 英、韓 玄

來(lái)源：選自《信息安全與通信保密》2023年第10期