安科瑞 陳聰

摘要：大量電動汽車用戶的無序充電可能造成電網(wǎng)負荷劇烈波動，危及電網(wǎng)的安全穩(wěn)定。隨著電動汽車入網(wǎng)技術的應用，將電動汽車充電站及其周邊的分布式新能源發(fā)電聚合為虛擬電廠后進行優(yōu)化調度，有助于改善電動汽車用戶充放電的經(jīng)濟性及滿意度，同時提高分布式新能源的利用率，平抑電網(wǎng)負荷波動，但電動汽車充電站的整體充放電負荷是大量個體電動汽車用戶隨機行為的聚合，難以用數(shù)學模型描述。針對包含電動汽車的虛擬電廠，提出一種基于深度強化學習的交互式調度框架，以虛擬電廠內電動汽車用戶的總效益。虛擬電廠控制平臺作為智能體決策電動汽車個體的充放電動作，無需掌握個體詳細模型，而是通過與區(qū)域電網(wǎng)環(huán)境的交互，不斷學習和更新動作策略，從而克服集中式優(yōu)化方法的局限性。該優(yōu)化調度框架采用深度確定性策略梯度算法進行求解。仿真結果表明，與集中式優(yōu)化方法相比，該優(yōu)化算法提高了各電動汽車用戶的效益，并使電動汽車充放電負荷與分布式新能源發(fā)電協(xié)調配合實現(xiàn)削峰填谷，改善了虛擬電廠的整體運行性能。

關鍵詞：虛擬電廠；電動汽車；電動汽車入網(wǎng)技術；分布式新能源；

1.為什么要搭建虛擬電廠

大量電動汽車的無序充電不僅會影響電網(wǎng)的安全穩(wěn)定運行，而且會給用戶造成經(jīng)濟損失。事實上，電動汽車充電負荷不僅具有較大的調節(jié)彈性，而且可以基于電動汽車入網(wǎng)技術實現(xiàn)發(fā)電和用電側的角色轉換，具備很大的優(yōu)化調度潛力。通過搭建虛擬電廠整合區(qū)域配電網(wǎng)中的電動汽車充放電負荷及分布式新能源發(fā)電資源，合理引導電動汽車用戶的充放電行為，不但可以降低電動汽車車主的充電費用，提高充電需求滿足程度，同時可使電動汽車充放電負荷與分布式新能源發(fā)電協(xié)調配合，提高新能源利用率，平抑虛擬電廠整體負荷的波動。虛擬電廠是電力系統(tǒng)中智能配電網(wǎng)運行的重要技術，通過創(chuàng)建一個虛擬電廠控制平臺，可以將配電網(wǎng)中的電動汽車充放電負荷與分布式新能源聚合為一個整體參與電網(wǎng)運行，更好地發(fā)掘電動汽車充放電負荷與分布式新能源的價值和效益。

然而，在上述包含電動汽車充放電負荷及分布式新能源的虛擬電廠中，電動汽車充電站的總負荷特性是大量個體電動汽車用戶隨機充放電行為的聚合，難以對其進行的數(shù)學建模和準確預測，這給傳統(tǒng)的基于負荷預測進行優(yōu)化計算的集中式調度模式帶來了挑戰(zhàn)。解決這一難點的一種有效途徑是采用基于強化學習方法的交互式優(yōu)化調度模式。該模式中，虛擬電廠控制平臺作為智能體，包含電動汽車個體用戶及分布式新能源的區(qū)域電網(wǎng)為智能體所在的環(huán)境。虛擬電廠控制平臺在不掌握電動汽車個體用戶詳細模型的情況下給出電動汽車個體的充放電動作決策，并通過與區(qū)域電網(wǎng)的交互評估當前決策的性能，不斷學習和更新動作策略，直至得到令人滿意的優(yōu)化決策。基于智能體與環(huán)境之間信息交互的強化學習方法可以在缺乏數(shù)學模型的情況下模擬順序決策問題并獲得對環(huán)境的響應。這種基于強化學習的交互式調度模式克服了傳統(tǒng)集中式調度的局限性，有望在虛擬電廠優(yōu)化調度中得到應用。

目前，國內外針對電動汽車充電優(yōu)化調度的研究主要關注電網(wǎng)側和用戶側的經(jīng)濟效益。第1類文獻提出將電動汽車充電負荷接入微電網(wǎng)：構建了一個包含風光、基礎負荷、儲能電池以及電動汽車代理商等對象的微電網(wǎng)，采用粒子群算法對電網(wǎng)經(jīng)濟優(yōu)化調度模型進行求解；構建了面向工業(yè)園區(qū)的包含電動汽車充電站的風/光/柴獨立微電網(wǎng)模型，通過混合整數(shù)線性規(guī)劃算法，采用Matlab的YALMIP工具包對模型進行求解。第2類文獻提出了針對電動汽車充電負荷的市場機制：提出了制定電力交易合約和兩級*賣的優(yōu)化策略，通過搭建分層區(qū)塊鏈結構，提高了電網(wǎng)對區(qū)域內電動汽車充放電行為的優(yōu)化調度；采用市場機制方法進行電動汽車充電量和本地負荷之間的協(xié)調調度，避免因負荷聚集而導致配電系統(tǒng)阻塞。另一類文獻提出了消納電動汽車充電負荷的虛擬電廠：采用粒子群優(yōu)化算法，通過構建虛擬電廠對高比例新能源、電動汽車和可控電源的出力進行優(yōu)化調度；構建了包含風電、光伏、微燃氣機組、儲能、基礎負荷和電動汽車負荷的虛擬電廠，制定了虛擬電廠與電動汽車用戶雙方經(jīng)濟效益的主從博弈定價策略。

2構建實施

2.1 應用平臺構建

虛擬電廠平臺系統(tǒng)運行監(jiān)測、系統(tǒng)運行管理、資源分析與建模、結算管理等功能部署于管理信息大區(qū)，交易申報與信息發(fā)布、可視化展示等功能部署于互聯(lián)網(wǎng)大區(qū)，方便外界資源接入，兩部分平臺之間通過強邏輯隔離裝置進行信息交互，分別簡稱為外平臺與內平臺。

外平臺作為聚合商與虛擬電廠用戶等社會資源的接入端口與申報發(fā)布端口，主要與智慧能源服務平臺、電力交易平臺、虛擬電廠用戶等交互；內平臺主要與電網(wǎng)資源業(yè)務中臺、數(shù)據(jù)中臺、調度系統(tǒng)、虛擬電廠用戶等交互。虛擬電廠運營平臺采用統(tǒng)一的虛擬電廠聚合商接口，各虛擬電廠聚合商可通過此架構基礎進一步與所管控虛擬電廠進行數(shù)據(jù)與指令交互，并可集成多類型微服務，例如綜合能源服務公司、電動汽車公司、第三方負荷聚合商等主體的

自建能量管理系統(tǒng)或管理平臺。

虛擬電廠運營平臺針對不同時間尺度的調控指令與交易、運營數(shù)據(jù)交互需求，設置不同的數(shù)據(jù)通路，包括信息上傳與需求計劃下發(fā)通路等。運營平臺與調度系統(tǒng)通過多道安全防護進行出力計劃與調節(jié)需求等數(shù)據(jù)交互，構建調控信息通路；運營平臺與智慧能源服務平臺、交易平臺通過相關技術支持功能進行市場信息、出清與結算數(shù)據(jù)等數(shù)據(jù)交互，構建市場信息通路。

針對輔助服務、需求響應、電能量交易等所需的數(shù)據(jù)交互類型，運營平臺代理進行交易申報，接收相應上級平臺發(fā)布的市場出清結果、調節(jié)需求或計劃曲線，通過預設的協(xié)調優(yōu)化策略，將其分解下發(fā)至各虛擬電廠聚合商，在建設前期也可直接發(fā)送至底層虛擬電廠用戶，并進行實際運行情況的監(jiān)測、接收、運行評估；此外運營平臺還通過交易數(shù)據(jù)通路，接收輔助服務市場的月度結算信息并分解下發(fā)至聚合商或虛擬電廠用戶。

2.2 試點應用

組織開展虛擬電廠試點參與平臺調峰、調頻的洽談、改造及接入，并逐步拓展接入多元資源的種類與規(guī)模，針對接入的聚合商或負荷資源開展調控業(yè)務的模擬運行，實現(xiàn)電源側與負荷側靈活資源的有效耦合利用與深度互動，以及光伏新能源棄限電量消納。

2.3 溝通推動政策出臺

溝通相關部門推動河北調頻輔助服務市場規(guī)則的出臺，確認虛擬電廠主體角色，鼓勵前期按照“報量不報價”的原則參與服務；后期根據(jù)電力現(xiàn)貨市場建設情況，推動虛擬電廠相關補貼政策出臺。一方面，規(guī)定可再生能源發(fā)電應盡量并網(wǎng)，并進一步完善現(xiàn)行的分時電價辦法，鼓勵和促進用電高峰時用戶節(jié)電和分布式能源發(fā)電。另一方面，應區(qū)別對待不同職能的虛擬電廠。

3 安科瑞智慧能源管理平臺助力虛擬電廠快速發(fā)展

3.1安科瑞智慧能源管理平臺

AcrelEMS 智慧能源管理平臺是針對企業(yè)微電網(wǎng)的能效管理平臺，對企業(yè)微電網(wǎng)分布式電源、市政電源、儲能系統(tǒng)、充電設施以及各類交直流負荷的運行狀態(tài)實時監(jiān)視、智能預測、動態(tài)調配，優(yōu)化策略，診斷告警，可調度源荷有序互動、能源全景分析，滿足企業(yè)微電網(wǎng)能效管理數(shù)字化、安全分析智能化、調整控制動態(tài)化、全景分析可視化的需求，完成不同策略下光儲充資源之間的靈活互動與經(jīng)濟運行，為用戶降低能源成本，提高微電網(wǎng)運行效率。AcrelEMS 智慧能源管理平臺可以接受虛擬電廠的調度指令和需求響應，是虛擬電廠平臺的企業(yè)級子系統(tǒng)。

圖1 AcrelEMS 智慧能源管理平臺主界面

3.2平臺結構

系統(tǒng)覆蓋企業(yè)微電網(wǎng)“源-網(wǎng)-荷-儲-充”各環(huán)節(jié)，通過智能網(wǎng)關采集測控裝置、光伏、儲能、充電樁、常規(guī)負荷數(shù)據(jù)，根據(jù)負荷變化和電網(wǎng)調度進行優(yōu)化控制，促進新能源消納的同時降低對電網(wǎng)的至大需量，使之運行安全。

圖2 AcrelEMS 智慧能源管理平臺結構

3.3平臺功能

3.3.1.能源數(shù)字化展示

通過展示大屏實時顯示市電、光伏、風電、儲能、充電樁以及其它負荷數(shù)據(jù)，快速了解能源運行情況。

3.3.2.優(yōu)化控制

直觀顯示能源生產及流向，包括市電、光伏、儲能充電及消耗過程，通過優(yōu)化控制儲能和可控負載提升新能源消納，削峰填谷，平滑系統(tǒng)出力，并顯示優(yōu)化前和優(yōu)化后能源曲線對比等。

3.3.3.智能預測

結合氣象數(shù)據(jù)，歷史數(shù)據(jù)對光伏、風力發(fā)電功率和負荷功率進行預測，并與實際功率進行對比分析，通過儲能系統(tǒng)和負荷控制實現(xiàn)優(yōu)化調度，降低需量和用電成本。

3.3.4.能耗分析

采集企業(yè)電、水、天然氣、冷/熱量等各種能源介質消耗量，進行同環(huán)比比較，顯示能源流向，能耗對標，并折算標煤或碳排放等。

3.3.5.有序充電

系統(tǒng)支持接入交直流充電樁，并根據(jù)企業(yè)負荷和變壓器容量，并和變壓器負荷率進行聯(lián)動控制，引導用戶有序充電，保障企業(yè)微電網(wǎng)運行安全。

3.3.6.運維巡檢

系統(tǒng)支持任務管理、巡檢/缺陷/消警/搶修記錄以及通知工單管理，并通過北斗定位跟蹤運維人員軌跡，實現(xiàn)運維流程閉環(huán)管理。

3.4設備選型

除了智慧能源管理平臺外，還具備現(xiàn)場傳感器、智能網(wǎng)關等設備，組成了完整的“云-邊-端”能源數(shù)字化體系，具體包括高低壓配電綜合保護和監(jiān)測產品、電能質量在線監(jiān)測裝置、電能質量治理、照明控制、充電樁、電氣消防類解決方案等，可以為虛擬電廠企業(yè)級的能源管理系統(tǒng)提供一站式服務能力。

安科瑞系統(tǒng)解決方案還包含電力運維云平臺、能源綜合計費管理平臺、環(huán)保用電監(jiān)管云平臺、充電樁運營管理云平臺、智慧消防云平臺、電力監(jiān)控系統(tǒng)、微電網(wǎng)能量管理系統(tǒng)、智能照明控制系統(tǒng)、電能質量治理系統(tǒng)、電氣消防系統(tǒng)、隔離電源絕緣監(jiān)測系統(tǒng)等系統(tǒng)解決方案，覆蓋企業(yè)微電網(wǎng)各個環(huán)節(jié)，打造準確感知、邊緣智能、智慧運行的企業(yè)微電網(wǎng)智慧能源管理系統(tǒng)。

3.5安科瑞充電樁云平臺系統(tǒng)功能

3.5.1智能化大屏

智能化大屏展示站點分布情況，對設備狀態(tài)、設備使用率、充電次數(shù)、充電時長、充電金額、充電度數(shù)、充電樁故障等進行統(tǒng)計顯示，同時可查看每個站點的站點信息、充電樁列表、充電記錄、收益、能耗、故障記錄等。統(tǒng)一管理小區(qū)充電樁，查看設備使用率，合理分配資源。

3.5.2實時監(jiān)控

實時監(jiān)視充電設施運行狀況，主要包括充電樁運行狀態(tài)、回路狀態(tài)、充電過程中的充電電量、充電電壓電流，充電樁告警信息等。

3.5.3交易管理

平臺管理人員可管理充電用戶賬戶，對其進行賬戶進行充值、退款、凍結、注銷等操作，可查看小區(qū)用戶每日的充電交易詳細信息。

3.5.4故障管理

設備自動上報故障信息，平臺管理人員可通過平臺查看故障信息并進行派發(fā)處理，同時運維人員可通過運維APP收取故障推送，運維人員在運維工作完成后將結果上報。充電用戶也可通過充電小程序反饋現(xiàn)場問題。

3.5.5統(tǒng)計分析

通過系統(tǒng)平臺，從充電站點、充電設施、、充電時間、充電方式等不同角度，查詢充電交易統(tǒng)計信息、能耗統(tǒng)計信息等。

3.5.6基礎數(shù)據(jù)管理

在系統(tǒng)平臺建立運營商戶，運營商可建立和管理其運營所需站點和充電設施，維護充電設施信息、價格策略、折扣、優(yōu)惠活動，同時可管理在線卡用戶充值、凍結和解綁。

3.5.7運維APP

面向運維人員使用，可以對站點和充電樁進行管理、能夠進行故障閉環(huán)處理、查詢流量卡使用情況、查詢充電\充值情況，進行遠程參數(shù)設置，同時可接收故障推送

3.5.8充電小程序

面向充電用戶使用，可查看附近空閑設備，主要包含掃碼充電、賬戶充值，充電卡綁定、交易查詢、故障申訴等功能。

3.5.9系統(tǒng)硬件配置

1. 總結

電動汽車虛擬電廠是一種新興的電力系統(tǒng)調度模式，通過將大量分布式的電動汽車充電站整合成一個虛擬的集中式電廠，實現(xiàn)對電動汽車充電需求的優(yōu)化調度。強化學習是一種機器學習方法，通過與環(huán)境的交互來學習如何在給定狀態(tài)下采取合適行動以實現(xiàn)目標。在基于強化學習的含電動汽車虛擬電廠優(yōu)化調度中，可以采用以下步驟：

1. 狀態(tài)定義：首先需要定義系統(tǒng)的狀態(tài)，包括電動汽車的當前充電狀態(tài)、電池剩余電量、電網(wǎng)負荷等。此外，還可以考慮天氣、時間等因素。

2. 動作定義：在給定狀態(tài)下，可以定義一系列可能的動作，如調整充電功率、切換充電站等。這些動作會影響電動汽車的充電需求和電網(wǎng)的運行狀況。

3. 獎勵函數(shù)設計：為了引導強化學習算法朝著優(yōu)化調度的目標前進，需要設計一個獎勵函數(shù)來衡量每個動作的價值。獎勵函數(shù)可以根據(jù)系統(tǒng)的實際運行狀況和調度目標來設計，如降低電網(wǎng)負荷波動、提高充電效率等。

4. 策略學習：通過與環(huán)境的交互，強化學習算法會學習到一個策略，即在給定狀態(tài)下選擇合適動作的方法。這個策略可以用于指導電動汽車虛擬電廠的優(yōu)化調度。

5. 模型訓練與驗證：為了驗證所學習到的策略的有效性，可以將訓練好的模型應用于實際的電動汽車虛擬電廠系統(tǒng)中，觀察其調度效果。如果效果不佳，可以調整獎勵函數(shù)或策略，重新進行訓練和驗證。

6. 實時調度：在實際應用中，電動汽車虛擬電廠需要實時地根據(jù)當前的系統(tǒng)狀態(tài)和學習到的策略進行調度。

總之，基于強化學習的含電動汽車虛擬電廠優(yōu)化調度可以實現(xiàn)對電動汽車充電需求的智能調度，降低電網(wǎng)負荷波動，提高充電效率，為電動汽車的大規(guī)模普及提供支持。

參考文獻

1. 李明揚，竇夢園. 基于強化學習的含電動汽車虛擬電廠優(yōu)化調度

2. 吳巨愛，薛禹勝，謝東亮 .電動汽車聚合商對備用服務能力的優(yōu)化

[3] 安科瑞企業(yè)微電網(wǎng)設計與應用手冊.2022.05版