電網領域也需有效應對人工智能“幻覺”

　　當前，人工智能迅猛發展，其應用范圍已滲透至社會生產與生活的各個領域。然而，人們在享受人工智能帶來的高效便捷體驗的同時，也難逃人工智能“幻覺”的困擾。這里的“幻覺”，指的是人工智能生成的看似合理但實際不準確或虛假的信息。

　　在電網領域，人工智能的應用越來越廣泛、深入，其固有的“幻覺”現象可能給電網企業帶來風險與挑戰，是電網數字化、智能化發展進程中不容忽視的問題。

　　何為人工智能“幻覺”

　　人工智能大模型有時會編造一些并不存在的細節，生成與事實相悖的答案，給出一些并不準確的鏈接……這些現象都可以歸為人工智能“幻覺”。

　　人工智能“幻覺”主要發生在生成式人工智能大模型中，是指模型在輸出過程中生成看似合理、邏輯通順，但與客觀事實不一致的內容，就像人類在認知過程中出現錯覺、虛構記憶一樣。一項調研顯示，對于“公眾認為使用人工智能過程中有哪些突出問題”，反饋最多的是“內容不準確，或含虛假信息”，占比高達42.2%。

　　值得注意的是，“幻覺率”并非越低越好，模型需要在準確性、創造性與應用場景之間進行權衡。高“幻覺”模型在開放性任務中會展現出更強的推理能力，但容易產生錯誤事實;低“幻覺”模型則更依賴訓練數據，靈活性受限。

　　人工智能會產生“幻覺”

　　源于數據、算法與環境等多重因素

　　生成式人工智能的工作原理類似于“成語接龍”游戲，模型通過預測下一個詞語的概率分布來生成輸出內容。人工智能“幻覺”的產生并非單一因素所致，而是數據基礎、算法機制與交互環境等多重因素交織作用的結果。

　　模型的學習過程高度依賴訓練數據，而數據本身的質量、完整性與準確性直接決定了模型的輸出結果。數據缺陷是導致人工智能“幻覺”的重要原因之一。如果訓練數據中存在錯誤、片面或未發布的內容，模型就可能在學習過程中建立起錯誤的關聯。例如，某模型基于尚未正式發布的行業標準進行訓練，輸出的內容就可能與現行規范不符。知識固化也是人工智能“幻覺”的誘因之一。部分模型過度依賴參數化記憶，缺乏動態更新能力，在面對訓練數據之外的新問題時，往往無法準確應答。例如，某模型僅基于2024年之前的數據進行訓練，那么在面對2024年之后的事件時，可能會虛構信息來填補“知識空白”。

　　盡管模型具備強大的文本生成能力，但其算法機制仍有局限性，在一定程度上加劇了“幻覺”的產生。長文本處理不足可能使模型過于關注局部詞句而忽視整體邏輯結構，陷入“只見樹木不見森林”的困境，導致生成的內容前后矛盾、邏輯混亂。數據壓縮與信息丟失也是關鍵問題。為提升處理效率，模型在處理海量數據時通常會壓縮，舍棄看似冗余的細節信息，而這一過程可能導致關鍵信息丟失。為填補這些“空白”，模型可能會虛構內容來“自圓其說”。同時，目前大多數模型缺乏對生成內容真實性的驗證機制，錯誤信息可能在生成過程中不斷被合理化，最終導致“幻覺”的產生。

　　模型的輸出內容不僅取決于其內部機制，還深受用戶輸入的影響。在實際應用中，環境因素往往成為人工智能“幻覺”的“放大器”。用戶提問模糊、提示不清或邏輯矛盾的情況下，模型難以準確理解用戶意圖，可能會“自由發揮”，生成偏離實際需求的內容。在多輪對話中，偏差的累積放大現象尤為明顯。某一環節生成的內容存在偏差，后續生成的內容可能會基于這一錯誤進行推理，最終使輸出內容與事實嚴重偏離。

　　面對人工智能“幻覺”

　　需從數據、技術、管理、人才等方面發力

　　面對人工智能“幻覺”帶來的潛在風險，電網企業需采取系統性、多層次的應對策略，構筑起堅實的安全防線。

　　優化數據治理。通過構建電力專業語料庫，持續更新技術標準、行業規范及最新研究成果、實踐案例等專項數據，提升數據的行業針對性和時效性。強化數據清洗與標注，引入機器學習算法，全面提升數據質量。加強多源數據融合校驗，整合傳感器數據、設備圖像、運維文本等多模態信息，通過交叉驗證機制降低單一數據源偏差影響。建立全生命周期數據追溯體系，實現從數據采集、模型訓練到模型迭代全程可控、可追溯。

　　創新模型架構。調整模型參數，降低隨機性，通過設置關鍵參數，明確要求模型“僅基于已有知識回答，如不知道請明確說明”，減少編造傾向。引入檢索增強生成技術，將電力規程、設備參數、運行經驗等專業知識嵌入模型推理過程，進一步約束模型生成邊界，提升模型的準確性和專業性。開啟思維鏈模式，讓模型展示推理步驟和邏輯過程，便于發現并糾正潛在的邏輯跳躍或事實錯誤。構建“大模型+小模型”混合架構，根據業務場景靈活調整功能分配，實現語義理解和精準計算的高效協同。

　　健全體制機制。在應用人工智能過程中，優化雙軌驗證制度，明確人工經驗驗證和人工智能推理校驗流程。針對電網調度、故障診斷等關鍵場景，合理設置人工復核節點，形成更高效、更可靠的人機協作模式。優先選取中低風險場景開展人工智能試點應用，待技術成熟后逐步推廣。

　　提升員工素養。提升員工核查事實的技能，組織員工參與人工智能項目開發實施，通過模擬演練提高實戰能力。推廣多源比對驗證方法，引導員工利用不同人工智能工具對同一問題提問，比對答案差異識別潛在“幻覺”。搭建人工智能應用最佳實踐共享平臺，促進跨部門、跨單位溝通合作，推動企業人工智能應用整體水平提升。(作者：趙三珊 華珉 單位：國網上海市電力公司電力科學研究院)