電網(wǎng)領(lǐng)域也需有效應(yīng)對人工智能“幻覺”

　　當(dāng)前，人工智能迅猛發(fā)展，其應(yīng)用范圍已滲透至社會生產(chǎn)與生活的各個(gè)領(lǐng)域。然而，人們在享受人工智能帶來的高效便捷體驗(yàn)的同時(shí)，也難逃人工智能“幻覺”的困擾。這里的“幻覺”，指的是人工智能生成的看似合理但實(shí)際不準(zhǔn)確或虛假的信息。

　　在電網(wǎng)領(lǐng)域，人工智能的應(yīng)用越來越廣泛、深入，其固有的“幻覺”現(xiàn)象可能給電網(wǎng)企業(yè)帶來風(fēng)險(xiǎn)與挑戰(zhàn)，是電網(wǎng)數(shù)字化、智能化發(fā)展進(jìn)程中不容忽視的問題。

　　何為人工智能“幻覺”

　　人工智能大模型有時(shí)會編造一些并不存在的細(xì)節(jié)，生成與事實(shí)相悖的答案，給出一些并不準(zhǔn)確的鏈接……這些現(xiàn)象都可以歸為人工智能“幻覺”。

　　人工智能“幻覺”主要發(fā)生在生成式人工智能大模型中，是指模型在輸出過程中生成看似合理、邏輯通順，但與客觀事實(shí)不一致的內(nèi)容，就像人類在認(rèn)知過程中出現(xiàn)錯(cuò)覺、虛構(gòu)記憶一樣。一項(xiàng)調(diào)研顯示，對于“公眾認(rèn)為使用人工智能過程中有哪些突出問題”，反饋?zhàn)疃嗟氖?ldquo;內(nèi)容不準(zhǔn)確，或含虛假信息”，占比高達(dá)42.2%。

　　值得注意的是，“幻覺率”并非越低越好，模型需要在準(zhǔn)確性、創(chuàng)造性與應(yīng)用場景之間進(jìn)行權(quán)衡。高“幻覺”模型在開放性任務(wù)中會展現(xiàn)出更強(qiáng)的推理能力，但容易產(chǎn)生錯(cuò)誤事實(shí);低“幻覺”模型則更依賴訓(xùn)練數(shù)據(jù)，靈活性受限。

　　人工智能會產(chǎn)生“幻覺”

　　源于數(shù)據(jù)、算法與環(huán)境等多重因素

　　生成式人工智能的工作原理類似于“成語接龍”游戲，模型通過預(yù)測下一個(gè)詞語的概率分布來生成輸出內(nèi)容。人工智能“幻覺”的產(chǎn)生并非單一因素所致，而是數(shù)據(jù)基礎(chǔ)、算法機(jī)制與交互環(huán)境等多重因素交織作用的結(jié)果。

　　模型的學(xué)習(xí)過程高度依賴訓(xùn)練數(shù)據(jù)，而數(shù)據(jù)本身的質(zhì)量、完整性與準(zhǔn)確性直接決定了模型的輸出結(jié)果。數(shù)據(jù)缺陷是導(dǎo)致人工智能“幻覺”的重要原因之一。如果訓(xùn)練數(shù)據(jù)中存在錯(cuò)誤、片面或未發(fā)布的內(nèi)容，模型就可能在學(xué)習(xí)過程中建立起錯(cuò)誤的關(guān)聯(lián)。例如，某模型基于尚未正式發(fā)布的行業(yè)標(biāo)準(zhǔn)進(jìn)行訓(xùn)練，輸出的內(nèi)容就可能與現(xiàn)行規(guī)范不符。知識固化也是人工智能“幻覺”的誘因之一。部分模型過度依賴參數(shù)化記憶，缺乏動態(tài)更新能力，在面對訓(xùn)練數(shù)據(jù)之外的新問題時(shí)，往往無法準(zhǔn)確應(yīng)答。例如，某模型僅基于2024年之前的數(shù)據(jù)進(jìn)行訓(xùn)練，那么在面對2024年之后的事件時(shí)，可能會虛構(gòu)信息來填補(bǔ)“知識空白”。

　　盡管模型具備強(qiáng)大的文本生成能力，但其算法機(jī)制仍有局限性，在一定程度上加劇了“幻覺”的產(chǎn)生。長文本處理不足可能使模型過于關(guān)注局部詞句而忽視整體邏輯結(jié)構(gòu)，陷入“只見樹木不見森林”的困境，導(dǎo)致生成的內(nèi)容前后矛盾、邏輯混亂。數(shù)據(jù)壓縮與信息丟失也是關(guān)鍵問題。為提升處理效率，模型在處理海量數(shù)據(jù)時(shí)通常會壓縮，舍棄看似冗余的細(xì)節(jié)信息，而這一過程可能導(dǎo)致關(guān)鍵信息丟失。為填補(bǔ)這些“空白”，模型可能會虛構(gòu)內(nèi)容來“自圓其說”。同時(shí)，目前大多數(shù)模型缺乏對生成內(nèi)容真實(shí)性的驗(yàn)證機(jī)制，錯(cuò)誤信息可能在生成過程中不斷被合理化，最終導(dǎo)致“幻覺”的產(chǎn)生。

　　模型的輸出內(nèi)容不僅取決于其內(nèi)部機(jī)制，還深受用戶輸入的影響。在實(shí)際應(yīng)用中，環(huán)境因素往往成為人工智能“幻覺”的“放大器”。用戶提問模糊、提示不清或邏輯矛盾的情況下，模型難以準(zhǔn)確理解用戶意圖，可能會“自由發(fā)揮”，生成偏離實(shí)際需求的內(nèi)容。在多輪對話中，偏差的累積放大現(xiàn)象尤為明顯。某一環(huán)節(jié)生成的內(nèi)容存在偏差，后續(xù)生成的內(nèi)容可能會基于這一錯(cuò)誤進(jìn)行推理，最終使輸出內(nèi)容與事實(shí)嚴(yán)重偏離。

　　面對人工智能“幻覺”

　　需從數(shù)據(jù)、技術(shù)、管理、人才等方面發(fā)力

　　面對人工智能“幻覺”帶來的潛在風(fēng)險(xiǎn)，電網(wǎng)企業(yè)需采取系統(tǒng)性、多層次的應(yīng)對策略，構(gòu)筑起堅(jiān)實(shí)的安全防線。

　　優(yōu)化數(shù)據(jù)治理。通過構(gòu)建電力專業(yè)語料庫，持續(xù)更新技術(shù)標(biāo)準(zhǔn)、行業(yè)規(guī)范及最新研究成果、實(shí)踐案例等專項(xiàng)數(shù)據(jù)，提升數(shù)據(jù)的行業(yè)針對性和時(shí)效性。強(qiáng)化數(shù)據(jù)清洗與標(biāo)注，引入機(jī)器學(xué)習(xí)算法，全面提升數(shù)據(jù)質(zhì)量。加強(qiáng)多源數(shù)據(jù)融合校驗(yàn)，整合傳感器數(shù)據(jù)、設(shè)備圖像、運(yùn)維文本等多模態(tài)信息，通過交叉驗(yàn)證機(jī)制降低單一數(shù)據(jù)源偏差影響。建立全生命周期數(shù)據(jù)追溯體系，實(shí)現(xiàn)從數(shù)據(jù)采集、模型訓(xùn)練到模型迭代全程可控、可追溯。

　　創(chuàng)新模型架構(gòu)。調(diào)整模型參數(shù)，降低隨機(jī)性，通過設(shè)置關(guān)鍵參數(shù)，明確要求模型“僅基于已有知識回答，如不知道請明確說明”，減少編造傾向。引入檢索增強(qiáng)生成技術(shù)，將電力規(guī)程、設(shè)備參數(shù)、運(yùn)行經(jīng)驗(yàn)等專業(yè)知識嵌入模型推理過程，進(jìn)一步約束模型生成邊界，提升模型的準(zhǔn)確性和專業(yè)性。開啟思維鏈模式，讓模型展示推理步驟和邏輯過程，便于發(fā)現(xiàn)并糾正潛在的邏輯跳躍或事實(shí)錯(cuò)誤。構(gòu)建“大模型+小模型”混合架構(gòu)，根據(jù)業(yè)務(wù)場景靈活調(diào)整功能分配，實(shí)現(xiàn)語義理解和精準(zhǔn)計(jì)算的高效協(xié)同。

　　健全體制機(jī)制。在應(yīng)用人工智能過程中，優(yōu)化雙軌驗(yàn)證制度，明確人工經(jīng)驗(yàn)驗(yàn)證和人工智能推理校驗(yàn)流程。針對電網(wǎng)調(diào)度、故障診斷等關(guān)鍵場景，合理設(shè)置人工復(fù)核節(jié)點(diǎn)，形成更高效、更可靠的人機(jī)協(xié)作模式。優(yōu)先選取中低風(fēng)險(xiǎn)場景開展人工智能試點(diǎn)應(yīng)用，待技術(shù)成熟后逐步推廣。

　　提升員工素養(yǎng)。提升員工核查事實(shí)的技能，組織員工參與人工智能項(xiàng)目開發(fā)實(shí)施，通過模擬演練提高實(shí)戰(zhàn)能力。推廣多源比對驗(yàn)證方法，引導(dǎo)員工利用不同人工智能工具對同一問題提問，比對答案差異識別潛在“幻覺”。搭建人工智能應(yīng)用最佳實(shí)踐共享平臺，促進(jìn)跨部門、跨單位溝通合作，推動企業(yè)人工智能應(yīng)用整體水平提升。(作者：趙三珊 華珉 單位：國網(wǎng)上海市電力公司電力科學(xué)研究院)