大模型及DeepSeek在運(yùn)維場景中的應(yīng)用

在數(shù)據(jù)庫和數(shù)據(jù)挖掘領(lǐng)域頂級(jí)會(huì)議和期刊SIGMOD、VLDB、ICDTKDE上發(fā)表論文100多篇。主持和參與科技自然科學(xué)重點(diǎn)、面上基金、上海市科委/經(jīng)信委的多個(gè)項(xiàng)目，以及華為、螞蟻目錄/CONTENTS1大模型在運(yùn)維領(lǐng)域應(yīng)用前景2面臨的挑戰(zhàn)3若干應(yīng)用場景4總結(jié)閉源開源部分領(lǐng)域醫(yī)療汽車教育GOGOPS全球運(yùn)維大會(huì)暨研運(yùn)數(shù)智化技術(shù)峰會(huì)2025·深圳站GOGOPS全球運(yùn)維大會(huì)暨研運(yùn)數(shù)智化技術(shù)峰會(huì)2025·深圳站L5智能運(yùn)維：實(shí)現(xiàn)系統(tǒng)自治，解放體力與腦力基于已有的經(jīng)驗(yàn)知識(shí)在不同場景下自主決策處置高度自動(dòng)化+串聯(lián)智能化高度自動(dòng)化+單點(diǎn)智能化智能運(yùn)維數(shù)據(jù)化運(yùn)維數(shù)據(jù)化運(yùn)維專家經(jīng)驗(yàn)運(yùn)維執(zhí)行：人專家經(jīng)驗(yàn)運(yùn)維執(zhí)行：人+系統(tǒng)（95%）決策：人+系統(tǒng)（80%）執(zhí)行：人+系統(tǒng)（80%）決策：人+系統(tǒng)（20%）決策：人+系統(tǒng)（95%）GOGOPS全球運(yùn)維大會(huì)暨研運(yùn)數(shù)智化技術(shù)峰會(huì)2025·深圳站大語言模型是IT運(yùn)維領(lǐng)域新質(zhì)生產(chǎn)力的重要組成部分，推動(dòng)數(shù)字化“自然語言”成為連接運(yùn)維人員、運(yùn)維工具、運(yùn)維文檔、運(yùn)維數(shù)據(jù)的通用接口以“聊天”技術(shù)為載體實(shí)現(xiàn)人機(jī)協(xié)同完成運(yùn)維任務(wù)提示詞工程、檢索增強(qiáng)、智能體逐步在智能運(yùn)維應(yīng)用場景實(shí)踐中凸顯成效（近中期）（近中期）（近期）應(yīng)用場景（中期）應(yīng)用場景（近中期）（近中期）（中期）（近中期）GOGOPS全球運(yùn)維大會(huì)暨研運(yùn)數(shù)智化技術(shù)峰會(huì)2025·深圳站請解讀上述異常日志。Directorstatehas請解讀上述異常日志。DirectorstatehaschangedtoOffline.-Objectis:000496800182:RF-3E含義：這是一個(gè)狀態(tài)變化的告警，指示一個(gè)Director（存儲(chǔ)控制器）的狀影響：當(dāng)Director離線時(shí)，相關(guān)的存儲(chǔ)功能可能會(huì)受到影響，可能導(dǎo)致數(shù)據(jù)不可訪問、性能下降或其他存儲(chǔ)操手機(jī)銀行、柜面等交易受影響。期間成功交易量為0，上周同期交易量約244587筆。需要生成更詳盡的評(píng)估報(bào)告嗎？根因分析拓?fù)鋱D如下：是否需要提供根因組件相關(guān)的信息？請?zhí)峁㏕OP1根因相關(guān)的異常信息當(dāng)前生產(chǎn)環(huán)境出現(xiàn)嚴(yán)重故障，請做過去半小時(shí)內(nèi)，發(fā)生了3456條告警，涉及50套應(yīng)用系統(tǒng)、100臺(tái)物近期無相關(guān)生產(chǎn)變更。正在執(zhí)行拓?fù)涓蚨ń绶治?，請稍請解讀上述異常日志。Directorstatehaschanged請解讀上述異常日志。DirectorstatehaschangedtoOffline.-Objectis:000496800182:RF-3E含義：這是一個(gè)狀態(tài)變化的告警，指示一個(gè)Director（存儲(chǔ)控制器）的狀影響：當(dāng)Director離線時(shí)，相關(guān)的存儲(chǔ)功能可能會(huì)受到影響，可能導(dǎo)致數(shù)據(jù)不可訪問、性能下降或其他存儲(chǔ)操手機(jī)銀行、柜面等交易受影響。期間成功交易量為0，上周同期交易量約244587筆。需要生成更詳盡的評(píng)估報(bào)告嗎？根因分析拓?fù)鋱D如下：是否需要提供根因組件相關(guān)的信息？請?zhí)峁㏕OP1根因相關(guān)的異常信息。STRAY-47組件日志中有異常信息：當(dāng)前生產(chǎn)環(huán)境出現(xiàn)嚴(yán)重故障，請做過去半小時(shí)內(nèi)，發(fā)生了3456條告警，涉及50套應(yīng)用系統(tǒng)、100臺(tái)物近期無相關(guān)生產(chǎn)變更。正在執(zhí)行拓?fù)涓蚨ń绶治觯埳詧鼍笆纠龍鼍笆纠Ｐ捅旧砟芰δＰ屯饽芰τ脩羰钦l產(chǎn)品功能、響應(yīng)速度、輸入/輸出、并發(fā)數(shù)的清晰界定例如：大模型輔助的排障助手什么功能利用了大模型的什么能力軟件層面要提供哪些能力，并發(fā)、容錯(cuò)、上下文超限等傳統(tǒng)的軟件架構(gòu)、設(shè)計(jì)模式仍需考慮GOGOPS全球運(yùn)維大會(huì)暨研運(yùn)數(shù)智化技術(shù)峰會(huì)2025·深圳站00dCreating00dCreatingNTtrans(seq13),object[6]141double-hummeralignmentexceptionsinstructionaddress:0x00004ed8提取變量,保留常量<+>double-hummeralignmentexceptions系統(tǒng)日志廣泛用于理解系統(tǒng)運(yùn)行狀態(tài),支持故障檢測與診斷。然而,日志數(shù)據(jù)常為半結(jié)構(gòu)化文本,難以直接使用。因此,常式,—方面可以將日志序列簡化為模板ID序列,降低分析復(fù)練度,另—方面結(jié)構(gòu)化的表達(dá)形式也更便于進(jìn)行統(tǒng)—與自動(dòng)化處1.傳統(tǒng)方法2.1.傳統(tǒng)方法將解析建模為分類任務(wù),識(shí)別日志務(wù)的變量位置,能提取—定語義信息,將解析建模為分類任務(wù),識(shí)別日志務(wù)的變量位置,能提取—定語義信息,但依賴大量標(biāo)注數(shù)據(jù)對模型進(jìn)行訓(xùn)練,進(jìn)行解析,精度高,但處理過程依賴LLM調(diào)用來進(jìn)行解析,效率低,難以通過規(guī)則匹配或統(tǒng)計(jì)特征(如頻率、長度)進(jìn)行解析,處理速度快,但缺乏語義理解能力,難以準(zhǔn)確區(qū)分常量與變量,進(jìn)而影響解析性能相較于傳統(tǒng)方法與深度學(xué)習(xí)方法,串行解析處理下—條,導(dǎo)致大量時(shí)間等待然而,大多數(shù)用,時(shí)間接近基于LLM的日志解析的常見操作模板匹配利用前綴樹等結(jié)構(gòu)進(jìn)行快速匹配是否涉及LLM:否速度:快模板抽取利用LLM對給定日志生成模板是否涉及LLM:是速度:慢模板更新將當(dāng)前日志合并已有模板進(jìn)行更新是否涉及LLM:是速度:較慢時(shí)間不—致不同操作的速度差異,導(dǎo)致快速操作被迫等待,降低整體效率。解析依賴順序現(xiàn)有方法存在順序依賴性,對于前面日志的解析,可能會(huì)影響后面日志解析的結(jié)果,直接并行會(huì)重復(fù)解析相似日志同時(shí)處理,模板尚未緩存進(jìn)前綴樹,導(dǎo)致重復(fù)觸發(fā)LLM調(diào)用,資源浪費(fèi)。模板抽取模板更新模板模板抽取模板模板更新模板抽取模板更新模板模板抽取模板模板更新模板模板抽取模板模板更新時(shí)間軸問題:問題:串行執(zhí)行,時(shí)間不—致解決方案:異步并行涉及LLM的操作統(tǒng)—進(jìn)行異步并行執(zhí)行,剩余操作包括模板匹配等,均在主流程中串行執(zhí)行。在充分利用并行優(yōu)勢的情況下,規(guī)避不同操作時(shí)間不—致帶來的延遲。異步任務(wù)執(zhí)行池串行解析串行解析解析日志e1解析日志e2解析日志e3模板更新模板更新模板模板更新模板更新模板模板更新模板模板模板抽取抽取時(shí)間軸異步解析解析,暫不異步解析解析,暫不問題:解析順序依賴解決方案:統(tǒng)—調(diào)度異步任務(wù)執(zhí)行池當(dāng)LLM調(diào)用在異步執(zhí)行池中完成時(shí),不立即進(jìn)行后序處理,而是交由全局的任務(wù)管理模塊進(jìn)行后處理,確定其后處理順序,以保證順序依賴?？紤]到LLM異步任務(wù)執(zhí)行池異步解析異步解析異步任務(wù)執(zhí)行池串行解析模板模板模板解析日志e1解析日志e2解析日志e串行解析模板模板模板模板模板更新模板抽取產(chǎn)生模板時(shí)間軸綴樹,匹配失敗推遲處理,等待重新進(jìn)行e2,e3的匹配問題:重復(fù)解析解決方案:任務(wù)生成管理引入等待機(jī)制,判斷解析當(dāng)前日志即將生成的LLM任務(wù)是否潛在與異步執(zhí)行池中已有的任務(wù)潛在重疊,如果有重疊的可能性,則讓當(dāng)前任務(wù)“等待”,待前序任務(wù)完成,再重新開啟對于當(dāng)前任務(wù)的解析。采樣任務(wù)生成動(dòng)態(tài)分配任務(wù)，任務(wù)獨(dú)立返回，模板匹配異步任務(wù)池任務(wù)任務(wù)少冗余生成任務(wù)，任務(wù)管理任務(wù)管理?EPAS準(zhǔn)確性均高于傳統(tǒng)方法和現(xiàn)有基于大模型的方法GOGOPS全球運(yùn)維大會(huì)暨研運(yùn)數(shù)智化技術(shù)峰會(huì)2025·深圳站Text2Text2SQL技術(shù)旨在將自然語言形式的查詢自動(dòng)轉(zhuǎn)換為數(shù)據(jù)庫上的結(jié)構(gòu)化查詢語言(SQL)。鑒于數(shù)據(jù)庫在各應(yīng)用領(lǐng)域的廣泛應(yīng)用,該技術(shù)被學(xué)術(shù)界和工業(yè)界廣泛關(guān)注總體而言,Text2SQL技術(shù)路線分為兩類:基于精調(diào)小模型、基于大模型領(lǐng)域知識(shí)的依賴數(shù)據(jù)的語義理解操作邏輯的復(fù)雜性領(lǐng)域知識(shí)的依賴數(shù)據(jù)的語義理解的領(lǐng)域知識(shí)(如銀行業(yè)務(wù)中的“頭的領(lǐng)域知識(shí)(如銀行業(yè)務(wù)中的“頭寸”,不同企業(yè)的“財(cái)年”)。的翻譯效果不佳(如嵌套查詢、復(fù)雜的聚集、多表連接等)。自然語言描述的查詢存有模糊性,加之算法對數(shù)據(jù)的理解也存在偏差,兩者疊加,使數(shù)據(jù)語義理解變得尤為重o先生成再檢索的范式o利用大模型預(yù)訓(xùn)練過程中取得的先驗(yàn)知識(shí)，先根據(jù)問題猜測所需表結(jié)構(gòu)，再用向量檢索器召回相關(guān)表oLLM具有較好的語義理解能力（也有幻覺），直接利用LLM直接翻譯，效果不佳；擇題（從候選集中選SQL框架）分?jǐn)?shù)St、列分?jǐn)?shù)Sc和值分?jǐn)?shù)Sv分別為：?實(shí)驗(yàn)結(jié)果表明，三層索引檢索通過過?補(bǔ)充和業(yè)務(wù)相關(guān)的專家知識(shí)?描述性知識(shí)（正確的查詢思路，正確的字段映射）GOGOPS全球運(yùn)維大會(huì)暨研運(yùn)數(shù)智化技術(shù)峰會(huì)2025·深圳站sse_audit_online中的字段“and”即安卓GOGOPS全球運(yùn)維大會(huì)暨研運(yùn)數(shù)智化技術(shù)峰會(huì)2025·深圳站Text-SQL對：月1日至2023年1月31日之間的類型為“變更管理”添加該例子前，對于指定類型有關(guān)的查詢待辦任務(wù)，不會(huì)使用預(yù)先定義好的getModelChildrenId存儲(chǔ)過程，添加該例子前，對于指定類型有關(guān)的查詢待辦任務(wù)，不會(huì)使用預(yù)先定義好的getModelChildrenId存儲(chǔ)過程，導(dǎo)致生成不完全準(zhǔn)確的SQL。)GOGOPS全球運(yùn)維大會(huì)暨研運(yùn)數(shù)智化技術(shù)峰會(huì)2025·深圳站知識(shí)庫的方法,能夠顯著提升大模型在問答、對話和文檔理解務(wù)的知識(shí)覆蓋率和回答準(zhǔn)確性。然而傳統(tǒng)RAG往往僅依賴“—輪檢索+—輪生成”的流程,難以處理具有多跳邏輯、模態(tài)切換與強(qiáng)依賴結(jié)構(gòu)的問題。我們提出—種基于靜態(tài)有向無環(huán)圖(DAG)對于用戶的問題進(jìn)行結(jié)構(gòu)化分解,通過規(guī)夠子問題之間的依賴關(guān)系,指導(dǎo)多模態(tài)檢索器高效調(diào)度并且融合方案,提高問答的結(jié)構(gòu)可控性、準(zhǔn)確性以及過程可解釋性。傳統(tǒng)RAG方法動(dòng)態(tài)規(guī)劃的方法基于靜態(tài)DAG的方法傳統(tǒng)RAG方法動(dòng)態(tài)規(guī)劃的方法動(dòng)態(tài)調(diào)整路徑,但是執(zhí)行通常是線性,較為復(fù)練效率較低;同時(shí)在調(diào)用鏈過長動(dòng)態(tài)調(diào)整路徑,但是執(zhí)行通常是線性,較為復(fù)練效率較低;同時(shí)在調(diào)用鏈過長拆解子問題,規(guī)夠依賴關(guān)系,可以并行解決子問題,信息整合準(zhǔn)確,查詢沒有結(jié)構(gòu)規(guī)夠,統(tǒng)——次性檢索,容易遺漏關(guān)鍵信息,難以應(yīng)對多跳復(fù)練優(yōu)勢分析1.用戶提出問題例如:查詢設(shè)備功能、查看圖云等3.多模態(tài)執(zhí)行檢索4.答案整合和輸出結(jié)構(gòu)清晰合理拆解復(fù)雜問題提前規(guī)劃調(diào)度高效子問題可以并行執(zhí)行提高響應(yīng)速度自適應(yīng)模態(tài)檢索子問題選擇最合適的模態(tài)檢索方式可解釋性強(qiáng)每—步探索路徑清晰可追朔,有利于故障定位和結(jié)果驗(yàn)證。1.多模態(tài)異構(gòu)信息分散不同,統(tǒng)—檢索難度大2.多跳推理路徑復(fù)雜問題隱含邏輯依賴關(guān)系,不易—步3.復(fù)雜問題難以解答動(dòng)態(tài)規(guī)劃的方法?效率問題?“意圖偏離”問題基于靜態(tài)DAG的方法?訓(xùn)練LLM，自動(dòng)生成多個(gè)子問題?意圖一致性的度量?樣本分布一致性的考慮實(shí)驗(yàn)結(jié)果對比數(shù)據(jù)集上驗(yàn)證我們方法的準(zhǔn)確性GOGOPS全球運(yùn)維大會(huì)暨研運(yùn)數(shù)智化技術(shù)峰會(huì)2025·深圳站其可以構(gòu)建出類似于運(yùn)維專家的排障樹思維，通過Agent規(guī)劃運(yùn)維步驟，并調(diào)