大模型生產(chǎn)力工具的思考與實踐-商湯科技+賈安亞

商湯科技產(chǎn)品總監(jiān)、小浣熊家族產(chǎn)品負責(zé)人Al生產(chǎn)力工具海外應(yīng)用現(xiàn)狀(以編程助手為例)GenerativeAlcanincrea■WithoutgenerativeAl■0CodegenerationCoderefactoring*StackOverflow:2024DeveloperSurvey**McKinseyDigitalAl生產(chǎn)力工具海外應(yīng)用現(xiàn)狀(以編程助手為例) Fig.2.ChatGPT'sinfluenceonaspectsofdevelopersFinding2——60%ofparticipantsperceivedamoderatelypositiveimpactofChatGPTontheirsatisfaction.Notably,itenhancedperceivedproductivityandreducedidentifiedastheleastaffectedfafacilitationofactivities,supportinlearning,andprovisionofeffectivea揚長補短的使用能力——解決痛點新的解決問題的體驗——減輕壓力度的積極影響。尤為顯著的是，它使人們感知到了生產(chǎn)力的提升，減少了重復(fù)性工作，而并未帶來顯著的壓力影響。此外，其他反饋突出了ChatGPT在助力工作開展、幫助學(xué)習(xí)新知以及便捷地獲取有效信息等方面所起的作用，與傳統(tǒng)工具相比優(yōu)勢明顯。02027E亞馬遜云科技tabnines一阿里云智譜ABaidu愁態(tài)騰訊云中游AI代碼生成工具在發(fā)展過程中面臨的挑戰(zhàn)主要集中在用戶體驗、技術(shù)發(fā)展、技術(shù)提升的難點以及市場適應(yīng)性等方面。解決這些痛點需不斷的技術(shù)創(chuàng)新、市場反饋和經(jīng)驗積累。通過持續(xù)優(yōu)化算法模型、增強用戶交互設(shè)計等，可逐步克服這些挑戰(zhàn)口易用性沙利文：2024年中國Al代碼生成市場報告關(guān)注模型精度關(guān)注端到端用戶體驗主要問題2:基于項目級Othermodels←Mo代碼小浣熊代碼小浣熊企業(yè)落地視角演變(以編程助手為例)》》》》》》維航品編碼后提交信息開發(fā)計劃用戶調(diào)研!必發(fā)布計劃運維交付運維擄發(fā)布發(fā)布更新文檔更新文檔部署部署成成本低Zero-shotPrompti20220對企業(yè)的價值對企業(yè)的價值企業(yè)從需求到服務(wù)的業(yè)務(wù)閉環(huán)視角解構(gòu)、重構(gòu)多部門活動、協(xié)作和流程探索新的企業(yè)從需求到服務(wù)的業(yè)務(wù)閉環(huán)視角解構(gòu)、重構(gòu)多部門活動、協(xié)作和流程解決資產(chǎn)沉淀難、規(guī)范落地難，技術(shù)債務(wù)積累多等問題解決資產(chǎn)沉淀難、規(guī)范落地難，技術(shù)債務(wù)積累多等問題個人個人提升編碼效率、縮短走查時長、減少測試成本等能更快交付么增強當(dāng)前能更快交付么生產(chǎn)力決定生產(chǎn)關(guān)系計算計算Embeddings文檔詢問/指令提示合成大模型回復(fù)信息詢問/指令提示合成大模型回復(fù)信息代碼補全開發(fā)協(xié)助**對話問答詢問/指令響應(yīng)/調(diào)用請求結(jié)果/報錯工具調(diào)用代碼執(zhí)行代碼倉網(wǎng)絡(luò)檢索API調(diào)用代碼運行沙盒提示合成大模型回復(fù)中的「調(diào)用」或「代碼執(zhí)行」請求回復(fù)信息分塊分塊知識資產(chǎn)行業(yè)背景術(shù)語&縮略詞業(yè)務(wù)知識系統(tǒng)知識需求分析需求規(guī)格設(shè)計功能流程功能界面接口說明架構(gòu)設(shè)計概要設(shè)計用安規(guī)劃系決詳細設(shè)計代碼編寫編碼實現(xiàn)測試用例例描述前置條件預(yù)期采測試用例軟件測試測試報告測試環(huán)境測試結(jié)果接口調(diào)用Agent編排自然語言大模型人機界面工具&插件運行環(huán)境大模型產(chǎn)品是否能完全替代人?大模型當(dāng)下最好的產(chǎn)品形態(tài)是Copilot,不是完全替代人大模型產(chǎn)品是否能完全替代人?最直接的能給企業(yè)帶來什么收益?最直接的能給企業(yè)帶來什么收益?如何促進全員使用大模型原生產(chǎn)品?管理要求與員工主動相結(jié)合，從后向前持續(xù)推進，激勵員工貢獻方法與資產(chǎn)RPrompt優(yōu)化(外化COT)+ConstrainedDecoding+(內(nèi)化COT?)更新人設(shè)模板更新人設(shè)模板StructureofGSM8KquesStructureofGSM8Kquesgovetoday.Aftertheyaredonethegroveworkersplanttotherewere21treesafterswereplanted.Sotheremusthwillplanttreesintheg"reasoning":"Thereare15treewere21treesaftersomemorewereplanted.Sother一軸生成**商湯學(xué)習(xí)成本應(yīng)用形態(tài)·語言與思維能力是否可