代碼大模型的場景價值和產品實戰汪晟杰騰訊產品專家目錄AISE的場景與代碼大模型的價值懂工程的AI代碼助手的實戰研效+AI+標品化建設Part

01軟件工程+AI助手的挑戰軟件工程3.0里的編碼賽道的價值企業內編碼+AI的挑戰解決思路300字以內進行概括性的案例介紹（突出亮點、案例獨特性等）軟件工程

AISEAISE的基本流程溝通編碼排錯評審調優代碼補全據當前代碼類型、AST樹結構等相關信息，進行代碼補全，生成高質量的代碼生成注釋代碼糾錯有針對性地給予對應的代碼，并替換錯誤的代碼區塊代碼查錯定位問題并輔助生成建議代碼指令不用敲代碼，指令操作頁面修改代碼溝通通過

Q&A

進行上下文推理給出回復代碼解釋A輔助指導當前文件、類、函數的作用，幫助加速理解代碼邏輯。輔助MR校對輔助一鍵自動生成提交信息代碼AI評審可生成評審建議生成單元測試AI在編碼中的挑戰01準度/評測02成本/算力03質量/安全大模型成本與體驗的極限拉扯代碼補全技術對話單元測試代碼診斷訓練 推理管理平臺模型工廠數據運營4+1+1代碼生成率代碼采納率對話采納率測試生成率耗時情況QPS全鏈路遙測體驗成本用相對較低的推理成本，batch

計算，小于300ms的延遲預訓練更小的代碼模型SFT

微調基于混元進行大模型指令對齊和強化學習進行行業模型的訓練和推理優化，提升產品響應速度與交互體驗反饋真實場景下的bad

base，挖掘行業場景價值補全在工程理解力上的實踐相關文件大模型相關函數表征Import

頭文件打開過的文件注釋表征上下文感知模塊質量分后置處理截斷算法IDE、LSPToken窗口大小IDE表征Fillinthe

middlePrompt

組裝跨文件相似文件塊前綴后綴重復內容截斷AST演示+Workshop理解工程的可見價值01數據安全

=

好02IDE+編碼效能

=

快03對話+工程理解

=

準倉庫代碼檢索+RAG01Codebase

Indexing02強化搜索03Embedding&速度大模型與項目工程代碼的極限拉扯代碼復雜度工程復雜度RAG項目工程結構相關聯的跨多文件語法樹語法特征函數簽名+注釋優先代碼大模型+FIM代碼大模型+圈選代碼倉庫代碼檢索代碼大模型RAG大模型+知識庫/代碼庫+檢索增強技術文檔

/

代碼Chunks

/

知識片段知識庫

/

向量數據庫問題IDE

插件向量ContentsPromptLLM

大模型文檔類型：代碼、技術文檔、規范文檔代碼要求：需要有文件級、方法級注釋格式規范，語法正確業務領域相關，具有代表性給出配套的MD文檔Agent

擴展非特定領域問題Embedding人工或自動化地從示例代碼、配置和文檔中抽取出知識片段格式：<功能需求，代碼知識>1.代碼知識分為文件級、函數級和片段級三個級別，分別對應不同復雜度的功能需求文件級：是代碼文件內代碼元素的組合，通常代表一個功能函數級：一個獨立的函數片段級：Api接口調用Embedding使用向量化模型對前面的數據向量化后存入向量數據庫檢索topK

召回element：代碼片段內容path：代碼文件路徑docstring：功能需求描述Vector

：向量結果element_with_doc

：代碼經過大模型的解釋結果granularity

：知識粒度url

：引用倉庫地址閾值檢查關鍵字組合過濾<功能需求，代碼知識><功能需求，代碼知識><功能需求，代碼知識><功能需求，代碼知識>……固定格式請求LLM模型返回結果請學習以下文檔：<功能需求，代碼知識>（格式化）<功能需求，代碼知識>（格式化）<功能需求，代碼知識>（格式化）根據以上文檔回答問題：問題XXXXRAG

的場景，需要將repetition_penalty設為1，讓模型參考prompt中的知識需要做好RAG的能力測評，根據測評結果來調整中間過程產品在內部落地的架構分層應用層中間層基礎層預訓練模型模型混合平臺行業模型 混元模型企業自有模型精度調優模型評測平臺模型訓練自有數據訓練集開源代碼微調自有內部代碼、工蜂代碼提示工程文本提示到代碼補全代碼上下文推理文本執行指令到運行Vector

Store

擴大模型的代碼領域的知識代碼工程領域上下文記憶 會話騰訊云

VectorDB基于代碼輔助的大模型服務AI

代碼輔助

模型角色Fill

in

Middle

補全正負反饋CloudStudioJetBrain全家桶VSCode瀏覽器插件IDE平臺下應用抽象交互編碼輔助實現技術溝通 代碼排錯代碼補全

文件生成代碼指令工程理解力增強AI

評審跨文件上下文的開發輔助向量和對話的生成式腳手架、終端命令AISE下的單元測試場景走過的彎路AI

輔助的端到端軟件研發過程自動/輔助完成項目計劃制定和排期輔助完成需求細化、拆分以及分解到用戶故事和任務自動生成驗收標準代碼反向工程生成項目文檔基于AI給出代碼評審意見，輔助完成源代碼評審，打破技術鴻溝產品/項目經理開發人員市場人員市場人員用戶行為分析大量用戶反饋數據處理提取并生成高質量產品需求、改進點市場人員設計師（UI/UX）自動生成UI原型基于原型自動生成可用的界面代碼（html/CSS）組件測試人員技術支持海量日志分析和關鍵信息提取自動分析運維問題并定位到代碼根據內部知識庫快速檢索和響應用戶問題，提高用戶滿意度AI輔助結對編程代碼補全和生成代碼分析和交互式代碼生成輔助調試，安全問題監測和性能改進基于用戶故事生成測試用例、測試步驟和預期結果從代碼自動生成測試腳本根據數據結構描述自動生成大量場景化測試數據自動執行生成的測試自動化腳本AISE下的單元測試生成的難點附錄：/mhevery/guide-to-testable-code如何寫可測試的單元測試測試方法種類多， 框架多項目本身不具備可單測，難以mock生成質量難以運行，無標準最佳實踐大模型的單元測試可行性增加示例代碼，感知框架語法樹找相關跨文件、依賴文件的調用鏈策略感知Mock對象，生成完整可執行的單測Lifeofa

CompletionPart

02懂工程的最佳AI代碼助手使用范式用好Coding

Copilot的幾個點學會更好的提示詞工程3S原則、3TNB、Agent

FlowIDE的深度集成

–

演示Jetbrain的深度集成

–

演示Agent擴展提示詞工程

–

3S原則提示工程的基本原理，可以總結為3個S

如下。這些核心規則是創建有效提示的基礎。單個

Single：始終將提示集中在單個、定義明確的任務或問題上。具體

Specific：確保說明明確且詳細，最好能附帶一個示例或者模擬信息結構。具體且具象帶來理解會帶來更精確的代碼建議。簡短

Short：在具體的同時，保持提示簡明扼要。這種平衡確保了清晰度，而不會使騰訊云AI代碼助手超載或使交互復雜化。提示詞工程

–

N

Shot對話總結下輪對話建議一次新會話一次當前上下文補全場景-

單元測試：1.

ex:多文件示例2.ex:框架示例Part

03懂工程的最佳AI代碼助手使用范式用好Coding

Copilot的幾個點學會更好的提示詞工程3S原則、3TNB、Agent

Flow利用前

25

個指標提高開發人員的工作效率參考：/@shallabh.dixitt/github-

copilot-unleashed-elevating-developers-productivity-with-top-25-metrics-7edc94e655a6企業管理-效率看板總用戶數IDE

插件安裝總量日新增插件安裝總量DAU用戶指標代碼補全日次留存技術對話

DAUIDE

活躍情況代碼補全

DAU代碼補全周留存代碼補全月留存代碼補全生成率代碼補全接受率對話次數代碼補全總行數代碼補全接受率代碼補全次數點贊次數代碼補全后有效率技術指標點踩次數代碼復制次數代碼插入光標次數代碼補全接受率代碼插入新文件次數接受率曲線代碼插入命令行次數AI助手帶來的研效是一個新話題1、領導怎么看這事兒？（領導是怎么思考的，是否獲得高層站臺）2、有無運營資源配合？（是否有專門人力/物力）3、有沒有試點或存在推廣阻礙的點？（試點人員配合意愿及工作安排是否領導許可）4、目前運營目標計劃/策略及后續運營策略（運營怎么思考的？想怎么干）5、需要什么支撐，自己用沒用，當前問題怎么推進解決的（是否需要資源支持？）6、為什么要用

AI代碼助手（研發是怎么思考的）Part

04總結展望未來騰訊云AI代碼助手小結1、下一個AI時代改變了編碼習慣和過程。2、對代碼大模型的極限拉扯下的產品體驗與權衡。3、深度探索提示工程（N

Shot、3S等）、代碼模型能力和AI應用框架是AI產品的重要組成部分，它們可以幫助我們更好地定義新的軟件模式。4、產品開發指標會作為新的研效指標，目前還是強運營產品。5、新場景是機遇。對話+RAG、補全+跨文件，有