AI工程師 —— 大模型微調工程實戰(zhàn)培訓課程

 

一、培訓對象

AI算法工程師、機器學習工程師、NLP工程師、模型訓練工程師

 

二、培訓目標

1. 掌握主流微調技術（全量微調、LoRA、QLoRA、DPO）的原理與工程實現

2. 具備構建高質量微調數據集、評估數據質量的能力

3. 熟練使用DeepSpeed、vLLM等工具完成分布式訓練與推理部署

4. 能夠獨立完成從數據準備到模型上線的全流程微調任務

 

三、培訓內容

1. 大模型微調基礎與原理

• Transformer架構回顧與微調數學原理

• SFT（監(jiān)督微調）vs. RLHF（人類反饋強化學習）vs. DPO（直接偏好優(yōu)化）的對比與選型

• 開源模型生態(tài)（Llama、Qwen、Mistral等）的特點與微調適配

2. 微調范式深度對比

• 全量微調 vs. 參數高效微調（PEFT）：算力、顯存、收斂速度、性能權衡

• LoRA、QLoRA、Adapter、Prefix Tuning的實現機制與適用場景

• 量化技術與微調的協(xié)同（QLoRA原理與實戰(zhàn)）

3. 微調數據集構建與處理

• 指令數據格式規(guī)范（Alpaca、ShareGPT格式）

• 數據清洗、去重、隱私脫敏的自動化腳本實現

• 數據難度分級、多樣性增強與配比策略（通用數據 vs. 垂直領域數據）

4. 數據合成與質量評估

• 利用教師模型（GPT-4、Claude）進行指令數據合成

• 數據質量評估指標：多樣性、復雜度、正確性、對抗性

• 災難性遺忘的檢測與緩解策略

5. 分布式訓練框架實戰(zhàn)

• DeepSpeed ZeRO（零冗余優(yōu)化器）各階段配置與選型

• 混合精度訓練（FP16/BF16）與梯度累積

• 多機多卡訓練配置、斷點續(xù)訓與故障恢復

6. 訓練過程監(jiān)控與調優(yōu)

• WandB/TensorBoard 訓練指標監(jiān)控（Loss、梯度范數、學習率）

• 超參數調優(yōu)策略（學習率、批次大小、Epoch）

• 過擬合檢測與正則化技術（權重衰減、Dropout、數據增強）

7. 模型推理加速技術

• 量化技術實戰(zhàn)：GPTQ、AWQ、bitsandbytes

• 推理框架對比與使用：vLLM（PagedAttention）、TensorRT-LLM、TGI

• 推理性能基準測試（延遲、吞吐量、顯存占用）

8. 模型評估與評測體系

• 自動化評估框架（OpenCompass、HELM）的使用

• 評測指標：BLEU、ROUGE、GPT-4作為裁判、人工評估

• 垂直領域評測集的構建與領域能力驗證

9. RAG與微調的協(xié)同工程

• RAG系統(tǒng)原理回顧與向量數據庫選型

• 微調與RAG的對比實驗設計與效果評估

• 混合架構的實現：微調增強知識理解 + RAG增強知識檢索

10. LLMOps 工程化實踐

• 模型版本管理（HuggingFace Hub、ModelScope）

• 訓練流水線自動化（Docker、K8s、Slurm）

• 模型打包、鏡像構建與上線流程

11. 微調案例實戰(zhàn)（一）：垂直領域對話模型

• 以醫(yī)療/法律/客服場景為例，完整演示數據構造、LoRA微調、評估、部署

• 常見問題排查（Loss不收斂、輸出重復、格式錯誤）

12. 微調案例實戰(zhàn)（二）：代碼模型與工具調用

• 代碼模型的微調技巧（代碼數據格式、函數調用格式）

• 工具調用（Function Calling）微調的實現與評估

• Agent場景下的微調優(yōu)化策略

如果您想學習本課程，請預約報名
如果沒找到合適的課程或有特殊培訓需求，請訂制培訓
除培訓外，同時提供相關技術咨詢與技術支持服務，有需求請發(fā)需求表到郵箱soft@info-soft.cn,或致電4007991916
技術服務需求表點擊在線申請

服務特點：
海量專家資源，精準匹配相關行業(yè)，相關項目專家，針對實際需求，顧問式咨詢，互動式授課，案例教學，小班授課，實際項目演示，快捷高效，省時省力省錢。

專家力量：
中國科學院軟件研究所，計算研究所高級研究人員
oracle,微軟，vmware，MSC,Ansys，candence,Altium,達索等大型公司高級工程師，項目經理，技術支持專家
中科信軟培訓中心，資深專家或講師
大多名牌大學，碩士以上學歷，相關技術專業(yè)，理論素養(yǎng)豐富
多年實際項目經歷，大型項目實戰(zhàn)案例，熱情，樂于技術分享
針對客戶實際需求，案例教學，互動式溝通，學有所獲

 點擊進入報名表

咨詢電話：010-62883247

                4007991916

咨詢郵箱：soft@info-soft.cn  

 

微信咨詢 隨時聽講課 聚焦技術實踐