大模型（LLM）微調(diào)與應(yīng)用開發(fā)培訓(xùn)課程（如ChatGLM/Llama 2本地化部署）
-
-
【培訓(xùn)對象】
AI算法工程師、應(yīng)用開發(fā)工程師、技術(shù)負(fù)責(zé)人，希望利用開源大模型構(gòu)建企業(yè)專屬應(yīng)用的相關(guān)人員。
-
-
【培訓(xùn)目標(biāo)】
一、 理解大型語言模型（LLM）的基本原理、架構(gòu)特點(diǎn)和主流開源模型（如Llama 2， ChatGLM， Qwen）的差異。
二、 掌握在本地或私有云環(huán)境部署開源LLM的方法，解決數(shù)據(jù)安全和隱私顧慮。
三、 學(xué)會(huì)使用高效微調(diào)技術(shù)（如LoRA, P-Tuning）在自有數(shù)據(jù)上微調(diào)LLM，使其適應(yīng)特定領(lǐng)域任務(wù)。
四、 掌握提示工程（Prompt Engineering）核心技術(shù)，并能夠基于微調(diào)后的模型開發(fā)AI應(yīng)用（如聊天機(jī)器人、文檔問答）。
-
-
【培訓(xùn)內(nèi)容介紹】
一、 大語言模型（LLM）基礎(chǔ)與發(fā)展：從Transformer到GPT、BERT，LLM的涌現(xiàn)能力，主流開源LLM介紹與對比。
二、 LLM本地化部署（一）：環(huán)境準(zhǔn)備、硬件要求（GPU/內(nèi)存）、模型下載、使用Transformers庫加載和運(yùn)行LLM。
三、 LLM本地化部署（二）：使用量化技術(shù)（如GPTQ， AWQ， GGUF）降低顯存占用，加速推理，實(shí)現(xiàn)消費(fèi)級(jí)GPU運(yùn)行LLM。
四、 提示工程（Prompt Engineering）：設(shè)計(jì)有效提示的原則、零樣本/少樣本學(xué)習(xí)、思維鏈（CoT）提示、提示模板管理。
五、 檢索增強(qiáng)生成（RAG）原理與實(shí)戰(zhàn)：解決LLM知識(shí)有限和幻覺問題，結(jié)合向量數(shù)據(jù)庫（如Chroma， FAISS）構(gòu)建外部知識(shí)庫，實(shí)現(xiàn)文檔問答系統(tǒng)。
六、 高效微調(diào)（PEFT）技術(shù)概述：全量微調(diào)與高效微調(diào)的對比，Adapter Tuning, Prefix Tuning, P-Tuning, LoRA原理。
七、 LoRA微調(diào)實(shí)戰(zhàn)（一）：準(zhǔn)備特定領(lǐng)域的數(shù)據(jù)集（指令-回答對），數(shù)據(jù)預(yù)處理與格式化。
八、 LoRA微調(diào)實(shí)戰(zhàn)（二）：使用PEFT庫對基座LLM（如Llama 2-Chat或ChatGLM3）進(jìn)行LoRA微調(diào)，調(diào)整關(guān)鍵超參數(shù)。
九、 模型評估與對比：評估微調(diào)后模型在特定任務(wù)上的表現(xiàn)，與基座模型和商業(yè)模型進(jìn)行對比。
十、 模型推理服務(wù)化：將微調(diào)后的LLM封裝成高性能API服務(wù)（使用FastAPI， vLLM， TGI等框架），支持并發(fā)請求。
十一、 LLM應(yīng)用開發(fā)實(shí)踐：結(jié)合微調(diào)模型和RAG，開發(fā)一個(gè)完整的智能問答應(yīng)用，包含前端交互界面。
十二、 實(shí)戰(zhàn)演練：使用開源LLM，結(jié)合企業(yè)自有文檔數(shù)據(jù)，搭建并微調(diào)一個(gè)具備領(lǐng)域知識(shí)的私有化智能問答機(jī)器人。
如果您想學(xué)習(xí)本課程，請
預(yù)約報(bào)名
如果沒找到合適的課程或有特殊培訓(xùn)需求，請
訂制培訓(xùn)
除培訓(xùn)外，同時(shí)提供相關(guān)技術(shù)咨詢與技術(shù)支持服務(wù)，有需求請發(fā)需求表到郵箱soft@info-soft.cn,或致電4007991916
技術(shù)服務(wù)需求表點(diǎn)擊在線申請
服務(wù)特點(diǎn)：
海量專家資源，精準(zhǔn)匹配相關(guān)行業(yè)，相關(guān)項(xiàng)目專家，針對實(shí)際需求，顧問式咨詢，互動(dòng)式授課，案例教學(xué)，小班授課，實(shí)際項(xiàng)目演示，快捷高效，省時(shí)省力省錢。
專家力量：
中國科學(xué)院軟件研究所，計(jì)算研究所高級(jí)研究人員
oracle,微軟，vmware，MSC,Ansys，candence,Altium,達(dá)索等大型公司高級(jí)工程師，項(xiàng)目經(jīng)理，技術(shù)支持專家
中科信軟培訓(xùn)中心，資深專家或講師
大多名牌大學(xué)，碩士以上學(xué)歷，相關(guān)技術(shù)專業(yè)，理論素養(yǎng)豐富
多年實(shí)際項(xiàng)目經(jīng)歷，大型項(xiàng)目實(shí)戰(zhàn)案例，熱情，樂于技術(shù)分享
針對客戶實(shí)際需求，案例教學(xué)，互動(dòng)式溝通，學(xué)有所獲
