系統(tǒng)架構(gòu)師 —— 大模型應(yīng)用系統(tǒng)架構(gòu)設(shè)計(jì)培訓(xùn)課程
一、培訓(xùn)對(duì)象
技術(shù)架構(gòu)師、解決方案架構(gòu)師、技術(shù)負(fù)責(zé)人、平臺(tái)工程負(fù)責(zé)人
二、培訓(xùn)目標(biāo)
-
掌握大模型應(yīng)用系統(tǒng)的核心架構(gòu)模式與設(shè)計(jì)原則
-
具備設(shè)計(jì)高可用、高并發(fā)、可觀測(cè)、安全合規(guī)的生成式AI系統(tǒng)架構(gòu)的能力
-
熟悉主流大模型技術(shù)棧的選型與集成策略
-
能夠主導(dǎo)企業(yè)級(jí)大模型平臺(tái)的架構(gòu)規(guī)劃與落地
三、培訓(xùn)內(nèi)容
1. 大模型應(yīng)用架構(gòu)全景與演進(jìn)
-
大模型應(yīng)用架構(gòu)的演進(jìn)：從單體調(diào)用到Agent生態(tài)
-
核心架構(gòu)模式：RAG架構(gòu)、Agent架構(gòu)、編排式架構(gòu)、微調(diào)增強(qiáng)架構(gòu)
-
企業(yè)級(jí)大模型平臺(tái)架構(gòu)全景圖
2. 模型服務(wù)架構(gòu)設(shè)計(jì)
-
模型推理服務(wù)架構(gòu)設(shè)計(jì)：高并發(fā)、低延遲、高吞吐
-
多模型管理與路由策略（模型版本、A/B測(cè)試、灰度發(fā)布）
-
模型服務(wù)的高可用設(shè)計(jì)（多副本、跨可用區(qū)、熔斷限流）
3. RAG 系統(tǒng)架構(gòu)深度設(shè)計(jì)
-
RAG系統(tǒng)核心組件：向量數(shù)據(jù)庫(kù)（Milvus、Qdrant、Pinecone）、Embedding模型、重排序模型
-
索引策略：分片、分區(qū)、混合索引、多租戶隔離
-
RAG系統(tǒng)的性能優(yōu)化：檢索延遲、上下文窗口管理、緩存策略
4. Agent 系統(tǒng)架構(gòu)設(shè)計(jì)
-
Agent核心組件：規(guī)劃（Planning）、記憶（Memory）、工具（Tools）、執(zhí)行（Execution）
-
多Agent協(xié)作架構(gòu)：協(xié)調(diào)者模式、層次化Agent、Swarm模式
-
Agent系統(tǒng)的狀態(tài)管理、事務(wù)性與可觀測(cè)性設(shè)計(jì)
5. 數(shù)據(jù)架構(gòu)與知識(shí)工程
-
企業(yè)知識(shí)庫(kù)的構(gòu)建：多源數(shù)據(jù)接入、文檔解析、分塊策略、元數(shù)據(jù)管理
-
數(shù)據(jù)更新與同步機(jī)制（增量更新、全量重建）
-
數(shù)據(jù)血緣與可追溯性設(shè)計(jì)
6. 可觀測(cè)性體系設(shè)計(jì)
-
大模型系統(tǒng)的三大支柱：Metrics、Logs、Traces
-
關(guān)鍵指標(biāo)體系：延遲、吞吐量、錯(cuò)誤率、Token消耗、成本、模型回答質(zhì)量
-
分布式鏈路追蹤的實(shí)現(xiàn)（OpenTelemetry、LangSmith、Arize）
7. 成本優(yōu)化與資源治理
-
模型推理成本構(gòu)成與優(yōu)化策略（量化、緩存、模型蒸餾）
-
Token經(jīng)濟(jì)學(xué)與用量管理（限流、配額、成本分?jǐn)偅?/span>
-
多模型混合調(diào)度策略（輕量級(jí)模型 vs. 重型模型）
8. 安全架構(gòu)與合規(guī)設(shè)計(jì)
-
輸入輸出安全護(hù)欄架構(gòu)（輸入過(guò)濾、輸出審核、敏感詞攔截）
-
數(shù)據(jù)安全設(shè)計(jì)：傳輸加密、存儲(chǔ)加密、租戶隔離、隱私保護(hù)
-
合規(guī)架構(gòu)：內(nèi)容審核、日志審計(jì)、監(jiān)管報(bào)送接口
9. 高可用與災(zāi)備設(shè)計(jì)
-
模型服務(wù)的容錯(cuò)與降級(jí)策略（降級(jí)到基礎(chǔ)模型、人工兜底）
-
數(shù)據(jù)災(zāi)備與恢復(fù)機(jī)制（向量庫(kù)備份、模型版本快照）
-
跨云/混合云部署架構(gòu)與災(zāi)難恢復(fù)演練
10. 技術(shù)選型與生態(tài)集成
-
開源模型選型評(píng)估框架（能力、許可、社區(qū)、生態(tài)）
-
基礎(chǔ)設(shè)施選型：GPU/NPU算力池、存儲(chǔ)、網(wǎng)絡(luò)
-
工具鏈集成：編排框架（LangChain、LlamaIndex）、可觀測(cè)平臺(tái)、API網(wǎng)關(guān)
11. 企業(yè)級(jí)AI平臺(tái)架構(gòu)實(shí)踐
12. 架構(gòu)演進(jìn)與創(chuàng)新趨勢(shì)
如果您想學(xué)習(xí)本課程，請(qǐng)
預(yù)約報(bào)名
如果沒(méi)找到合適的課程或有特殊培訓(xùn)需求，請(qǐng)
訂制培訓(xùn)
除培訓(xùn)外，同時(shí)提供相關(guān)技術(shù)咨詢與技術(shù)支持服務(wù)，有需求請(qǐng)發(fā)需求表到郵箱soft@info-soft.cn,或致電4007991916
技術(shù)服務(wù)需求表點(diǎn)擊在線申請(qǐng)
服務(wù)特點(diǎn)：
海量專家資源，精準(zhǔn)匹配相關(guān)行業(yè)，相關(guān)項(xiàng)目專家，針對(duì)實(shí)際需求，顧問(wèn)式咨詢，互動(dòng)式授課，案例教學(xué)，小班授課，實(shí)際項(xiàng)目演示，快捷高效，省時(shí)省力省錢。
專家力量：
中國(guó)科學(xué)院軟件研究所，計(jì)算研究所高級(jí)研究人員
oracle,微軟，vmware，MSC,Ansys，candence,Altium,達(dá)索等大型公司高級(jí)工程師，項(xiàng)目經(jīng)理，技術(shù)支持專家
中科信軟培訓(xùn)中心，資深專家或講師
大多名牌大學(xué)，碩士以上學(xué)歷，相關(guān)技術(shù)專業(yè)，理論素養(yǎng)豐富
多年實(shí)際項(xiàng)目經(jīng)歷，大型項(xiàng)目實(shí)戰(zhàn)案例，熱情，樂(lè)于技術(shù)分享
針對(duì)客戶實(shí)際需求，案例教學(xué)，互動(dòng)式溝通，學(xué)有所獲
