邊緣AI部署實戰(zhàn)培訓課程
培訓對象：
-
具備AI模型開發(fā)基礎(chǔ)的算法工程師
-
嵌入式/物聯(lián)網(wǎng)系統(tǒng)開發(fā)工程師
-
需要將AI模型部署到端側(cè)設(shè)備的開發(fā)人員
-
工業(yè)檢測/智能安防/智能終端產(chǎn)品研發(fā)人員
培訓目標：
使學員系統(tǒng)掌握AI模型從訓練完成到邊緣設(shè)備部署的全流程技術(shù)棧；理解模型量化、剪枝、蒸餾等優(yōu)化原理與方法；熟練使用ONNX、TensorRT、TFLite等推理引擎進行模型轉(zhuǎn)換與加速；掌握主流邊緣硬件（Jetson/樹莓派/昇騰）的部署流程；具備獨立完成工業(yè)質(zhì)檢、智能安防等場景的邊緣AI應(yīng)用開發(fā)能力。
培訓內(nèi)容介紹：
-
邊緣AI概述與技術(shù)架構(gòu)
邊緣計算與云計算的協(xié)同關(guān)系；邊緣AI的核心價值：低延遲/帶寬節(jié)省/數(shù)據(jù)隱私；邊緣AI應(yīng)用場景：工業(yè)質(zhì)檢/智能安防/可穿戴設(shè)備/自動駕駛；邊緣AI技術(shù)棧全景：硬件/框架/算法/工具；邊緣部署的挑戰(zhàn)：算力/功耗/內(nèi)存/散熱。
-
邊緣硬件平臺選型
主流邊緣硬件對比：NVIDIA Jetson系列/樹莓派/Intel NCS/華為昇騰/瑞芯微；硬件性能指標：算力（TOPS）/功耗/內(nèi)存/接口；硬件選型策略：根據(jù)場景需求匹配硬件；開發(fā)板環(huán)境搭建與遠程連接。
-
模型優(yōu)化技術(shù)（上）：模型量化
量化的基本原理：FP32→INT8/INT4；量化類型：動態(tài)量化/靜態(tài)量化/量化感知訓練（QAT）；量化對模型精度的影響；不同框架的量化工具：PyTorch量化/TensorRT量化；實戰(zhàn)：將PyTorch模型量化為INT8。
-
模型優(yōu)化技術(shù)（下）：剪枝與蒸餾
模型剪枝原理：結(jié)構(gòu)化剪枝/非結(jié)構(gòu)化剪枝；剪枝策略：權(quán)重剪枝/通道剪枝/層剪枝；知識蒸餾原理：教師-學生模型；蒸餾方法：軟標簽/特征蒸餾；剪枝+蒸餾聯(lián)合優(yōu)化。
-
模型格式轉(zhuǎn)換與ONNX
模型格式標準：ONNX（開放神經(jīng)網(wǎng)絡(luò)交換格式）；PyTorch模型導出為ONNX；TensorFlow模型導出為SavedModel；ONNX算子兼容性檢查；ONNX Simplifier模型優(yōu)化；ONNX Runtime推理引擎使用。
-
推理引擎與加速庫
主流推理引擎對比：TensorRT/OpenVINO/TFLite/MNN/NCNN；TensorRT原理：層融合/精度校準/內(nèi)核優(yōu)化；OpenVINO與Intel硬件優(yōu)化；MNN/NCNN在移動端的應(yīng)用；推理引擎選型策略。
-
NVIDIA Jetson平臺部署實戰(zhàn)
Jetson系列硬件介紹：Xavier/Orin/Nano；JetPack SDK與開發(fā)環(huán)境；TensorRT在Jetson上的應(yīng)用；DeepStream視頻分析框架；實戰(zhàn)：YOLOv8目標檢測模型在Jetson上的部署與優(yōu)化。
-
昇騰AI平臺部署實戰(zhàn)
昇騰AI全棧體系架構(gòu)；MindSpore整體架構(gòu)介紹；模型遷移：PyTorch向MindSpore遷移流程；昇騰開發(fā)板（Atlas 200 DK）環(huán)境搭建；模型轉(zhuǎn)換與推理部署；實戰(zhàn)：基于昇騰的CV應(yīng)用開發(fā)。
-
移動端與嵌入式部署
TensorFlow Lite架構(gòu)與原理；模型轉(zhuǎn)換為TFLite格式；TFLite量化與優(yōu)化；Android/iOS端集成TFLite；NCNN在移動端的高效推理；實戰(zhàn)：手機端實時目標檢測應(yīng)用。
-
邊緣應(yīng)用開發(fā)框架
邊緣推理服務(wù)架構(gòu)設(shè)計；C++/Python推理接口封裝；邊緣端視頻流處理；推理結(jié)果的后處理與業(yè)務(wù)邏輯；邊緣與云端的協(xié)同設(shè)計；邊緣端數(shù)據(jù)回傳與模型更新。
-
邊緣AI性能分析與優(yōu)化
性能分析工具：NVIDIA Nsight/TensorRT Profiler；推理延遲/吞吐量/內(nèi)存占用分析；模型推理瓶頸定位；多線程與異步處理優(yōu)化；批處理與流水線優(yōu)化；功耗優(yōu)化策略。
-
綜合實戰(zhàn)：工業(yè)邊緣檢測系統(tǒng)搭建
從訓練到部署的完整邊緣AI項目：模型準備（基于YOLOv8的缺陷檢測模型）→模型優(yōu)化（量化+剪枝）→格式轉(zhuǎn)換（ONNX→TensorRT）→邊緣硬件部署（Jetson Nano/昇騰）→推理服務(wù)封裝（C++/Python API）→攝像頭實時視頻流接入→檢測結(jié)果實時展示與告警→性能監(jiān)控與優(yōu)化，最終交付可運行的邊緣智能檢測系統(tǒng)。
如果您想學習本課程，請
預(yù)約報名
如果沒找到合適的課程或有特殊培訓需求，請
訂制培訓
除培訓外，同時提供相關(guān)技術(shù)咨詢與技術(shù)支持服務(wù)，有需求請發(fā)需求表到郵箱soft@info-soft.cn,或致電4007991916
技術(shù)服務(wù)需求表點擊在線申請
服務(wù)特點：
海量專家資源，精準匹配相關(guān)行業(yè)，相關(guān)項目專家，針對實際需求，顧問式咨詢，互動式授課，案例教學，小班授課，實際項目演示，快捷高效，省時省力省錢。
專家力量：
中國科學院軟件研究所，計算研究所高級研究人員
oracle,微軟，vmware，MSC,Ansys，candence,Altium,達索等大型公司高級工程師，項目經(jīng)理，技術(shù)支持專家
中科信軟培訓中心，資深專家或講師
大多名牌大學，碩士以上學歷，相關(guān)技術(shù)專業(yè)，理論素養(yǎng)豐富
多年實際項目經(jīng)歷，大型項目實戰(zhàn)案例，熱情，樂于技術(shù)分享
針對客戶實際需求，案例教學，互動式溝通，學有所獲
