东方智慧 / AI 算力

🧠 AI 算力

从 CUDA 到昇腾,把陌生的技术讲明白

算力体系怎么分层、部署到底装哪些东西、出了错怎么定位到具体某一层 —— 以及这一行正在发生什么。全部按官方文档整理,每个数字都标出处。

从哪开始:三层,按顺序走

第一层不需要任何硬件,先建立整体认识;第二层是能下手做的课件;第三层是行业观察。

第 1 层先看懂
不需要任何硬件,先建立整体认识
第 2 层跟着做
⭐ 先看这七篇浓缩指南(每层一篇,只讲装什么/怎么装/怎么验),需要细节再往下翻对应课件
部署指南 A · L0 硬件与环境(浓缩版)部署指南 B · L1 基础软件(CANN)(浓缩版)部署指南 C · L2 框架(TorchNPU)(浓缩版)部署指南 D · L3 服务(vLLM / MindIE)(浓缩版)部署指南 E · 排障(贯穿各层)(浓缩版)部署指南 F · 场景实战(浓缩版)部署指南 G · 企业落地(浓缩版)课件 00 · 总纲(怎么教、怎么学、按什么顺序)课件 完整流程图 · 昇腾 AI 部署完整流程图:五层结构与每层用什么工具装速查 · 昇腾 AI 部署一页速查:五层关系图 · 八步流程 · 报错定位课件 A0 · 一张地图——一个推理请求走了哪几层课件 A1 · 驱动与固件——卡是怎么被系统认出来的课件 A2 · 产品线与形态——你手上的是哪张卡课件 A3 · HDK 到底指什么——驱动、固件、工具集是不是一回事课件 B1 · CANN 是什么、装在哪、环境变量怎么配课件 B2 · 算子库与算子包——为什么会「找不到算子」课件 B3 · 版本对应关系与多版本共存——cann 软链接那条线课件 B4 · 七种安装方式——同一套 CANN,为什么有七种装法课件 B5 · CANN 装进容器——镜像怎么选、怎么自己搭课件 C1 · TorchNPU 是什么——PyTorch 怎么接到昇腾上课件 C2 · 多框架——昇腾上装哪个框架,几条路有什么不一样课件 C3 · 框架适配原理——一个算子从框架到芯片走了哪条路课件 D1 · L3 服务层——推理服务是怎么跑起来的课件 D2 · vLLM Ascend——把推理服务真正跑起来课件 D3 · MindIE Motor——五个子组件与集群的骨架课件 D4 · PD 分离与混部——为什么把 Prefill 和 Decode 拆开课件 D5 · 可用性、健康与调优——起来之后怎么活下去课件 E1 · 报错定位法——从一条报错定位到哪一层课件 E2 · E2 日志在哪里:应用日志 / Device 日志 / MindIE 日志三处课件 E3 · E3 官方案例库怎么用课件 E4 · E4 报错码速查:拿到一个码该干什么课件 F1 · 模型迁移——把 GPU 上跑得通的脚本搬到昇腾上课件 F2 · F2 精度调试:结果不对怎么定位到算子课件 F3 · F3 多卡与分布式:脚本从单卡到多卡要改什么课件 F4 · F4 性能调优:数据怎么采、怎么看课件 F5 · F5 国产算力适配:换到客户机房哪里不一样课件 F6 · F6 开源模型部署上架:从拿权重到 API 上线课件 F7 · F7 模型能力到业务落地:大语言模型 / 多模态 / 视频生成 / 语音能接哪些业务课件 G1 · 企业私有化部署——数据不出内网,从哪几层下手课件 G2 · RAG 基础——企业为什么要私有知识库,两条主线是什么课件 G3 · 知识库搭建——从装 RAG SDK 到把公司文档变成可检索的库课件 G4 · 文档解析与切分——决定检索质量的第一道关课件 G5 · G5 检索与精排课件 G6 · G6 问答编排课件 G7 · G7 效果评估课件 G8 · G8 容量与成本课件 G9 · G9 企业安全课件 G10 · G10 进阶检索
第 3 层看在发生
这一行正在变什么
第 4 层业务落地
模型怎么装上去(F6)在第 2 层;这一层讲装好之后能接哪些业务、怎么接进现有流程
关于课件:部署课件按「零件」的方式组织 —— 每一课讲清一个部件的功能、怎么装、怎么确认它是好的、坏了怎么查。每课包含可复制的命令,每条命令都逐句解释含义与用法。命令、路径、错误码全部来自昇腾官方文档与官方故障案例库,没有推测性补充。
娄
娄迪老师
新能源汽车维修技术培训一线讲师 · 累计带教学员数千名
辽ICP备2026019944号-1