AI系统全栈架构

先记住一个AI系统全栈架构图

从底往上逐层来将分别是：

1. AI芯片（AI硬件）
2. AI编译
3. AI框架（训练推理框架）：PyTroch、TensorFlow、MindSpore、Caffe、JAX；TensorRT、MNX、ONNX
4. 编程体系：AI与主流语言集成 python
5. 算法应用：CV、NLP、Audio

注意，随着大模型加入，AI系统架构就变得复杂了。

AI硬件从原来的芯片变成了硬件体系结构，新加入了超级计算节点，网络加速器，AI芯片（硬件加速器），还有存储加速器。

然后再往上，多了一个使能层，这是一层分布式的框架：这一层里有DeepSpeed、Megatron-LM，Colossal-AI，HuggingFace， LangChain， Milvus

在应用层多了一个大模型