成长 AI训推体验-qwen3 作者Frank 1 12 月, 2025 整体流程 1. 安装CANN 2. 安装torch,torch_npu 3. 下载qwen3的权重,做好权重转换 4. 预训练配置 4. 训练拉起 过程中影响效率的几件事情 bash脚本没那么熟悉 跟目录磁盘空间不足 从网络下载模型参数太慢 docker原理没那么熟悉 linux基本操作没那么熟悉
成长 AI技术汇总 作者Frank 17 11 月, 202518 11 月, 2025 模型量化 训练优化 梯度 神经网络 手搓llama.cpp / GGUF格式 / GGML / 什么是llam…
成长 AI全栈技术 作者Frank 21 11 月, 202521 11 月, 2025 工作之余学习AI知识也有两三个周了,本着对费曼学习法的信奉,今天必须逼着自己写一写已经学到的知识。 先随性写吧…
成长 AI系统全栈架构 作者Frank 21 11 月, 202521 11 月, 2025 先记住一个AI系统全栈架构图 从底往上逐层来将分别是: 注意,随着大模型加入,AI系统架构就变得复杂了。 AI…
成长 使用python脚本连接colab 作者Frank 19 11 月, 202519 11 月, 2025 局域网python调用 在colab中使用交互式 推荐使用 llama-server 方法。那不仅能体验流畅的…