成长 底层原理才是王道 作者Frank 5 1 月, 2026 跑模型时遇到报错,没那么气馁了, 大模型领域变化快,写好的保姆级教程经常因为版本更迭而失效,掌握底层原理才是至关重要的。 今天使用vllm框架在npu环境上跑一个example脚本,报出了一个算子调用错误。不像以前那样慌张与焦急了,静心的去研究报错,很快就能界定是版本匹配的原因。
成长 有用的linux bash命令 作者Frank 19 11 月, 202519 11 月, 2025 在/content/llama.cpp目录中查找名字为index.html的文件,并且只保留路径中包含“ser…
成长 阅读架构整洁之道 作者Frank 19 5 月, 202520 5 月, 2025 2025-5-20 书中把距离 IO 近的组件成为底层组件,认为低层组件容易变更 回到业务,稳定的逻辑应该放在…
成长 AI技术汇总 作者Frank 17 11 月, 202518 11 月, 2025 模型量化 训练优化 梯度 神经网络 手搓llama.cpp / GGUF格式 / GGML / 什么是llam…