成长 底层原理才是王道 作者Frank 5 1 月, 2026 跑模型时遇到报错，没那么气馁了， 大模型领域变化快，写好的保姆级教程经常因为版本更迭而失效，掌握底层原理才是至关重要的。 今天使用vllm框架在npu环境上跑一个example脚本，报出了一个算子调用错误。不像以前那样慌张与焦急了，静心的去研究报错，很快就能界定是版本匹配的原因。
成长 Colab调试llama.cpp遇到的一些问题 作者Frank 19 11 月, 202521 11 月, 2025 执行如下命令：!mkdir build%cd build!cmake .. -DGGML_CUDA=ON!cm…