底层原理才是王道
跑模型时遇到报错，没那么气馁了，
大模型领域变化快，写好的保姆级教程经常因为版本更迭而失效，掌握底层原理才是至关重要的。
今天使用vllm框架在npu环境上跑一个example脚本，报出了一个算子调用错误。不像以前那样慌张与焦急了，静心的去研究报错，很快就能界定是版本匹配的原因。
在/content/llama.cpp目录中查找名字为index.html的文件，并且只保留路径中包含“ser…
今天给大家讲讲生成器模式的关键要点 这个设计模式里有的关键元素有：主管（Director），生成器（Build…
局域网python调用 在colab中使用交互式 推荐使用 llama-server 方法。那不仅能体验流畅的…
Gemini对话：Colab 编译 llama.cpp GPU 加速 准备工作： 启用GPU，查看GPU是否正…