网硕互联帮助中心Llama.cpp 服务器安装指南（使用 Docker，GPU 专用）
文章浏览阅读797次。构建服务器镜像-t：命名镜像为。：仅构建服务器版本。-f：指定修改后的。：使用当前目录作为构建上下文。构建时间：10-20 分钟，取决于网...
标签：llama
第5页
服务器Ubuntu22.04系统下 ollama的详细部署安装和搭配open_webui使用
文章浏览阅读1.1w次，点赞31次，收藏70次。服务器Ubuntu22.04系统下 ollama的详细部署安装和搭配open_webui使用_ubuntu安装o...
（超详细教程）没有sudo权限，在服务器安装ollama，下载qwen2模型，python代码测试
文章浏览阅读4.4k次，点赞51次，收藏36次。本文详细介绍了ollama的下载安装，如何在命令行下载，如何在本地下载上传服务器。以及环境变量的部署，以及如何拉...
llamafactory用多卡4090服务器，训练qwen14B大模型时报错GPU显存不足oom（out of memory），已解决
文章浏览阅读3.6k次，点赞12次，收藏25次。通过export CUDA_VISIBLE_DVICES=0,1,2,3,4,5,6,7指定使用8张显卡，训练q...
