网硕互联帮助中心
【新手微调大模型】【全网最详细】在AutoDL租赁4090服务器，通过LLaMA-Factory框架使用LoRA微调Qwen通义千问大模型，包含服务器租赁、镜像与模型部署、数据集以及模型微调等。
文章浏览阅读2.9k次，点赞74次，收藏35次。本章详细介绍：【新手微调大模型】【全网最详细】在AutoDL租赁4090服务器，通过LLaMA-Factory框...
标签：llama
第4页
服务器中部署大模型DeepSeek-R1 | 本地部署DeepSeek-R1大模型 | deepseek-r1部署详细教程
文章浏览阅读732次，点赞6次，收藏7次。本篇文章主要讲述如何在本地电脑安装部署国产大模型deepseek-r1，通过ollama方式轻松部署deepseek-...
最近DeepSeek大火，很多人都想用DeepSeek，但是无奈经常提示服务器繁忙，那就试试将DeepSeek部署到自己电脑上吧！
文章浏览阅读878次，点赞7次，收藏29次。最近DeepSeek大火，很多人都想用DeepSeek，但是无奈经常提示服务器繁忙，那就试试将DeepSeek部署到...
挑战纯CPU最低成本推理极限：四路E5服务器装机与模型优化(持续探索优化中)
文章浏览阅读1.2k次，点赞19次，收藏24次。对于家养服务器购买建议是, 不要直接买准系统, 只买原装的主板和电源就够了, 机箱和风扇自己DIV, 因为原装考...
Llama.cpp 服务器安装指南（使用 Docker，GPU 专用）
文章浏览阅读797次。构建服务器镜像-t：命名镜像为。：仅构建服务器版本。-f：指定修改后的。：使用当前目录作为构建上下文。构建时间：10-20 分钟，取决于网...
服务器Ubuntu22.04系统下 ollama的详细部署安装和搭配open_webui使用
文章浏览阅读1.1w次，点赞31次，收藏70次。服务器Ubuntu22.04系统下 ollama的详细部署安装和搭配open_webui使用_ubuntu安装o...
（超详细教程）没有sudo权限，在服务器安装ollama，下载qwen2模型，python代码测试
文章浏览阅读4.4k次，点赞51次，收藏36次。本文详细介绍了ollama的下载安装，如何在命令行下载，如何在本地下载上传服务器。以及环境变量的部署，以及如何拉...
llamafactory用多卡4090服务器，训练qwen14B大模型时报错GPU显存不足oom（out of memory），已解决
文章浏览阅读3.6k次，点赞12次，收藏25次。通过export CUDA_VISIBLE_DVICES=0,1,2,3,4,5,6,7指定使用8张显卡，训练q...
