环境:
Win10专业版
Ubuntu20.04
问题描述:
在另外一台可以科学下载的电脑用ollama下载模型后,怎么导入到另外一台服务器的ollama使用,原电脑win10上的ollama下载的模型,复制到ubuntu20.04的ollama上推理
解决方案:
一、Windows端模型文件定位与提取
选择性提取文件
二、Ubuntu端模型部署
/usr/share/ollama/.ollama/models/
chmod -R a+w /usr/share/ollama/.ollama/models
找到对应模型文件 上传到服务器
三、服务验证
重启Ollama服务(一般不重启,没读到再重启试试)
sudo systemctl restart ollama
模型状态检查
# 查看模型列表
ollama list
就会出现新迁移的模型,最后run一下试试
四、常见问题处理
模型列表不显示 | 检查manifests目录结构是否为registry.ollama.ai/library/[模型名]/版本文件 |
推理时报权限错误 | 执行sudo chmod -R 755 /usr/share/ollama/.ollama/models |
服务启动失败 | 检查systemd配置:sudo journalctl -u ollama.service -b |
显存不足导致推理中断 | 改用较小参数模型(如1.5b替代7b),或添加swap空间 |
迁移验证要点:
评论前必须登录!
注册