云计算百科
云计算领域专业知识百科平台

在另外一台可以科学下载的电脑用ollama下载模型后,怎么导入到另外一台服务器的ollama使用

环境:

Win10专业版

Ubuntu20.04

问题描述:

在另外一台可以科学下载的电脑用ollama下载模型后,怎么导入到另外一台服务器的ollama使用,原电脑win10上的ollama下载的模型,复制到ubuntu20.04的ollama上推理

在这里插入图片描述

解决方案:

一、Windows端模型文件定位与提取

  • 定位模型存储路径 Windows默认路径:C:\\Users\\[用户名]\\.ollama\\models 需复制两个核心目录: • blobs:存放所有模型二进制文件(文件名以sha256哈希值命名) • manifests:包含模型元数据(路径为manifests/registry.ollama.ai/library/[模型名]/版本文件)
  • 在这里插入图片描述 在这里插入图片描述

  • 选择性提取文件

    在这里插入图片描述

  • 二、Ubuntu端模型部署

  • 目录准备与权限设置
  • /usr/share/ollama/.ollama/models/

    chmod -R a+w /usr/share/ollama/.ollama/models

  • 文件传输
  • 找到对应模型文件 在这里插入图片描述 上传到服务器 在这里插入图片描述

    三、服务验证

  • 重启Ollama服务(一般不重启,没读到再重启试试)

    sudo systemctl restart ollama

  • 模型状态检查

    # 查看模型列表
    ollama list

  • 就会出现新迁移的模型,最后run一下试试 在这里插入图片描述

    四、常见问题处理

    问题现象解决方案
    模型列表不显示 检查manifests目录结构是否为registry.ollama.ai/library/[模型名]/版本文件
    推理时报权限错误 执行sudo chmod -R 755 /usr/share/ollama/.ollama/models
    服务启动失败 检查systemd配置:sudo journalctl -u ollama.service -b
    显存不足导致推理中断 改用较小参数模型(如1.5b替代7b),或添加swap空间

    迁移验证要点:

  • 对比Windows与Ubuntu的blobs目录文件哈希值(使用sha256sum命令)
  • 确保manifest文件中的digest值与实际blobs文件对应
  • 通过ollama ps查看模型加载状态
  • 赞(0)
    未经允许不得转载:网硕互联帮助中心 » 在另外一台可以科学下载的电脑用ollama下载模型后,怎么导入到另外一台服务器的ollama使用
    分享到: 更多 (0)

    评论 抢沙发

    评论前必须登录!