8卡海光Z100L服务器实战:手把手教你用vLLM部署32B大模型(附完整镜像与配置)
8卡海光Z100L服务器实战:从零部署Qwen2.5-32B大模型全流程指南 国产化算力平台正在成为AI基础设施的新选择。海光Z100L作为国产高性能计算卡的...
8卡海光Z100L服务器实战:从零部署Qwen2.5-32B大模型全流程指南 国产化算力平台正在成为AI基础设施的新选择。海光Z100L作为国产高性能计算卡的...
目录 前言 架构总览 第一部分:安装 Docker 环境 1.1 安装 Docker 1.2 验证 Docker 安装 1.3 配置 D...
内网环境下的企业级大模型部署实战:从Ollama离线安装到私有化AI应用构建 在金融风控、医疗诊断、法律文书分析等对数据隐私和合规性要求极高的领域...