
大模型推理--从零搭建大模型推理服务器:硬件选购、Ubuntu双系统安装与环境配置
文章浏览阅读1k次,点赞9次,收藏13次。自从大模型火了之后就一直想自己组装一台机器去深入研究一下大模型,奈何囊中羞涩,迟迟也没有行动。在下了很大的勇气之后,终...
文章浏览阅读1k次,点赞9次,收藏13次。自从大模型火了之后就一直想自己组装一台机器去深入研究一下大模型,奈何囊中羞涩,迟迟也没有行动。在下了很大的勇气之后,终...
文章浏览阅读524次,点赞3次,收藏10次。兼顾安全性与便捷性。具体命令参数需根据实际服务器 IP 和端口调整。浏览器访问宿主机 IP + 7860 端口。• ...
文章浏览阅读628次,点赞7次,收藏5次。xinference 在服务器部署_ubuntu docker xinference
文章浏览阅读2k次,点赞18次,收藏10次。复杂生成模型的模块化:现有的生成模型(如扩散模型和自回归模型)虽然已经模块化,但缺乏更高层次的模块化抽象,难以构建更...
文章浏览阅读2.7k次,点赞22次,收藏26次。LoRA 提出在预训练模型的参数矩阵上添加低秩分解矩阵来近似每层的参数更新,从而减少适配下游任务所需要训练的参数...
文章浏览阅读1.5k次,点赞24次,收藏9次。基于Java的智能家居设计:打造可扩展的智能家居中心服务器关键词智能家居系统Java编程中心服务器可扩展性设备接入...
文章浏览阅读732次,点赞6次,收藏7次。本篇文章主要讲述如何在本地电脑安装部署国产大模型deepseek-r1,通过ollama方式轻松部署deepseek-...
文章浏览阅读3.2k次,点赞127次,收藏5次。在 DigitalOcean,我们始终致力于为开发者、初创企业和人工智能驱动型公司提供更便捷的高性能计算资源,助...
文章浏览阅读1.1k次,点赞23次,收藏14次。2025年的家用AI服务器,早已不是极客专属。无论是3000元的入门体验,还是3万元的高端性能套装,都能让大模型...
文章浏览阅读1.2k次,点赞16次,收藏15次。一些简单的部署过程。_ubuntu22安装deepseek