【大模型】docker部署glm-4-9b-chat,并部署到服务器上
文章浏览阅读858次,点赞6次,收藏5次。因为我们实验室的服务器不能联网,所以glm4部署到docker里面,如果有需要补充的包只能在本地下载好了,再上传到服务...
文章浏览阅读858次,点赞6次,收藏5次。因为我们实验室的服务器不能联网,所以glm4部署到docker里面,如果有需要补充的包只能在本地下载好了,再上传到服务...
文章浏览阅读759次,点赞10次,收藏11次。Uvicorn 是一个基于 Python 的快速 ASGI(异步服务器网关接口)服务器。它的主要作用是作为 Web...
文章浏览阅读1.7k次,点赞37次,收藏35次。Deepseek官网老是显示服务器繁忙?显卡闲着不用可惜了,本地化部署Deepseek-R1模型体验独自畅享对话...
文章浏览阅读878次,点赞7次,收藏29次。最近DeepSeek大火,很多人都想用DeepSeek,但是无奈经常提示服务器繁忙,那就试试将DeepSeek部署到...
文章浏览阅读6.7k次,点赞12次,收藏41次。DeepSeek的火爆,不仅让我们看到了国产AI的崛起,也让我们意识到,技术的进步正在让AI变得更加普惠。无论是...
文章浏览阅读1.5k次,点赞38次,收藏14次。Server-Sent Events(SSE)是一种允许服务器向客户端发送实时更新的 Web API。它基于 H...
文章浏览阅读756次,点赞13次,收藏6次。执行ollama run deepseek-r1:32b就可以下载模型,下载完成出现下图这个命令行发送信息的提示就算...
文章浏览阅读850次,点赞11次,收藏18次。安装必要的库:使用 Flask 来构建 Web 应用,同时使用 requests 库来调用 Windows Any...
文章浏览阅读1.1k次,点赞23次,收藏14次。2025年的家用AI服务器,早已不是极客专属。无论是3000元的入门体验,还是3万元的高端性能套装,都能让大模型...
文章浏览阅读971次,点赞19次,收藏5次。通过 Termux + Linux 环境或直接运行二进制文件,可在安卓手机上部署 Ollama 并运行中小规模模型(...