
【开源大模型部署】如何在服务器上部署开源大模型 GLM-4-9B-Chat 并应用到RAG应用?
文章浏览阅读964次,点赞16次,收藏20次。本地服务器部署开源大模型有一个前提,就是得有 GPU 显卡资源,在我下面的例子中我租用了 autodl 中的算力资...

文章浏览阅读964次,点赞16次,收藏20次。本地服务器部署开源大模型有一个前提,就是得有 GPU 显卡资源,在我下面的例子中我租用了 autodl 中的算力资...

文章浏览阅读1.2k次,点赞8次,收藏20次。本文相关的全部源码和RtspSever库,我已打包上传,欢迎大家免费下载,。每一个嵌入式视觉算法工程师,都应该有一...

文章浏览阅读3.2k次,点赞52次,收藏51次。华为服务器智能管理系统(Huawei Intelligent Baseboard Management Cont...

文章浏览阅读2.2k次,点赞18次,收藏30次。ssh使用vscode连接linux服务器【autodl服务器】,并调出命令行运行代码【允许python代码跳转...

文章浏览阅读1k次,点赞4次,收藏8次。开机时设备在执行加载硬盘时,按Ctrl+H键进入磁盘RAID配置界面。【选择Start】查看当前服务器上有八块磁盘,在左...

文章浏览阅读2.8k次,点赞14次,收藏10次。首先确定你的宝塔面板已经安装了node.js。_宝塔安装nodejs后 终端命令node无法找到

文章浏览阅读1.5k次,点赞35次,收藏11次。YOLO系列之:一文掌握Triton Inference Server_triton yolo
文章浏览阅读954次,点赞13次,收藏3次。内存总量free -h或查看。CPU 总量lscpu或统计中的processor。_shell 获取机器内存
文章浏览阅读1.1k次,点赞7次,收藏6次。lsblk:列出所有块设备及其挂载点。fdisk -l:列出所有磁盘及其分区信息。df -h:显示已挂载文件系统的磁...
文章浏览阅读2.1k次,点赞19次,收藏19次。UsageEnvironment类:这是一个抽象基类,用于定义事件循环。你可能会使用到它的taskSchedul...