为公司搭建DeepSeek本地模型部署方案,服务器配置:“戴尔(DELL)R750XS 机架式服务器2银牌4314 16核32线程丨432G内存丨8*2.4T SSD”
文章浏览阅读848次,点赞26次,收藏10次。通过以上步骤,可以顺利为公司部署DeepSeek本地模型,确保高性能、安全和可靠的AI服务。如果在实施过程中遇到问...
文章浏览阅读848次,点赞26次,收藏10次。通过以上步骤,可以顺利为公司部署DeepSeek本地模型,确保高性能、安全和可靠的AI服务。如果在实施过程中遇到问...
文章浏览阅读573次。R730安装Tesla T10显卡驱动,显卡直通给ESXI虚拟机里开放的Ubuntu服务器,排除了各种情况,各种操作后reboot重启Ub...
文章浏览阅读861次,点赞11次,收藏16次。本地运行的蒸馏模型还是比较容易的主要下载ollama和蒸馏模型就行。但是受限于本地机器限制,蒸馏的模型参数比较少,...
文章浏览阅读889次,点赞6次,收藏11次。用户流量过大:DeepSeek的免费开放和强大功能吸引了大量用户,短时间内的请求激增使服务器负担过重。算力与带宽不足...
文章浏览阅读946次,点赞17次,收藏18次。2025年,DeepSeek火了,成为全球焦点,以一种颠覆性的算力运用方式让AI发展触手可及。但随之而来的是用户量...
文章浏览阅读780次,点赞17次,收藏24次。在当今的互联网应用中,用户对于服务的可用性要求越来越高。Tomcat 作为 Java 领域广泛使用的 Web 服务...
文章浏览阅读906次,点赞24次,收藏28次。本节课介绍什么是 Web 中间件,以及如何实现 Gin 请求 ID中间件。_gin添加响应中间件
文章浏览阅读937次,点赞7次,收藏19次。是AI领域的一项革命性开放标准,由Anthropic推动,旨在解决大语言模型(LLM)与外部系统的集成难题。它类似于...
文章浏览阅读1.1k次,点赞19次,收藏10次。本文探讨了国产昇腾AI服务器在支撑大模型训练与推理时的算力需求。随着AI模型规模膨胀,昇腾服务器凭借其高性能硬件...
文章浏览阅读2.2w次,点赞30次,收藏28次。近期爆火的Deepseek访问量激增频繁出现服务器繁忙提示,严重影响工作效率。本人实测了两种有效解决方案,整理了...