标签：ai

文章浏览阅读1.3k次，点赞26次，收藏18次。本文介绍了MNN Chat这款由阿里巴巴开源的多模态大模型应用。它支持本地运行，无需依赖外部服务器，确保数据隐私...

文章浏览阅读573次。R730安装Tesla T10显卡驱动，显卡直通给ESXI虚拟机里开放的Ubuntu服务器，排除了各种情况，各种操作后reboot重启Ub...

文章浏览阅读861次，点赞11次，收藏16次。本地运行的蒸馏模型还是比较容易的主要下载ollama和蒸馏模型就行。但是受限于本地机器限制,蒸馏的模型参数比较少，...

文章浏览阅读889次，点赞6次，收藏11次。用户流量过大：DeepSeek的免费开放和强大功能吸引了大量用户，短时间内的请求激增使服务器负担过重。算力与带宽不足...

文章浏览阅读946次，点赞17次，收藏18次。2025年，DeepSeek火了，成为全球焦点，以一种颠覆性的算力运用方式让AI发展触手可及。但随之而来的是用户量...

文章浏览阅读906次，点赞24次，收藏28次。本节课介绍什么是 Web 中间件，以及如何实现 Gin 请求 ID中间件。_gin添加响应中间件

文章浏览阅读1.1k次，点赞19次，收藏10次。本文探讨了国产昇腾AI服务器在支撑大模型训练与推理时的算力需求。随着AI模型规模膨胀，昇腾服务器凭借其高性能硬件...