云计算百科
云计算领域专业知识百科平台

Doo AI 一款纯本地 极简部署开源AI模型工具

推荐⼀款极简部署开源AI模型的软件Doo AI,只需要你下载好适合⾃⼰电脑显存⼤⼩的AI模型,扫描模型所在文件夹,支持批量添加,然后点击加载,⼗⼏秒的时间就能部署完毕,不⽤懂代码,也不⽤折腾复杂的配置、依赖。对于喜欢和对开源AI模型感兴趣的朋友来说,刚好能解决那些让⼈头疼的⿇烦,不⽤再花时间调试环境、开发功能,还容易遇上满屏报错,也不⽤部署好后换个模型还要各种折腾,为开源AI模型爱好者省了不少功夫。 它就主打⼀个简单好⽤,把开源AI部署的⻔槛拉到最低。不管你是刚接触的新⼿,还是玩过⼀阵的⽼⽤⼾,上⼿都没压⼒。⽽且不只是图⽅便,软件纯本地化,不上传任何资料,对隐私保护来说具备更好的安全性、⽇常实⽤性也都在线,开发了完善的文本交互和多模态图像识别功能,但目前多模态仅支持qwen 3 vl,软件现在处于BETA版本,主要⽀持的模型有Qwen3、Qwen3 VL多模态、Gemma2、LLama3.1、Mistral,这⾥主要推荐Qwen3 VL多模态模型,适配性很好,如果喜欢尝试的⽤⼾,也可以在huggingface和魔塔社区下载、测试不同的模型。暂时来说,只⽀持hf也就是safetensors后缀的⽂本和多模态模型,不⽀持图像⽣成模型,软件使⽤Transformers4.57.3、 torch==2.6.0+cu124,理论上只要模型适配这两个依赖,且⽆特殊技术栈要求,都能加载和推理。设置⻚⾯也提供了⼀些预置的针对不同系列模型的适配,但未经全⾯测试,因此适配度存疑,常设为⾃动就⾏。

操作流程简单,下好适合的AI模型后,选好存放⽂件夹,软件会⾃动扫描识别,添加到模型列表⾥,点⼀下加载键就行,还支持半精度fp16和int4量化加载,对显存小的显卡非常友好,从扫描到加载

赞(0)
未经允许不得转载:网硕互联帮助中心 » Doo AI 一款纯本地 极简部署开源AI模型工具
分享到: 更多 (0)

评论 抢沙发

评论前必须登录!