
从零开始之4.2,基于AutoDL服务器(单卡),通过vllm发布Lora微调模型的API服务,在本地进行调用
文章浏览阅读1k次,点赞25次,收藏10次。基于AutoDL服务器(单卡),通过vllm发布Lora微调模型的API服务,在本地进行调用_lora的模型,vll...
文章浏览阅读1k次,点赞25次,收藏10次。基于AutoDL服务器(单卡),通过vllm发布Lora微调模型的API服务,在本地进行调用_lora的模型,vll...
文章浏览阅读730次,点赞12次,收藏4次。基于AutoDL服务器(单卡),通过vllm发布Qwen2.5-vl-7b-Instruct模型的API服务,在本地...