标签：llama

文章浏览阅读1.2k次，点赞24次，收藏23次。Llama Factory 是一个开源工具，旨在简化大语言模型（LLM）的微调过程，支持多种参数高效微调方法（P...

文章浏览阅读962次，点赞25次，收藏41次。本文探讨了如何构建一个完全本地化的AI智能体，以解决隐私保护和数据主权问题。通过自定义的ModelContextP...

文章浏览阅读1.5k次，点赞9次，收藏11次。LLama-2大模型的结构梳理，以7B为例_llama2-7b模型结构

文章浏览阅读1.3k次，点赞23次，收藏9次。Llama 4通过原生多模态融合MoE参数效率优化和超长上下文支持，重新定义了开源大模型的技术边界。其在推理任务中...

文章浏览阅读2.3k次，点赞79次，收藏63次。首先，我们以的开发人员身份来理解 LLaMA 4 架构，然后通过一个例子来看看它是如何通过架构处理的，以便更清晰...

文章浏览阅读897次，点赞18次，收藏21次。下图很直观的展示了旋转变换的过程：旋转编码 RoPE 可以有效地保持位置信息的相对关系，_swigu layer

文章浏览阅读688次，点赞22次，收藏15次。新手小白参考csdn上其他博主完成，开始接到这个小任务连docker怎么用完全不知道，最开始是直接用官方ollam...

文章浏览阅读2.7k次，点赞22次，收藏26次。LoRA 提出在预训练模型的参数矩阵上添加低秩分解矩阵来近似每层的参数更新，从而减少适配下游任务所需要训练的参数...

文章浏览阅读964次，点赞16次，收藏20次。本地服务器部署开源大模型有一个前提，就是得有 GPU 显卡资源，在我下面的例子中我租用了 autodl 中的算力资...