
构建 MCP 服务器:第一部分 — 资源入门
文章浏览阅读1.1k次,点赞30次,收藏27次。模型上下文协议(MCP)是大型语言模型(LLM)与外部数据交互的标准化接口,类似于AI的"USB端口&...
文章浏览阅读1.1k次,点赞30次,收藏27次。模型上下文协议(MCP)是大型语言模型(LLM)与外部数据交互的标准化接口,类似于AI的"USB端口&...
文章浏览阅读811次,点赞29次,收藏8次。本文详细介绍了在配备4块NVIDIA 4090显卡的高性能服务器上部署Ollama环境的全过程。内容包括:硬件配置(...
文章浏览阅读1.2k次,点赞24次,收藏23次。Llama Factory 是一个开源工具,旨在简化大语言模型(LLM)的微调过程,支持多种参数高效微调方法(P...
文章浏览阅读962次,点赞25次,收藏41次。本文探讨了如何构建一个完全本地化的AI智能体,以解决隐私保护和数据主权问题。通过自定义的ModelContextP...
文章浏览阅读1.5k次,点赞9次,收藏11次。LLama-2大模型的结构梳理,以7B为例_llama2-7b模型结构
文章浏览阅读1.3k次,点赞23次,收藏9次。Llama 4通过原生多模态融合MoE参数效率优化和超长上下文支持,重新定义了开源大模型的技术边界。其在推理任务中...
文章浏览阅读2.3k次,点赞79次,收藏63次。首先,我们以的开发人员身份来理解 LLaMA 4 架构,然后通过一个例子来看看它是如何通过架构处理的,以便更清晰...
文章浏览阅读897次,点赞18次,收藏21次。下图很直观的展示了旋转变换的过程:旋转编码 RoPE 可以有效地保持位置信息的相对关系,_swigu layer
文章浏览阅读688次,点赞22次,收藏15次。新手小白参考csdn上其他博主完成,开始接到这个小任务连docker怎么用完全不知道,最开始是直接用官方ollam...
文章浏览阅读2.7k次,点赞22次,收藏26次。LoRA 提出在预训练模型的参数矩阵上添加低秩分解矩阵来近似每层的参数更新,从而减少适配下游任务所需要训练的参数...