标签：transformer

【现代深度学习技术】注意力机制07：Transformer

文章浏览阅读884次，点赞74次，收藏63次。Transformer基于自注意力和位置编码，采用编码器-解码器架构。编码器和解码器通过堆叠多头注意力层和前馈网络...

2025-05-16阅读(35)

文章浏览阅读994次，点赞20次，收藏8次。GCT 建议添加在 Conv 层前，一般可以先冻结原来的模型，来训练 GCT，然后解冻再进行微调。

2025-05-13阅读(38)

文章浏览阅读532次，点赞4次，收藏9次。Xinference需要配置驱动、torch、torch-npu等环境，最简单的方法是套用MindIE镜像。省略下载容...

2025-05-09阅读(130)

文章浏览阅读1.6k次，点赞75次，收藏37次。在 Transformer 架构出现之前，循环神经网络（RNN）及其变体，如长短期记忆网络（LSTM）和门控循环...

2025-04-28阅读(59)

文章浏览阅读1.1w次，点赞49次，收藏64次。本专栏提供详细的 YOLO11 教程，包括基础知识、源码解析、入门实践、算法改进和项目实战，适合发表YOLO11...

2025-04-28阅读(56)

文章浏览阅读2.9k次，点赞25次，收藏21次。这是咱这个系列的第三个文章了。毕竟，这是我好几天摸索出的经验，能帮助各位在几个小时内领会，我觉得也算是我的功劳一...

2025-04-19阅读(77)

文章浏览阅读967次，点赞24次，收藏14次。使用LLamaFactory微调大模型时，很多依赖的版本关系复杂，很容易出现版本冲突的问题，这里主要涉及到cuda...

2025-04-18阅读(118)