首页
大模型
人工智能
Simple学院
首页
大模型
人工智能
登录
注册
登录
注册
大模型算法实战训练营
第34任务： 【LLaMA】19 混合专家模型 (7) MOE联用FFN层与LLaMA
查看课程
任务列表
第1任务： 【LLaMA】1 LLaMA中的Decoder架构详解
第2任务： 【LLaMA】2 LLaMA中的Embedding层
第3任务： 【LLaMA】3 RMSNorm均方根层归一化
第4任务： 【LLaMA】4 旋转位置编码ROPE(1)
第5任务： 【LLaMA】4 旋转位置编码ROPE(2)
第6任务： 【LLaMA】4 旋转位置编码ROPE(3)
第7任务： 【LLaMA】4.5 旋转位置编码的Q&A
第8任务： 【LLaMA】5 KV缓存的原理与初步实现
第9任务： 【LLaMA】5.5 时间复杂度、机器翻译等Q&A
第10任务： 【LLaMA】6 注意力的代码实现(1-1) 注意力计算流程
第11任务： 【LLaMA】6 注意力的代码实现(1-2) 注意力计算流程
第12任务： 【LLaMA】7 注意力的代码实现(2-1) Flash Attention与掩码
第13任务： 【LLaMA】7 注意力的代码实现(2-2) Flash Attention与掩码
第14任务： 【LLaMA】7.5 有关掩码和算力的Q&A
第15任务： 【LLaMA】8 注意力的代码实现(3-1) KV缓存下QKV矩阵的生成
第16任务： 【LLaMA】8 注意力的代码实现(3-2) KV缓存下QKV矩阵的生成
第17任务： 【LLaMA】9 注意力的代码实现(4) KV缓存下的编码与注意力输出(4-1)
第18任务： 【LLaMA】9 注意力的代码实现(4) KV缓存下的编码与注意力输出(4-2)
第19任务： LLaMA】9 注意力的代码实现(4) KV缓存下的编码与注意力输出(4-3)
第20任务： 【LLaMA】10 大语言模型评估方法 + KV缓存效果验证
第21任务： 【LLaMA】10.5 Q&A+科研指导+大模型发论文方向指南(1)
第22任务： 【LLaMA】10.5 Q&A+科研指导+大模型发论文方向指南(2)
第23任务： 【LLaMA】11 门控前馈网络 (1) GLU与Silu激活函数(1-1)
第24任务： 【LLaMA】11 门控前馈网络 (1) GLU与Silu激活函数(1-2)
第25任务： 【LLaMA】12 门控前馈网络 (2) FFN层的代码实现
第26任务： 【LLaMA】13 混合专家模型 (1-1) MOE模型的架构与训练流程
第27任务： 【LLaMA】13 混合专家模型 (1-2) MOE模型的架构与训练流程
第28任务： 【LLaMA】14 混合专家模型 (2) 瓶颈问题与辅助损失
第29任务： 【LLaMA】15 混合专家模型 (3) 常见的辅助损失函数
第30任务： 【LLaMA】16 混合专家模型 (4) MOE的专家权重损失函数
第31任务： 【LLaMA】17 混合专家模型 (5) 代码实现MOE的门控机制
第32任务： 【LLaMA】18 混合专家模型 (6) 代码实现MOE的控机制数据流(1-1)
第33任务： 【LLaMA】18 混合专家模型 (6) 代码实现MOE的控机制数据流(1-2)
第34任务： 【LLaMA】19 混合专家模型 (7) MOE联用FFN层与LLaMA
第35任务： 【LlaMA】20 混合专家模型的Q&A + 面试题 + 学习方法分享
第36任务： 【LlaMA】21 LLaMA架构复现 (1) 大模型架构适配deepspeed与hf
第37任务： 【LlaMA】22 LLaMA架构复现 (2-1) TransformerBlock与打包器
第38任务： 【LlaMA】22 LLaMA架构复现 (2-2) TransformerBlock与打包器
第39任务： 【LlaMA】23 LlaMA架构复现 (3-1) 自回归推理函数与网络配置
第40任务： 【LlaMA】23 LlaMA架构复现 (3-2) 自回归推理函数与网络配置
第41任务： LLaMA原理精讲与架构复现课件
