dmz社区

 找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 3148|回复: 55

Transformer原理与代码精讲

  [复制链接]
  • TA的每日心情
    奋斗
    2024-4-20 13:20
  • 签到天数: 16 天

    [LV.4]偶尔看看III

    147

    主题

    166

    帖子

    802

    积分

    荣誉会员

    积分
    802

    发表于 2024-4-14 23:00:00 | 显示全部楼层 |阅读模式

    本站资源全部免费,回复即可查看下载地址!

    您需要 登录 才可以下载或查看,没有帐号?立即注册

    x
    image.png

    课程介绍:
    Transformer发轫于NLP(自然语言处理),并跨界应用到CV(计算机视觉)领域。目前已成为深度学习的新范式,影响力和应用前景巨大。

    本课程对Transformer的原理和PyTorch及TensorFlow 2代码进行精讲,来帮助大家掌握其详细原理和具体实现。

    原理精讲部分包括:注意力机制和自注意力机制、Transformer的架构概述、Encoder的多头注意力(Multi-Head Attention)、Encoder的位置编码(Positional Encoding)、残差链接(Residual Connection)、层规范化(Layer Normalization)、FFN(Feed Forward Network)、Transformer的训练及性能、Transformer的机器翻译工作流程。

    代码精讲部分使用Jupyter Notebook对Transformer的PyTorch及TensorFlow 2实现代码进行逐行解读,包括:安装PyTorch/TensorFlow、Transformer的数据集加载与预处理代码解读、Transformer的位置编码与多头注意力代码解读、Transformer的Transformer类代码解读、Transformer的优化器与损失函数代码解读、Transformer的训练代码解读、Transformer的推理与权重保存代码解读。

    课程目录:
    ├──01 课程介绍
    └──01 课程介绍.mp4 39.50M
    ├──02 Transformer原理精讲
    ├──01 注意力机制和自注意力机制.mp4 99.60M
    ├──02 Transformer的架构概述.mp4 34.81M
    ├──03 Transformer Encoder的多头注意力.mp4 48.62M
    ├──04 Transformer Encoder的位置编码.mp4 17.06M
    ├──05 Transformer 残差链接、LayerNorm、FFN.mp4 19.01M
    ├──06 Transformer Decoder.mp4 20.00M
    ├──07 Transformer的训练及性能.mp4 36.92M
    └──08 Transformer的机器翻译工作流程.mp4 6.11M
    ├──03 Transformer代码精讲(Pytorch)
    ├──01 安装pytorch.mp4 32.55M
    ├──02 Transformer的Encoder代码解读.mp4 54.68M
    ├──03 Transformer的Decoder代码解读.mp4 82.76M
    ├──04 Transformer的超参设置代码解读.mp4 27.31M
    ├──05 Transformer的训练示例(人为随机数据)代码解读.mp4 29.27M
    └──06 Transformer的训练示例(机器翻译)代码解读.mp4 65.15M
    └──04 Transformer代码精讲(TensorFlow 2)
    ├──01 安装TensorFlow.mp4 22.01M
    ├──02 Transformer的数据集加载与预处理代码解读.mp4 37.64M
    ├──03 Transformer的位置编码与多头注意力代码解读.mp4 70.30M
    ├──04 Transformer的Transformer类代码解读.mp4 61.00M
    ├──05 Transformer的优化器与损失函数代码解读.mp4 24.89M
    ├──06 Transformer的训练代码解读.mp4 25.30M
    └──07 Transformer的推理与权重保存代码解读.mp4 50.63M


    下载地址:

    游客,如果您要查看本帖隐藏内容请回复

    温馨提示:
    1、本站所有内容均为互联网收集或网友分享或网络购买,本站不破解、不翻录任何视频!
    2、如本帖侵犯到任何版权问题,请立即告知本站,本站将及时予与删除并致以最深的歉意!
    3、本站资源仅供本站会员学习参考,不得传播及用于其他用途,学习完后请在24小时内自行删除.
    4、本站资源质量虽均经精心审查,但也难保万无一失,若发现资源有问题影响学习请一定及时点此进行问题反馈,我们会第一时间改正!
    5、若发现链接失效了请联系管理员,管理员会在2小时内修复
    6、如果有任何疑问,请加客服QQ:1300822626 2小时内回复你!

    本帖被以下淘专辑推荐:

    回复

    使用道具 举报

  • TA的每日心情
    擦汗
    13 小时前
  • 签到天数: 875 天

    [LV.10]以坛为家III

    18

    主题

    1457

    帖子

    5963

    积分

    深不可测

    Rank: 9Rank: 9Rank: 9

    积分
    5963

    发表于 2024-4-14 23:58:12 | 显示全部楼层
    正需要,支持楼主大人了!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    无聊
    10 小时前
  • 签到天数: 1999 天

    [LV.Master]伴坛终老

    4

    主题

    5518

    帖子

    1万

    积分

    超凡入圣

    Rank: 10Rank: 10Rank: 10

    积分
    17257

    发表于 2024-4-15 08:09:53 | 显示全部楼层
    啥也不说了,感谢楼主分享哇!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    昨天 08:55
  • 签到天数: 1436 天

    [LV.10]以坛为家III

    0

    主题

    1820

    帖子

    1万

    积分

    超凡入圣

    Rank: 10Rank: 10Rank: 10

    积分
    11451

    发表于 2024-4-15 08:24:10 来自手机 | 显示全部楼层
    谢谢分享
    回复

    使用道具 举报

  • TA的每日心情
    开心
    15 小时前
  • 签到天数: 436 天

    [LV.9]以坛为家II

    4

    主题

    3350

    帖子

    8085

    积分

    超凡入圣

    Rank: 10Rank: 10Rank: 10

    积分
    8085

    发表于 2024-4-15 08:36:20 | 显示全部楼层
    啥也不说了,感谢楼主分享哇!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    4 天前
  • 签到天数: 340 天

    [LV.8]以坛为家I

    0

    主题

    3204

    帖子

    7244

    积分

    深不可测

    Rank: 9Rank: 9Rank: 9

    积分
    7244

    发表于 2024-4-15 08:43:52 | 显示全部楼层
    啥也不说了,感谢楼主分享哇!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    昨天 16:46
  • 签到天数: 1456 天

    [LV.10]以坛为家III

    0

    主题

    4430

    帖子

    1万

    积分

    超凡入圣

    Rank: 10Rank: 10Rank: 10

    积分
    12886

    发表于 2024-4-15 11:23:56 | 显示全部楼层
    啥也不说了,感谢楼主分享哇!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    慵懒
    昨天 21:59
  • 签到天数: 167 天

    [LV.7]常住居民III

    1

    主题

    583

    帖子

    1669

    积分

    一代宗师

    Rank: 7Rank: 7Rank: 7

    积分
    1669

    发表于 2024-4-16 15:52:56 | 显示全部楼层
    我只是路过打酱油的
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    14 小时前
  • 签到天数: 1181 天

    [LV.10]以坛为家III

    1

    主题

    2678

    帖子

    8579

    积分

    超凡入圣

    Rank: 10Rank: 10Rank: 10

    积分
    8579

    发表于 2024-4-16 21:26:07 | 显示全部楼层
    啥也不说了,感谢楼主分享哇!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    2024-10-29 16:30
  • 签到天数: 15 天

    [LV.4]偶尔看看III

    0

    主题

    106

    帖子

    278

    积分

    豁然贯通

    Rank: 4

    积分
    278

    发表于 2024-4-17 00:20:01 | 显示全部楼层
    么有分,谁能送我点积分啊::>_<::
    回复 支持 反对

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|Archiver|小黑屋|本站代理|dmz社区

    GMT+8, 2024-12-23 15:50 , Processed in 0.133115 second(s), 43 queries .

    Powered by Discuz! X3.4 Licensed

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表