贪心科技大模型微调实战营应用篇:从Transformer到RLHF全流程精讲

贪心科技大模型微调实战营应用篇:从Transformer到RLHF全流程精讲

为什么值得看?

这门课程是贪心科技2024年推出的实战型大模型微调课程,覆盖从Transformer基础到RLHF强化学习的完整技术链路。课程共10周,包含10余节正课与补充课,每节都配有详细视频讲解,适合有一定深度学习基础、希望系统掌握大模型微调技术的开发者、算法工程师和科研人员。

课程内容亮点

课程从大模型基础讲起,逐步深入到微调核心方法,包括:

  • Transformer与注意力机制:深入拆解Self-Attention、Encoder/Decoder架构,理解大模型底层原理。
  • 主流微调技术:详细讲解Lora、Alpaca、AdaLoRA、QLoRA、Prefix Tuning等高效微调方法,并含Lora从零实现到Roberta的实战演示。
  • 量化与部署:系统介绍模型量化方法,并专门补充了Llama的安装、运行、量化、部署与微调全流程。
  • 分布式训练与优化:涵盖GPU时间计算、分布式计算、ZeRO-123、FSDP、Flash Attention等进阶内容,帮助突破显存与算力瓶颈。
  • 强化学习与RLHF:从强化学习基础到RLHF完整流程,讲解多臂老虎机、最优策略、蒙特卡洛方法等关键概念。

实战导向

课程不只是理论讲解,还包含大量动手环节,例如从零实现Lora、微调Mistral 7B、Llama微调部署等。助教补充课也针对实操中常见问题进行了细致解答,对想快速上手大模型微调的学习者非常有帮助。

无论你是想入门大模型微调,还是希望系统提升工程实践能力,这套课程都能提供扎实的知识体系和实战经验。

🎯 资源目录结构

📂 贪心科技-大模型微调实战营-应用篇 (68个项目,总大小 12.67 GB)

  • 📁 01 第一周
  • 📁 01 第一周/01 第一节 2024年1月21日
  • 📁 01 第一周/01 第一节 2024年1月21日/01 开营+大模型介绍、Transformer
  • 📄 01 第一周/01 第一节 2024年1月21日/01 开营+大模型介绍、Transformer/01 开营.mp4 – 168.87 MB
  • 📄 01 第一周/01 第一节 2024年1月21日/01 开营+大模型介绍、Transformer/02 大模型爆发式发展.mp4 – 240.49 MB
  • 📄 01 第一周/01 第一节 2024年1月21日/01 开营+大模型介绍、Transformer/03 大模型是如何炼成的.mp4 – 88.29 MB
  • 📄 01 第一周/01 第一节 2024年1月21日/01 开营+大模型介绍、Transformer/04 Transformer的应用.mp4 – 183.06 MB
  • 📄 01 第一周/01 第一节 2024年1月21日/01 开营+大模型介绍、Transformer/05 Self-Attention.mp4 – 329.29 MB
  • 📁 02 第二周
  • 📁 02 第二周/01 第二节 2024年1月28日
  • ……

🔗 网盘下载链接

📢 重要提醒

  • 尽快保存:资源数量庞大,建议尽快保存全部或只保存自己可能需要的部分,避免资源和谐后无法获取。
  • 空间容量:如果你是没有使用过夸克网盘的用户,一定要使用手机【夸克APP】,先保存资源里面一个目录,在app里面点击查看任意文件之后,系统会送1T空间,这样子你才有足够的空间一次性保存下来,千万不要先使用电脑端或者网页保存,不然没有空间送。

📢 本站所有内容公开免费,不存在付费打包资源的说法,骗子很多,谨防上当
📢 如果你发现分享链接失效了,请在评论区留言,小黑看到后会第一时间补链
📢 本站分享的资源均来自互联网公开渠道,仅供个人学习和研究使用。如有版权问题,请联系我们删除
📢 本站不对分享的资源内容负责,也不代表我们认同其中的观点,请读者自行按需取用,仔细甄别

(0)
疯狂的小黑的头像疯狂的小黑
上一篇 2026年8月26日 上午6:32
下一篇 2026年8月26日 上午6:32

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

公众号