Awesome
一、项目简介
本项目是飞桨官方出品的一站式深度学习在线百科，飞桨致力于让深度学习技术的创新与应用更简单，更多飞桨内容欢迎访问飞桨官网。本项目内容涵盖：
📒课程类：零基础实践深度学习、产业实践深度学习、特色课程、飞桨套件课程汇总资料
📒书籍类：《动手学深度学习》飞桨版
📒宝典类：深度学习百问、面试宝典
📒案例类：飞桨产业实践范例库（包含智慧城市：火灾烟雾检测、 安全帽检测 ；智能制造：钢材缺陷检测 、 机械手抓取；互联网：财报识别与关键字段抽取 等。
从理论到实践，从科研到产业应用，各类学习材料一应俱全，旨在帮助开发者高效地学习和掌握深度学习知识，快速成为AI跨界人才。
<center><img src="./docs/images/cover/repo_cover1.png" width=60%></center>- 内容全面：无论您是深度学习初学者，还是资深用户，都可以在本项目中快速获取到需要的学习材料。
- 形式丰富：材料形式多样，包括可在线运行的notebook、视频、书籍、B站直播等，满足您随时随地学习的需求。
- 实时更新：本项目中涉及到的代码均匹配Paddle最新发布版本，开发者可以实时学习最新的深度学习任务实现方案。
- 前沿分享：定期分享顶会最新论文解读和代码复现，开发者可以实时掌握最新的深度学习算法。
<span id = '0'>如果本项目对您有帮助，欢迎点击网页右上方进行star❤️</span>
👨🏫我是高校用户
| 我希望： | 我可以学习： |
|---|---|
| 入门深度学习 | 零基础实践深度学习:arrow_heading_down:、深度学习百问:arrow_heading_down:、动手学深度学习paddle版:arrow_heading_down: |
| 进阶深度学习 | 产业实践深度学习、深度学习百问:arrow_heading_down:、面试宝典:arrow_heading_down: |
| 趣味深度学习 | 特色课程:arrow_heading_down:、飞桨产业实践范例库 |
👨💻我是企业用户
| 我希望： | 我可以学习： |
|---|---|
| 入门深度学习 | 零基础实践深度学习:arrow_heading_down:、深度学习百问:arrow_heading_down:、动手学深度学习paddle版:arrow_heading_down: |
| 进阶深度学习 | 产业实践深度学习、特色课程:arrow_heading_down:、面试宝典:arrow_heading_down: |
| 实践深度学习 | 飞桨产业实践范例库、飞桨各产品课程:arrow_heading_down: |
二、项目内容
👉课程类
<span id =1> 零基础实践深度学习</span>
-
AI Studio在线课程：《零基础实践深度学习》：理论和代码结合、实践与平台结合，包含20小时视频课程，由百度杰出架构师、飞桨产品负责人和资深研发人员共同打造。
<center><img src="./docs/images/cover/0_cover.png"/></center><br></br> -
《零基础实践深度学习》书籍：本课程配套书籍，由清华出版社2020年底发行，京东/当当等电商均有销售。
<center><img src="https://github.com/ZhangHandi/images-for-paddledocs/blob/main/images/readme/book.png?raw=true"/></center><br></br>
<span id ='3'>特色课 - Transformer系列</span>
飞桨教育官方出品的Transformer系列内容解读可以参考以下两个平台。
-
Transformer原理和实践系列课：https://aistudio.baidu.com/aistudio/education/group/info/24683
-
飞桨教育官方账号：https://aistudio.baidu.com/aistudio/personalcenter/thirdview/908086
| 领域 | 章节名称 | 课程简介 | notebook链接 |
|---|---|---|---|
| NLP | 经典的预训练语言模型(上)-预训练模型发展历史 | 介绍预训练语言模型的发展历史，word2vec，elmo，bert，gpt，bert一些拓展。 | notebook链接 |
| NLP | 经典的预训练模型(上)-ELMo | 全面详细的介绍ELMo模型结构，优缺点等。 | notebook链接 |
| NLP | 经典的预训练模型(上)-Transformer | 讲解Transformer的基本原理，包括Embedding，self-attention，encoder，decoder，复杂度计算，共享机制等内容。 | notebook链接 |
| NLP | 经典的预训练模型(下)-GPT | 全面详细的介绍GPT的原理，预训练和finetune模式，GPT模型结构，优缺点等。 | notebook链接 |
| NLP | 经典的预训练模型(下)-BERT | 全面详细的介绍BERT的基本原理，预训练任务和fine tune的方式，BERT本身的模型结构，优缺点等。 | notebook链接 |
| NLP | 预训练模型之自然语言理解-RoBERTa | 讲解预训练模型在自然语言理解方面的改进--RoBERTa | notebook链接 |
| NLP | 预训练模型之自然语言理解-ERNIE | 讲解预训练模型之自然语言理解的改进：ERNIE | notebook链接 |
| NLP | 预训练模型之自然语言理解-KBERT | 讲解预训练模型之自然语言理解的改进：KBERT | notebook链接 |
| NLP | 预训练模型之自然语言理解-THU-ERNIE | 讲解预训练模型之自然语言理解的改进：THU-ERNIE | notebook链接 |
| NLP | 预训练模型之长序列建模-Transformer-XL | 讲解预训练模型之长序列建模的改进：Transformer-XL | notebook链接 |
| NLP | 预训练模型之长序列建模-XLNet | 讲解自然语言理解之长序列建模的改进：XLNet | notebook链接 |
| NLP | 预训练模型之长序列建模-Longformer | 讲解预训练模型之长序列建模的改进：Longformer | notebook链接 |
| 模型优化 | 预训练模型-高效结构 | 基于ELECTRA的标点符号预测 | notebook链接 |
| 模型优化 | 预训练模型-蒸馏 | 预训练模型蒸馏算法：Patient-KD、DistilBERT、TinyBERT、DynaBERT模型详解，以及使用DynaBERT策略对TinyBERT进行模型蒸馏 | notebook链接 |
| CV | 图像领域的Transformer-Vit,DeiT | 详细讲解ViT 以及 DeiT原理 | notebook链接 |
| CV | 图像领域的Transformer-Swin Transformer | 详细讲解Swin Transformer原理 | notebook链接 |
| CV | CV领域的Transformer模型DETR在目标检测任务中的应用 | 详细讲解DETR原理及代码解析 | notebook链接 |
👉书籍类
<span id ='dive'>《动手学深度学习》paddle版</span>
本项目将《动手学深度学习》原书中MXNet代码实现改为PaddlePaddle实现。原书作者：阿斯顿·张、李沐、扎卡里 C. 立顿、亚历山大 J. 斯莫拉以及其他社区贡献者，GitHub地址：https://github.com/d2l-ai/d2l-zh。
本项目面向对深度学习感兴趣，尤其是想使用PaddlePaddle进行深度学习的童鞋。本项目并不要求你有任何深度学习或者机器学习的背景知识，你只需了解基础的数学和编程，如基础的线性代数、微分和概率，以及基础的Python编程。
<div align=center> <img width="500" src="./Dive-into-DL-paddlepaddle/docs/img/cover.jpg"> </div> 返回[:arrow_heading_up:](#0)👉宝典类
<span id ='2'>深度学习百问</span>
深度学习百问内容包含深度学习基础篇、深度学习进阶篇、深度学习应用篇、强化学习篇以及面试宝典，详细信息请参阅Paddle知识点文档平台。
-
深度学习基础篇
-
深度学习进阶篇
-
深度学习应用篇
-
产业实践篇
-
强化学习篇
-
<span id ='6'>面试宝典</span>
👉案例类
<span id ='5'>飞桨应用案例集</span>
<span id ='5'>飞桨学术案例集</span>
👉竞赛类
| 领域 | 竞赛案例 | 来源 | 介绍 |
|---|---|---|---|
| 机器学习 | 【Paddle打比赛】个贷违约预测Baseline+ 0.607 | 开发者w5688414 | DataFountain个贷违约预测，参考官方的baseline并用paddle进行改进 |
| NLP | 【Paddle打比赛】讯飞赛题—中文问题相似度挑战赛0.9+Baseline | PaddleEdu | 中文问题相似度挑战赛paddle版本Baseline，基于paddlenlp通过预训练模型的微调完成问题相似度评定任务 |
| NLP | 基于PaddleHub的疫情期间网民情绪识别 | 开发者CChan | 本项目为疫情期间网民情绪识别比赛的解决方案。使用了PaddleHub和ERNIE实现对疫情期间微博文本的情绪识别。 |
| NLP | 【Paddle打比赛】产品评论观点提取竞赛baseline | 开发者w5688414 | DataFountain基于BERT的产品评论观点提取竞赛baseline，增加了优化方法 |
| NLP | 【Paddle打比赛】剧本角色情感识别baseline-精度0.676 | 开发者w5688414 | 剧本角色情感识别baseline，使用bert模型 |
| 语音 | 【Paddle打比赛】语音合成 | 开发者XYZ_916 | 2021 新网银行智能语音大赛baseline。截止2021.11.17，该方案在总分榜第一，作品榜第二 |
| CV | 中文场景文字识别挑战赛baseline | 小度AIStudio | 中文场景文字识别挑战赛的baseline项目, 用于参赛选手借鉴参考 |
| CV | 【Paddle打比赛】手写字体OCR识别竞赛baseline | 开发者Pink peach | 2021世界人工智能创新大赛，手写字体OCR识别竞赛baseline |
| CV | 2020 CCF BDCI: 遥感影像地块分割baseline | 开发者lxastro | 2020 CCF BDCI: 遥感影像地块分割的baseline模型库，包括baseline模型的训练方法和比赛的评测脚本。 |
| CV | 第三届中国AI+创新创业大赛：半监督学习目标定位竞赛第1名方案 | 开发者张牙舞爪 | 半监督学习目标定位竞赛第一名方案分享 A榜得分0.81425 B榜得分0.80428 |
| 数据挖掘 | 【Padddle打比赛】心电图智能诊断竞赛Baseline-0.6765 | 开发者w5688414 | AIWIN 心电图智能诊断竞赛 |
👉汇总
<span id='fj'>飞桨各产品学习资料汇总</span>
| 产品 | 视频课程 | 学习文档 |
|---|---|---|
| PaddleGAN | 生成对抗网络七日打卡营 | |
| PaddleOCR | OCR自动标注小工具讲解、3.5M超轻量实用OCR模型解读、OCR应用与部署实战 | |
| PaddleClas | PaddleClas系列直播课 | |
| PaddleDetection | 目标检测7日打卡营 | |
| PaddleX | PaddleX实例分割任务详解、PaddleX目标检测任务详解、PaddleX语义分割任务详解、PaddleX图像分类任务详解、PaddleX客户端操作指南、飞桨全流程开发工具PaddleX | |
| <span id ='hub'>PaddleHub</span> | 手把手教你转换PaddleHub模型教程 | |
| <span id = 'vdl'>VDL</span> | 可视化分析工具助力AI算法快速开发、深度学习算法可视化调优实战演示 | |
| 高层API | 高层API助你快速上手深度学习 | |
| <span id='nlp'>PaddleNLP</span> | 基于深度学习的自然语言处理 |
三、技术交流
非常感谢您使用本项目。您在使用过程中有任何建议或意见，可以在 Issue 上反馈给我们，也可以通过扫描下方的二维码联系我们，飞桨的开发人员非常高兴能够帮助到您，并与您进行更深入的交流和技术探讨。
<center><img src="https://github.com/ZhangHandi/images-for-paddledocs/blob/main/images/readme/qr_code.png?raw=true"/></center><br></br>四、许可证书
本项目的发布受Apache 2.0 license许可认证。
五、贡献内容
本项目的不断成熟离不开各位开发者的贡献，如果您对深度学习知识分享感兴趣，非常欢迎您能贡献给我们，让更多的开发者受益。
本项目欢迎任何贡献和建议，大多数贡献都需要你同意参与者许可协议（CLA）来声明你有权并实际上授权我们可以使用你的贡献。
代码贡献规范
pip install pre-commit
pre-commit install
添加修改的代码后，对修改的文件进行代码规范，pre-commit 会自动调整代码格式，执行一次即可，后续commit不需要再执行。提交pr流程，详见：awesome-DeepLearning 提交 pull request 流程。
贡献者
以下是awesome-DeepLearning贡献者列表： yang zhou，Niki_173，Twelveeee，buriedms，AqourAreA，zhangjin12138，rerny，LiuCongNLP，LemonCherryFu, lutianhao