深度学习基础篇


- 深度学习

基础知识
- 距离计算
- 评估方式
- 优化策略
- 激活函数
- 损失函数
- 模型调优
- 归一化算法

卷积模型

- CNN综述
- 池化
- CNN模型的参数量与计算量计算
- 卷积算子

序列模型

- 词表示
- 循环神经网络RNN
- 长短时记忆网络LSTM
- 门控循环单元GRU

深度学习进阶篇


- 预训练模型

预训练模型是什么
- 预训练分词Subword
- ELMo
- Transformer
- Transformer-XL
- Longformer
- GPT
- XLNet
- BERT
- SpanBERT
- RoBERTa
- ERINE
- ERNIE 3.0
- ERNIE-Gram
- ERNIE-Doc
- THU-ERNIE
- KBERT
- ALBERT
- ELECTRA
- Performer

对抗神经网络

- 基本概念
- 编码器和解码器
- GAN应用
- GAN综述

深度学习应用篇


- 计算机视觉

图像增广

一、数据增广
- 二、常用数据增广方法
- 三、图像变换类
- 四、图像裁剪类
- 五、图像混叠
- 六、实验
- 参考文献
- 测试时增强

图像分类

- LeNet
- AlexNet
- VGG
- GoogLeNet
- DarkNet
- ResNet
- ResNeXt
- Res2Net
- Swin Transformer
- ViT

目标检测

- 目标检测综述
- 边界框(bounding box)
- 锚框(Anchor box)
- 交并比
- NMS
- SoftNMS

语义分割

- DeepLabV3
- 综述

OCR

- OCR综述
- OCR检测方法
- OCR识别方法

视频分类

- TSM
- TimeSformer

自然语言处理

- 命名实体识别

命名实体识别是什么
- 一文读懂BiLSTM+CRF实现命名实体识别

N-Gram

- 介绍
- 概率计算

SimCSE

- 1.介绍
- 2.对比学习背景
- 3.无监督SimCSE
- 4.有监督SimCSE
- 5.各向异性问题
- 6.实验细节
- 7.总结
- 8.参考文献

推荐系统

- 推荐系统基础

推荐系统的产生
- 应用场景
- 推荐系统的方法
- 推荐系统的组成

推荐系统的评价指标

- 场景转化指标
- 消费满意度
- 离线评估验证方法
- 离线评估的主要指标
- Replay
- 用户数据指标

DSSM

- 背景
- DSSM
- 参考文献

DeepFM

- 1.模型简介
- 2.DeepFM模型结构
- 3.FM
- 4.DNN
- 5.Loss及Auc计算
- 6.与其他模型的对比
- 7.参考文献

元学习

- 元学习概述

1 元学习概念
- 2 元学习含义
- 3 元学习单位
- 4 基学习器和元学习器
- 5 元学习工作原理
- 6 元学习关键
- 7 元学习分类

基于优化的元学习

- MAML
- Reptile
- LEO

基于度量的元学习

- SNAIL
- RN
- PN
- MN

基于模型的元学习

- Learning to Learn
- Meta-Learner LSTM

产业实践篇


- 模型压缩

模型压缩概述
- 模型蒸馏

模型部署

-

强化学习篇


- 强化学习

强化学习基础知识点
- 马尔科夫决策过程
- 策略梯度定理
- 蒙特卡洛策略梯度定理
- REINFORCE 算法
- SARSA
- Q-Learning
- DQN
- Actor-Critic

面试宝典


- 面试问题

深度学习基础
- 卷积模型
- 预训练模型
- 对抗神经网络
- 计算机视觉
- 自然语言处理
- 推荐系统
- 模型压缩
- 强化学习

Next 

参考资料:

https://paddlepedia.readthedocs.io/en/latest/index.html