深度学习基础篇

  • 深度学习

基础知识

  • 距离计算
  • 评估方式
  • 优化策略
  • 激活函数
  • 损失函数
  • 模型调优
  • 归一化算法

卷积模型

  • CNN综述
  • 池化
  • CNN模型的参数量与计算量计算
  • 卷积算子

序列模型

  • 词表示
  • 循环神经网络RNN
  • 长短时记忆网络LSTM
  • 门控循环单元GRU

深度学习进阶篇

  • 预训练模型

预训练模型是什么

  • 预训练分词Subword
  • ELMo
  • Transformer
  • Transformer-XL
  • Longformer
  • GPT
  • XLNet
  • BERT
  • SpanBERT
  • RoBERTa
  • ERINE
  • ERNIE 3.0
  • ERNIE-Gram
  • ERNIE-Doc
  • THU-ERNIE
  • KBERT
  • ALBERT
  • ELECTRA
  • Performer

对抗神经网络

  • 基本概念
  • 编码器和解码器
  • GAN应用
  • GAN综述

深度学习应用篇

  • 计算机视觉

图像增广

一、数据增广

  • 二、常用数据增广方法
  • 三、图像变换类
  • 四、图像裁剪类
  • 五、图像混叠
  • 六、实验
  • 参考文献
  • 测试时增强

图像分类

  • LeNet
  • AlexNet
  • VGG
  • GoogLeNet
  • DarkNet
  • ResNet
  • ResNeXt
  • Res2Net
  • Swin Transformer
  • ViT

目标检测

  • 目标检测综述
  • 边界框（bounding box）
  • 锚框（Anchor box）
  • 交并比
  • NMS
  • SoftNMS

语义分割

  • DeepLabV3
  • 综述

OCR

  • OCR综述
  • OCR检测方法
  • OCR识别方法

视频分类

  • TSM
  • TimeSformer

自然语言处理

  • 命名实体识别

命名实体识别是什么

  • 一文读懂BiLSTM+CRF实现命名实体识别

N-Gram

  • 介绍
  • 概率计算

SimCSE

  • 1.介绍
  • 2.对比学习背景
  • 3.无监督SimCSE
  • 4.有监督SimCSE
  • 5.各向异性问题
  • 6.实验细节
  • 7.总结
  • 8.参考文献

推荐系统

  • 推荐系统基础

推荐系统的产生

  • 应用场景
  • 推荐系统的方法
  • 推荐系统的组成

推荐系统的评价指标

  • 场景转化指标
  • 消费满意度
  • 离线评估验证方法
  • 离线评估的主要指标
  • Replay
  • 用户数据指标

DSSM

  • 背景
  • DSSM
  • 参考文献

DeepFM

  • 1.模型简介
  • 2.DeepFM模型结构
  • 3.FM
  • 4.DNN
  • 5.Loss及Auc计算
  • 6.与其他模型的对比
  • 7.参考文献

元学习

  • 元学习概述

1 元学习概念

  • 2 元学习含义
  • 3 元学习单位
  • 4 基学习器和元学习器
  • 5 元学习工作原理
  • 6 元学习关键
  • 7 元学习分类

基于优化的元学习

  • MAML
  • Reptile
  • LEO

基于度量的元学习

  • SNAIL
  • RN
  • PN
  • MN

基于模型的元学习

  • Learning to Learn
  • Meta-Learner LSTM

产业实践篇

  • 模型压缩

模型压缩概述

  • 模型蒸馏

模型部署

强化学习篇

  • 强化学习

强化学习基础知识点

  • 马尔科夫决策过程
  • 策略梯度定理
  • 蒙特卡洛策略梯度定理
  • REINFORCE 算法
  • SARSA
  • Q-Learning
  • DQN
  • Actor-Critic

面试宝典

  • 面试问题

深度学习基础

  • 卷积模型
  • 预训练模型
  • 对抗神经网络
  • 计算机视觉
  • 自然语言处理
  • 推荐系统
  • 模型压缩
  • 强化学习

Next 

参考资料：

https://paddlepedia.readthedocs.io/en/latest/index.html