人工智能AI：Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战（不定时更新）

计算机视觉

最近邻分类器、L1与L2距离

人工神经网络(ANN/NN)、感知机(PLA)

损失函数(交叉熵损失cross-entropy、对数似然损失、多分类SVM损失(合页损失hinge loss))、Softmax分类器和交叉熵损失cross-entropy

前向传播、反向传播(后向传播)、梯度下降、导数、链式法则

浅层神经网络/深层神经网络的前向传播与反向传播计算过程、非线性的激活函数(Sigmoid、Tanh、Relu、Leaky ReLU)、参数与超参数

局部最优、梯度消失、鞍点、海森矩阵(Hessian Matric)、批梯度下降算法(btach批梯度下降法BGD、小批量梯度下降法Mini-Batch GD、随机梯度下降法SGD)

动量梯度下降(Momentum、指数加权平均)、逐参数适应学习率方法(Adagrad、RMSprop、Adam)、学习率退火、归一化/标准化

偏差与方差、L1正则化、L2正则化、dropout正则化、神经网络调优、批标准化Batch Normalization(BN层)、Early Stopping、数据增强

卷积神经网络CNN、感受野、边缘检测、卷积层(零填充padding、步长、多通道卷积、多卷积核)、池化层Pooling、全连接层

LeNet-5、AlexNet、NIN、VGG(VGG16、VGG19)、GoogLeNet(Inception v1 v2 v3 v4)、Xception、ResNet、DenseNet

深度学习框架 TensorFlow：张量、自动求导机制、tf.keras模块(Model、layers、losses、optimizer、metrics)、多层感知机(即多层全连接神经网络 MLP)

Keras 实现卷积神经网络识别手写数字、迁移学习以及tf.keras.applications使用

Keras的Sequential/Functional API两种方式构建模型、保存模型/权重和恢复模型/权重、自定义 层Layer/损失函数Loss/评估指标Metric

callbacks回调函数(Checkpoint、TensorBoard)、tf.data、ImageDataGenerator

Tensorflow执行模式：Eager Execution动态图模式、Graph Execution图模式、@tf.function实现Graph Execution图模式、tf.Session

TensorFlow分布式训练：单机多卡训练MirroredStrategy、多机训练MultiWorkerMirroredStrategy

垃圾分类、EfficientNet模型、数据增强(ImageDataGenerator)、混合训练Mixup、Random Erasing随机擦除、标签平滑正则化、tf.keras.Sequence

垃圾分类、EfficientNet模型B0~B7、Rectified Adam(RAdam)、Warmup、带有Warmup的余弦退火学习率衰减

tf.saved_model.save模型导出、TensorFlow Serving模型部署、TensorBoard中的HParams 超参数调优

目标检测

目标检测：R-CNN

目标检测：SPPNet

目标检测：Fast R-CNN

目标检测：Faster R-CNN、Faster RCNN接口

目标检测：YOLO V1、YOLO V2、YOLO V3 算法

目标检测：SSD 算法

KITTI自动驾驶数据集的训练和检测过程(人、车检测案例)、KITTI数据集的TFRecord格式存储、YOLO V3/Yolo V3 Tiny 迁移学习

目标分割

目标分割：FCN全卷积网络、上采样upsample、反卷积/转置卷积Conv2DTranspose、跳跃连接skip layers实现融合预测fusion prediction

目标分割：SegNet、U-Net

目标分割：DeepLab V1、DeepLab V2、DeepLab V3、DeepLab V3+、ASPP/ASPP+、Encoder-Decoder、CRF

计算IoU：计算交并比

目标分割：Mask RCNN

目标分割：Mask RCNN 气球分割案例 part1

目标分割：Mask RCNN 气球分割案例 part2

目标追踪：FCNT、GOTURN、SiamFC

OpenCV简介

OpenCV：图像读取/保存、绘制直线/圆形/矩形、获取并修改图像中的像素点、图像通道的拆分与合并

OpenCV 算数操作：图像的加法、图像的混合

OpenCV 图像处理：几何变换、图像缩放、图像平移、图像旋转、仿射变换、透射变换、图像金字塔

OpenCV 图像处理：形态学操作、连通性、腐蚀和膨胀、开运算/闭运算、礼帽和黑帽

OpenCV 图像平滑：椒盐噪声、高斯噪声、平均滤波、高斯滤波、中值滤波

OpenCV：模版匹配、霍夫变换、霍夫线检测、霍夫圆检测

OPenCV：傅里叶变换、时域和频域、频谱和相位谱、傅里叶级数、离散傅里叶变换(DFT)、频域滤波、高通和低通滤波器、带通和带阻滤波器

OpenCV：轮廓检测、查找轮廓、绘制轮廓、凸包、图像的矩特征

OpenCV：图像分割、阈值分割、全阈值分割、自适应阈值分割、Otsu 阈值(大津法)、分水岭算法、GrabCut算法

OpenCV：直方图、灰度直方图、掩膜、直方图均衡化

OpenCV：边缘检测、Sobel检测算子、Laplacian算子、Canny边缘检测

OpenCV 图像特征提取：角点特征、Harris和Shi-Tomas算法、SIFT/SURF算法、Fast和ORB算法

OpenCV：LBP和HOG特征算子

OpenCV：视频读写、从文件中读取视频并播放、保存视频

OpenCV：视频追踪、meanshift算法、Camshift算法

OpenCV：人脸检测、Haar特征分类器、OpenCV中自带已训练好的检测器