机器学习部分

余下的任务安排是以PPT的形式讲解，没有相关的讲义给出。后续会给出作业的版本。

assignment1

• 基础：Git、Python基础学习
• 算法：k-NN
• 作业：CIFAR-10 图像分类

assignment2

• 算法：Linear Regression （线性回归）
• 优化：梯度下降法
• 作业：Boston House Price Predict

assignment3

• 算法：Logistic Regression（对数几率回归），sigmoid 函数
• 作业：MNIST 手写数字识别
• Bonus：完成Softmax CIFAR-10图像分类，以及类比 Softmax与Logistic的关系。

assignment4

• SVM介绍 （参考书籍：周志华机器学习）
• 算法：SVM Hinge Loss
• 作业：CIFAR-10图像分类

assignment5

• Neural Network介绍
• forward pass 、 backpropagation介绍
• 作业：two-layer Neural Network CIFAR-10图像分类

assignment6

• Neural Network 模块化实现
• batch normalization介绍
• dropout介绍
• 作业：改进 Neural Network 代码。
• Bonus: Batch Normalization层的forward pass跟backpropagation实现

assignment7

• CNN 介绍
• 概念：卷积, Pooling, Stride, Padding, Learning Rate, Momentum, Softmax, ReLU, BP, SGD, Cross-Entropy Loss。
• 作业：CNN MNIST数字序列识别、CIFAR-10图像分类。