一、机器学习

1.机器学习是什么？

机器学习是将无序数据转换为价值的方法。

2.机器学习的价值

从数据中抽取规律，并预测未来。

3.机器学习的应用

（1）分类问题
图像识别、垃圾邮件识别。
（2）回归问题
股价预测、房价预测。
（3）排序问题
点击率预估、推荐。
（4）生成问题
图像生产、图像风格转换、图像文字描述生成。

4.机器学习流程

5.机器学习岗位职责

（1）数据处理(采集+去噪)
（2）模型训练(特征+模型)
（3）模型评估与优化(MSE、F1-score、AUC+调参)
（4）模型应用(A/B测试)

二、深度学习

1.人工智能、机器学习、深度学习

机器学习是实现人工智能的方法；
深度学习是实现机器学习算法的技术。

2.深度学习算法

（1）卷积神经网络
（2）循环神经网络
（3）自动编码器
（4）稀疏编码
（5）深度信念网络
（6）限制玻尔兹曼机
（7）深度强化学习=深度学习+强化学习

三、神经网络

1.神经元-------最小的神经网络

假设这个线性模型的函数： y=wx+b，其中x是一个1xn的向量矩阵，矩阵中的每个向量值即代表样本一个特征的值，w为nx1的权重矩阵（对应向量的所占的比重），b为偏置项。

2.目标函数

目标函数：衡量对数据的拟合程度。

3.神经网络训练

调整参数使模型在训练集上的损失函数最小。

梯度下降算法的主要目的是通过迭代找到目标函数的最小值，或者收敛到最小值。

4.编程范式：命令式编程(Imperative)、声明式编程(Declarative)和函数式编程(Functional)

命令式编程的主要思想是关注计算机执行的步骤，即一步一步告诉计算机先做什么再做什么。命令式编程关注的是具体步骤。在平时常见的编程范式就是命令式编程。

声明式编程是以数据结构的形式来表达程序执行的逻辑。它的主要思想是告诉计算机应该做什么，但不指定具体要怎么做。声明式编程关注的是最后的结果。在编程中，SQL是最好的声明式编程例子。

函数式编程在声明式编程基础上更进一步，将函数作为第一公民。lamda表达式就是对于函数式编程的支持。

四、卷积神经网络

反向传播的本质只是对链式法则的巧妙运用。
手撕反向传播公式推导https://cloud.tencent.com/developer/article/1829478