徐亦达教授在github公布了他的历年机器学习相关课件、视频，黄海广博士协助徐亦达老师对课件目录进行翻译和整理，并提供下载。

徐亦达老师简介

徐亦达，现任悉尼科技大学教授，UTS全球数据技术中心机器学习和数据分析实验室主任。主要研究方向是机器学习，数据分析和计算机视觉。他在国际重要期刊与会议发表数篇高影响因子论文；编写了大量的数理统计、概率和机器学习教材。

 

徐亦达老师的课件的目录

前言

• 笔记的视频演示

• 最近的研究讲义

• 噪声对比估计 (Noise Contrastive Estimation), 概率密度再参数化

一、基础知识

1.概率论与数理统计基础

• 贝叶斯模型

• 概率估计

• 统计属性

2.概率模型

• E-M算法

• 状态空间模型（动态模型）

3.高级概率模型

• 贝叶斯非参数（BNP）及其推导基础

• 贝叶斯非参数（BNP）扩展

• 行列式点过程

4.推导课件

• 变分推导

• 随机矩阵
  

• 蒙特卡洛简介

• 马尔可夫链蒙特卡洛

• 粒子滤波器（序列蒙特卡洛）

二、深度学习

• 优化方法

• 神经网络

• 卷积神经网络：从基础到最近的研究

• 词表示和近似Softmax

• 深度自然语言处理

• 深度增强学习

• 受限玻尔兹曼机

三、数据科学

• 30分钟介绍人工智能和机器学习

• 回归方法

• 推荐系统

• 降维

• 数据分析简介和相关的jupyternotebook

四、致谢

徐亦达老师的课件的内容简介及相关文件

前言

• 笔记的视频演示

简介：

徐亦达老师在2015年用中文录制了这些课件中约20％的内容 (备注：课件为全英文)，大家可以在YouTube、哔哩哔哩 以及优酷观看和下载。

YouTube：

https://www.youtube.com/channel/UConITmGn5PFr0hxTI2tWD4Q

哔哩哔哩：

https://space.bilibili.com/327617676

优酷：

http://i.youku.com/i/UMzIzNDgxNTg5Ng

 

• 最近的研究讲义

2018年7月在创新工厂和北大合办的DeeCamp的课件(当概率遇到神经网络)

简介：

主题包括：EM算法和矩阵胶囊网络;行列式点过程和神经网络压缩; 卡尔曼滤波器和LSTM; 模型估计和二分类问题关系。

文件：DeeCamp2018_Xu_final.pptx

 

• 噪声对比估计 (Noise Contrastive Estimation), 概率密度再参数化

简介：

噪声对比估计 (Noise Contrastive Estimation), 概率密度再参数化以及自然梯度的详细说明。

文件：selected_probability.pdf

一、基础知识

1.概率论与数理统计基础

• 贝叶斯模型 

简介：

贝叶斯模型的修订包括贝叶斯预测模型，条件期望。

文件：bayesian.pdf

 

• 概率估计

简介：一些有用的分布，共轭，MLE，MAP，指数族和自然参数。

文件：probability.pdf

• 统计属性

简介：有用的统计属性可以帮助我们证明事物，包括切比雪夫和马尔科夫不等式。

文件：statistics.pdf

 

2.概率模型

• E-M算法

简介： E-M的收敛证明，E-M到高斯混合模型的例子。 

文件：em.pdf，gmm_demo.m，kmeans_demo.m

优酷链接：http://v.youku.com/v_show/id_XMTM1MjY1MDU5Mg

 

• 状态空间模型（动态模型） 

简介：

详细解释了卡尔曼滤波器和隐马尔可夫模型。

文件：

dynamic_model.pdf，kalman_demo.m

优酷链接：

隐马尔可夫模型：http://v.youku.com/v_show/id_XMTM1MzQ1NDk5Ng

卡尔曼滤波： http://v.youku.com/v_show/id_XMTM2ODU1MzMzMg

 

3.高级概率模型

• 贝叶斯非参数（BNP）及其推导基础

简介： 

Dircihlet Process（DP），中国餐厅流程见解。

文件：

non_parametrics.pdf ，dirichlet_process.m， chinese_restaurant_process.ipynb

优酷链接：

http://v.youku.com/v_show/id_XMTM3NDY0MDkxNg

 

• 贝叶斯非参数（BNP）扩展

简介：

分层DP，HDP-HMM，印度自助餐过程（IBP）。

文件：non_parametrics_extensions.pdf

 

• 行列式点过程

简介：

解释DPP的边际分布，L-ensemble，其抽样策略，我们在时变DPP中的工作细节。

文件：dpp.pdf

 

4.推导课件 

•  变分推导

简介：

解释变分贝叶斯非指数和指数族分布加上随机变分推导。

文件：

variational.pdf ，vbnormalgamma.m

优酷链接：

http://v.youku.com/v_show/id_XMTM1Njc5NzkxNg

• 随机矩阵

简介：

随机矩阵，幂方法收敛定理，详细平衡和PageRank算法。

文件：stochastic_matrices.pdf

• 蒙特卡洛简介

简介：

逆CDF，消除，自适应消除，重要性采样。

文件：

introduction_monte_carlo.pdf ，adaptiverejectionsampling.m，hybrid_gmm.m

  

• 马尔可夫链蒙特卡洛

简介： 

M-H, Gibbs, SliceSampling,Elliptical Slice sampling, Swendesen-Wang, demonstrate collapsed GibbsusingLDA 

文件：

markov_chain_monte_carlo.pdf，ldagibbsexample.m ，test_autocorrelation.m， gibbs.m

优酷链接：

http://v.youku.com/v_show/id_XMTM1NjAyNDYyNA

 

• 粒子滤波器（序列蒙特卡洛）

简介： 

连续蒙特卡罗方法，冷凝滤波算法，辅助粒子滤波器。

文件：particle_filter.pdf

优酷链接：

http://v.youku.com/v_show/id_XMTM3MTE1Mjk2OA

 

二、深度学习

• 优化方法

简介：

常用的优化方法。不仅限于深度学习。

文件：optimization.pdf

 

• 神经网络

简介：

基本神经网络和多层感知器。

文件：neural_networks.pdf

• 卷积神经网络：从基础到最近的研究

简介：

卷积神经网络的详细解释，各种损失函数，中心损失函数，对比损失函数，残差网络，YOLO，SSD。

文件：cnn_beyond.pdf

 

• 词表示和近似Softmax

简介：

Word2Vec, skip-gram, GloVe, 噪声对比估计，负采样，Gumbel-max技巧。

文件：

word_vector.pdf

 

• 深度自然语言处理

简介：

RNN，LSTM，具有注意力机制的Seq2Seq，集束搜索，RNN，LSTM，具有注意力机制的Seq2Seq，集束搜索，Attention is all you need，卷积Seq2Seq，指针网络。

文件：deep_nlp.pdf

           

• 深度增强学习

简介：

强化学习的基础知识，马尔可夫决策过程，贝尔曼方程，并进入深度Q学习（正在建设中）

文件：dqn.pdf

 

• 受限玻尔兹曼机

简介：

受限玻尔兹曼机（RBM）的基础知识

文件：rbm_gan.pdf

三、数据科学

• 30分钟介绍人工智能和机器学习

简介：

用30分钟来介绍人工智能和机器学习。 （感谢徐亦达老师的博士生常皓东进行协助编辑）

文件：30_min_AI.pptx

 

• 回归方法

简介：

分类：Logistic回归和Softmax分类；回归：线性回归，多项式回归，混合效果模型。

文件：regression.pdf， costFunction.m，soft_max.m

  

• 推荐系统

简介：

协同过滤，分解机，非负矩阵分解，乘法更新规则。

文件：recommendation.pdf

 

• 降维

简介：

典型的PCA和 t-SNE。

文件：dimension_reduction.pdf

 

• 数据分析简介和相关的jupyternotebook

简介：

机器学习和数据科学的三个视角。 监督与无监督学习，分类准确性。

文件：AI_and_machine_learning.pdf

 

四、致谢

特别感谢徐亦达老师的博士生团队的协助一起校队课件，还有讨论以及对课件提出了许多非常宝贵的意见。其中(不完全的)包括了，常皓东，姜帅，黄皖鸣，邓辰，梁轩。特别感谢黄海广博士协助徐亦达老师将课件目录翻译成中文。

如果你想加入徐亦达老师的机器学习博士生团队或有兴趣实习, 请通过电子邮件：YiDa.Xu@uts.edu.au与徐亦达老师联系。

参考

徐亦达老师课件的github：

https://github.com/roboticcam/machine-learning-notes

完整讲义下载请回复“徐亦达”查看

也可以直接用百度云下载：

链接：https://pan.baidu.com/s/1SidOblKEJNEzSnVCuAWHhg 

提取码：uq4h 

请关注和分享↓↓↓ 

机器学习初学者

QQ群：654173748

往期精彩回顾

• 机器学习简易入门-附推荐学习资料

• 机器学习初学者公众号下载资源汇总（一）
  

• 黄海广博士的github镜像下载（机器学习及深度学习资源）

• 吴恩达老师的机器学习和深度学习课程笔记打印版
  

• 机器学习小抄-（像背托福单词一样理解机器学习）

• 首发：深度学习入门宝典-《python深度学习》原文代码中文注释版及电子书

• 科研工作者的神器-zotero论文管理工具

• 机器学习的数学基础