1.2 what's is machine learning
考虑使用机器学习，相应问题应满足3要素：
- 问题具有某种特定的模式 pattern
- 问题不好用传统编码的形式解决 program
- 有较为充足的训练数据 data
林轩田机器学习基石-Notes
article/2025/11/6 23:40:32
相关文章
机器学习基石 7.4 Interpreting VC Dimension
文章目录 VC Bound Rephrase: Penalty for Model ComplexityTHE VC MessageVC Bound Rephrase: Sample ComplexityLooseness of VC BoundFun Time VC Bound Rephrase: Penalty for Model Complexity
VC Bound： 改述：好事情发生（GOOD…
机器学习基石(一)：什么是机器学习
一、文字定义 机器学习：从data出发，最终目标是提高可以衡量的某方面表现。 可以称为机器学习的话，这个任务必须有如下三点：
必然有某种潜在规律可以学习 例：预测下一次打喷嚏的时刻是奇数还是偶数，这个事情…
1）机器学习基石笔记Lecture1:The Learning Problem
网上关于机器学习的课程有很多，其中最著名的是吴恩达老师的课程，最近又发现了NTU林轩田老师的《机器学习基石》课程，这门课也很好。课程总共分为4部分，总共分为16节课，今天来记录第一节课。 When Can Machines Learn?…
林轩田机器学习基石笔记14：Validation
0. 前言
之前的课程讲解了为了避免overfitting，可以使用regularization方法来解决。在之前的 Ein E i n 上加上一个regularizer，生成 Eaug E a u g ，选择合适的 λ λ 将其最小化，通过减小模型复杂度来增加泛化能力。今天将会介绍…
![[林轩田]机器学习基石（三）](https://img-blog.csdn.net/20180731115743872?watermark/2/text/aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3Nqel9oYWhhbGFsYTQ3OQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70)
[林轩田]机器学习基石（三）
Lecture 3 Types Of Learning 学习的类型
ppt
3.1 Learning with Different Output Space Y Y 根据不同的输出空间学习分类分析：二元分类、多元分类
回归分析：输出是实数
结构化学习 3.2 Learning with Different Data Label yn" role="presentation" styl…
机器学习基石第十三讲笔记
Lecture 13: Hazard of Overfitting 过拟合的危险
13-1 什么是过拟合
失败的一般化：low Ein，high Eout。
VC维很大的时候，会造成过拟合。
VC维太小的时候，会造成欠拟合。
造成过拟合的原因：过大的VC维，…
《机器学习基石》笔记：第一讲
林轩田老师的《机器学习基石》和《机器学习技法》两门课程非常经典，从哲学原理讲到算法核心，深入浅出，非常详细。但存在两个问题： 1.林老师是台湾（省）人，很多舶来品词语的翻译和大陆不同&#…
机器学习基石 5.4 Break Point
文章目录 1. The Four Growth Functions2. Break Point of $\mathcal{H}$3. The Four Break Points4. Fun Time5. Summary 1. The Four Growth Functions
目前已知的4种成长函数： 如果成长函数是一个多项式（polynomial），那么右侧…
机器学习基石：PLA算法代码实现
一、前言
本篇是面向机器学习基石第一次作业而言。
15-20题都是需要编程实现才能正确做出选择。
前面14个选择题，我觉得题目出得并不好。这里就不再多说。主要面向最后的LPA和pocket算法的实现。
代码对应的gitee地址
二、PLA算法实现
数据集中每个样本都是的…
机器学习基石——作业2解答
机器学习基石——作业2解答 这里的 μ 指的是某个h(x)≈f(x)，对应的 Eout(h) 。其中目标函数 f(x) 是确定性的，没有噪声干扰。如果加上噪声，目标函数变为课中讲的概率分布 P(y│x) ，表示为 P(y│x){λ1−λyf(x)otherwize \begi…
台湾大学林轩田机器学习基石课程学习笔记3 -- Types of Learning
红色石头的个人网站：redstonewill.com 上节课我们主要介绍了解决线性分类问题的一个简单的方法：PLA。PLA能够在平面中选择一条直线将样本数据完全正确分类。而对于线性不可分的情况，可以使用Pocket Algorithm来处理。本节课将主要介绍一下机器…
林軒田《机器学习基石》课程总结
最近发布了一系列台湾大学资讯工程系林軒田（Hsuan-Tien Lin）教授开设的《机器学习基石》的课程总结，分为4个部分，点击标题可查看：
机器什么时候能够学习？（When Can Machines Learn？…
台大林轩田《机器学习基石》：作业三python实现
台大林轩田《机器学习基石》：作业一python实现 台大林轩田《机器学习基石》：作业二python实现 台大林轩田《机器学习基石》：作业三python实现 台大林轩田《机器学习基石》：作业四python实现
完整代码： https://github…
林轩田 《机器学习基石》学习笔记
参考资料： 除了redstone的笔记较好之外，还有豆瓣的https://www.douban.com/doulist/3381853/的笔记也比较好 -------------------------------------- 1. 什么时候机器可以学习？ 2. 为什么要要使用机器学习？ 3. 机器怎么可以学习到…
【机器学习】机器学习基石-林轩田-1-机器学习介绍
机器学习基石-1-机器学习介绍 本节内容What is Machine Learning？What is skill?Why use machine learning?When use machine learning?Key Essence of Machine LearningFun TimeApplications of Machine LearningComponents of Machine Learning相关术语Leanin…
机器学习基石 作业0
机器学习基石 作业0 1 Probability and Statistics2 Linear Algebra3 Caculus网上没找到作业0的答案，这是自己做的版本，有一些可能会有错误，欢迎讨论。 1 Probability and Statistics 用数学归纳法。N=1时满足，假定N=n满足，当N=n+1同样满足。得证。 10个挑4个正面 C 10 4…
机器学习基石 作业三
机器学习基石 作业三 代入计算 线性回归得到的映射函数 H H H的性质问题。显然映射多次与映射一次效果一样。其它的可以根据 H H H的性质，秩为d+1，显然不可逆。特征值的部分不是非常清楚，大概是根据 I − H I-H I−H的迹等于 N − ( d + 1 ) N-(d+1) N−(d+1)得到的。3. PLA…
机器学习基石 作业二
机器学习基石 作业二 1 计算一下本来预测对与预测错时加上噪音导致的错误率然后相加即可。 2 选择一个 λ \lambda λ的值让 μ \mu μ的系数为0。 3 根据VC bound 公式带入计算即可，N=46000的时候error最接近0.05。下面的代码可以计算不同的N与目标error之间的差距。
def …