第1页 / 共294页
第2页 / 共294页
第3页 / 共294页
第4页 / 共294页
第5页 / 共294页
第6页 / 共294页
第7页 / 共294页
第8页 / 共294页
斯坦福大学吴恩达2014机器学习个人笔记完整版v5.3-A4打印版.pdf
第1周
1、 引言(Introduction)
1.1 欢迎
参考视频: 1 - 1 - Welcome (7 min).mkv
1.2 机器学习是什么？
参考视频: 1 - 2 - What is Machine Learning_ (7 min).mkv
1.3 监督学习
参考视频: 1 - 3 - Supervised Learning (12 min).mkv
1.4 无监督学习
参考视频: 1 - 4 - Unsupervised Learning (14 min).mkv
2、 单变量线性回归(Linear Regression with One Variable)
2.1 模型表示
参考视频: 2 - 1 - Model Representation (8 min).mkv
2.2 代价函数
参考视频: 2 - 2 - Cost Function (8 min).mkv
2.3 代价函数的直观理解I
参考视频: 2 - 3 - Cost Function - Intuition I (11 min).mkv
2.4 代价函数的直观理解II
参考视频: 2 - 4 - Cost Function - Intuition II (9 min).mkv
2.5 梯度下降
参考视频: 2 - 5 - Gradient Descent (11 min).mkv
2.6 梯度下降的直观理解
参考视频: 2 - 6 - Gradient Descent Intuition (12 min).mkv
2.7 梯度下降的线性回归
参考视频: 2 - 7 - GradientDescentForLinearRegression (6 min).mkv
2.8 接下来的内容
参考视频: 2 - 8 - What_'s Next (6 min).mkv
3、 线性代数回顾(Linear Algebra Review)
3.1 矩阵和向量
参考视频: 3 - 1 - Matrices and Vectors (9 min).mkv
3.2 加法和标量乘法
参考视频: 3 - 2 - Addition and Scalar Multiplication (7 min).mkv
3.3 矩阵向量乘法
参考视频: 3 - 3 - Matrix Vector Multiplication (14 min).mkv
3.4 矩阵乘法
参考视频: 3 - 4 - Matrix Matrix Multiplication (11 min).mkv
3.5 矩阵乘法的性质
参考视频: 3 - 5 - Matrix Multiplication Properties (9 min).mkv
3.6 逆、转置
参考视频: 3 - 6 - Inverse and Transpose (11 min).mkv
第2周
4、 多变量线性回归(Linear Regression with Multiple Variables)
4.1 多维特征
参考视频: 4 - 1 - Multiple Features (8 min).mkv
4.2 多变量梯度下降
参考视频: 4 - 2 - Gradient Descent for Multiple Variables (5 min).mkv
4.3 梯度下降法实践1-特征缩放
参考视频: 4 - 3 - Gradient Descent in Practice I - Feature Scaling (9 min).mkv
4.4 梯度下降法实践2-学习率
参考视频: 4 - 4 - Gradient Descent in Practice II - Learning Rate (9 min).mkv
4.5 特征和多项式回归
参考视频: 4 - 5 - Features and Polynomial Regression (8 min).mkv
4.6 正规方程
参考视频: 4 - 6 - Normal Equation (16 min).mkv
4.7 正规方程及不可逆性（选修）
参考视频: 4 - 7 - Normal Equation Noninvertibility (Optional) (6 min).mkv
5、 Octave教程(Octave Tutorial)
5.1 基本操作
参考视频: 5 - 1 - Basic Operations (14 min).mkv
5.2 移动数据
参考视频: 5 - 2 - Moving Data Around (16 min).mkv
5.3 计算数据
参考视频: 5 - 3 - Computing on Data (13 min).mkv
5.4 绘图数据
参考视频: 5 - 4 - Plotting Data (10 min).mkv
5.5 控制语句：for，while，if语句
参考视频: 5 - 5 - Control Statements_ for, while, if statements (13 min).mkv
5.6 向量化
参考视频: 5 - 6 - Vectorization (14 min).mkv
5.7 工作和提交的编程练习
参考视频: 5 - 7 - Working on and Submitting Programming Exercises (4 min).mkv
第3周
6、 逻辑回归(Logistic Regression)
6.1 分类问题
参考文档: 6 - 1 - Classification (8 min).mkv
6.2 假说表示
参考视频: 6 - 2 - Hypothesis Representation (7 min).mkv
6.3 判定边界
参考视频: 6 - 3 - Decision Boundary (15 min).mkv
6.4 代价函数
参考视频: 6 - 4 - Cost Function (11 min).mkv
6.5 简化的成本函数和梯度下降
参考视频: 6 - 5 - Simplified Cost Function and Gradient Descent (10 min).mkv
6.6 高级优化
参考视频: 6 - 6 - Advanced Optimization (14 min).mkv
6.7 多类别分类：一对多
参考视频: 6 - 7 - Multiclass Classification_ One-vs-all (6 min).mkv
7、 正则化(Regularization)
7.1 过拟合的问题
参考视频: 7 - 1 - The Problem of Overfitting (10 min).mkv
7.2 代价函数
参考视频: 7 - 2 - Cost Function (10 min).mkv
7.3 正则化线性回归
参考视频: 7 - 3 - Regularized Linear Regression (11 min).mkv
7.4 正则化的逻辑回归模型
参考视频: 7 - 4 - Regularized Logistic Regression (9 min).mkv
第4周
8、 神经网络：表述(Neural Networks: Representation)
8.1 非线性假设
参考视频: 8 - 1 - Non-linear Hypotheses (10 min).mkv
8.2 神经元和大脑
参考视频: 8 - 2 - Neurons and the Brain (8 min).mkv
8.3 模型表示1
参考视频: 8 - 3 - Model Representation I (12 min).mkv
8.4 模型表示2
参考视频: 8 - 4 - Model Representation II (12 min).mkv
8.5 特征和直观理解1
参考视频: 8 - 5 - Examples and Intuitions I (7 min).mkv
8.6 样本和直观理解II
参考视频: 8 - 6 - Examples and Intuitions II (10 min).mkv
8.7 多类分类
参考视频: 8 - 7 - Multiclass Classification (4 min).mkv
第5周
9、 神经网络的学习(Neural Networks: Learning)
9.1 代价函数
参考视频: 9 - 1 - Cost Function (7 min).mkv
9.2 反向传播算法
参考视频: 9 - 2 - Backpropagation Algorithm (12 min).mkv
9.3 反向传播算法的直观理解
参考视频: 9 - 3 - Backpropagation Intuition (13 min).mkv
9.4 实现注意：展开参数
参考视频: 9 - 4 - Implementation Note_ Unrolling Parameters (8 min).mkv
9.5 梯度检验
参考视频: 9 - 5 - Gradient Checking (12 min).mkv
9.6 随机初始化
参考视频: 9 - 6 - Random Initialization (7 min).mkv
9.7 综合起来
参考视频: 9 - 7 - Putting It Together (14 min).mkv
9.8 自主驾驶
参考视频: 9 - 8 - Autonomous Driving (7 min).mkv
第6周
10、 应用机器学习的建议(Advice for Applying Machine Learning)
10.1 决定下一步做什么
参考视频: 10 - 1 - Deciding What to Try Next (6 min).mkv
10.2 评估一个假设
参考视频: 10 - 2 - Evaluating a Hypothesis (8 min).mkv
10.3 模型选择和交叉验证集
参考视频: 10 - 3 - Model Selection and Train_Validation_Test Sets (12 min).mkv
10.4 诊断偏差和方差
参考视频: 10 - 4 - Diagnosing Bias vs. Variance (8 min).mkv
10.5 正则化和偏差/方差
参考视频: 10 - 5 - Regularization and Bias_Variance (11 min).mkv
10.6 学习曲线
参考视频: 10 - 6 - Learning Curves (12 min).mkv
10.7 决定下一步做什么
11、 机器学习系统的设计(Machine Learning System Design)
11.1 首先要做什么
参考视频: 11 - 1 - Prioritizing What to Work On (10 min).mkv
11.2 误差分析
参考视频: 11 - 2 - Error Analysis (13 min).mkv
11.3 类偏斜的误差度量
参考视频: 11 - 3 - Error Metrics for Skewed Classes (12 min).mkv
11.4 查准率和查全率之间的权衡
参考视频: 11 - 4 - Trading Off Precision and Recall (14 min).mkv
11.5 机器学习的数据
参考视频: 11 - 5 - Data For Machine Learning (11 min).mkv
第7周
12、 支持向量机(Support Vector Machines)
12.1 优化目标
参考视频: 12 - 1 - Optimization Objective (15 min).mkv
12.2 大边界的直观理解
参考视频: 12 - 2 - Large Margin Intuition (11 min).mkv
12.3 数学背后的大边界分类（选修）
参考视频: 12 - 3 - Mathematics Behind Large Margin Classification (Optional) (20 min).mkv
12.4 核函数1
参考视频: 12 - 4 - Kernels I (16 min).mkv
12.5 核函数2
参考视频: 12 - 5 - Kernels II (16 min).mkv
12.6 使用支持向量机
参考视频: 12 - 6 - Using An SVM (21 min).mkv
第8周
13、 聚类(Clustering)
13.1 无监督学习：简介
参考视频: 13 - 1 - Unsupervised Learning_ Introduction (3 min).mkv
13.2 K-均值算法
参考视频: 13 - 2 - K-Means Algorithm (13 min).mkv
13.3 优化目标
参考视频: 13 - 3 - Optimization Objective (7 min).mkv
13.4 随机初始化
参考视频: 13 - 4 - Random Initialization (8 min).mkv
13.5 选择聚类数
参考视频: 13 - 5 - Choosing the Number of Clusters (8 min).mkv
14、 降维(Dimensionality Reduction)
14.1 动机一：数据压缩
参考视频: 14 - 1 - Motivation I_ Data Compression (10 min).mkv
14.2 动机二：数据可视化
参考视频: 14 - 2 - Motivation II_ Visualization (6 min).mkv
14.3 主成分分析问题
参考视频: 14 - 3 - Principal Component Analysis Problem Formulation (9 min). mkv
14.4 主成分分析算法
参考视频: 14 - 4 - Principal Component Analysis Algorithm (15 min).mkv
14.5 选择主成分的数量
参考视频: 14 - 5 - Choosing The Number Of Principal Components (13 min).mkv
14.6 重建的压缩表示
参考视频: 14 - 6 - Reconstruction from Compressed Representation (4 min).mkv
14.7 主成分分析法的应用建议
参考视频: 14 - 7 - Advice for Applying PCA (13 min).mkv
第9周
15、 异常检测(Anomaly Detection)
15.1 问题的动机
参考文档: 15 - 1 - Problem Motivation (8 min).mkv
15.2 高斯分布
参考视频: 15 - 2 - Gaussian Distribution (10 min).mkv
15.3 算法
参考视频: 15 - 3 - Algorithm (12 min).mkv
15.4 开发和评价一个异常检测系统
参考视频: 15 - 4 - Developing and Evaluating an Anomaly Detection System (13 min). mkv
15.5 异常检测与监督学习对比
参考视频: 15 - 5 - Anomaly Detection vs. Supervised Learning (8 min).mkv
15.6 选择特征
参考视频: 15 - 6 - Choosing What Features to Use (12 min).mkv
15.7 多元高斯分布（选修）
参考视频: 15 - 7 - Multivariate Gaussian Distribution (Optional) (14 min).mkv
15.8 使用多元高斯分布进行异常检测（选修）
参考视频: 15 - 8 - Anomaly Detection using the Multivariate Gaussian Distribution (Optional) (14 min).mkv
16、 推荐系统(Recommender Systems)
16.1 问题形式化
参考视频: 16 - 1 - Problem Formulation (8 min).mkv
16.2 基于内容的推荐系统
参考视频: 16 - 2 - Content Based Recommendations (15 min).mkv
16.3 协同过滤
参考视频: 16 - 3 - Collaborative Filtering (10 min).mkv
16.4 协同过滤算法
参考视频: 16 - 4 - Collaborative Filtering Algorithm (9 min).mkv
16.5 向量化：低秩矩阵分解
参考视频: 16 - 5 - Vectorization_ Low Rank Matrix Factorization (8 min).mkv
16.6 推行工作上的细节：均值归一化
参考视频: 16 - 6 - Implementational Detail_ Mean Normalization (9 min).mkv
第10周
17、 大规模机器学习(Large Scale Machine Learning)
17.1 大型数据集的学习
参考视频: 17 - 1 - Learning With Large Datasets (6 min).mkv
17.2 随机梯度下降法
参考视频: 17 - 2 - Stochastic Gradient Descent (13 min).mkv
17.3 小批量梯度下降
参考视频: 17 - 3 - Mini-Batch Gradient Descent (6 min).mkv
17.4 随机梯度下降收敛
参考视频: 17 - 4 - Stochastic Gradient Descent Convergence (12 min). mkv
17.5 在线学习
参考视频: 17 - 5 - Online Learning (13 min).mkv
17.6 映射化简和数据并行
参考视频: 17 - 6 - Map Reduce and Data Parallelism (14 min).mkv
18、 应用实例：图片文字识别(Application Example: Photo OCR)
18.1 问题描述和流程图
参考视频: 18 - 1 - Problem Description and Pipeline (7 min).mkv
18.2 滑动窗口
参考视频: 18 - 2 - Sliding Windows (15 min).mkv
18.3 获取大量数据和人工数据
参考视频: 18 - 3 - Getting Lots of Data and Artificial Data (16 min).mkv
18.4 上限分析：哪部分管道的接下去做
参考视频: 18 - 4 - Ceiling Analysis_ What Part of the Pipeline to Work on Next (14 min).mkv
19、 总结(Conclusion)
19.1 总结和致谢
参考视频: 19 - 1 - Summary and Thank You (5 min).mkv
附件
机器学习的数学基础
高等数学
线性代数
行列式
矩阵
向量
线性方程组
矩阵的特征值和特征向量
二次型
概率论和数理统计
随机事件和概率
随机变量及其概率分布
多维随机变量及其分布
随机变量的数字特征
数理统计的基本概念
斯坦福大学 2014 机器学习教程
个人笔记（V5.3）
摘要
本笔记是针对斯坦福大学 2014 年机器学习课程
视频做的个人笔记
黄海广
haiguang2000@qq.com
qq 群：654173748
最后修改：2018-08-06
斯坦福大学 2014 机器学习教程中文笔记
课程概述
课程地址：https://www.coursera.org/course/ml
Machine Learning(机器学习)是研究计算机怎样模拟或实现人类的学习行为，以获取新的
知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是
使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用归纳、综合而
不是演绎。在过去的十年中，机器学习帮助我们自动驾驶汽车，有效的语音识别，有效的网
络搜索，并极大地提高了人类基因组的认识。机器学习是当今非常普遍，你可能会使用这一
天几十倍而不自知。很多研究者也认为这是最好的人工智能的取得方式。在本课中，您将学
习最有效的机器学习技术，并获得实践，让它们为自己的工作。更重要的是，你会不仅得到
理论基础的学习，而且获得那些需要快速和强大的应用技术解决问题的实用技术。最后，你
会学到一些硅谷利用机器学习和人工智能的最佳实践创新。
本课程提供了一个广泛的介绍机器学习、数据挖掘、统计模式识别的课程。主题包括：
（一）监督学习（参数/非参数算法，支持向量机，核函数，神经网络）。
（二）无监督学习（聚类，降维，推荐系统，深入学习推荐）。
（三）在机器学习的最佳实践（偏差/方差理论；在机器学习和人工智能创新过程）。
本课程还将使用大量的案例研究，您还将学习如何运用学习算法构建智能机器人（感知，控
制），文本的理解（Web 搜索，反垃圾邮件），计算机视觉，医疗信息，音频，数据挖掘，
和其他领域。
本课程需要 10 周共 18 节课，相对以前的机器学习视频，这个视频更加清晰，而且每课
都有 ppt 课件，推荐学习。
我和我的团队翻译了部分视频，目前已经翻译完毕，内嵌中英文字幕，推荐使用 potplayer。
此外，我无偿把字幕贡献给了网易云课堂，他们开了免费课：吴恩达机器学习。
这篇中文笔记，主要是根据视频内容和中文字幕以及 ppt 来制作，部分来源于网络，如
“小小人_V”的笔记，并持续更新。
本人水平有限，如有公式、算法错误，请及时指出，发邮件给我，也可以加我 qq。
今日发现这个笔记被下载超过 10 万次，应该说这个笔记有点用，我发现以前一些翻译
小错误，进行了修改，以免误导初学者。
黄海广
2018-3-7 夜
笔记更新网址(视频下载地址公布)：
https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes
DeepLearning.ai 笔记：
https://github.com/fengdu78/deeplearning_ai_books
知乎：
https://www.zhihu.com/people/fengdu78/activities
◼ 文档修改历史
版本号 版本日期
修改总结
修订人
2014.12.16
创建初稿
2014.12.31
2015.02.17
2015.02.23
2015.03.02
修改
修改
修改
修改
2015.03.14
修改一些错误，增加了第十章的一些内容
2015.05.02
修改第十二章一些错误
2015.05.13
补充第九章部分内容
2016.01.11
增加第五章 OCTAVE 操作内容
2016.01.15
修改部分错误
2016.02.15
补充第二章部分内容
2016.02.19
补充第六章内容
2016.02.24
修改第十一章一些错误
2016.03.20
补充第四章部分内容
2016.03.28
补充第十五章、十六章的部分内容
2017.06.08
修改了一些翻译错误
2017.09.23
增加了数学基础和部分公式推导
2017.09.30
修改了第六章的一些错误（视频有错误）
2017.11.3
修正了一些数学公式
2018.3.29
重新规范了变量并对页面排版
2018.4.19
重新更新了数学公式
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
黄海广
1.0
1.1
2.0
2.1
2.2
2.3
2.4
2.5
3.0
3.1
3.2
3.3
4.0
4.1
4.2
4.3
4.4
4.5
5.0
5.1
5.2
目录
2、
1、
第 1 周 .............................................................................................................................................. 1
引言(Introduction) .................................................................................................... 1
1.1 欢迎............................................................................................................................ 1
1.2 机器学习是什么？ .................................................................................................... 4
1.3 监督学习 .................................................................................................................... 6
1.4 无监督学习 .............................................................................................................. 10
单变量线性回归(Linear Regression with One Variable) ........................................ 15
2.1 模型表示 .................................................................................................................. 15
2.2 代价函数 .................................................................................................................. 17
2.3 代价函数的直观理解 I ............................................................................................ 19
2.4 代价函数的直观理解 II ........................................................................................... 20
2.5 梯度下降 .................................................................................................................. 21
2.6 梯度下降的直观理解 .............................................................................................. 24
2.7 梯度下降的线性回归 .............................................................................................. 27
2.8 接下来的内容 .......................................................................................................... 29
线性代数回顾(Linear Algebra Review) ................................................................... 30
3.1 矩阵和向量 .............................................................................................................. 30
3.2 加法和标量乘法 ...................................................................................................... 31
3.3 矩阵向量乘法 .......................................................................................................... 32
3.4 矩阵乘法 .................................................................................................................. 33
3.5 矩阵乘法的性质 ...................................................................................................... 34
3.6 逆、转置 .................................................................................................................. 35
第 2 周 ............................................................................................................................................ 36
多变量线性回归(Linear Regression with Multiple Variables) ................................ 36
4.1 多维特征 .................................................................................................................. 36
4.2 多变量梯度下降 ...................................................................................................... 37
4.3 梯度下降法实践 1-特征缩放 ................................................................................. 39
4.4 梯度下降法实践 2-学习率 ..................................................................................... 40
4.5 特征和多项式回归 .................................................................................................. 41
4.6 正规方程 .................................................................................................................. 42
4.7 正规方程及不可逆性（选修） .............................................................................. 44
Octave 教程(Octave Tutorial) .................................................................................. 47
5.1 基本操作 .................................................................................................................. 47
5.2 移动数据 .................................................................................................................. 54
5.3 计算数据 .................................................................................................................. 62
5.4 绘图数据 .................................................................................................................. 70
5.5 控制语句：for，while，if 语句 ............................................................................. 76
5.6 向量化 ...................................................................................................................... 82
5.7 工作和提交的编程练习 .......................................................................................... 86
第 3 周 ............................................................................................................................................ 88
逻辑回归(Logistic Regression) ................................................................................ 88
6.1 分类问题 .................................................................................................................. 88
6、
3、
4、
5、
I
8、
9、
7、
6.2 假说表示 .................................................................................................................. 90
6.3 判定边界 .................................................................................................................. 92
6.4 代价函数 .................................................................................................................. 94
6.5 简化的成本函数和梯度下降 .................................................................................. 98
6.6 高级优化 ................................................................................................................ 101
6.7 多类别分类：一对多 ............................................................................................ 105
正则化(Regularization) ......................................................................................... 108
7.1 过拟合的问题 ........................................................................................................ 108
7.2 代价函数 ................................................................................................................ 110
7.3 正则化线性回归 .................................................................................................... 112
7.4 正则化的逻辑回归模型 ........................................................................................ 113
第 4 周 .......................................................................................................................................... 115
神经网络：表述(Neural Networks: Representation) ........................................... 115
8.1 非线性假设 ............................................................................................................ 115
8.2 神经元和大脑 ........................................................................................................ 117
8.3 模型表示 1 ............................................................................................................. 121
8.4 模型表示 2 ............................................................................................................. 124
8.5 特征和直观理解 1 ................................................................................................. 126
8.6 样本和直观理解 II ................................................................................................. 128
8.7 多类分类 ................................................................................................................ 130
第 5 周 .......................................................................................................................................... 131
神经网络的学习(Neural Networks: Learning) ..................................................... 131
9.1 代价函数 ................................................................................................................ 131
9.2 反向传播算法 ........................................................................................................ 133
9.3 反向传播算法的直观理解 .................................................................................... 136
9.4 实现注意：展开参数 ............................................................................................ 138
9.5 梯度检验 ................................................................................................................ 139
9.6 随机初始化 ............................................................................................................ 141
9.7 综合起来 ................................................................................................................ 142
9.8 自主驾驶 ................................................................................................................ 143
第 6 周 .......................................................................................................................................... 146
10、 应用机器学习的建议(Advice for Applying Machine Learning) ........................... 146
10.1 决定下一步做什么 .............................................................................................. 146
10.2 评估一个假设 ...................................................................................................... 149
10.3 模型选择和交叉验证集 ...................................................................................... 151
10.4 诊断偏差和方差 .................................................................................................. 153
10.5 正则化和偏差/方差 ............................................................................................ 155
10.6 学习曲线 .............................................................................................................. 157
10.7 决定下一步做什么 .............................................................................................. 159
11、 机器学习系统的设计(Machine Learning System Design) ................................... 161
11.1 首先要做什么 ...................................................................................................... 161
11.2 误差分析 .............................................................................................................. 162
11.3 类偏斜的误差度量 .............................................................................................. 165
11.4 查准率和查全率之间的权衡 .............................................................................. 166
II
11.5 机器学习的数据 .................................................................................................. 168
第 7 周 .......................................................................................................................................... 172
12、 支持向量机(Support Vector Machines) ............................................................... 172
12.1 优化目标 .............................................................................................................. 172
12.2 大边界的直观理解 .............................................................................................. 178
12.3 数学背后的大边界分类（选修） ...................................................................... 183
12.4 核函数 1............................................................................................................... 190
12.5 核函数 2............................................................................................................... 192
12.6 使用支持向量机 .................................................................................................. 194
第 8 周 .......................................................................................................................................... 197
13、 聚类(Clustering) .................................................................................................... 197
13.1 无监督学习：简介 .............................................................................................. 197
13.2 K-均值算法 ........................................................................................................... 200
13.3 优化目标 .............................................................................................................. 202
13.4 随机初始化 .......................................................................................................... 203
13.5 选择聚类数 .......................................................................................................... 204
14、 降维(Dimensionality Reduction) ........................................................................... 207
14.1 动机一：数据压缩 .............................................................................................. 207
14.2 动机二：数据可视化 .......................................................................................... 210
14.3 主成分分析问题 .................................................................................................. 211
14.4 主成分分析算法 .................................................................................................. 213
14.5 选择主成分的数量 .............................................................................................. 214
14.6 重建的压缩表示 .................................................................................................. 215
14.7 主成分分析法的应用建议 .................................................................................. 217
第 9 周 .......................................................................................................................................... 218
15、 异常检测(Anomaly Detection) ............................................................................. 218
15.1 问题的动机 .......................................................................................................... 218
15.2 高斯分布 .............................................................................................................. 220
15.3 算法...................................................................................................................... 221
15.4 开发和评价一个异常检测系统 .......................................................................... 223
15.5 异常检测与监督学习对比 .................................................................................. 224
15.6 选择特征 .............................................................................................................. 225
15.7 多元高斯分布（选修） ...................................................................................... 227
15.8 使用多元高斯分布进行异常检测（选修） ...................................................... 230
16、 推荐系统(Recommender Systems) ....................................................................... 233
16.1 问题形式化 .......................................................................................................... 233
16.2 基于内容的推荐系统 .......................................................................................... 235
16.3 协同过滤 .............................................................................................................. 237
16.4 协同过滤算法 ...................................................................................................... 239
16.5 向量化：低秩矩阵分解 ...................................................................................... 240
16.6 推行工作上的细节：均值归一化 ...................................................................... 242
第 10 周 ........................................................................................................................................ 243
17、 大规模机器学习(Large Scale Machine Learning) ................................................. 243
17.1 大型数据集的学习 .............................................................................................. 243
III
17.2 随机梯度下降法 .................................................................................................. 244
17.3 小批量梯度下降 .................................................................................................. 245
17.4 随机梯度下降收敛 .............................................................................................. 246
17.5 在线学习 .............................................................................................................. 248
17.6 映射化简和数据并行 .......................................................................................... 250
18、 应用实例：图片文字识别(Application Example: Photo OCR) ............................ 251
18.1 问题描述和流程图 .............................................................................................. 251
18.2 滑动窗口 .............................................................................................................. 252
18.3 获取大量数据和人工数据 .................................................................................. 254
18.4 上限分析：哪部分管道的接下去做 .................................................................. 255
19、 总结(Conclusion) ................................................................................................... 256
19.1 总结和致谢 .......................................................................................................... 256
附件 .............................................................................................................................................. 258
机器学习的数学基础 ........................................................................................................... 258
高等数学 ....................................................................................................................... 258
线性代数 ....................................................................................................................... 266
概率论和数理统计 ....................................................................................................... 276
IV
相关推荐
2023年江西萍乡中考道德与法治真题及答案.doc
2012年重庆南川中考生物真题及答案.doc
2013年江西师范大学地理学综合及文艺理论基础考研真题.doc
2020年四川甘孜小升初语文真题及答案I卷.doc
2020年注册岩土工程师专业基础考试真题及答案.doc
2023-2024学年福建省厦门市九年级上学期数学月考试题及答案.doc
2021-2022学年辽宁省沈阳市大东区九年级上学期语文期末试题及答案.doc
2022-2023学年北京东城区初三第一学期物理期末试卷及答案.doc
2018上半年江西教师资格初中地理学科知识与教学能力真题及答案.doc
2012年河北国家公务员申论考试真题及答案-省级.doc
2020-2021学年江苏省扬州市江都区邵樊片九年级上学期数学第一次质量检测试题及答案.doc
2022下半年黑龙江教师资格证中学综合素质真题及答案.doc
