为了极佳的阅读体验,您可点击 这里 将本文档下载到本地,并安装 Haroopad 进行阅读。
中文版的新版 UFLDL 教程(项目地址: www.github.com/ysh329/Chinese-UFLDL-Tutorial ),该版本翻译自 UFLDL Tutorial ,是新版教程的翻译。也可参考 旧版 UFLDL 中文教程 。翻译过程中有一些数学公式,使用 Haroopad 编辑和排版, Haroopad 是一个优秀的离线 MarkDown 编辑器,支持 TeX 公式编辑,支持多平台(Win/Mac/Linux),目前还在翻译中,翻译完成后会考虑使用 TeX 重新排版。
自己对新版 UFLDL 教程翻译过程中,发现的英文错误,见 新版教程英文原文勘误表 。
注: UFLDL 是非监督特征学习及深度学习(Unsupervised Feature Learning and Deep Learning)的缩写,而不仅指深度学习(Deep Learning)。
更多详细参考资料,见 计算机科学 , 人工智能 , 机器学习 , 深度学习 , 强化学习 , 深度强化学习 , 公开数据集 。
说明:本教程将会教给您非监督特征学习以及深度学习的主要思想。通过它,您将会实现几个特征学习或深度学习的算法,看到这些算法为您(的工作)带来作用,以及学习如何将这些思想应用到适用的新问题上。
本教程假定您已经有了基本的机器学习知识(具体而言,熟悉监督学习,逻辑斯特回归以及梯度下降法的思想)。如果您不熟悉这些,我们建议您先去 机器学习课程 中去学习,并完成其中的第II,III,IV章节(即到逻辑斯特回归)。
材料由以下人员提供:Andrew Ng, Jiquan Ngiam, Chuan Yu Foo, Yifan Mai, Caroline Suen, Adam Coates, Andrew Maas, Awni Hannun, Brody Huval, Tao Wang, Sameep Tandon
您可以获得初学者所有练习的代码从 该Github的代码仓库 。
有关的数据文件可以从 这里 下载。 下载到的数据需要解压到名为“common”
的文件夹中(以便初学者代码的使用)。
每个小节后面的[old][new][旧]分别代表:旧版英文、新版英文、旧版中文三个版本。若没有对应的版本则用[无]代替。
-
预备知识(Miscellaneous)
-
[MATLAB 文件指引(MATLAB Modules)](./预备知识(Miscellaneous )/MATLAB 文件指引(MATLAB Modules).md)[old][无][无]
-
[代码风格(Style Guide)](./预备知识(Miscellaneous )/代码风格(Style Guide).md)[old][无][无]
-
[预备知识推荐(Useful Links)](./预备知识(Miscellaneous )/预备知识推荐(Useful Links).md)[old][无][无]
-
[推荐读物(UFLDL Recommended Readings)](./预备知识(Miscellaneous )/推荐读物(UFLDL Recommended Readings).md)[old][无][无]
-
-
监督学习与优化(Supervised Learning and Optimization)
-
[线性回归(Linear Regression)](./监督学习和优化(Supervised Learning and Optimization)/线性回归(Linear Regression).md)[无][new][无]
-
[逻辑斯特回归(Logistic Regression)](./监督学习和优化(Supervised Learning and Optimization)/逻辑斯特回归(Logistic Regression).md)[old][new][旧]
-
[向量化(Vectorization)](./监督学习和优化(Supervised Learning and Optimization)/向量化(Vectorization).md)[old][new][旧]
-
[调试:梯度检查(Debugging: Gradient Checking)](./监督学习和优化(Supervised Learning and Optimization)/调试:梯度检查(Debugging:Gradient Checking).md)[old][new][旧]
-
[Softmax 回归(Softmax Regression)](./监督学习和优化(Supervised Learning and Optimization)/Softmax回归(Softmax Regression).md)[old][new][旧]
-
[调试:偏差和方差(Debugging: Bias and Variance)](./监督学习和优化(Supervised Learning and Optimization)/检查:偏差和方差(Debugging:Bias and Variance).md)[无][new][无]
-
[调试:优化器和目标(Debugging: Optimizers and Objectives)](./监督学习和优化(Supervised Learning and Optimization)/调试:优化器和目标(Debugging:Optimizers and Objectives).md)[无][new][无]
-
-
监督神经网络(Supervised Neural Networks)
-
监督卷积网络(Supervised Convolutional Neural Network)
-
[使用卷积进行特征提取(Feature Extraction Using Convolution)](./监督卷积网络(Supervised Convolutional Neural Network)/使用卷积进行特征提取(Feature Extraction Using Convolution).md)[old][new][旧]
-
[池化(Pooling)](./监督卷积网络(Supervised Convolutional Neural Network)/池化(Pooling).md)[old][new][旧]
-
[练习:卷积和池化(Exercise: Convolution and Pooling)](./监督卷积网络(Supervised Convolutional Neural Network)/练习:卷积和池化(Exercise: Convolution and Pooling).md)[无][new][无]
-
[优化方法:随机梯度下降(Optimization: Stochastic Gradient Descent)](./监督卷积网络(Supervised Convolutional Neural Network)/优化方法:随机梯度下降(Optimization: Stochastic Gradient Descent).md)[无][new][无]
-
[卷积神经网络(Convolutional Neural Network)](./监督卷积网络(Supervised Convolutional Neural Network)/卷积神经网络(Convolutional Neural Network).md)[无][new][无]
-
[练习:卷积神经网络(Excercise: Convolutional Neural Network)](./监督卷积网络(Supervised Convolutional Neural Network)/练习:卷积神经网络(Excercise: Convolutional Neural Network).md)[无][new][无]
-
-
无监督学习(Unsupervised Learning)
-
[自动编码器(Autoencoders)](./无监督学习(Unsupervised Learning)/自动编码器(Autoencoders).md)[old][new][旧]
-
[线性解码器(Linear Decoders)](./无监督学习(Unsupervised Learning)/线性解码器(Linear Decoders).md)[old][无][旧]
-
[练习:使用稀疏编码器学习颜色特征(Exercise:Learning color features with Sparse Autoencoders)](./无监督学习(Unsupervised Learning)/练习:使用稀疏编码器学习颜色特征(Exercise:Learning color features with Sparse Autoencoders).md)[old][无][无]
-
[主成分分析白化(PCA Whitening)](./无监督学习(Unsupervised Learning)/主成分分析白化(PCA Whitening).md)[old][new][旧]
-
[练习:实现 2D 数据的主成分分析(Exercise:PCA in 2D)](./无监督学习(Unsupervised Learning)/练习:实现 2D 数据的主成分分析(Exercise:PCA in 2D).md)[old][无][无]
-
[练习:主成分分析白化(Exercise: PCA Whitening)](./无监督学习(Unsupervised Learning)/练习:主成分分析白化(Exercise: PCA Whitening).md)[old][new][无]
-
[稀疏编码(Sparse Coding)](./无监督学习(Unsupervised Learning)/稀疏编码(Sparse Coding).md)[old][new][旧]
-
[稀疏自编码符号一览表(Sparse Autoencoder Notation Summary)](./无监督学习(Unsupervised Learning)/稀疏自编码符号一览表(Sparse Autoencoder Notation Summary).md)[old][无][旧]
-
[稀疏编码自编码表达(Sparse Coding: Autoencoder Interpretation)](./无监督学习(Unsupervised Learning)/稀疏编码自编码表达(Sparse Coding: Autoencoder Interpretation).md)[old][无][旧]
-
[练习:稀疏编码(Exercise:Sparse Coding)](./无监督学习(Unsupervised Learning)/练习:稀疏编码(Exercise:Sparse Coding).md)[old][无][无]
-
[独立成分分析(ICA)](./无监督学习(Unsupervised Learning)/独立成分分析(ICA).md)[old][new][旧]
-
[练习:独立成分分析(Exercise:Independent Component Analysis)](./无监督学习(Unsupervised Learning)/练习:独立成分分析(Exercise:Independent Component Analysis).md)[old][无][无]
-
[RICA(RICA)](./无监督学习(Unsupervised Learning)/独立成分分析重建(RICA).md)[无][new][无]
-
[练习:RICA(Exercise: RICA)](./无监督学习(Unsupervised Learning)/练习:RICA(Exercise: RICA).md)[无][new][无]
-
附1:[数据预处理(Data Preprocessing)](./无监督学习(Unsupervised Learning)/数据预处理(Data Preprocessing).md)[old][无][旧]
-
附2:[用反向传导思想求导(Deriving gradients using the backpropagation idea)](./无监督学习(Unsupervised Learning)/用反向传导思想求导(Deriving gradients using the backpropagation idea).md)[old][无][旧]
-
-
自我学习(Self-Taught Learning)
-
[自我学习(Self-Taught Learning)](./自我学习(Self-Taught Learning)/自我学习(Self-Taught Learning).md)[old][new][旧]
-
[练习:自我学习(Exercise: Self-Taught Learning)](./自我学习(Self-Taught Learning)/练习:自我学习(Exercise: Self-Taught Learning).md)[old][new][无]
-
[深度网络概览(Deep Networks: Overview)](./自我学习(Self-Taught Learning)/深度网络概览(Deep Networks: Overview).md)[old][无][旧]
-
[栈式自编码算法(Stacked Autoencoders)](./自我学习(Self-Taught Learning)/栈式自编码算法(Stacked Autoencoders).md)[old][无][旧]
-
[微调多层自编码算法(Fine-tuning Stacked AEs)](./自我学习(Self-Taught Learning)/微调多层自编码算法(Fine-tuning Stacked AEs).md)[old][无][旧]
-
练习:用深度网络实现数字分类(Exercise: Implement deep networks for digit classification)[old][无][无]
-
-
其它官方暂未写完的小节(Others)
-
卷积训练(Convolutional training)
-
受限玻尔兹曼机(Restricted Boltzmann Machines)
-
深度置信网络(Deep Belief Networks)
-
降噪自编码器(Denoising Autoencoders)
-
K 均值(K-means)
-
空间金字塔/多尺度(Spatial pyramids / Multiscale)
-
慢特征分析(Slow Feature Analysis)
-
平铺卷积网络(Tiled Convolution Networks)
-