notes: Machine Learning by Andrew Ng

机器学习笔记 https://www.coursera.org/learn/machine-learning/supplement/afqGa/cost-function Week 5 中的 Cost Function and Backpropagation 的第一个部分 Cost Function，视频里教授最后说的很清楚，bias的theta是没有加进cost function的，如果加了，最终结果也没有多大影响，而且视频和后面补充材料里的求和公式都是从1开始累加，并没有加入bias的theta，但补充材料中是这样说的： In the regularization part, after the square brackets, we must account for multiple theta matrices. The number of columns in our current theta matrix is equal to the number of nodes in our current layer (including the bias unit). The number of rows in our current theta matrix is equal to the number of nodes in the next layer (excluding the bias unit). As before with logistic regression, we square every term. 这一段开头说的都很对：在regularization部分，也就是方括号后面的，我们必须考虑多个theta矩阵，我们当前theta矩阵的列数等于我们当前层的节点数（包括bias单元），而当前theta矩阵的行数则等于下一层节点数（不包括bias单元）。但最后一句不妥：像之前的logistic regression一样，我们将每项都乘方。确实类似logistic regression，也确实square every term，但如果和视频和文中的公式一致的话，是并不包括bias unit的，虽然包不包括都对结果没多大影响。

coursera-dl工具介绍

https://www.coursera.org 是在线学习网站，由Stanford University的 Daphne Koller 和 Andrew Ng(吴恩达) 创办，其中的课程比较不错，例如 Daphne Koller 的 Probabilistic Graphical Models，Andrew Ng 的 Machine Learning 不错，两门课程都是AI人工智能相关。课程内容托管在Amazon云服务上，由于大陆访问Amazon的云不是很顺畅，所以对课程学习有一些影响，解决方法可以用工具解析出正确的服务地址IP后，写到hosts文件中，或者下载课程内容，包括视频等。这里coursera-dl就是一个不错的download下载工具，它基于Python，建议Python3，使用pip安装好之后，直接运行： coursera-dl -u email(username) -p (password) --path=.(where to download) machine-learning(course name) 官方网址： https://github.com/coursera-dl/coursera-dl https://github.com/coursera-dl https://github.com/coursera-dl/coursera-dl/blob/master/README.md 里面还有另一个工具： https://github.com/coursera-dl/edx-dl 是针对另一个在线学习网址 edx 的。 下载的时候在目录下面生成文件 ****-syllabus-parsed.json （例如 machine-learning-syllabus-parsed.json） 下载如果卡住，可 Ctrl+C 强行终止后，在同一路径再次运行同一命令继续下载（程序错误退出也可以这样继续），之前已下载过的、重复的就不会下载