网易公开课,第3,4课  notes,http://cs229.stanford.edu/notes/cs229-notes1.pdf 前面讨论了线性回归问题, 符合高斯分布,使用最小二乘来作为损失函数 下面继续讨论分类问题,分类问题和回归问题不同在于Y的取值是离散的  我们先讨论最简单的binary classification,即Y的取值只有0和1  分类问题一般不会使用回归模型,因为回归模型是输出是连续的,而分类问题需要的输出是离散的 但是一定要用也不是不可以,比如这里继续使用线性回归模型

问题描述 Matlab实现Logistic Regression时的一个小问题 Ng机器学习编程作业matlab实现LR时里有这样一段 %% ============= Part 3: Optimizing using fminunc ============= % In this exercise, you will use a built-in function (fminunc) to find the % optimal parameters theta. % Set options f

网易公开课,第10,11课  notes,http://cs229.stanford.edu/notes/cs229-notes5.pdf   Model Selection 首先需要解决的问题是,模型选择问题,如何来平衡bais和variance来自动选择模型?比如对于多项式分类,如何决定阶数k,对于locally weighted regression如何决定窗口大小,对于SVM如何决定参数C  For instance, we might be using a polynomial reg

LR一般用于预测二分类问题,即yes no和0\1问题,我们构建了X(设备属性和行为属性),我们需要预测Y(是否异常),而反作弊项目中,我们需要预测的就是设备作弊or正常,即0\1问题.选择LR一个很重要的原因是我们相信X和Y是有联系的,不同的类型的Y会有不同的X表现. 而X和Y是否有线性关系? 普通线性回归(Ordinary Linear Regression)是否就能满足需求?我们需要先论证这个问题,我们看一下普通线性回归,模型是这样的: 在线性回归中,随机误差项服从正态分布.这也意味着回归

网易公开课,第4课  notes,http://cs229.stanford.edu/notes/cs229-notes1.pdf 前面介绍一个线性回归问题,符合高斯分布  一个分类问题,logstic回归,符合伯努利分布 也发现他们有些相似的地方,其实这些方法都是一个更广泛的模型族的特例,这个模型族称为,广义线性模型(Generalized Linear Models,GLMs) The exponential family 为了介绍GLMs,先需要介绍指数族分布(exponential fa

问题描述 logistic regression costFunction问题 J = m^-1 * sum(((-1) * y.*log(h)).-((1- y).*log(1 - h)));在matlab2014b里面提示运算符异常应该如何修改. 解决方案 http://blog.csdn.net/abcjennifer/article/details/7716281 解决方案二: 你accept了honor code,不应该问哟:-) 解决方案三: J = m.^(-1). * sum((

Logistic Regression 分类算法 Logistic Regression包含三个部分:回归,线性回归,Logistic方程 1) 回归 Logistic regression是线性回归的一种,线性回归是一种回归.那么回归是虾米呢? 回归其实就是对已知公式的未知参数进行估计.比如已知公式是y=a∗x+b,未知参数是a和b.我们现在有很多真实的(x,y)数据(训练样本),回归就是利用这些数据对a和b的取值去自动估计.估计的方法大家可以简单的理解为,在给定训练样本点和已知的公式后,对于

网易公开课,第5课  notes,http://cs229.stanford.edu/notes/cs229-notes2.pdf 学习算法有两种,一种是前面一直看到的,直接对p(y|x; θ)进行建模,比如前面说的线性回归或逻辑回归,这种称为判别学习算法(discriminative learning algorithms) 另外一种思路,就是这里要谈的,称为生成学习算法(generative learning algorithms),区别在于不会直接对p(y|x; θ)进行建模,而是对p(x

问题描述 下载链接:密码:okpv课程内容:第1周机器学习概论第2周线性回归与Logistic.案例:电子商务业绩预测第3周岭回归,Lasso,变量选择技术.从一团乱麻中识别有用维度的技巧第4周降维技术.案例:业绩综合指标设计第5周线性分类器,Knn算法,朴素贝叶斯分类器,文本挖掘,案例:智能判断垃圾短信,通过文本挖掘给用户加标签,评论自动分析,用户流失预警第6周决策树,组合提升算法,bagging和adaboost,随机森林.案例:运营商用户分析第7周支持向量机,为什么能理解SVM的人凤毛麟角