逻辑回归,相对于线性回归是用来处理目标函数是离散数值的情况。它的映射函数和损失函数分别为: (1) (2) 使用梯度下降法进行求解,得到迭代公式: 逻辑回归的优缺点: 简单, 易于并行、速度快,需要复杂的特征工程, 输入特征需要离散化 SGD算法 对于如上LR的迭代公式来说,我们可以得到GD(Gra ...
分类:
其他好文 时间:
2018-12-14 13:00:31
阅读次数:
361
1.逻辑回归 逻辑回归就是这样的一个过程:面对一个回归或者分类问题,建立代价函数,然后通过优化方法迭代求解出最优的模型参数,然后测试验证我们这个求解的模型的好坏。 Logistic回归虽然名字里带“回归”,但是它实际上是一种分类方法,主要用于两分类问题(即输出只有两种,分别代表两个类别) 回归模型中 ...
分类:
其他好文 时间:
2018-12-11 15:58:08
阅读次数:
245
实现本文的文本数据可以在THUCTC下载也可以自己手动爬虫生成, 本文主要参考:https://blog.csdn.net/hao5335156/article/details/82716923 nb表示朴素贝叶斯 rf表示随机森林 lg表示逻辑回归 初学者(我)通过本程序的学习可以巩固python ...
分类:
编程语言 时间:
2018-12-03 17:16:58
阅读次数:
276
第1章 个性化推荐算法综述个性化推荐算法综述部分,主要介绍个性化推荐算法综述,本课程内容大纲以及本课程所需要准备的编程环境与基础知识。 第2章 基于邻域的个性化召回算法LFM本章节重点介绍一种基于邻域的个性化召回算法,LFM。从LFM算法的理论知识与数学原理进行介绍。并结合公开数据集,代码实战LFM ...
分类:
编程语言 时间:
2018-12-01 00:09:35
阅读次数:
607
一、定义 数据分箱就是将连续变量离散化。 二、意义 ? 离散特征可变性强,易于模型的快速迭代; ? 稀疏向量运算速度快,方便存储; ? 变量离散化后对异常数据有很强的鲁棒性; ? 特征离散以后,模型会更加稳定; ? 将逻辑回归模型转换成评分卡形式的时候,分箱也是必须的。 三、分类 四、卡方分箱 (1 ...
分类:
其他好文 时间:
2018-11-27 12:26:58
阅读次数:
1364
有一种很有意思的游戏,就是有物体若干堆,可以是火柴棍或是围棋子等等均可。两个人轮流从堆中取物体若干,规定最后取光物体者取胜。这是我国民间很古老的一个游戏,别看这游戏极其简单,却蕴含着深刻的数学原理。下面我们来分析一下要如何才能够取胜。 (一)巴什博奕(Bash Game):只有一堆n个物品,两个人轮 ...
分类:
其他好文 时间:
2018-11-22 02:47:39
阅读次数:
215
WIFI室内定位-指纹法 在A1区域内每个点上采集四个WiFi的信号数据(信号强度),五点、九点、十六点采样。 5*5=25区域*16数据=400样本,用来训练 样本数 R B G1 G2 1 2 3 4 16 使用什么机器学习模型? 决策树、SVM(构造超平面)、逻辑回归、等几乎任何方法都可以 传 ...
分类:
其他好文 时间:
2018-11-21 22:17:14
阅读次数:
190
[神经网络]反向传播梯度计算数学原理 1 文章概述 本文通过一段来自于Pytorch官方的warm-up的例子:使用numpy来实现一个简单的神经网络。使用基本的数学原理,对其计算过程进行理论推导,以揭示这几句神奇的代码后面所包含的原理。 估计对大多数的同学来说,看完这个文章,肯定会是这样的感觉:字 ...
分类:
其他好文 时间:
2018-11-19 11:19:48
阅读次数:
166
原文链接:https://riboseyim.github.io/2018/02/10/Machine Learning Algorithms/ 摘要 机器学习算法分类:监督学习、半监督学习、无监督学习、强化学习 基本的机器学习算法:线性回归、支持向量机(SVM)、最近邻居(KNN)、逻辑回归、决策 ...
分类:
编程语言 时间:
2018-11-15 12:02:21
阅读次数:
166
逻辑回归案例 小细节 + 逻辑回归(logistic regression)虽然被称之为逻辑回归,但是它本质上其实是一种分类算法(classification algorithm),逻辑回归名字的由来是有历史原因的。 + sigmoid函数在逻辑回归中站着重要的位置,sigmoid function ...
分类:
其他好文 时间:
2018-11-10 12:41:37
阅读次数:
238