[TOC]更新、更全的《机器学习》的更新网站,更有python、go、数据结构与算法、爬虫、人工智能教学等着你:https://www.cnblogs.com/nickchen121/# 细分构建机器学习应用程序的流程-测试模型对于分类问题,我们可能会使用k近邻算法、决策树、逻辑回归、朴素贝叶斯法、... ...
分类:
其他好文 时间:
2019-10-16 17:50:55
阅读次数:
69
逻辑回归 理论分析 概述 ? Logistic回归在本质上是线性回归,只是在特征到结果的映射中加入了一层函数映射,即先把特征线性求和,然后使用函数$g(z)$将上述结果映射到0 1上。 优点:计算代价不高,易于理解和实现 缺点:容易欠拟合,分类精度不高 适用数据:数值型和标称型 映射函数 sigmo ...
分类:
其他好文 时间:
2019-10-07 11:16:28
阅读次数:
90
Logistic 回归 或者叫逻辑回归 虽然名字有回归,但是它是用来做分类的。其主要思想是: 根据现有数据对分类边界线(Decision Boundary)建立回归公式,以此进行分类。 优缺点: 流程: 核心代码: ...
分类:
其他好文 时间:
2019-10-06 17:12:04
阅读次数:
89
构建ML模型的步骤 现在我们已经看了解到了一些ML应用程序的例子,问题是,我们如何构建这样的ML应用程序和系统? 下图总结了我们使用ML开发应用程序的方法,我们将在下面更详细地讨论这个问题: 如上图所示,建立学习模型的步骤如下: 问题定义:任何项目的第一步不仅是理解我们想要解决的问题,也定义了我们如 ...
遵循统一的机器学习框架理解逻辑回归 标签: 机器学习 LR 分类 一、前言 1. 我的博客不是科普性质的博客,仅记录我的观点和思考过程。欢迎大家指出我思考的盲点,更希望大家能有自己的理解。 2. 本文参考了网络上诸多资料。 二、理解 统一的机器学习框架(MLA): 1.模型(Model) 2.策略( ...
分类:
其他好文 时间:
2019-10-04 18:42:04
阅读次数:
99
一、模型的构建 银行在放贷之前都会对客户做一个评估,来判定其是否有大概率会违约。这里我们用1表示其不会违约,用0表示会违约,假设影响因素有m个。 逻辑回归的目的是得到一个p(概率),如果给定一个临界值就可判断其属于哪一类,一般默认临界值为0.5,若p>0.5,则判定为第一类,既不会违约,若p<0.5 ...
分类:
其他好文 时间:
2019-09-30 21:39:48
阅读次数:
548
分类损失函数 一、LogLoss对数损失函数(逻辑回归,交叉熵损失) 有些人可能觉得逻辑回归的损失函数就是平方损失,其实并不是。平方损失函数可以通过线性回归在假设样本是高斯分布的条件下推导得到,而逻辑回归得到的并不是平方损失。在逻辑回归的推导中,它假设样本服从伯努利分布(0-1分布),然后求得满足该 ...
分类:
其他好文 时间:
2019-09-14 18:42:40
阅读次数:
374
逻辑回归是使用回归的方式,来解决分类问题。之前说过,逻辑回归只能解决二分类问题,为了解决多分类问题,可以使用OVR和OVO方法 OVR(One Vs Rest) 某个分类算法有N类,将某一类和剩余的类比较作为二分类问题,N个类别进行N次分类,得到N个二分类模型,给定一个新的样本点,求出每种二分类对应 ...
分类:
其他好文 时间:
2019-09-11 22:14:54
阅读次数:
293
scikit learn中的逻辑回归 构造数据集 import numpy import matplotlib.pyplot as plt numpy.random.seed(666) X = numpy.random.normal(0,1,size=(200,2)) 决策边界为二次函数 y = n ...
分类:
其他好文 时间:
2019-09-10 23:51:38
阅读次数:
110
逻辑回归解决二分类问题,但是像下图所示的非线性数据集,是没办法用一条直线分割为两部分的。 对于此数据集,用一个圆形或者椭圆形分割是比较合理的,圆形的表达式:$X_1^2 + X_2^2 R^2 = 0$ 为了让逻辑回归学习到这样的决策边界,我们需要引入多项式项,$X_1^2,X_2^2$分别是$X_ ...
分类:
其他好文 时间:
2019-09-07 10:31:54
阅读次数:
138