1. 前言 线性回归形式简单、易于建模,但却蕴涵着机器学习中一些重要的基本思想。许多功能更为强大的非线性模型(nonlinear model)可在线性模型的基础上通过引入层级结构或高维映射而得。此外,由于线性回归的解$\theta$直观表达了各属性在预测中的重要性,因此线性回归有很好的可解释性。 2 ...
分类:
其他好文 时间:
2018-10-13 15:46:02
阅读次数:
165
第一种形式:y=0/1 第二种形式:y=+1/-1 第一种形式的损失函数可由极大似然估计推出: 第二种形式的损失函数: , 参考:https://en.wikipedia.org/wiki/Loss_functions_for_classification ...
分类:
其他好文 时间:
2018-10-08 00:50:01
阅读次数:
893
神经网络(Artificial Neural Network):全称为人工神经网络(ANN),是一种模仿生物神经网络(动物的中枢神经系统,特别是大脑)的结构和功能的数学模型或计算模型。 部分原理: 下面是单个神经元的数学模型: +1代表偏移值(偏置项, Bias Units);X1,X2,X2代表初 ...
分类:
编程语言 时间:
2018-10-07 23:26:04
阅读次数:
278
preprocess Logistic Regression LightGBM 1. 二分类 2.多分类 XGBoost 1. 二分类 处理正负样本不均匀的案例 主要思路 1. 手动调整正负样本比例 2. 过采样 Over Sampling 对训练集里面样本数量较少的类别(少数类)进行过采样,合成新 ...
分类:
其他好文 时间:
2018-10-06 21:36:54
阅读次数:
291
最近在研究Iris花的逻辑回归分类中看到了如下的代码: from sklearn.linear_model import LogisticRegression X = iris["data"][:, 3:] y=(iris["target"]==2).astype(np.int) log_reg =... ...
分类:
编程语言 时间:
2018-10-04 09:04:14
阅读次数:
185
一 机器学习、数据挖掘、深度学习经典博客网站 http://www.cnblogs.com/maybe2030 1. 算法(包括机器学习算法、进化计算、群体智能优化算法等) [Machine Learning] 深度学习中消失的梯度 [Machine Learning] logistic函数和sof ...
分类:
其他好文 时间:
2018-10-01 22:35:52
阅读次数:
283
CART(Classification and Regression tree)分类回归树由L.Breiman,J.Friedman,R.Olshen和C.Stone于1984年提出。CART是一棵二叉树,采用二元切分法,每次把数据切成两份,分别进入左子树、右子树。而且每个非叶子节点都有两个孩子,所 ...
分类:
其他好文 时间:
2018-09-26 13:05:06
阅读次数:
312
转自:打开链接 Bounding Box regression 最近一直看检测有关的Paper, 从rcnn, fast rcnn, faster rcnn, yolo, r fcn, ssd,到今年cvpr最新的yolo9000。这些paper中损失函数都包含了边框回归,除了rcnn详细介绍了,其 ...
分类:
其他好文 时间:
2018-09-24 17:06:05
阅读次数:
325
1.回归分析 在统计学中,回归分析(regression analysis)指的是确定两种或两种以上变量间互相依赖的定量关系的一种统计分析方法。 按照自变量和因变量之间的关系类型,可分为线性回归分析和非线性回归分析。 2.线性回归的python实现 线性回归的python实现方法 线性回归通常是人们 ...
分类:
其他好文 时间:
2018-09-19 23:37:13
阅读次数:
559
一、线性回归 在统计学中,线性回归(Linear Regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。 回归分析中,只包括一个自变量和一个因变量,且二者的关系可用一条直线近似表示,这 ...
分类:
其他好文 时间:
2018-09-15 01:19:36
阅读次数:
1170