6.逻辑归回 1.用自己的话描述一下,什么是逻辑回归,与线性回归对比,有什么不同? 逻辑回归是一种广义的线性回归分析模型,常用于数据挖掘,疾病自动诊断,经济预测等领域。 线性回归要求因变量必须是连续性数据变量;逻辑回归要求因变量必须是分类变量,二分类或者多分类的。 2.自述一下什么是过拟合和欠拟合? ...
分类:
其他好文 时间:
2020-06-06 18:47:19
阅读次数:
55
1.梯度下降法 是一种基于搜索的最优化方法,作用是最小化一个损失函数。 但不是所有的函数都有唯一的极值点。 解决方案:多次运行,随机初始化点 梯度下降法的初始点也是一个超参数 线性回归法的损失函数具有唯一的最优解。 模拟实现梯度下降法 1 import numpy as np 2 import ma ...
分类:
其他好文 时间:
2020-06-05 21:05:44
阅读次数:
70
以下汇总了我用R写过的一些数据分析工程 不定时更新 [1] 主要涉及: 数据清洗,线性回归模型拟合,模型选择(R-squared, AIC等),树形方法(rpart(), xgboost()等) github中有详细介绍及全部代码:https://github.com/wojamesyegit/R- ...
分类:
其他好文 时间:
2020-05-30 21:33:25
阅读次数:
100
简介 线性回归模型有一个主要的局限性,那就是它只能把输入数据拟合成直线,而多项式回归模型通过拟合多项式方程来克服这类问题,从而提高模型的准确性。 准备工作 从图1-6中可以看到,数据点本身的模式中带有自然的曲线,而线性模型是不能捕捉到这一点的。再来看看多项式模型的效果,如图1-7所示。 图1-7中的 ...
分类:
其他好文 时间:
2020-05-28 13:16:00
阅读次数:
80
机器学习入门与进阶 "一.机器学习基础与特征工程" "二.机器学习算法篇 线性回归(1)" "二.机器学习算法篇 线性回归(2)" 更新中... ...
分类:
其他好文 时间:
2020-05-21 23:56:26
阅读次数:
83
一、线性回归的概念 1.1、定义 线性回归通过一个或者多个自变量与因变量之间之间进行建模的回归分析。其中特点为一个或多个称为回归系数的模型参数的线性组合。 优点:结果易于理解,计算不复杂。 缺点:对非线性的数据拟合不好。 适用数据类型:数值型和标称型。 1.2、分类 一元线性回归:涉及到的变量只有一 ...
分类:
编程语言 时间:
2020-05-20 12:03:58
阅读次数:
100
主要内容: 线性回归 定义与问题引入 损失函数 梯度下降 过拟合与正则化 逻辑回归 定义与问题引入 损失函数 梯度下降与正则化 线性回归 有监督学习= 学习样本为D={(x~i~,y~i~)}^N^~i=1~ 多变量情形: 损失函数 loss function: 梯度下降: 其中α为步长,很大 震荡 ...
分类:
其他好文 时间:
2020-05-17 17:27:48
阅读次数:
73
同步进行一波网上代码搬砖, 先来个入门的线性回归模型训练, 基于梯度下降法来, 优化用 MSE 来做. 理论部分就不讲了, 网上一大堆, 我自己也是理解好多年了, 什么 偏导数, 梯度(多远函数一阶偏导数组成的向量) , 方向导数, 反方向(梯度下降) 这些基本的高数知识, 假设大家是非常清楚原理的 ...
分类:
其他好文 时间:
2020-05-17 01:06:00
阅读次数:
75
%% 清屏 clc; clear all; close all; %% 数据预处理 data = importdata('studentscores.csv'); x = data.data(:,1); y = data.data(:,2); % 原始数据的散点图 figure plot(x,y,' ...
分类:
其他好文 时间:
2020-05-15 21:50:10
阅读次数:
86
1.matlab多元回归示例如下: 解决问题:油价预测 方法:多元线性回归 实现:matlab regress()函数 技巧:通过增加X1^2,X2^2,或者X1*X2等构造的特征项,可以提高回归模型的拟合准确度;但计算代价增大。 function result=reg_new_month(XX1_ ...
分类:
其他好文 时间:
2020-05-15 11:35:32
阅读次数:
66