本篇主要总结1.二分类逻辑回归简单介绍 , 2.算法的实现 3.对欠拟合问题的解决方法及实现(第二部分) 1.逻辑回归 逻辑回归主要用于非线性分类问题。具体思路是首先对特征向量进行权重分配之后用 sigmoid 函数激活。如下公式(1)(2) : h > 0.5时,分类为1。h < 0.5时分类为0 ...
分类:
其他好文 时间:
2019-01-14 21:24:57
阅读次数:
242
一、背景介绍 1.深度学习应用 2.一点基础:线性分类器 1)线性分类器得分函数: (1)给定W,可以由像素映射到类目得分 (2)可以调整参数/权重W,使得映射的结果和实际类别吻合 (3)损失函数是用来衡量吻合度的 (4)损失函数别的称呼:代价函数(衡量和标准之间的差异到底有多大,值越大) (5)损 ...
分类:
其他好文 时间:
2019-01-10 21:52:46
阅读次数:
199
一、引言 神经网络不是具体的算法,而是一种模型构造的思路或者方式,BP神经网络是通过线性分类器后面直接跟随激励神经元,然后前后收尾相连接形成网络的方式。每一个神经元节点的输入都来自于上一层的每个神经元的输出,这种方式叫做“全连接”。当然BP神经网络也可以不是全连接的,后面会讲到。 全连接的好处在于从 ...
分类:
其他好文 时间:
2019-01-10 13:10:52
阅读次数:
131
感知机算法 [TOC] 简介 感知机算法是最简单最基础的机器学习算法,可以用于处理最简单的二分类任务,并且模型和学习算法都十分简单。感知机1957年由Rosenblatt提出,是神经网络与支持向量机的基础。 感知机模型 感知机是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1 ...
分类:
编程语言 时间:
2019-01-07 22:46:04
阅读次数:
315
概念 感知机是一种二元线性分类器。输入一组代表实例特征的向量,感知机可以计算出实例的类别。 二元分类指的是感知机输出的结果只有两类,代表是或否。实际应用中,一些问题要求的输出就是是或否,比如根据照片识别性别,识别图片中是否存在某种物品,根据X光片判断是否患病,判断邮件是否是垃圾邮件等等。 多个是或否 ...
分类:
其他好文 时间:
2019-01-03 00:00:28
阅读次数:
269
机器学习分类(1)监督学习 数据集是有标签的,就是说对于给出的样本我们是知道答案的,我们大部分学到的模型都是属于这一类的,包括线性分类器、支持向量机等等; (2)无监督学习 跟监督学习相反,数据集是完全没有标签的,主要的依据是相似的样本在数据空间中一般距离是相近的,这样就能通过距离的计算把样本分类, ...
分类:
其他好文 时间:
2018-12-21 22:56:27
阅读次数:
286
概述 感知机在1957年由Rosenblatt提出,是神经网络和支持向量机的基础,它是一个二类分类的线性分类模型,属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面,为此,导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,求得感知机模型。 感知机模型 1、定义 假设输入空 ...
分类:
其他好文 时间:
2018-12-15 13:58:06
阅读次数:
201
线性分类器 1.线性分类器得分函数 CIFAR-10:一共有10个类别,几千张图片的分类任务 给你一张图片,然后得出每个类别的分数是多少,结果是一个得分向量score-vector 我们把[32,32,3]的图片看成x,线性分类器就是给出权重W,得到10个得分 简单一点,我们把32*32*3的矩阵拉 ...
分类:
其他好文 时间:
2018-12-15 11:59:47
阅读次数:
192
CH02 感知机 前言 章节目录 导读 感知机是二类分类的线性分类模型。 $L(w,b)$的经验风险最小化 本章中涉及到向量内积,有超平面的概念,也有线性可分数据集的说明,在策略部分有说明损关于失函数的选择的考虑,可以和CH07一起看。 本章涉及的两个例子,思考一下为什么$\eta=1$,进而思考一 ...
分类:
其他好文 时间:
2018-11-10 19:07:08
阅读次数:
174