晚上睡不着,突然想了一些机器学习中的问题,发现似乎可以类比于生活。因为从某种程度来说,机器学习是模仿人类学习,那么反推回去,机器学习似乎也可以给生活或学习一些启示。 机器学习中的损失函数,是用来衡量一个机器学习模型的好坏程度。通常机器学习的过程就是不断的使得损失函数减少的过程。对于生活与学习来说,就 ...
分类:
其他好文 时间:
2018-06-30 01:01:10
阅读次数:
195
回顾上一节课,我们了解视觉识别,特别是图像分类,这确实是一个非常困难的问题,因为我们必须考虑到这些可能的变化,并使得当我们在识别这些类型时,分类器能够在面对这些变化时具有鲁棒性,例如对猫的识别,似乎存在着难解决的问题,我们仅需要知道如何解决这些问题,同时我们还必须能够在成千上万的其他类型中解决这些问 ...
分类:
其他好文 时间:
2018-06-25 22:57:08
阅读次数:
256
决策树 Decision Tree 一.基础知识 树的基本类型: 结点(内部节点,叶结点)+有向边 决策树也叫判断树,树的结构是满足 if then 条件规则的. 树的特点:可读性性高,分类速度快 二.思想脉络 决策树=从训练数据集中归纳出一组分类规则(模型)+以损失函数为目标函数的最小化(策略)+ ...
分类:
其他好文 时间:
2018-06-24 16:09:35
阅读次数:
198
原理 对数损失, 即对数似然损失(Log-likelihood Loss), 也称逻辑斯谛回归损失(Logistic Loss)或交叉熵损失(cross-entropy Loss), 是在概率估计上定义的.它常用于(multi-nominal, 多项)逻辑斯谛回归和神经网络,以及一些期望极大算法的变 ...
分类:
编程语言 时间:
2018-06-23 20:54:44
阅读次数:
960
最近太忙已经好久没有写博客了,今天整理分享一篇关于损失函数的文章吧,以前对损失函数的理解不够深入,没有真正理解每个损失函数的特点以及应用范围,如果文中有任何错误,请各位朋友指教,谢谢~ 损失函数(loss function)是用来估量模型的预测值f(x)与真实值Y的不一致程度,它是一个非负实值函数, ...
分类:
其他好文 时间:
2018-06-23 15:40:12
阅读次数:
5847
#在TensorFlow实现一个soft margin 支持向量机 #损失函数 惩罚项 使用L2范数 # 1/n*Σmax(0, y(Ax-b)) +Σ||A||^2 import tensorflow as tf import numpy as np import matplotlib.pyplo... ...
分类:
其他好文 时间:
2018-06-15 15:42:17
阅读次数:
222
弹性网络回归算法是综合lasso回归和岭回归的一种回归算法,通过在损失函数中增加L1正则和L2正则项,进而控制单个系数对结果的影响 ...
分类:
编程语言 时间:
2018-06-12 16:10:10
阅读次数:
179
import tensorflow as tf import numpy as np import matplotlib.pyplot as plt from sklearn import datasets sess=tf.Session() #加载鸢尾花集 iris=datasets.load_i... ...
分类:
编程语言 时间:
2018-06-12 00:45:15
阅读次数:
245
一、梯度下降法的调试 1)疑问 / 难点 如何确定梯度下降法的准确性? 损失函数的变量 theta 在某一点上对应的梯度是什么? 在更负责的模型中,求解梯度更加不易; 有时候,推导出公式后,并将其运用到程序中,但当程序运行时,有时对梯度的计算可能会出现错误,怎么才能发现这种错误? 2)梯度下降法的调 ...
分类:
其他好文 时间:
2018-06-08 14:18:24
阅读次数:
273
git: https://github.com/linyi0604/MachineLearning/tree/master/07_tensorflow/ ...
分类:
其他好文 时间:
2018-06-06 23:41:18
阅读次数:
343