title: why batch norm work 没太理解 title: softmax regression 多分类问题，输出层变成一个n维向量，有几个类就几维，每一个元素对应属于这个类的概率 softmax激活函数，挺简单的啊 softmax这一层，本身是划分线性边界的 title: dee ...
分类：
其他好文 时间：
2019-06-04 17:46:40
阅读次数：
113
● 神经网络为啥用交叉熵。 参考回答： 通过神经网络解决多分类问题时，最常用的一种方式就是在最后一层设置n个输出节点，无论在浅层神经网络还是在CNN中都是如此，比如，在AlexNet中最后的输出层有1000个节点，而即便是ResNet取消了全连接层，也会在最后有一个1000个节点的输出层。 一般情况 ...
分类：
编程语言 时间：
2019-06-03 21:55:40
阅读次数：
346
● 分层抽样的适用范围 参考回答： 分层抽样利用事先掌握的信息,充分考虑了保持样本结构和总体结构的一致性,当总体由差异明显的几部分组成的时候,适合用分层抽样。 ● LR的损失函数 参考回答： M为样本个数,为模型对样本i的预测结果,为样本i的真实标签。 ● LR和线性回归的区别 参考回答： 线性回归 ...
分类：
编程语言 时间：
2019-06-03 21:45:15
阅读次数：
198
交叉熵公式 参考回答： 交叉熵：设p(x)、q(x)是X中取值的两个概率分布，则p对q的相对熵是： 在一定程度上，相对熵可以度量两个随机变量的“距离”，且有D(p||q) ≠D(q||p)。另外，值得一提的是，D(p||q)是必然大于等于0的。 互信息：两个随机变量X，Y的互信息定义为X，Y的联合分 ...
分类：
编程语言 时间：
2019-06-03 21:41:01
阅读次数：
422
K-近邻(KNN)算法是解决分类问题的算法。既可以解决二分类，也可以解决多分类问题。 其实它也可以解决回归问题。 K-近邻原理: 某个样本的类别，由与之最相近的K个邻居投票所决定。 例子: 现在有一个样本集，其中所有数据都已经标记好类别，假设有一个未知类别的样本x需要进行分类。 在离这个样本距离最近 ...
分类：
编程语言 时间：
2019-06-01 23:22:50
阅读次数：
181
注：有些markdown语法没渲染出来，可以简书查看： "scikit learn 多分类混淆矩阵" 前面 是 scikit learn 0.21 新增的一个函数。看名字可知道是用来计算多标签的混淆矩阵的。不过也可以用它来计算多分类的混淆矩阵。 MCM 将多分类数据转化为2分类问题，采用 one v ...
分类：
其他好文 时间：
2019-06-01 13:55:21
阅读次数：
114
【火炉炼AI】深度学习010 Keras微调提升性能（多分类问题） (本文所使用的Python库和版本号: Python 3.6, Numpy 1.14, scikit learn 0.19, matplotlib 2.2, Keras 2.1.6, Tensorflow 1.9.0) 前面的文章( ...
分类：
其他好文 时间：
2019-05-31 16:27:26
阅读次数：
118
以下内容是个人通过查阅网上相关资料总结出的内容 具体说明数据不均衡会带来的问题： 1）在一个二分类问题中，训练集中class 1的样本数比class 2的样本数是60:1。使用逻辑回归进行分类，最后训练出的模型可能会忽略了class 2，即模型可能会将所有的训练样本都分类为class 1。 2）在分 ...
分类：
其他好文 时间：
2019-05-26 11:13:10
阅读次数：
336
1. 线性回归的模型函数和损失函数 对于m个样本，n维特征， 如果y是连续的，则是回归问题，否则是分类问题。 它的线性回归模型是： θi (i = 1,2...n)是参数，xi (i = 1,2...n)是每个样本的n个特征。 这里增加一个特征 x0 = 1，得到 矩阵形式的线性回归模型：hθ(x) ...
分类：
其他好文 时间：
2019-05-22 15:34:57
阅读次数：
94
现在自然语言处理用深度学习做的比较多，我还没试过用传统的监督学习方法做分类器，比如SVM、Xgboost、随机森林，来训练模型。因此，用Kaggle上经典的电影评论情感分析题，来学习如何用传统机器学习方法解决分类问题。 通过这个情感分析的题目，我会整理做特征工程、参数调优和模型融合的方法，这一系列会 ...
分类：
其他好文 时间：
2019-05-19 11:49:23
阅读次数：
224
