《H.264/AVC视频编解码技术详解》视频教程已经在“CSDN学院”上线，视频中详述了H.264的背景、标准协议和实现，并通过一个实战工程的形式对H.264的标准进行解析和实现，欢迎观看！“纸上得来...
分类：
编程语言 时间：
2017-01-24 11:14:34
阅读次数：
324
ID3采用的信息增益度量存在一个内在偏置,它优先选择有较多属性值的Feature,因为属性值多的Feature会有相对较大的信息增益?(信息增益反映的给定一个条件以后不确定性减少的程度,必然是分得越细的数据集确定性更高,也就是条件熵越小,信息增益越大).避免这个不足的一个度量就是不用信息增益来选择F ...
分类：
其他好文 时间：
2017-01-16 21:18:37
阅读次数：
175
一、注重实效的哲学 1.负责。准备告诉别人什么做不到前，先演练一遍，他人可能会说：试过这个吗？提供选择和解决方案， 而不是借口，需要重构，建立原型，测试，别的资源？提出要求和寻求帮助 2.软件的熵。杜绝破窗户，一个破窗会让优秀的系统加速腐烂。 3.石头汤的故事，设计合理的需求目标系统愿景，团结一切力 ...
分类：
其他好文 时间：
2017-01-16 10:40:23
阅读次数：
175
我的源码让猫吃了 软件的熵(无序) 石头汤和煮青蛙 你的知识财产 交流 ...
分类：
其他好文 时间：
2016-12-25 15:51:50
阅读次数：
134
http://blog.csdn.net/xmdxcsj/article/details/48790317 Crf模型 1. 定义 一阶（只考虑y前面的一个）线性条件随机场： 相比于最大熵模型的输入x和输出y，crf模型的输入输出都是序列化以后的矢量，是对最大熵模型的序列扩展。 相比于最大熵模型的另 ...
分类：
其他好文 时间：
2016-12-21 16:38:08
阅读次数：
435
首次接触信息熵，信息增益的概念是在阅读《机器学习实战》这本书的时候了解到的，那个时候对这几个概念还是一知半解，虽然当时可以理解，但是记忆却保持不了太久，几个月后，再次阅读一个数据专家的代码时发现人家对...
分类：
其他好文 时间：
2016-12-19 11:44:06
阅读次数：
164
本文总结自《Neural Networks and Deep Learning》第3章的内容。 目录 交叉熵代价函数（The cross-entropy cost function） 柔性最大值（softmax） 过度拟合（Overfitting） 规范化（regularization） 权重初始化 ...
分类：
其他好文 时间：
2016-12-19 00:14:41
阅读次数：
329
一、一些概念 互信息： 两个随机变量x和Y的互信息，定义X, Y的联合分布和独立分布乘积的相对熵。 贝叶斯公式： 贝叶斯带来的思考： 给定某些样本D，在这些样本中计算某结论出现的概率，即 给定样本D 所以可以推出，再假定p(Ai)相等，可以推出，这个就是最大似然估计做的事情，看下取哪个参数的时候，D ...
分类：
其他好文 时间：
2016-12-18 18:06:26
阅读次数：
256
树的算法总结 1.决策树 下面简述一下生成决策树的步骤：(1) 根据给定的训练数据，根据熵最大原则根据每一个维度来划分数据集，找到最关键的维度。(2) 当某个分支下所有的数据都数据同一分类则终止划分并返回类标签，否则在此分支上重复实施(1)过程。(3) 依次计算就将类标签构建成了一棵抉择树。(4) ...
分类：
编程语言 时间：
2016-12-06 02:49:03
阅读次数：
239
原理（ID3）： 依次选定每个特征，计算信息增益（基本信息熵-当前信息熵），选择信息增益最大的一个作为最佳特征； 以该特征作为树的根节点，以该最佳特征的每一个值作为分支，建立子树； 重复上述过程，直到：1) 所有类别一致 2) 特征用尽 优点： 简单容易理解； 可处理有缺失值的特征、非数值型数据； ...
分类：
其他好文 时间：
2016-12-04 23:13:31
阅读次数：
207
