转自：http://www.ruanyifeng.com/blog/2013/04/entropy.html1：根据热力学第一定律，能量是守恒的，可以互相转化（比如机械能转化为电能），而不会消失。热力学第二定律进一步指出，虽然能量可以转化，但是无法100%利用。在转化过程中，总是有一部分能量会被浪费...
分类：
其他好文 时间：
2015-02-27 16:47:55
阅读次数：
161
自然语言处理 基于规则 基于统计统计语言模型中文分词 梁南元--查字典 郭进--统计语言模型 Basis Technology 通用分词器 葛显平、朱安隐含马尔科夫模型信息熵贾里尼克、香农、雅各布森、乔姆斯基、弗兰德、哈克特统计语音识别和自然语言处理雅让斯基、布莱尔阿米特.辛格搜索引擎：...
分类：
其他好文 时间：
2015-02-19 20:43:20
阅读次数：
310
C4.5是机器学习算法中的另一个分类决策树算法，它是基于ID3算法进行改进后的一种重要算法，相比于ID3算法，改进有如下几个要点：用信息增益率来选择属性。ID3选择属性用的是子树的信息增益，这里可以用很多方法来定义信息，ID3使用的是熵（entropy， 熵是一种不纯度度量准则），也就是熵的变化值，...
分类：
其他好文 时间：
2015-02-06 14:52:18
阅读次数：
254
1. logistic回归模型1.1 Logsitic分布设X是服从logistic分布的连续随即变量，则X的分布函数和密度函数如下： \( F(x)=P(x \le x)=\displaystyle\frac{1}{1+e^{-(x-\mu)/\gamma}} \) \( f(...
分类：
其他好文 时间：
2015-02-04 18:27:44
阅读次数：
158
熵指的是体系的混乱的程度，对焦良好的图像的熵大于没有清晰对焦的图像，因此可以用熵作为一种对焦评价标准。熵越大，图像越清晰。
double LOG(double a)
{
int N = 15;
int k,nk;
double x,xx,y;
x = (a-1)/(a+1);
xx = x*x;
nk = 2*N+1;
y =...
分类：
其他好文 时间：
2015-01-28 16:01:20
阅读次数：
178
uniqid() 函数基于以微秒计的当前时间，生成一个唯一的 ID。语法uniqid(prefix,more_entropy)参数 描述prefix 可选。为 ID 规定前缀。如果两个脚本恰好在相同的微秒生成 ID，该参数很有用。more_entropy 可选。规定位于返回值末尾的更多的熵说明...
分类：
其他好文 时间：
2015-01-24 13:02:21
阅读次数：
186
H.264码流格式
SODB: String Of Data Bits 原始数据比特流, 熵编码输出结果, 以bit为单位。
RBSP: Raw Byte Sequence Payload 原始字节序列负载, 在SODB最后加上trailing bits.
EBSP: Extent Byte Sequence Payload 扩展字节序列负载, RBSP里面加入防伪起始码字节(0x03)...
分类：
其他好文 时间：
2015-01-23 18:26:44
阅读次数：
218
在安全系统中，通常我们会使用securerandom去更安全的生成随机数，而默认的SecureRandom里使用的算法是SHA1PRNG。
Linux中的随机数发生器
在Linux操作系统中，有一个特殊的设备文件，可以用作随机数发生器或伪随机数发生器。
/dev/random
在读取时，/dev/random设备会返回小于熵池噪声总数的随机字节。/dev/random可生成高随机性的...
分类：
编程语言 时间：
2015-01-19 21:04:55
阅读次数：
255
变换系数熵编码简介：
变换系数的扫描是基于4*4大小的子块进行的，子块和子块内部递归扫描。较大的TB首先被分割为多个4*4子块，扫描一般起始于最后一个系数，终止于DC系数，扫描包括子块的扫描和子块内部的扫描。每一个子块内的扫描方式都是一样的。
三种扫描方式：对角，水平，垂直
编码过程：
非零系数位置信息编码：
1 最后一个非零系数的位置：
扫描最后一个非零系数在TB中的位...
分类：
其他好文 时间：
2015-01-05 18:46:48
阅读次数：
271
上一篇中主要介绍了编码中的原理，这里主要是结合HM中的代码介绍读残差系数的方法
HM变换系数熵解码简介：
初始一个TU对象
成员变量介绍：
public:
typedef enum TU_SPLIT_MODE { DONT_SPLIT=0, VERTICAL_SPLIT=1, QUAD_SPLIT=2, NUMBER_OF_SPLIT_MODES=3 } SPLI...
分类：
其他好文 时间：
2015-01-05 18:45:16
阅读次数：
817
