二维Gibbs Sampling算法 Gibbs Sampling是高维概率分布的MCMC采样方法。二维场景下,状态(x, y)转移到(x’, y’),可以分为三种场景 (1)平行于y轴转移,如上图中从状态A转移到状态B。 (2)平行于x轴转移,如上图中从状态A转移到状态C。 (3)其他情况转移,如 ...
分类:
其他好文 时间:
2018-10-05 10:42:20
阅读次数:
135
1.Diagnosing bias vs. variance 2.Regularization and bias/variance 3.Learning curves 4.Deciding what to try next ...
分类:
其他好文 时间:
2018-09-26 01:19:00
阅读次数:
387
1 Mixer characterization DC input Bias voltage Bias Current RF input Lo input IF output 2 mixer device Schottky diode: BJT or FET :参考集成IC的datasheet 3 ...
分类:
其他好文 时间:
2018-09-22 16:02:50
阅读次数:
177
本文主要总结Bagging 和 Boosting 和 Stacking思想的异同点。这三种算法都可以称作为“meta-algorithms”,就是将多个机器学习方法集成到一个模型里面去降低方差,偏差,或者改善模型预测能力。通常bagging可以降低variance,boosting可以降低bias, ...
分类:
其他好文 时间:
2018-09-18 19:16:00
阅读次数:
357
一、什么是压缩感知(CS)? compressed sensing又称compressed sampling,CS是一个针对信号采样的技术,它通过一些手段,实现了“压缩的采样”,准确说是在采样过程中完成了数据压缩的过程。 因此我们首先要从信号采样讲起: 1. 我们知道,将模拟信号转换为计算机能够处理 ...
分类:
其他好文 时间:
2018-09-16 15:42:52
阅读次数:
182
1.前言:为什么我们要关心模型的bias和variance? 大家平常在使用机器学习算法训练模型时,都会划分出测试集,用来测试模型的准确率,以此评估训练出模型的好坏。但是,仅在一份测试集上测试,存在偶然性,测试结果不一定准确。那怎样才能更加客观准确的评估模型呢,很简单,多用几份测试数据进行测试,取多 ...
分类:
其他好文 时间:
2018-09-07 17:59:18
阅读次数:
638
常见的三种错误: 模型偏差(bias),比如多项式的数据被建模为线性模式;导致的underfit(欠拟合) 变量偏差(Variance),数据的模型有很多维度,这些维度都满足,而且数据量还比较小,这就容易造成overfit(过拟合) 硬性错误(Irreducible Error),这种错误则是由数据... ...
分类:
其他好文 时间:
2018-09-05 13:52:26
阅读次数:
145
继续layer的学习。 cafee中的卷积层: param:只有一个为权重的学习率,两个的话第二个为bias的学习率,最终的学习率需要这个数乘以solver.prototxt配置文件中的base_lr。 num_output:卷积核个数 kernel_size": filter size,如果 h ...
分类:
其他好文 时间:
2018-09-04 13:55:40
阅读次数:
252
知识复习 空间亚线性算法:由于大数据算法中涉及到的数据是海量的,数据难以放入内存计算,所以一种常用的处理办法是不对全部数据进行计算,而只向内存里放入小部分数据,仅使用内存中的小部分数据,就可以得到一个有质量保证的结果。数据流算法:是指数据源源不断地到来,根据到来的数据返回相应的部分结果。适用于两种情 ...
分类:
其他好文 时间:
2018-09-02 14:31:49
阅读次数:
169
六、验证数据集与交叉验证 七、偏差方差平衡 偏差方差权衡 Bias Variance Trade off 偏差 Bias 导致偏差的主要原因: 对问题本身的假设不正确! 如:非线性数据使用线性回归 欠拟合 underfitting 方差 Variance 数据的一点点扰动都会较大的影响模型 通常原因 ...
分类:
其他好文 时间:
2018-08-31 17:20:16
阅读次数:
355