重点整理： PCA（Principal Components Analysis）即主成分分析，是图像处理中经常用到的降维方法 1、原始数据： 假定数据是二维的 x=[2.5, 0.5, 2.2, 1.9, 3.1, 2.3, 2, 1, 1.5, 1.1]T y=[2.4, 0.7, 2.9, 2. ...
分类：
其他好文 时间：
2018-03-07 18:59:00
阅读次数：
119
1 k近邻算法2 模型2.1 距离测量2.2 k值选择2.3 分类决策规则3 kNN的实现——kd树3.1 构造kd树3.2 kd树搜索 1 k近邻算法 k nearest neighbor，k-NN，是一种基本分类与回归的方法，输入为实例的特征向量——对应空间的点，输出为实例的类别，可取多类。kN ...
分类：
编程语言 时间：
2018-03-02 18:40:18
阅读次数：
215
代码实现分成好多种层级，有的代码零依赖，有的代码依赖某些常用库，有的代码直接调用库。 在本文中，按照不同的层级分别实现PCA 对于分类问题基本任务可以描述如下 x11 x12 x13 x14 y1 x21 x22 x23 x24 y2 x31 x32 x33 x34 y3 ...... PCA用于提 ...
分类：
其他好文 时间：
2018-03-01 14:49:18
阅读次数：
134
KNN算法在python里面可以使用pip install指令安装，我在实现之前查看过安装的KNN算法，十分全面，包括了对于手写体数据集的处理。我这里只是实现了基础的识别方法，能力有限，没有数据处理方法。 电脑太渣，没有自己训练数据集。 选取的数据集是已经处理好的。 如果自己要手动处理数据集，推荐m ...
分类：
编程语言 时间：
2018-02-28 16:27:30
阅读次数：
266
老朋友了，还用多说什么吗？点击下面的链接复习咯： 17. 随机梯度下降算法之经典变种 18. SVM—核函数与松弛变量 19. 主题模型 20. PCA最小平方误差理论 21. 分类、排序、回归模型的评估 22. 特征工程—结构化数据 23. 神经网络训练中的批量归一化 24. 随机梯度下降法 你可 ...
分类：
其他好文 时间：
2018-02-27 21:32:28
阅读次数：
212
好久不见，Hulu机器学习问题与解答系列又又又更新啦！ 你可以点击菜单栏的“机器学习”，回顾本系列前几期的全部内容，并留言发表你的感悟与想法，说不定会在接下来的文章中看到你的感言噢～ 今天的主题是 【降维】 引言 宇宙，是时间和空间的总和。时间是一维的，而空间的维度，众说纷纭，至今没有定论。弦理论说 ...
分类：
编程语言 时间：
2018-02-27 21:13:54
阅读次数：
246
KNN 思想简单 数学所需知识少（近零） 效果好 可解释机器学习算法使用过程中的很多细节问题 更完整的刻画机器学习应用的流程 K近邻本质：如果两个样本足够相似，那么它们就有可能属于同一类别。 e.g. 绿色的点是新加入的点，取其最近的k（3）个点作为小团体来投票，票数高的获胜（蓝比红-3：0）,所以 ...
分类：
编程语言 时间：
2018-02-24 19:34:36
阅读次数：
161
1.PCA 使用场景:主成分分析是一种数据降维,可以将大量的相关变量转换成一组很少的不相关的变量,这些无关变量称为主成分 步骤: 案例:从USJudgeRatings数据集中有11个变量,如何去减化数据(单个主成分分析) 1.使用碎石图确定需要提取的主成分个数 结论:在特征值大于1的的点附近,都表明 ...
分类：
编程语言 时间：
2018-02-24 10:49:28
阅读次数：
308
引 言: top命令作为Linux下最常用的性能分析工具之一，可以监控、收集进程的CPU、IO、内存使用情况。比如我们可以通过top命令获得一个进程使用了多少虚拟内存（VIRT）、物理内存（RES）、共享内存（SHR）。 最近遇到一个咨询问题，某产品做性能分析需要获取进程占用物理内存的实际大小（不包 ...
分类：
系统相关 时间：
2018-02-23 11:01:17
阅读次数：
339
凸优化课程 0 凸优化的重要性 首先，在现实生活中，如果对实际问题进行建模，直接符合凸优化条件的问题很少很少，少的可怜，我们在机器学习中、深度学习中所谓的模型正好符合凸优化模型的情况是经过无数先辈几十年的沉淀转化而来的，现今的机器学习、深度学习，所谓的智能，其实也只是数据进行建模，kNN、贝叶斯、决 ...
分类：
其他好文 时间：
2018-02-21 11:38:49
阅读次数：
266
