Softmax回归就是推广版本的逻辑回归。
只不过逻辑回归是个2分类问题，而Softmax是多分类问题，仅此而已。
Softmax回归在2分类情况下就蜕化成了逻辑回归。
逻辑回归的代价函数
考虑到权重衰减，修改一下就是Softmax回归的代价函数了
这里的权重衰减项是必须的，因为原先的代价函数不是严格凸函数，有无穷个极小值。现在加了这个权重衰减项，函数变成了严格凸函数。L...
分类：
数据库 时间：
2014-08-12 17:10:34
阅读次数：
502
1、构建图G将边缘象素和边界段（弧）用图表示2、构建源结点和汇结点3、计算弧代价函数，并对图G中的各个弧赋予一定的弧代价4、使用最大流图优化算法来确定对图G的图割，从而区分对应目标和背景象素的结点来自为知笔记(Wiz)
分类：
其他好文 时间：
2014-07-23 22:28:07
阅读次数：
184
本文是Andrew Ng在Coursera的机器学习课程的笔记。整体步骤确定网络模型初始化权重参数对于每个样例，执行以下步骤直到收敛计算模型输出：forward propagation计算代价函数：比较模型输出与真实输出的差距更新权重参数：back propagation确定网络模型神经网络模型由输...
分类：
其他好文 时间：
2014-07-22 23:36:27
阅读次数：
376
SAD（Sum of Absolute Difference）=SAE（Sum of Absolute Error)即绝对误差和 SATD（Sum of Absolute Transformed Difference）即hadamard变换后再绝对值求和 SSD（Sum of Squared Dif...
分类：
其他好文 时间：
2014-07-22 22:43:32
阅读次数：
246
背景 我要说的优化不是软件开发中的优化（降低空间和时间复杂度），而是一种意义更普遍的优化算法，是已知问题模型，如何寻找最优解的方法，已知能量函数（也叫代价函数）求全局最小值，恰如图中所示。优化算法是如此的普遍，机器学习中的线性回归，计算机视觉中的特征匹配，立体视觉和三维重建。又是如此的种类繁多，局部...
分类：
其他好文 时间：
2014-07-16 23:00:09
阅读次数：
295
《重构-改善既有代码的设计》Martin Fowler 摘要： 第十章 简化函数调用
Rename Method 函数改名
改一个自表达的名字吧！骚年
Add Parameter 添加参数
某个函数需要从调用端得到更多信息。
为此函数添加一个对象参数，让该对象代价函数所需信息。并发编程大多数参数很长，不放在一个类中，因为这样你可以保证传递给函数的参数都是不可修...
分类：
其他好文 时间：
2014-06-10 15:24:00
阅读次数：
210
