区别于线性回归,不是把每个特征直接乘以系数,而是用一个S型函数(Logistic函数)。如下:
使用这种形式函数的原因(概率、求导)。
 
代价函数,也不是线性回归中的误差平方和,而是基于对数似然函数,如下:
 
单个样本的后验概率为:(y = 0, 1) 类似于二项分布的概率密度函数。
整个样本集的后验概率:
对数似然函数对于代价函数,如下:
 
梯度下降法...
                            
                            
                                分类:
编程语言   时间:
2015-03-05 10:52:23   
                                阅读次数:
239
                             
                         
                    
                        
                            
                            
                                Logistic回归用来分类,线性回归用来回归。
 
线性回归是把让样本的属性前面加系数,相加。代价函数是误差平方和形式。所以,在最小化代价函数的时候,可以直接求导,令导数等于0,如下:
 
也可以使用梯度下降法,学习的梯度和Logistic回归形式一样。
 
线性回归的优点:计算简单。
缺点:不好处理非线性数据。...
                            
                            
                                分类:
编程语言   时间:
2015-03-05 10:48:54   
                                阅读次数:
154
                             
                         
                    
                        
                            
                            
                                偶然间看到向量求导,发现自己竟然没有什么印象了,从网上扒来这篇总结,稍作修改贴在这里。原文:http://hujianjust.blog.163.com/blog/static/7245507220108138818616/矩阵(向量)求导1. 矩阵Y对标量x求导: 相当于每个元素求导数后转置一下,...
                            
                            
                                分类:
其他好文   时间:
2015-03-04 18:22:25   
                                阅读次数:
150
                             
                         
                    
                        
                            
                            
                                设计函数求一元多项式的导数。(注:xn(n为整数)的一阶导数为n*xn-1。)输入格式:以指数递降方式输入多项式非零项系数和指数(绝对值均为不超过1000的整数)。数字间以空格分隔。输出格式:以与输入相同的格式输出导数多项式非零项的系数和指数。数字间以空格分隔,但结尾不能有多余空格。注意“零多项式”...
                            
                            
                                分类:
其他好文   时间:
2015-02-24 21:01:32   
                                阅读次数:
153
                             
                         
                    
                        
                            
                            
                                #include#include#includeusing namespace std;int main(){ int arr[1111]; fill(arr,arr+1111,0); int n=0,tmp; while(scanf("%d",&tmp)!=EOF) //存储系数...
                            
                            
                                分类:
其他好文   时间:
2015-02-17 15:16:09   
                                阅读次数:
121
                             
                         
                    
                        
                            
                            
                                1010. 一元多项式求导 (25)时间限制400 ms
内存限制65536 kB
代码长度限制8000 B
判题程序Standard设计函数求一元多项式的导数。输入格式:以指数递降方式输入多项式非零项系数和指数(绝对值均为不超过1000的整数)。数字间以空格分隔。输出格式:以与输入相同的格式输出导数多项式非零项的系数和指数。数字间以空格分隔,但结尾不能有多余空格。注意“零多项式”的指数和系...
                            
                            
                                分类:
其他好文   时间:
2015-02-06 09:36:53   
                                阅读次数:
116
                             
                         
                    
                        
                            
                            
                                设计函数求一元多项式的导数。输入格式:以指数递降方式输入多项式非零项系数和指数(绝对值均为不超过1000的整数)。数字间以空格分隔。输出格式:以与输入相同的格式输出导数多项式非零项的系数和指数。数字间以空格分隔,但结尾不能有多余空格。注意“零多项式”的指数和系数都是0,但是表示为“0 0”。输入样例...
                            
                            
                                分类:
其他好文   时间:
2015-02-03 22:47:32   
                                阅读次数:
214
                             
                         
                    
                        
                            
                            
                                第四章:静态优化模型(微分法建模,求导得目标函数最优解)
       
现实世界中普遍存在着优化问题;静态优化模型指求解问题的最优解;重点是如何根据目的确定恰当的目标函数;一般使用微分法。
1.    存储模型:存在某种矛盾,寻找平衡最优点!
a)      问题描述:配件厂为装配生产若干中产品,轮换产品时因更换设备要付生产准备费,产量大于需求时因积压资金要付存储费,该场生产能力非常大,...
                            
                            
                                分类:
其他好文   时间:
2015-02-03 13:27:13   
                                阅读次数:
165
                             
                         
                    
                        
                            
                            
                                1010. 一元多项式求导 (25)时间限制400 ms内存限制65536 kB代码长度限制8000 B判题程序Standard设计函数求一元多项式的导数。输入格式:以指数递降方式输入多项式非零项系数和指数(绝对值均为不超过1000的整数)。数字间以空格分隔。输出格式:以与输入相同的格式输出导数多项...
                            
                            
                                分类:
其他好文   时间:
2015-02-02 17:52:38   
                                阅读次数:
129
                             
                         
                    
                        
                            
                            
                                SICP 习题:
#lang scheme
( define ( variable? x )
   ( symbol? x ) )
( define ( same-variable? x y )
   ( and ( variable? x )
         ( variable? y )
         ( eq? x y ) ) )
( define ...
                            
                            
                                分类:
其他好文   时间:
2015-01-26 22:49:12   
                                阅读次数:
156