码迷,mamicode.com
首页 > 其他好文 > 详细

机器学习:PCA(使用梯度上升法求解PCA问题)

时间:2018-06-09 13:16:03      阅读:343      评论:0      收藏:0      [点我收藏+]

标签:机器学习   .com   数据   style   优化   转变   参数   bsp   最大值   

一、目标函数的梯度求解公式

  • PCA 降维的具体实现,转变为:

  技术分享图片

  • 方案:梯度上升法优化效用函数,找到其最大值时对应的主成分 w ;
  1. 效用函数中,向量 w 是变量;
  2. 在最终要求取降维后的数据集时,w 是参数;

 

 1)推导梯度求解公式

  • 变形一

    技术分享图片

 

  • 变形二

    技术分享图片

 

  • 变形三:向量化处理

    技术分享图片

 

  • 最终的梯度求解公式:▽f = 2 / m * XT . (X . dot(w) )

    技术分享图片

 

机器学习:PCA(使用梯度上升法求解PCA问题)

标签:机器学习   .com   数据   style   优化   转变   参数   bsp   最大值   

原文地址:https://www.cnblogs.com/volcao/p/9158892.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!