当前位置: 首页 > news >正文

景县网址建站seo关键词推广多少钱

景县网址建站,seo关键词推广多少钱,源码快速建站,写作网站新手机器人中的数值优化|【四】L-BFGS理论推导与延伸 往期内容回顾 机器人中的数值优化|【一】数值优化基础 机器人中的数值优化|【二】最速下降法,可行牛顿法的python实现,以Rosenbrock function为例 机器人中的数值优化|【三】无约束优化,拟牛…

机器人中的数值优化|【四】L-BFGS理论推导与延伸

往期内容回顾

机器人中的数值优化|【一】数值优化基础
机器人中的数值优化|【二】最速下降法,可行牛顿法的python实现,以Rosenbrock function为例
机器人中的数值优化|【三】无约束优化,拟牛顿法理论与推导

L-BFGS方法

在上一节中我们对拟牛顿法进行了详细的推导,特别是对BFGS的推导过程比较熟悉了,我们发现BFGS虽然解决了牛顿法中hessian可能不存在以及hessian求逆计算复杂的通电,但是在大规模优化过程中,很可能没有办法去存储一个 n × n n \times n n×n矩阵,因此Limited memory GFGS算法自然而然就被提出,表示使用有限的空间来进行计算。观察原来的式子
Δ B t = Δ g t Δ g t T Δ x t Δ g t T − B t Δ x t Δ x t T B t T Δ x t T Δ B t T Δ x t \Delta B_t = \frac{\Delta g_t \Delta g_t^T}{\Delta x_t \Delta g_t^T} - \frac{B_t \Delta x_t \Delta x_t^T B_t^T}{\Delta x_t^T \Delta B_t^T \Delta x_t} ΔBt=ΔxtΔgtTΔgtΔgtTΔxtTΔBtTΔxtBtΔxtΔxtTBtT
B t + 1 − 1 = ( I n − Δ x Δ g T Δ x t T Δ g t ) B t − 1 ( I n − Δ g t Δ x t T Δ x t T Δ g t ) + Δ x t Δ x t T Δ x t T Δ g t B_{t+1}^{-1} = (I_n - \frac{\Delta x \Delta g^T}{\Delta x_t^T \Delta g_t})B_t^{-1}(I_n - \frac{\Delta g_t \Delta x_t^T}{\Delta x_t^T \Delta g_t}) + \frac{\Delta x_t \Delta x_t^T}{\Delta x_t^T \Delta g_t} Bt+11=(InΔxtTΔgtΔxΔgT)Bt1(InΔxtTΔgtΔgtΔxtT)+ΔxtTΔgtΔxtΔxtT
我们很容易知道, B t + 1 B_{t+1} Bt+1可以通过迭代计算 Δ x t , Δ g t \Delta x_t,\Delta g_t Δxt,Δgt来得到,LBFGS的思想是不再使用所有的 Δ x t , Δ g t \Delta x_t,\Delta g_t Δxt,Δgt,而是通过使用最近的 m m m个序列来计算。这样只需要保存 2 m 2m 2m个向量,然后每次迭代最近的结果即可计算出近似矩阵 B B B,避免显式保存矩阵信息。

ρ k = 1 Δ x k T Δ g k \rho_k = \frac{1}{\Delta x_k^T \Delta g_k} ρk=ΔxkTΔgk1
V k = I − ρ k Δ x k Δ g k T V_k = I -\rho_k \Delta x_k \Delta g_k^T Vk=IρkΔxkΔgkT
可以简写为
B t + 1 − 1 = V k B t − 1 V k T + ρ k Δ x t Δ x t T B_{t+1}^{-1} = V_kB_{t}^{-1}V_k^T + \rho_k \Delta x_t \Delta x_t^T Bt+11=VkBt1VkT+ρkΔxtΔxtT
实际工程应用中,可以使用two-loop recursion方法,直接计算得到搜索方向,不用显示计算矩阵,如下所示:
L-BFGS two loop recursion
L-BFGS

http://www.dt0577.cn/news/41351.html

相关文章:

  • 东莞商城网站建设推广方案怎么写模板
  • 有谁帮做网站的360优化大师官方网站
  • 200m网站空间多少钱台州关键词优化推荐
  • 秦皇岛今日头条新闻seo排名优化哪家好
  • 美食网站建设方案网红推广团队去哪里找
  • wordpress 自动 发微博网站自然排名优化
  • b2b2c网站开发品牌整合推广
  • 苗木网站开发需求进入百度app
  • 广东省建设行业数据开放平台seo优化内容
  • 怎样靠做网站赚钱深圳网站建设微信开发
  • hqz行情站淘宝数据分析工具
  • 建设信用卡网站首页企业文化
  • 外贸网站开发哪家好网络营销推广工具
  • 英语卷子哪个网站可以做中国腾讯和联通
  • 付费推广渠道有哪些陕西seo顾问服务
  • 深圳低价做网站系统优化大师官方下载
  • 上海 专业网站设计 母婴类客户关系管理
  • 东莞网上商城网站建设十大网站管理系统
  • 网站建设的流程网站查询备案信息
  • 电商网站开发用什么语言表达十大搜索引擎网站
  • 镇江百度代理济南seo公司报价
  • 学而思编程网站网站平台推广
  • 手机最新发布搜索引擎优化课程
  • 建设网站需要什么步骤2024年3月新冠肺炎
  • 麻涌公司网站建设公司搜索排名
  • 学校微网站模板下载地址竞价被恶意点击怎么办
  • 学做ps的软件的网站火星培训机构收费明细
  • 网站推广的目标宁波seo关键词如何优化
  • 北京网站开发网站建设价格百度网登录入口
  • 有名的网站制作公司搜索网页