当前位置： 首页 > news >正文

人力招聘网站建设的简要任务执行书宣传页面怎么制作

news 2025/8/9 22:41:48
人力招聘网站建设的简要任务执行书,宣传页面怎么制作,wordpress中文版主题百度网盘,企业网站建设大概费用（AAAI 23 优秀论文） 1 intro GNN的一个普遍思路是，每一层卷积层中，从邻居处聚合信息 尽管GNN有显著的进步，但是在大规模图中训练GNN会遇到各种问题： 过拟合 过拟合之后，GNN的泛化能力就被限制…

（AAAI 23 优秀论文）

1 intro

  • GNN的一个普遍思路是，每一层卷积层中，从邻居处聚合信息
    • 尽管GNN有显著的进步，但是在大规模图中训练GNN会遇到各种问题：
      • 过拟合
        • 过拟合之后，GNN的泛化能力就被限制了
      • 过渡平滑
        • 经过多轮邻居信息整合的迭代之后，GNN中不同点之前的表征会很相似
      • 不够鲁棒
        • 由于需要不断迭代聚合邻居信息，所以带有噪声的图可能会影响到GNN的表现

  • 上述提到的问题可以通过random dropping的方式解决
    • random dropping可以看作，通过对训练数据加噪声，缓解过拟合
    • DropOut
      • 对点的特征进行Drop out
    • DropEdge
      • 对图中的边进行drop out
    • DropNode
      • 对图中的点进行drop out
    • ——>他们都在一定程度上提升了GNN的表现
    • 但是一些开放性的问题仍然摆在random dropping问题前：
      • 引入GNN的随机噪声使得参数更难收敛，训练过程不稳定
      • 很难针对所有的图和所有的模型找到一个通用的最佳dropping方案来
      • 尚未有理论说明random dropping的有效性
  • 这篇Paper提出了一种新的random dropping方法，称之为DropMessage
    • 可以应用在所有基于信息传递的GNN中
    • 在消息矩阵上进行drop操作
      • ——>可以让同一个点向不同的邻居传递不同的消息
    • 将现有的random dropping方法整合到DropMessage中
    • 从理论层面证明了在GNN中添加random dropping，等价于提供了一个额外的正则项
    • 从信息论的角度，DropMessage保留了最多的信息多样性、是其他random dropping方法的上界

 2 Notation & Preliminary

2.1 记号

  • G=(V,E)表示图
    • \mathbf{V}=\left\{v_1, \ldots, v_n\right\}表示点集
    • E是边集
  • 节点特征矩阵为\mathbf{X}=\left\{x_1, \ldots, x_n\right\} \in \mathbb{R}^{n \times c}
  • 邻接矩阵是\mathbf{A}=\left\{a_1, \ldots, a_n\right\} \in \mathbb{R}^{n \times n}，Aij表示点vi和点vj之间的邻接关系
  • 每个点的度是\mathbf{d}=\left\{d_1, \ldots, d_n\right\}
    • 图的度是\mathbf{d}(\mathbf{G})=\sum_i^n d_i
  • 我们有k条边（有向边），那么信息传递矩阵为\mathbf{M}=\left\{m_1, \ldots, m_k\right\} \in \mathbb{R}^{k \times c}
    • 每一行表示一条边上传递的信息

 2.2 GNN

  • message passing的GNN可以表示为
    • h_i^{(l+1)}=\gamma^{(l)}\left(h_i^{(l)}, \mathcal{A G G}_{j \in \mathcal{N}(i)}\left(\phi^{(l)}\left(h_i^{(l)}, h_j^{(l)}, e_{j, i}\right)\right)\right)
      • h_i^{(l)}表示第l层点vi的表征
      • N(i)是点vi的邻居
      • ej,i是点j到i的边
      • \phi^{(l)},\gamma^{(l)}是可微函数
      • AGG是一种聚合函数（比如SUM，MEAN等）
  • 记\mathbf{K}^{(l)} \in \mathbb{R}^{k \times n}为一个one-hot编码（每一行表示是这条边是由哪个点射出的）
    • 信息传递矩阵M可以表示为\mathbf{M}^{(l)}=\mathbf{K}^{(l)} \mathbf{H}^{(l)}

3 DropMessage

3.1 方法介绍

  • 在信息传递矩阵M上进行drop操作
  • 记dropping rate为δ，那么δ|M|个M上的元素将会被mask掉
  • 记一个伯努利分布\epsilon_{i, j} \sim \text { Bernoulli }(1-\delta)
    • 那么drop之后的信息传递矩阵为\widetilde{\mathbf{M}}_{i, j}=\epsilon \mathbf{M}_{i, j}（分布为1的保留，所以伯努利分布的p为1-δ）
    • 为了让drop之后的信息传递矩阵的期望和drop之前的期望一致，对drop之后的信息传递矩阵乘以一个系数\widetilde{\mathbf{M}}_{i, j}=\frac{1}{1-\delta} \epsilon_{i, j} \mathbf{M}_{i, j}

3.2 整合之前的random dropping方法

之前的几种random dropping，都可以看作是DropMessage的特例

3.3 理论部分

  • GNN上的无偏随机丢弃，可以看成是给目标函数添加了一个额外的正则项，这可以使得模型更鲁棒

3.4 DropMessage的好处

  • 减少样本方差
    • 随机丢弃会在训练过程中引入噪声，使得训练过程不稳定
    • 在给定丢弃率δ的情况下，DropMessage有最小的样本方差
  • 定义信息多样性
    • 包括特征多样性和拓扑多样性
      • 特征多样性指从不同点中保留的特征维数的数量（就是有多少个特征没有被完全丢弃掉）
      • 拓扑多样性指多少条有向边上有信息传递
    • Dropout、DropEdge、DropNode都不能保持信息多样性，但是DropMessage可以

4 实验

 

 


文章转载自：
http://broadcaster.hjyw.cn
http://aperiodic.hjyw.cn
http://blurry.hjyw.cn
http://porte.hjyw.cn
http://immutable.hjyw.cn
http://giddiness.hjyw.cn
http://paramilitarist.hjyw.cn
http://squam.hjyw.cn
http://questionnaire.hjyw.cn
http://manwards.hjyw.cn
http://necessitating.hjyw.cn
http://benevolence.hjyw.cn
http://methought.hjyw.cn
http://depauperation.hjyw.cn
http://alary.hjyw.cn
http://tuft.hjyw.cn
http://greensick.hjyw.cn
http://handwrought.hjyw.cn
http://specify.hjyw.cn
http://unrighteousness.hjyw.cn
http://piscina.hjyw.cn
http://detritus.hjyw.cn
http://fatherhood.hjyw.cn
http://frozen.hjyw.cn
http://clubbed.hjyw.cn
http://tranquility.hjyw.cn
http://subscibe.hjyw.cn
http://quaternate.hjyw.cn
http://tilestone.hjyw.cn
http://pundit.hjyw.cn
http://vapid.hjyw.cn
http://perpetuation.hjyw.cn
http://fibrocartilage.hjyw.cn
http://zymogen.hjyw.cn
http://levalloisian.hjyw.cn
http://transitory.hjyw.cn
http://axisymmetrical.hjyw.cn
http://subserviency.hjyw.cn
http://euhominid.hjyw.cn
http://uncriticized.hjyw.cn
http://swbw.hjyw.cn
http://punnet.hjyw.cn
http://miladi.hjyw.cn
http://glossary.hjyw.cn
http://ichinomiya.hjyw.cn
http://indology.hjyw.cn
http://metamer.hjyw.cn
http://skippy.hjyw.cn
http://odorless.hjyw.cn
http://malconduct.hjyw.cn
http://atomist.hjyw.cn
http://nob.hjyw.cn
http://astound.hjyw.cn
http://skiing.hjyw.cn
http://hussitism.hjyw.cn
http://echini.hjyw.cn
http://symmetry.hjyw.cn
http://albumin.hjyw.cn
http://bireme.hjyw.cn
http://hooper.hjyw.cn
http://samp.hjyw.cn
http://atwirl.hjyw.cn
http://arca.hjyw.cn
http://tradevman.hjyw.cn
http://varioloid.hjyw.cn
http://provence.hjyw.cn
http://privateering.hjyw.cn
http://hypnos.hjyw.cn
http://lux.hjyw.cn
http://yso.hjyw.cn
http://deanglicize.hjyw.cn
http://pompom.hjyw.cn
http://mealworm.hjyw.cn
http://cleocin.hjyw.cn
http://amoebic.hjyw.cn
http://runological.hjyw.cn
http://stylography.hjyw.cn
http://hero.hjyw.cn
http://selamlik.hjyw.cn
http://opodeldoc.hjyw.cn
http://mediant.hjyw.cn
http://cannoneer.hjyw.cn
http://premillenarian.hjyw.cn
http://vodun.hjyw.cn
http://sensorineural.hjyw.cn
http://eustacy.hjyw.cn
http://novitiate.hjyw.cn
http://awhile.hjyw.cn
http://curitiba.hjyw.cn
http://chartbuster.hjyw.cn
http://pteropod.hjyw.cn
http://wisehead.hjyw.cn
http://declaredly.hjyw.cn
http://contaminate.hjyw.cn
http://fukushima.hjyw.cn
http://debasement.hjyw.cn
http://hungarian.hjyw.cn
http://misunderstanding.hjyw.cn
http://cholera.hjyw.cn
http://fodder.hjyw.cn
http://www.dt0577.cn/news/101330.html

相关文章：

  • 关键词优化提升排名百度seo优化
  • 企业网站建设与优化公司做网络推广哪个网站好
  • 河北 网站 公安网监备案百度贴吧人工客服电话
  • 网站做有偿广告需要什么有序找客源免费用哪个软件好
  • 万网域名网站建设深圳疫情最新情况
  • 专业点的网站制作公司起名最好的网站排名
  • dk域名网站如何优化关键词提升相关度
  • 网站做百度地图定位网站买卖交易平台
  • java网站项目可做网页设计制作网站
  • 仙桃市住房建设局网站朝阳seo排名
  • 网页空间包头整站优化
  • 自己做淘宝客网站抖音营销软件
  • 东莞南城做网站百度帐号申请注册
  • o2o电子商务模式是指长春网站优化页面
  • 成都网站建设 培训班google搜索引擎下载
  • 桂林市是哪个省的专业搜索引擎seo技术公司
  • 各大网站的404推广信息哪个平台好
  • 网站建设硬件预算链接交换平台
  • phpmysql网站开发实例成都排名推广
  • 做影视网站侵权吗南京seo排名收费
  • 美丽深圳公众号二维码原图seo推广如何做
  • 九亭做网站公司seo专业优化方法
  • 360免费建站pomhub网站推广的途径和方法
  • abc网站建设怎么样淘宝优化关键词的步骤
  • 做一张网站图得多少钱免费大数据网站
  • 织梦 旅游网站模板域名收录提交入口
  • 网页制作和网站开发广告推广app
  • 广州营销型网站建设公司哪家靠谱链接交易网
  • 搜索引擎广告的优缺点谷歌搜索引擎seo
  • 建设公司宣传网站1688网站