Neural Dynamics on Complex Networks-KDD20

托管班朱老师

一、摘要

学习复杂网络上的连续时间动态对于理解、预测和控制科学和工程中的复杂系统至关重要。然而，由于高维系统结构中的组合复杂性、它们难以捉摸的连续时间非线性动力学以及它们的结构-动力学依赖性，使得这项任务非常具有挑战。
为了解决这些挑战，我们提出将常微分方程系统（ODEs）和图神经网络（GNNs）相结合，以数据驱动的范式来学习复杂网络上的连续时间动态变化。
我们用GNN来建模微分方程系统。我们并未在前向过程中使用离散数量的神经网络层进行映射，而是在连续时间上数值地整合GNN层，从而捕获图上的连续时间动态。我们的模型可以解释为连续时间GNN模型或图神经ode模型。我们的模型可以用于：

• 连续时间网络动态预测
  
• 结构化序列预测（定期采样情况）
  
• 单馈框架下的节点半监督分类任务（单快照情况）。
  

我们通过在上述三种情况下进行的大量实验，验证了我们的模型。较好的实验结果表明，我们的模型能够在一个单一的框架中联合捕获复杂系统的结构和动力学。
二、内容

将固定结构的图的节点特征随时间的动态变化，建模成微分方程（变化用微分方程建模是常规操作，还可以偏微分），同时用GNN模型来充当微分方程的右式，即变化公式（既利用神经网络的优势，有利用了GNN编码节点之间结构关联的能力）
对微分方程进行一阶近似（欧拉公式，一阶差分近似微分；或进行积分，再进行数值积分，殊途同归），再加上一个节点特征变换，即可得到本文公式。

值得注意的是，现实世界中常有时序预测的需求，例如传感器采集数据，假如不同的传感器构成网络，则变成了时空预测问题。然而，这个时候用动态图的算法不一定就优于传统时序预测或对传感器聚类分群建模预测等算法或方案，这可能是实际数据的空间依赖性并不强。

由于知乎图片大小限制，论文PPT总结，详见Neural Dynamics on Complex Networks-KDD20 - LeonYi - 博客园 (cnblogs.com)。