跳到正文
arXiv AI· Zhewei Chen, Hao Zhu, Jiaojiao Jiang, Ahad N. Zehmakan·· 10 小时前评分57

Distilling Graph Geometry: Knowledge Gap from GNNs to MLPs

摘要

受能量加权教师-学生对齐目标的启发,我们提出了一种基于图几何的MLP(G^2MLP),该框架在训练过程中进行知识蒸馏,由Ollivier-Ricci曲率引导。曲率识别了两个谱误差集中聚集的位置,并用于在预测层级和表示层级之间分配监督。部署的模型仍为标准MLP,推理过程中无需图访问。

推荐理由

请对照arXiv AI原文,核对完整说明及适用条件。

本站只提供摘要与原文入口。完整内容请阅读原文。

来源:arXiv AI · arxiv.org