24知识智能专题论坛

知识图谱嵌入方法不断演进，从最初的TransE到后来的RotatE，再到引入不确定性和逻辑规则的嵌入方法。比如，TransE将实体和关系嵌入为向量，并通过度量学习预测尾实体嵌入。随着研究的深入，逻辑规则被引入以增强推理能力，帮助知识图谱处理未观测到的三元组。

图神经网络（GNN）已经成为处理图结构数据的关键技术，尤其擅长于节点分类和链接预测任务。Jure Leskovec的研究表明，GNN能够区分不同结构的根子树。在异构网络中，HGT模型通过特定参数设置不同类型的节点和关系，相比传统GNN提升了10-20个百分点的性能。这为复杂网络中的表示学习提供了新思路。

阿里巴巴达摩院的杨红霞博士分享了认知推荐系统的最新成果，包括多模态理解和可控多兴趣框架。多模态预训练能帮助召回视频和文本，而可控多兴趣框架则解决了推荐系统中个性化和多样性的问题。例如，ComiRec模型通过调控推荐精度与多样性，尽可能推出不同类型的商品，满足用户的多样化需求。

CogDL是一个由清华大学知识工程实验室开发的图表示学习工具包，支持多种图神经网络算法和任务。它不仅重现了所有算法，还能一键实现模型训练和评估。CogDL整合了流行的图表示学习算法，如GCN、GAT等，使得研究人员可以轻松对比不同模型的效果。比如，在Cora数据集上，CogDL支持用户使用多个GPU同时运行多个模型。

图神经网络的预训练借鉴了自然语言处理和计算机视觉领域的经验，通过对比学习思想，将实例区分作为预训练任务。GPT-GNN模型通过生成节点属性和连边，帮助模型在少量数据的情况下也能取得良好表现。预训练框架在不同比例的数据上进行调优，性能提升显著。例如，在OGB数据集上，预训练后的模型性能比未预训练时高出9.1%。