Please enable JavaScript.
Coggle requires JavaScript to display documents.
“Graph Neural Networks: Graph Transformation - Coggle Diagram
“Graph Neural Networks: Graph Transformation
Abstract
Cet chapitre aborde le problème de la transformation de graphes dans le domaine des réseaux neuronaux graphiques.
Ce problème se pose lorsqu'il est nécessaire de "transformer" un graphe du domaine source en un autre graphe dans le domaine cible, en apprenant une correspondance de transformation entre les domaines source et cible.
Le chapitre explore différentes catégories de transformation de graphes, en fonction des entités qui sont transformées pendant le processus de transformation.
Ces catégories comprennent la transformation au niveau des nœuds, la transformation au niveau des arêtes, la co-transformation nœud-arête, ainsi que d'autres transformations impliquant des graphes (par exemple, la transformation de séquence en graphe et la transformation de contexte en graphe).
Le chapitre vise à fournir une compréhension approfondie du problème de transformation de graphes dans le contexte des réseaux neuronaux graphiques. Il explore les différentes catégories de transformation et présente des modèles qui proposent des solutions pour chacune de ces catégories.
1.Formulation du problème de la transformation de graphes
Elle explique que de nombreux problèmes de prédiction structurée sont rencontrés dans le processus de "traduction" d'une donnée d'entrée (par exemple, des images, des textes) en une donnée de sortie correspondante, qui consiste à apprendre une correspondance de traduction du domaine d'entrée au domaine cible. "
Par exemple, lors de la traduction d'une phrase d'une langue à une autre, il faut tenir compte de la structure grammaticale de la phrase pour obtenir une traduction correcte. De même, lors de la transformation d'une image, il faut prendre en compte la structure spatiale des pixels pour obtenir une image de sortie correcte
Difficulté de résoudre de données non structurées
2.Transformation au niveau des nœuds
consiste à transformer les nœuds d'un graphe en d'autres nœuds dans un autre graphe sans changer les arêtes.
utilisée dans des domaines spécifiques tels que la prédiction de la structure des protéines et la prédiction de la vitesse du trafic dans les réseaux de capteurs.
deux types de modèles de transformation de nœuds
les réseaux d'interaction (IN)
Les IN sont utilisés pour résoudre des problèmes de raisonnement sur les objets, les relations et la physique
Utilisé pour modéliser les interactions et les dynamiques des nœuds dans un système complexe avec des modèles structurés et la simulation
les réseaux neuronaux convolutifs spatio-temporels (ST-CRNN)
utilisés pour résoudre des problèmes de prévision spatio-temporelle dans un environnement dynamique, tels que les opérations de véhicules autonomes et l'optimisation de l'énergie.
conçues pour modéliser les dépendances spatiales et temporelles dans les données de graphe.
3.Transformation au niveau des arêtes
consiste à modifier les arêtes et leurs attributs tout en maintenant les nœuds et leurs attributs inchangés.
Utilisé dans la modélisation des réactions chimiques, le repliement des protéines et la synthèse de réseaux cybernétiques de logiciels malveillants, entre autres domaines.
trois types principaux de méthodes de transformation au niveau des arêtes
les réseaux générateurs antagonistes de transformation de graphe (GTGAN)
sont des modèles alternatifs pour les problèmes de génération, basés sur un scénario de théorie des jeux appelé jeu du minimax, où un discriminateur et un générateur s'affrontent
Ils se composent d'un traducteur de graphe T et d'un discriminateur de graphe conditionnel D.
utilisés pour des applications telles que la modélisation des réactions chimiques, le repliement des protéines et la synthèse de réseaux cybernétiques de logiciels malveillants.
les réseaux de transformation de graphe à plusieurs échelles (Misc-GAN)
utilisés pour capturer les structures hiérarchiques de communautés dans les réseaux réels.
utilise le concept de CycleGAN pour apprendre la distribution des structures de graphe et générer des graphes synthétiques à différentes échelles.
Ils se composent de graphes à granularité grossière agrégés à partir du graphe d'entrée, qui sont ensuite reconstruits en graphes à granularité fine.
Utilisé pour l'analyse de réseaux sociaux et la modélisation de communautés.
les réseaux de politiques de transformation de graphe (CTPN)
sont une méthode novatrice qui combine les réseaux neuronaux de graphe et l'apprentissage par renforcement pour résoudre des problèmes de transformation spécifiques à un domaine
Utilisé pour la prédiction de produits de réactions chimiques, la synthèse de molécules et la conception de médicaments
formule le processus de transformation comme un processus de décision de Markov et modifie de manière itérative le graphe d'entrée pour générer le graphe de sortie souhaité.
utilise l'apprentissage par renforcement pour optimiser le modèle en fournissant des récompenses pour les prédictions correctes. Contrairement aux architectures encodeur-décodeur
4.Co-Transformation de Noeuds et d'Arêtes
Vise à générer les attributs des noeuds et des arêtes du graphe cible en fonction de ceux du graphe d'entrée
Existe deux catégories de techniques utilisées pour assimiler le graphe d'entrée et générer le graphe cible
Les techniques basées sur l'encodage
les techniques basées sur l'édition
Trois techniques principales
les Variational Auto-encoders à arbres de jonction
sont une méthode utilisée pour l'optimisation moléculaire
Ils utilisent
un encodage
et
un décodage
pour représenter les molécules en utilisant des sous-graphes choisis à partir d'un dictionnaire de composants valides.
génère les graphes moléculaires en deux phases :
la génération d'une structure d'arbre en utilisant des sous-structures chimiques
la combinaison de ces sous-structures en utilisant un réseau de propagation de messages sur le graphe.
les réseaux adversariaux cycliquement cohérents pour les molécules
sont une alternative pour réaliser la NECT basée sur l'encodage
développés pour les transformations d'images
Ils reposent sur une perte adversariale pour apprendre la transformation souhaitée
sont composés de générateurs et de discriminateurs,
sont utilisés dans divers domaines d'applications tels que la transformation d'images, la conversion de styles artistiques, la génération de nouvelles structures moléculaires, etc.
Ils offrent une approche flexible et puissante pour réaliser des transformations non supervisées entre différents domaines.
les réseaux de transformation de graphes acycliques dirigés.
sont des modèles d'apprentissage profond utilisés pour apprendre des fonctions complexes sur des espaces de graphes dirigés acycliques.
Ils utilisent un encodeur pour obtenir une représentation fixe d'un graphe en entrée, puis un décodeur pour générer un graphe de sortie
utilisent des unités récurrentes et des couches de réseaux de neurones pour effectuer des opérations de transformation sur les graphes
Utilisés pour la chimie computationnelle, la bilogie, , l'informatique
4.1.transformation nœud-arête basée sur l'édition
Le NECT basé sur la modification modifie directement le graphe d'entrée de manière itérative pour générer les graphes cibles
Deux méthodes sont généralement utilisées pour éditer le graphe source.
L'une utilise un agent d'apprentissage par renforcement en fonction d'un processus de décision markovien formulé
La modification à chaque étape est sélectionnée à partir d'un ensemble d'actions définies qui incluent "ajouter un nœud", "ajouter une arête", "supprimer des liaisons", etc.
L'autre consiste à mettre à jour les nœuds et les arêtes du graphe source de manière synchrone en une seule fois à l'aide du MPNN en utilisant plusieurs itérations
l'approche editing-based NECT comprend trois méthodes qui modifient le graphe d'entrée de manière itérative pour générer le graphe cible.
Graph Convolutional Policy Networks (GCPNs) :
utilisent des réseaux de convolution graphique (GCN) et l'apprentissage par renforcement pour générer le graphe cible.
ls opèrent dans un environnement de génération de graphes conscient de la chimie et utilisent des politiques d'action pour guider la construction du graphe cible.
Molecule Deep Q-networks Transformer :
utilise un réseau de neurones profond basé sur l'apprentissage par renforcement (Deep Q-networks) pour générer le graphe cible de manière itérative.
Le modèle est formé pour maximiser une fonction de valeur Q qui représente la qualité du graphe généré.
Node-Edge Co-evolving Deep Graph Translator :
Cette méthode utilise un modèle de traduction de graphes profonds (Deep Graph Translator) pour modifier simultanément les nœuds et les arêtes du graphe d'entrée dans un processus itératif.
Elle utilise des réseaux de neurones pour apprendre les règles de modification du graphe afin de générer le graphe cible.
5 Autres transformations basées sur les graphes
1 Transformation de séquence en graphe
Utilisé dans le traitement automatique du langage naturel (TALN) et l'exploitation de séries chronologiques.
Est un processus visant à générer un graphe cible à partir d'une séquence d'entrée
Les méthodes existantes utilisent des modèles encodeur-décodeur basés sur les réseaux de neurones récurrents pour apprendre cette correspondance.
L'approche Sequence-to-Action modélise la génération de graphes sémantiques en transformant le problème de séquence en graphe en un problème de séquence à séquence
2 Transformation de graphe en séquence (Graph-to-Sequence Transformation)
est une approche utilisée pour traiter des structures de données complexes qui sont difficiles à gérer avec les méthodes séquence à séquence.
Ces modèles utilisent généralement un encodeur basé sur un réseau neuronal graphique (GNN) et un décodeur basé sur un RNN/Transformer.
Ils sont souvent utilisés dans des tâches de génération de langage naturel et permettent de capturer les informations structurales riches des graphes en entrée.
Les premières méthodes utilisaient des modèles de convolution graphique (GCN) comme encodeur
Appliquée dans des domaines tels que le traitement du langage naturel et la modélisation des transitions complexes dans des domaines spécifiques, comme les activités des utilisateurs dans le domaine de la santé.
3 Transformation de contexte en graphe
vise à générer un graphe cible à partir d'un contexte sémantique donné, souvent représenté sous forme de méta-caractéristiques supplémentaires
Les informations contextuelles peuvent être ajoutées dans les modules suivants :
(1) le module d'initialisation de l'état des nœuds
(2) le processus de propagation des messages pour le décodage basé sur les réseaux neuronaux graphiques (MPNN)
(3) la paramétrisation de la distribution conditionnelle pour la génération séquentielle.
Différentes approches ont été proposées pour intégrer le contexte sémantique
un modèle unifié de graphes variationnels génératifs adverses (CGVAE)
Des décodeurs RNN/Transformer
Des réseaux neuronaux graphiques
Appliqué dans divers domaines tels que le traitement du langage naturel et la chimie.
Cette approche permet de capturer les informations structurelles riches de l'entrée et peut être appliquée à des données structurées sous forme de graphes dans différents domaines d'application.