Spatio-Temporal Analysis Through Graphs: Predictive Modeling and Graph Construction

Het analyseren van de ruimtelijke relaties en tijdsgerelateerde (temporele) trends in een netwerk van sensoren, waarbij elke sensor een knooppunt in een graaf vertegenwoordigt, is cruciaal voor het maken van nauwkeurige voorspellingen en beslissingen. Door deze sensornetwerken te onderzoeken via ruimtelijk-temporele tijdreeksanalyse, kunnen we begrijpen hoe de knooppunten van een graaf in de loop van de tijd en ruimte met elkaar interacteren, wat essentiële patronen en afhankelijkheden onthult. Ruimtelijk-temporele modellen proberen dergelijke dynamische inputs op het niveau van de knooppunten te ontdekken, rekening houdend met de onderlinge afhankelijkheid tussen verbonden knooppunten. De onderliggende aanname van deze benadering is dat de toekomstige informatie van een knooppunt zowel afhangt van de eigen gegevens uit het verleden als van die van de naburige knooppunten. Het is daarom essentieel om zowel de ruimtelijke als temporele afhankelijkheden in de data te gebruiken voor een nauwkeurige modellering.

Dit proefschrift richt zich op het verkennen van de analyse van ruimtelijk-temporele gegevens met behulp van machine- en deep learning technieken toegepast op grafen. Voorbeelden van technieken zijn Graph Signal Processing (GSP) en Graph Neural Networks (GNN). We onderzoeken dit onderwerp aan de hand van drie onderzoeksvragen:
(1) Hoe kunnen we de meest effectieve set knooppunten bepalen in een graaf voor metingen?
(2) Hoe kunnen we een GNN ontwerpen die lange temporele reeksen kan verwerken?
(3) Hoe kunnen we de berekening van de adjacentie-matrix optimaliseren voor technieken die werken met grafen?
Deze vragen weerspiegelen uitdagingen in dit vakgebied en zijn gericht op het verbeteren van de praktische toepasbaarheid van modellen die gebruikmaken van grafen en tijdreeksanalyse.

Ons onderzoek omvatte verschillende GSP en GNN architecturen. Om de voorgestelde methoden te valideren, hebben
we experimenten uitgevoerd met datasets uit de praktijk (waaronder data als verkeerssnelheden, seismische activiteit en vibratiegegevens van sensoren op een brug) op een reeks van taken, waaronder tijdreeksregressie, optimale
sensorselectie en tijdreeksvoorspelling. De experimentele resultaten tonen de effectiviteit van de voorgestelde methoden in vergelijking met andere state-of-the-art benaderingen. Onze methoden zijn soms puur graafgebaseerd, maar bevatten soms ook andere moderne innovaties, zoals transfer learning en het attention-mechanisme, in de trainingsprocedure of juist de modelarchitectuur.

Dergelijke architectonische en procedurele optimalisaties werden onderzocht om de prestaties van het model verder te verbeteren. Daarnaast bieden we richtlijnen voor het berekenen van de adjacentie-matrix die wordt gebruikt in de analyse, wat vaak een onderbelichte stap is. In het bijzonder laten we zien dat het gebruik van grafen die zijn berekend op basis van de signaalgegevens van de sensoren zelf de meest veelbelovende benadering lijkt.

Samenvattend biedt dit proefschrift waardevolle inzichten in modellen die gebruik maken van grafen voor de analyse van ruimtelijk-temporele tijdreeksdata, waarbij de nadruk ligt op het belang van de modelarchitectuur en de onderliggende graaf. Hoewel er aanzienlijke vooruitgangen zijn geboekt, blijft het veld van ruimtelijk-temporele analyse met grafen zich snel ontwikkelen, wat verdere innovaties in tijdreeksverwerking belooft. Toekomstig onderzoek kan zich richten op het uitbreiden van de schaalbaarheid van deze methoden en het verbeteren van hun robuustheid in verschillende toepassingen. Concluderend, terwijl we deze modellen blijven verfijnen en verbeteren, kunnen we nog nauwkeurigere en efficiëntere methoden verwachten voor het analyseren van complexe ruimtelijk-temporele gegevens, wat uiteindelijk zal leiden tot betere besluitvorming en voorspellingen in verschillende toepassingen.

_

Analyzing the spatial relations and temporal trends in a network of sensors, where each sensor represents a node in a graph, is crucial for making accurate predictions and informed decisions. By examining these sensor networks through spatio-temporal time series analysis, we can understand how the nodes of the graph interact over time and space, revealing patterns and dependencies that are vital for comprehensive analysis. Spatio-temporal models try to capture such dynamic inputs at the node level, considering the inter-dependency among connected nodes. The assumption underlying this approach is that the future information of a node relies on both its own past data and that of its neighboring nodes. Therefore, capturing both spatial and temporal dependencies simultaneously is essential for accurate modeling.

This thesis focuses on exploring the analysis of spatio-temporal data using machine and deep learning techniques applied to graphs. Examples of such techniques are Graph Signal Processing (GSP) and Graph Neural Networks (GNN). We explore this topic with three research questions:
(1) How can we (pre-)determine the most effective set of nodes to sample in a graph?
(2) How can we design a GNN to handle long temporal sequences?
(3) How can we optimize the calculation of the adjacency matrix for graph-based learning?

These questions reflect challenges in the field and aim to improve the practical applicability of graph-based models in time series analysis. Our research encompassed a variety of GSP and GNN architectures. To validate the proposed methods, we conducted experiments on real-world datasets (including traffic speeds, seismic activity and vibration data from sensors placed on a bridge) with a range of tasks including time series regression, optimal sensor selection and time series forecasting. Experimental results demonstrate the effectiveness of the proposed methods against other state-of-the-art approaches. Our methods are sometimes purely graph-based, but can also incorporate other modern innovations such as transfer-learning and the attention-mechanism into the training procedure or model architecture.

Such architectural and procedural optimizations were investigated to focus on enhancing the model performances even further. In addition, we provide guidelines for constructing the adjacency matrix used in the analysis, which is often an overlooked step. In particular, we show that using graphs, calculated based on the signal data from the sensors itself, appears to be the most promising.

In summary, this thesis provides valuable insight into graph-based models for spatio-temporal time series data, highlighting the importance of the model architecture and the underlying graph. While significant advances have been made, the field of
spatio-temporal analysis with graphs continues to evolve rapidly, promising further innovations in time series processing. Future research directions may involve extending the scalability of these methods and improving their robustness across diverse applications. As we continue to refine and improve these models, we can expect even more accurate and efficient methods for analyzing complex spatio-temporal data, ultimately leading to better decision-making and predictions in various applications.