Apprentissage de modèles hybrides pour la conception formelle de systèmes cyber-physiques // Hybrid Model Learning for Formal CPS design

L'intelligence artificielle révolutionne les systèmes cyber-physiques (CPS) utilisés pour le contrôle et la supervision de diverses applications, en leur conférant un niveau plus élevé d'autonomie et d'adaptabilité grâce à des composants dotés de capacités d'apprentissage. Ces systèmes posent cependant un certain nombre de défis en matière de conception. Les techniques d'apprentissage automatique sont dites « imprévisibles » en raison de l'absence de cadre formel permettant de garantir la sécurité. De plus, les résultats des activités d'apprentissage dans les composants d'IA sont difficilement interprétables. Lorsqu'on associe des CPS à de l'IA, l'hétérogénéité accrue des dynamiques et des comportements peut aggraver les problèmes de fiabilité et d'explicabilité, si les activités d'apprentissage ne sont pas correctement formalisées. Il est important de noter que les cadres existants pour la formalisation des activités d'apprentissage ont été développés pour des contextes purement discrets ou continus, et les extensions aux dynamiques hybrides des CPS sont rares et souvent ad hoc.

Dans cette thèse, nous aborderons ce problème en développant des méthodes visant à formaliser davantage les composants à apprentissage des CPS tout en exploitant les avancées récentes de l'IA afin d'améliorer les approches actuelles de conception des CPS. Plus concrètement, nous suivrons les axes majeurs suivants :

(1) Apprentissage de modèles d'automates hybrides pour les CPS. Les travaux récents menés à VERIMAG [DBD24a, DBD24b, DBD25] ont ouvert la voie à l'apprentissage actif de systèmes autonomes non linéaires commutés à partir de données d'observation. Nous poursuivons dans cette direction prometteuse en visant des modèles hybrides plus généraux, à savoir des automates hybrides avec entrées dans les dynamiques continues, ainsi que des sauts et des réinitialisations dans les dynamiques discrètes. La génération des données a un impact crucial sur la performance des modèles appris vis-à-vis des spécifications qu'ils doivent satisfaire.
Nous étudierons des mesures de qualité d'un ensemble de données en lien avec la précision de l'apprentissage, en développant des notions appropriées de distance entre systèmes dynamiques, en étendant aux automates hybrides les notions de persistance d'excitation et de couverture par epsilon-réseau. Ensuite, les générateurs de scénarios et les algorithmes d'apprentissage seront définis. Le problème de l'apprentissage en ligne, essentiel par exemple dans les approches de contrôle prédictif (MPC), sera également considéré.
Des questions théoriques sur l'apprenabilité et les garanties de correction (comme l'apprentissage « probablement approximativement correct » (PAC)) seront explorées.

(2) Développement de nouveaux composants d'apprentissage formels pour les CPS. L'objectif est d'enrichir les composants classiques dotés d'apprentissage (actuellement basés sur l'apprentissage automatique) avec de nouveaux algorithmes d'apprentissage formels. Il est également important d'étudier comment intégrer un tel composant d'apprentissage dans un CPS de manière à obtenir un taux d'apprentissage rapide tout en garantissant la sécurité et la performance. Pour les performances en boucle fermée et les algorithmes classiques d'identification, ce problème est étudié dans le cadre de la conception d'expériences. Notre objectif est ici d'adapter ce cadre aux CPS intégrant des composants d'apprentissage formel et aux spécifications exprimées en logique temporelle du signal (STL).
Ce cadre théorique sera ensuite appliqué à la validation et au contrôle d'applications de CPS, en particulier les véhicules autonomes, la robotique et les systèmes de contrôle de l'anesthésie.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------

Artificial intelligence is revolutionising Cyber-Physical Systems (CPS) used for control and supervision of various applications with higher levels of autonomy and adaptability via learning-enabled components. Such systems pose a number of design challenges. Machine learning techniques are “unpredictable” due to a lack of formal framework to provide safety guarantees. In addition, the outcomes of learning activities in AI components are not easily interpretable. When coupling CPS with AI, the increased heterogeneity in dynamics and behaviours can aggravate the reliability and explainability issues, if the learning activities are not properly formalised. It is important to note that the existing frameworks for formalising learning activities were developed for purely discrete or continuous settings, and extensions to hybrid dynamics of CPS are scarce and ad-hoc.

In this thesis we will tackle the problem by developing methods for making learning-enabled components of CPS more formal and at the same time exploiting the current progress in AI to enhance the current CPS design approaches. More concretely, we will follow the following major directions:

- (1) Learning hybrid automata models for CPS. The recent work at VERIMAG [DBD24a, DBD24b, DBD25] has paved the way to active learning of autonomous nonlinear switched systems from observational data. We continue this promising direction to more general hybrid models, namely hybrid automata with input in continuous dynamics, and jumps and resets in discrete dynamics. Data generation crucially impacts the performance of learned models regarding the specifications they should meet.
Measures of goodness of a data set with respect to the learning accuracy will be studied, by developing appropriate notions of distances between dynamical systems, by extending to hybrid automata settings the notions of persistence of excitation and epsilon-net coverage. Then, the scenario generators and learning algorithms will be defined. Online learning problem, essential for example for MPC (model-predictive control) approaches, will also be considered.

Theoretical questions of learnability and correctness guarantees (such as Probably Approximately Correct (PAC) learning) will be investigated.

- (2) Developing novel formal learning components for CPS}. The goal is to enhance ``classical'' learning-enabled components (currently based on ML) with new formal learning algorithms. It is also important to study how to embed such a learning component within a CPS so as to achieve a fast learning rate while guaranteeing safety and performance. For usual closed- loop performance and classical identification algorithms, this problem is studied in the context of the design of experiments. Our goal here is to adapt this framework to CPS integrating formal-learning components and to STL (Signal Temporal Logic) specifications.

This theoretical framework will then be applied to validation and control of CPS applications, in particular autonomous vehicles, robotics, anaesthesia control systems.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------

Début de la thèse : 01/10/2025
WEB : http://www-verimag.imag.fr/PEOPLE/Thao.Dang/HALearningPhDTopic.html

Concours allocations

Université Grenoble Alpes

217 MSTII - Mathématiques, Sciences et technologies de l'information, Informatique

Nous recherchons des candidats motivés titulaires (ou en cours d'obtention) d'un Master en informatique, mathématiques, génie du contrôle, avec une solide formation en informatique ou en théorie du contrôle. Des connaissances en systèmes dynamiques, optimisation, méthodes formelles et raisonnement statistique seront appréciées. Les candidats prêts à acquérir de nouvelles connaissances et à compléter leur formation sont cordialement invités à envoyer par e-mail (avec « PhD-candidate » dans le titre) un CV, une lettre de motivation, et, si disponibles, un relevé de notes universitaire et le mémoire de Master, aux adresses suivantes : nicolas.basset1@univ-grenoble-alpes.fr, thao.dang@univ-grenoble-alpes.fr, mohamed.maghenem@gipsa-lab.grenoble-inp.fr.
We are looking for motivated candidates with (or completing) a Master degree in Computer Science, Mathematics, Control Engineering, and a solid background in computer science or control theory. Knowledge in dynamical systems, optimization, formal methods and statistical reasoning will be appreciated. Such candidates who are ready to learn new things and complete their background, are kindly requested to send e-mail (with 'PhD-candidate' in the title) a CV, a motivation letter, and if already available a university transcript and Master manuscript, to nicolas.basset1@univ-grenoble-alpes.fr, thao.dang@univ-grenoble-alpes.fr, and mohamed.maghenem@gipsa-lab.grenoble-inp.fr.