Doctorant sur le watermarking pour une sécurité et une robustesse accrues des modèles d'ia dans l'apprentissage fédéré (h/f)

Lieu : Palaiseau, France

Construisons ensemble un avenir de confiance
Thales est un leader mondial des hautes technologies spécialisé dans trois secteurs d'activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l'environnement et plus inclusif. Le Groupe investit près de 4 milliards d'euros par an en Recherche & Développement, notamment dans des domaines clés de l'innovation tels que l'IA, la cybersécurité, le quantique, les technologies du cloud et la 6G. Thales compte près de 81 000 collaborateurs dans 68 pays.




Nos engagements, vos avantages- Une réussite portée par notre excellence technologique, votre expérience et notre ambition partagée

- Un package de rémunération attractif

- Un développement des compétences en continu : parcours de formation, académies et communautés internes

- Un environnement inclusif, bienveillant et respectant l'équilibre des collaborateurs

- Un engagement sociétal et environnemental reconnu





Votre quotidienThales Research&Technology, notre centre de recherche dans les domaines matériels, et CortAIx Labs, notre centre de recherche en IA et digital ont pour mission de proposer des innovations de ruptures, de maintenir et d'accroitre l'avance technologique et d'en assurer la compétitivité pour le groupe.

Le Tatouage de modèle est une preuve reconnue d'origine des modèles de Machine Learning (ML) qui a récemment été adapté à diverses tâches (segmentation, classification, détection, LLMs, etc.). Dans le contexte de l'apprentissage fédéré, le tatouage ML a été adapté au cadre complexe multi-utilisateurs et multi-propriétaires. Il avait également été rendu compatible avec des mécanismes de préservation de la vie privée, tels que le chiffrement ou la confidentialité différentielle. Alors que le SOTA actuel assure la traçabilité des modèles, la preuve d'intégrité du modèle reste un sujet à explorer. De plus, le tatouage ML peut être considéré comme une charge pour les performances du modèle car certaines procédures d'intégration de tatouage modifieront l'entrainement en insérant plusieurs « portes dérobées légitimes » impactant le comportement du modèle. Les mécanismes cryptographiques classiques tels que la signature ne sont pas bien adaptés au contexte ML, où un modèle peut être affiné sur de nouvelles données et donc changer la signature.

Dans cette thèse, nous souhaitons explorer un tatouage qui contribuerait à une meilleure performance du modèle dans un cadre d'apprentissage collaboratif. Nous voulons détecter les participants de l'apprentissage fédéré qui dégradent la performance du modèle lors d'attaques dites byzantines, par empoisonnement ou par l'ajout d'un comportement indésirable. Les méthodes FL robustes aux attaques byzantines existantes visent à éliminer l'impact de ces mises à jour malveillantes en identifiant les valeurs statistiques aberrantes parmi les mises à jour des clients et en filtrant les mises à jour provenant de clients bénins pour une agrégation de modèles globale. Cependant, beaucoup de ces méthodes manquent d'un mécanisme approprié de détection des clients malveillants, leur permettant d'être inclus dans le processus d'agrégation afin de causer une baisse de performances du modèle global.
L'idée est d'améliorer l'apprentissage fédéré avec des mécanismes de tatouage permettant de retracer conjointement l'origine des modèles et les modifications introduites par les participants. Le tatouage doit être suffisamment fragile pour prouver une violation de l'intégrité du modèle et doit tenir compte des mécanismes de confidentialité qui peuvent être utilisés dans l'apprentissage fédéré (par exemple, le chiffrement homomorphe ou le calcul multipartite), voire de tentative de collusion entre participants.

La thèse renforcera la collaboration entre Thales et IMT Atlantique dans le cadre de la Chaire Industrielle CYBAILE et contribuera au portefolio Thales via la BattleBox des Friendly Hackers à travers une solution pour un FL sécurisé et renforçant la confiance.

Votre profil Doctorant sur le Watermarking pour une sécurité et une robustesse accrues des mod