Ingénieur MLOps F/H

La Direction des Services Numériques (DSN) de l'AP-HP fournit des services numériques aux patients et aux professionnels, dont le dossier patient, des systèmes pour la biologie et l'imagerie, un espace patient, des progiciels de gestion et une offre bureautique sur plus de 70 000 postes. Elle gère ses infrastructures dans deux datacenters avec son propre réseau. Elle fournit également des services pour la réutilisation secondaire des données de santé, au service du pilotage, de la recherche et de l'innovation, au travers de son entrepôt de données de santé. Son support informatique centralisé collabore avec les directions des systèmes d'information des 6 GHU. Plus de 500 professionnels contribuent à la transformation numérique.
La Banque Nationale de Données Maladies Rares (BNDMR) : Le 2ème plan national maladies rares (PNMR2) prévoit la création d'une banque nationale de données des maladies rares. Cette action a été reconduite et amplifiée au sein du 3ème plan national (PNMR3) puis du 4ème plan national (PNMR4) en vigueur depuis 2025.
Ses objectifs sont :
- De faire avancer les connaissances sur les maladies rares en France (histoire naturelle des maladies, modes de prise en charge, description de la demande de soins, adéquation de l'offre de soins, économie de la santé, recherche non interventionnelle sur données, etc. ;
- De favoriser l'identification des patients susceptibles d'être inclus dans des essais cliniques ;
- De permettre une meilleure coordination entre les structures maladies rares (filières, centres de référence, centre de compétence, etc.).

L'équipe et son périmètre
Nous opérons l'infrastructure et les plateformes qui collectent, hébergent et valorisent les données de santé des patients atteints de maladies rares : les applications métier utilisées quotidiennement dans les centres de référence, l'entrepôt de données associé, et tout le socle technique qui les porte.
L'intégralité de cette infrastructure vit sur OVHcloud, sur plusieurs régions et plusieurs environnements, et elle est décrite en code : Terraform / Terragrunt pour l'infrastructure et l'IAM, Ansible pour la configuration des machines et des services, GitLab CI pour dérouler le tout.
L'équipe a la charge complète du maintien en condition opérationnelle : réseau, DMZ et pare-feux, bastion et VPN, PKI et certificats, identités et accès, supervision et alerting, sauvegardes et restaurations, chaîne CI/CD interne. Le tout dans un cadre exigent de sécurité et de conformité à la certification Hebergeur de données de santé.
Nous montons cette année un cluster GPU sur notre cloud, avec un double objectif. En production d'abord : héberger nos propres modèles de langage, chez nous, sur nos données de santé, sans qu'elles sortent de notre périmètre. En interne ensuite : outiller l'équipe et nos développeurs au quotidien - assistants de code, agents, recherche documentaire sur notre propre base de connaissances.

- Dimensionner et déployer le cluster GPU sur OVHcloud : choix des instances et des cartes, arbitrages coût / mémoire / débit, réseau et stockage adaptés aux poids de modèles, le tout décrit en Terraform comme le reste de notre infrastructure.
- Industrialiser la couche GPU : drivers et pilotes CUDA, runtime conteneur GPU, opérateur GPU sur Kubernetes, partage et ordonnancement des cartes entre charges de travail, mise à l'échelle et extinction des ressources inutilisées.
- Opérer les serveurs d'inférence : déploiement et réglage de moteurs type vLLM ou équivalents, gestion du cycle de vie des modèles et de leurs versions, quantification, batching, mesure et optimisation de la latence et du débit.
- Exposer une passerelle LLM interne : API compatible avec les clients standards, authentification, quotas et suivi de consommation, journalisation - pour les applications comme pour les outils de l'équipe.
- Construire les briques applicatives d'appui : embeddings et recherche vectorielle, chaînes de RAG sur nos référentiels et notre documentation, évaluation de la qualité des réponses.
- Garantir le cadre données de santé : isolation stricte des environnements, aucune donnée sortante, traçabilité des accès et des inférences, en lien avec la sécurité et la conformité.
- Observer et maîtriser les coûts : métriques GPU, saturation, taux d'occupation, coût par requête et par usage - la sobriété fait partie du travail.
- Contribuer au socle commun : l'infrastructure GPU n'est pas une île, vous participez aussi à l'IaC, à la CI et au run de l'équipe.

Idéalement, vous avez ...

- Un diplôme d'ingénieur ou équivalent (Mathématique, Informatique, Santé publique, etc.)
- 3 ans d'expérience minimum en infrastructure, DevOps ou MLOps, dont une expérience significative sur des charges GPU. Un profil DevOps qui s'est spécialisé vers le GPU nous intéresse autant qu'un profil MLOps qui a gardé les mains dans l'infrastructure.

Vous maitrisez :

- Une pratique réelle de Terraform et d'Ansible : ce poste est un poste d'infrastructure ...