BEGIN:VCALENDAR VERSION:2.0 PRODID:-//wp-events-plugin.com//7.4.5//EN TZID:Europe/Paris X-WR-TIMEZONE:Europe/Paris BEGIN:VEVENT UID:0-266@lisn.upsaclay.fr DTSTART;TZID=Europe/Paris:20250404T140000 DTEND;TZID=Europe/Paris:20250404T140000 DTSTAMP:20250404T090313Z URL:https://www.lisn.upsaclay.fr/evenements/towards-reliable-ml-leveraging -multi-modal-representations-information-bottleneck-and-extreme-value-theo ry/ SUMMARY:Towards Reliable ML: Leveraging Multi-Modal Representations\, Infor mation Bottleneck and Extreme Value Theory DESCRIPTION:Résumé\nCette recherche doctorale vise à rendre l’apprenti ssage automatique plus fiable\, en particulier pour les applications criti ques. Les modèles d’apprentissage profond actuels\, bien que très perf ormants\, restent difficiles à exploiter en toute confiance en raison de leur opacité\, de leur vulnérabilité aux attaques adversariales\, de le ur sensibilité aux changements de distribution et de leur inefficacité f ace à des contraintes de données ou de calcul. Pour répondre à ces lim itations\, ce travail explore trois dimensions complémentaires : l’expl icabilité\, la robustesse et la frugalité. Sur le volet explicabilité\, il propose une méthode appelée CB2\, qui introduit une interprétabilit é basée sur les concepts pour les réseaux neuronaux profonds. CB2 repos e sur des représentations multimodales et la théorie de la décision pou r aligner les représentations internes du modèle avec des concepts compr éhensibles par l’humain. Cette technique permet de mieux comprendre pou rquoi un modèle fait une prédiction donnée et d’identifier d’évent uels biais dans le processus de décision. Comparé aux méthodes d’attr ibution post-hoc classiques\, CB2 offre des explications plus structurées et sémantiquement pertinentes\, validées sur plusieurs ensembles de don nées en vision par ordinateur. En matière de robustesse\, cette recherch e propose deux approches visant à améliorer la fiabilité des modèles. La première\, POSIB\, est une méthode de post-entraînement fondée sur le principe du goulet d’étranglement de l’information\, qui restructu re l’espace latent d’un modèle pour distinguer les caractéristiques informatives du bruit et des corrélations non pertinentes. Cette approche renforce la robustesse sans compromettre la précision prédictive. La se conde approche\, appelée SPADE\, traite la détection des échantillons h ors distribution et des entrées adversariales. SPADE exploite la théorie des valeurs extrêmes pour caractériser le comportement des queues de di stribution dans l’espace latent\, fournissant ainsi un cadre rigoureux p our détecter les entrées inconnues ou malveillantes et éviter les préd ictions peu fiables. Des expériences menées sur différentes architectur es et ensembles de données montrent que SPADE atteint des performances de pointe en matière de détection hors distribution et de défense contre les attaques adversariales. Enfin\, ce travail s’intéresse également à la frugalité\, en reconnaissant que les modèles déployés dans des c ontextes industriels ou critiques opèrent souvent sous des contraintes s évères de données et de calcul. Pour relever ces défis\, il développe des techniques d’apprentissage frugal des représentations qui optimise nt le contenu informationnel des espaces latents\, ne conservant que les c aractéristiques essentielles. Associée au cadre de robustesse\, cette ap proche aboutit à F-STUDENT\, une version distillée des modèles robustes qui compresse le réseau tout en maintenant sa capacité à résister aux attaques adversariales. Cette méthode surpasse les techniques classiques de pruning en exploitant une distillation multi-étapes et une régularis ation par le goulet d’étranglement de l’information. Dans l’ensembl e\, cette recherche doctorale contribue à combler l’écart entre les av ancées théoriques de l’apprentissage automatique et les exigences prat iques du déploiement de l’IA dans des environnements critiques. En abor dant conjointement l’explicabilité\, la robustesse et la frugalité\, e lle propose un cadre complet pour développer des systèmes d’apprentiss age automatique fiables et adaptés aux applications à forts enjeux.\nRap porteurs\no \; \; Stéphane Girard : DR INRIA Grenoble-Alpes\, éq uipe Simerge\no \; \; Jean-Michel Loubes \;: DR INRIA Toulouse IMT\nMembres du Jury \;:\no \; \; Charlotte Laclau \;: Pr ofesseur Télécom Paris\, LTCI Lab équipe S2A\no \; \; Benedikt Bollig \;: DR CNRS UPSaclay\, LMF\no \; \; Nicolas Sabouret&nb sp\;: Professeur UPSaclay\, LISN\nLien public pour assister à la soutenan ce ici CATEGORIES:AAC,SDD,Thèses et HDR LOCATION:Thales Research & Technology, 1 avenue Augustin Fresnel, 91120 , Palaiseau Salle : Auditorium de Thales 91120 Palaiseau\, France X-APPLE-STRUCTURED-LOCATION;VALUE=URI;X-ADDRESS=Thales Research & Technolog y, 1 avenue Augustin Fresnel, 91120, Palaiseau Salle : Auditorium de Thal es 91120 Palaiseau\, France;X-APPLE-RADIUS=100;X-TITLE=:geo:0,0 END:VEVENT BEGIN:VTIMEZONE TZID:Europe/Paris X-LIC-LOCATION:Europe/Paris BEGIN:DAYLIGHT DTSTART:20250330T030000 TZOFFSETFROM:+0100 TZOFFSETTO:+0200 TZNAME:CEST END:DAYLIGHT END:VTIMEZONE END:VCALENDAR