Deep Learning avancé

ECTS

SEMESTRE

CM

TD

TP

EI

Travail personnel

7h

0h

14h

0h

10h

Langues d'enseignement

Français ou Anglais

Responsable(s)

Mots clefs

Intelligence artificielle, réseaux neuronaux profonds

Prérequis

Apprentissage automatique, Introduction à l'apprentissage profond

Dans ce cours, nous allons acquérir une compréhension complète des aspects théoriques et pratiques de l'apprentissage profond, avec un accent particulier sur les modèles modernes d'apprentissage profond. Nous explorerons les diverses applications de l'apprentissage profond dans la recherche universitaire et l'industrie, en vous fournissant les connaissances et les compétences nécessaires pour réussir dans ce domaine passionnant.

Chaque session se compose d'une heure de cours (incluant une discussion des difficultés rencontrées lors des exercices pratiques de la session précédente) et de deux heures d'exercices pratiques (TD).

Les TDs se concentrent sur la construction de divers modèles d'apprentissage profond à l'aide du langage de programmation Python.

Better Deep learning : Améliorer la précision et les performances des modèles d'apprentissage profond. Cela peut impliquer le développement de nouvelles architectures, d'algorithmes d'optimisation, de techniques de régularisation ou d'autres approches pour rendre les modèles d'apprentissage profond plus efficaces et performants. Nous parlons également d'améliorer l'interprétabilité et l'explicabilité des modèles d'apprentissage profond. Cela peut impliquer le développement de techniques permettant de mieux comprendre comment les modèles d'apprentissage profond font des prédictions, ou la création de visualisations et d'autres outils qui aident les utilisateurs à interpréter les résultats d'un modèle d'apprentissage profond.

Architectures de réseaux neuronaux avancées : réseaux neuronaux récurrents (RNN), réseaux neuronaux convolutifs (CNN), réseaux adversaires génératifs (GAN), transformers, etc.

Apprentissage non supervisé et auto-supervisé : autoencodeurs, autoencodeurs variationnels (VAE), apprentissage contrastif, etc.

Modèles probabilistes de diffusion (MPD) : un cadre général pour construire des modèles génératifs basés sur le processus de diffusion. 

Dans le TP, nous travaillons sur différents modèles pré-entraînés : BERT pour l'analyse des sentiments, GPT J, Génération d'images à partir de texte en utilisant la diffusion stable et plus encore.

Niveaux

Description et verbes opérationnels

Connaître 

Connaître les différents modèles de deep learning et comprendre quel modèle est approprié pour un problème donné et un type de données.

Comprendre

Comprendre le fonctionnement des différents modèles et de leurs composants.

Appliquer 

Appliquer les différents modèles sur des données multimodales (image, texte, ...).

Analyser 

Analyser les résultats obtenus et les interpréter.

Synthétiser

Utiliser les connaissances acquises sur les modèles d'apprentissage profond pour articuler efficacement les principes communs et distinguer les différences entre ces modèles.

Évaluer

Évaluer la pertinence et la qualité d'un modèle pour un problème spécifique et le comparer à des solutions alternatives.

Contrôle Continu

Examen écrit

Oral / Soutenance

Rapport / Projet