Introduction au deep learning

Modifié par Parisa Rastin le 28/04/2025 - 11:20

Introduction au deep learning

8KUAEN12

ECTS

SEMESTRE

Travail personnel

14h

10h

Langues d'enseignement

Français/Anglais

Responsable(s)

Parisa Rastin

Mots clefs

Intelligence artificielle, réseaux de neurones profonds

Prérequis

Introduction à l'apprentissage automatique, programmation en python

Objectif pédagogique

Ce cours présente les connaissances théoriques et pratiques sur l'apprentissage profond et son utilisation. Dans ce cadre, nous apprendrons à créer des modèles profonds et à étudier l'impact de différents paramètres sur la qualité des performances des modèles.

Organisation et contenus

Chaque séance comprend une heure de cours (cours + discussion sur les difficultés du TD précédent) ainsi que deux heures de TD.

Les TD sont basés sur la construction de différents modèles de deep learning en utilisant le langage de programmation Python.

En cours :

Introduction au Deep Learning

Comprendre les principes fondamentaux du Deep Learning.
Se familiariser avec les concepts clés des réseaux de neurones et des architectures profondes.
Appréhender les applications concrètes et les enjeux de cette technologie.

Les Concepts de Base du Deep Learning

Les Réseaux de Neurones Artificiels (couche d'entrée, couches cachées, couche de sortie, fonctions d'activation)
Architecture des Réseaux de Neurones Profonds (perceptron, MLP, CNN, RNN)

Apprentissage et Optimisation dans le Deep Learning

Rétropropagation (Backpropagation) et Optimisation
Problèmes d’optimisation et techniques avancées ( vanishing gradient, overfitting et sous-apprentissage, régularisation et dropout)

Transformers et Generative Models

Le Modèle Transformer : Architecture et Mécanisme d'Attention
Prétraitement des Données et Fine-Tuning des Transformers
Les Modèles Génératifs : GAN et VAE
Les Modèles de Diffusion

En TD :

Implémentation d'un réseau neuronal simple avec PyTorch.
Construction d'un modèle de réseau neuronal pour la classification.
Entraînement du modèle avec PyTorch.
Évaluation de la performance du modèle sur des données de test.
Application de techniques de régularisation sur un réseau pour éviter le sur-apprentissage.
Optimisation de l’apprentissage avec un scheduler de taux d’apprentissage.
Déploiement d'un modèle entraîné en ligne pour une application réelle (par exemple, une interface de prédiction de texte ou d’image).

Projet :

Appliquer tout ce qui a été appris dans le cadre d’un projet final.

Compétences

Niveaux

Description et verbes opérationnels

Connaître

Identifier les différents modèles d'apprentissage profond et déterminer le modèle le plus approprié en fonction du problème à résoudre et du type de données disponible.

Comprendre

Analyser le fonctionnement des modèles et de leurs composants, en comprenant les mécanismes sous-jacents.

Appliquer

Implémenter les différents modèles sur des ensembles de données complexes, telles que des images, des textes, etc.

Analyser

Interpréter les résultats obtenus et procéder à une analyse critique de leur validité et de leur pertinence.

Synthétiser

Intégrer les connaissances acquises sur les modèles de deep learning, en expliquant les principes communs ainsi que les différences entre les modèles.

Évaluer

Juger de la pertinence et de la performance d'un modèle pour un problème donné, en le comparant de manière rigoureuse avec d'autres solutions existantes.

Contributions aux Objectifs de Développement Durable des Nations Unies