Skip to Content
Découvrez les nouveautés de cette version : Fonctionnalités, améliorations et évolutions vous attendent ! 👉 Cliquez ici pour en savoir plus

Introduction au deep learning

Modifié par Parisa Rastin le 28/04/2025 - 11:20

Introduction au deep learning

8KUAEN12

ECTS

 

SEMESTRE

 

CM

TD

TP

EI

Travail personnel

7h

14h

0h

0h

10h

Langues d'enseignement

Français/Anglais

 

Responsable(s)

Mots clefs

Intelligence artificielle, réseaux de neurones profonds

Prérequis

Introduction à l'apprentissage automatique, programmation en python

Objectif pédagogique

Ce cours présente les connaissances théoriques et pratiques sur l'apprentissage profond et son utilisation. Dans ce cadre, nous apprendrons à créer des modèles profonds et à étudier l'impact de différents paramètres sur la qualité des performances des modèles.

Organisation et contenus

Chaque séance comprend une heure de cours (cours + discussion sur les difficultés du TD précédent) ainsi que deux heures de TD.

Les TD sont basés sur la construction de différents modèles de deep learning en utilisant le langage de programmation Python.

En cours :

Introduction au Deep Learning

  • Comprendre les principes fondamentaux du Deep Learning.
  • Se familiariser avec les concepts clés des réseaux de neurones et des architectures profondes.
  • Appréhender les applications concrètes et les enjeux de cette technologie.

Les Concepts de Base du Deep Learning

  • Les Réseaux de Neurones Artificiels (couche d'entrée, couches cachées, couche de sortie, fonctions d'activation)
  • Architecture des Réseaux de Neurones Profonds (perceptron, MLP, CNN, RNN)

Apprentissage et Optimisation dans le Deep Learning

  • Rétropropagation (Backpropagation) et Optimisation
  • Problèmes d’optimisation et techniques avancées ( vanishing gradient, overfitting et sous-apprentissage, régularisation et dropout)

Transformers et Generative Models

  • Le Modèle Transformer : Architecture et Mécanisme d'Attention
  • Prétraitement des Données et Fine-Tuning des Transformers
  • Les Modèles Génératifs : GAN et VAE
  • Les Modèles de Diffusion

En TD :

  • Implémentation d'un réseau neuronal simple avec PyTorch.
  • Construction d'un modèle de réseau neuronal pour la classification.
  • Entraînement du modèle avec PyTorch.
  • Évaluation de la performance du modèle sur des données de test.
  • Application de techniques de régularisation sur un réseau pour éviter le sur-apprentissage.
  • Optimisation de l’apprentissage avec un scheduler de taux d’apprentissage.
  • Déploiement d'un modèle entraîné en ligne pour une application réelle (par exemple, une interface de prédiction de texte ou d’image).

Projet :

Appliquer tout ce qui a été appris dans le cadre d’un projet final.

Compétences

Niveaux

Description et verbes opérationnels

Connaître 

Identifier les différents modèles d'apprentissage profond et déterminer le modèle le plus approprié en fonction du problème à résoudre et du type de données disponible.

Comprendre

Analyser le fonctionnement des modèles et de leurs composants, en comprenant les mécanismes sous-jacents.

Appliquer 

Implémenter les différents modèles sur des ensembles de données complexes, telles que des images, des textes, etc.

Analyser 

Interpréter les résultats obtenus et procéder à une analyse critique de leur validité et de leur pertinence.

Synthétiser

Intégrer les connaissances acquises sur les modèles de deep learning, en expliquant les principes communs ainsi que les différences entre les modèles.

Évaluer

Juger de la pertinence et de la performance d'un modèle pour un problème donné, en le comparant de manière rigoureuse avec d'autres solutions existantes.

Contributions aux Objectifs de Développement Durable des Nations Unies

Modalités de contrôle des connaissances et compétences

Contrôle Continu

Examen écrit

Oral / Soutenance

Rapport / Projet