Code source wiki de Introduction au deep learning
Modifié par Parisa Rastin le 28/04/2025 - 11:20
Masquer les derniers auteurs
author | version | line-number | content |
---|---|---|---|
![]() |
4.2 | 1 | (% class="relative-table wrapped" style="width:100.0%" %) |
2 | |(% class="highlight-#fff0b3" colspan="11" data-highlight-colour="#fff0b3" rowspan="3" style="text-align:left" title="Couleur d'arrière-plan : Jaune clair 100 %" %)((( | ||
3 | (% style="color:#000080" %)**Introduction au deep learning** | ||
![]() |
1.1 | 4 | |
![]() |
4.2 | 5 | (% style="color:#000080" %)**8KUAEN12** |
6 | )))|(% colspan="2" style="text-align:center" %)((( | ||
![]() |
1.1 | 7 | **ECTS** |
![]() |
4.2 | 8 | )))|(% class="highlight-#fff0b3" data-highlight-colour="#fff0b3" style="text-align:center" title="Couleur d'arrière-plan : Jaune clair 100 %" %)((( |
9 | |||
10 | )))|(% colspan="3" style="text-align:center" %)((( | ||
![]() |
1.1 | 11 | **SEMESTRE** |
![]() |
4.2 | 12 | )))|(% class="highlight-#fff0b3" data-highlight-colour="#fff0b3" style="text-align:center" title="Couleur d'arrière-plan : Jaune clair 100 %" %)((( |
13 | |||
![]() |
1.1 | 14 | ))) |
![]() |
4.2 | 15 | |(% style="text-align:center" %)((( |
![]() |
1.1 | 16 | CM |
![]() |
4.2 | 17 | )))|(% style="text-align:center" %)((( |
![]() |
1.1 | 18 | TD |
![]() |
4.2 | 19 | )))|(% style="text-align:center" %)((( |
![]() |
1.1 | 20 | TP |
![]() |
4.2 | 21 | )))|(% style="text-align:center" %)((( |
![]() |
1.1 | 22 | EI |
![]() |
4.2 | 23 | )))|(% colspan="3" style="text-align:center" %)((( |
![]() |
1.1 | 24 | Travail personnel |
25 | ))) | ||
![]() |
4.2 | 26 | |(% style="text-align:center" %)((( |
![]() |
2.1 | 27 | 7h |
![]() |
4.2 | 28 | )))|(% style="text-align:center" %)((( |
![]() |
2.1 | 29 | 14h |
![]() |
4.2 | 30 | )))|(% style="text-align:center" %)((( |
![]() |
1.1 | 31 | 0h |
![]() |
4.2 | 32 | )))|(% style="text-align:center" %)((( |
![]() |
1.1 | 33 | 0h |
![]() |
4.2 | 34 | )))|(% colspan="3" style="text-align:center" %)((( |
![]() |
2.1 | 35 | 10h |
![]() |
1.1 | 36 | ))) |
37 | |(% colspan="2" %)((( | ||
38 | **Langues d'enseignement** | ||
39 | )))|(% colspan="9" %)((( | ||
![]() |
5.2 | 40 | Français/Anglais |
![]() |
1.1 | 41 | )))|(% colspan="7" rowspan="2" %)((( |
![]() |
4.2 | 42 | |
![]() |
1.1 | 43 | ))) |
44 | |((( | ||
45 | **Responsable(s)** | ||
46 | )))|(% colspan="10" %)((( | ||
47 | (% class="content-wrapper" %) | ||
48 | ((( | ||
![]() |
4.2 | 49 | [[Parisa Rastin>>mailto:parisa.rastin@univ-lorraine.fr||shape="rect"]][[~[~[image:url:https://play-lh.googleusercontent.com/kMofEFLjobZy_bCuaiDogzBcUT-dz3BBbOrIEjJ-hqOabjK8ieuevGe6wlTD15QzOqw~|~|width="16" class="KAlRDb n3VNCb"~]~]>>url:https://www.linkedin.com/in/parisa-rastin-b1675474/||shape="rect"]][[~[~[image:attach:index.png~|~|thumbnail="true" width="16"~]~]>>url:https://www.researchgate.net/profile/Parisa-Rastin||shape="rect"]] |
![]() |
1.1 | 50 | ))) |
51 | ))) | ||
52 | |((( | ||
53 | **Mots clefs** | ||
54 | )))|(% colspan="17" %)((( | ||
![]() |
4.2 | 55 | ===== (% style="color:#000000" %)Intelligence artificielle, réseaux de neurones profonds(%%) ===== |
![]() |
1.1 | 56 | ))) |
57 | |((( | ||
58 | **Prérequis** | ||
59 | )))|(% colspan="17" %)((( | ||
![]() |
4.2 | 60 | ===== (% style="color:#000000" %)Introduction à l'apprentissage automatique, programmation en python(%%) ===== |
![]() |
1.1 | 61 | ))) |
![]() |
4.2 | 62 | |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" %)((( |
63 | **Objectif pédagogique** | ||
![]() |
1.1 | 64 | ))) |
![]() |
4.31 | 65 | |(% colspan="18" %)Ce cours présente les connaissances théoriques et pratiques sur l'apprentissage profond et son utilisation. Dans ce cadre, nous apprendrons à créer des modèles profonds et à étudier l'impact de différents paramètres sur la qualité des performances des modèles. |
![]() |
4.2 | 66 | |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" %)((( |
67 | **Organisation et contenus** | ||
![]() |
1.1 | 68 | ))) |
69 | |(% colspan="18" %)((( | ||
![]() |
4.31 | 70 | Chaque séance comprend une heure de cours (cours + discussion sur les difficultés du TD précédent) ainsi que deux heures de TD. |
![]() |
2.1 | 71 | |
![]() |
4.31 | 72 | Les TD sont basés sur la construction de différents modèles de deep learning en utilisant le langage de programmation Python. |
![]() |
2.1 | 73 | |
74 | |||
![]() |
4.2 | 75 | **En cours :** |
![]() |
2.1 | 76 | |
![]() |
4.14 | 77 | === **Introduction au Deep Learning** === |
![]() |
2.1 | 78 | |
![]() |
4.5 | 79 | * Comprendre les principes fondamentaux du Deep Learning. |
80 | * Se familiariser avec les concepts clés des réseaux de neurones et des architectures profondes. | ||
81 | * Appréhender les applications concrètes et les enjeux de cette technologie. | ||
![]() |
2.1 | 82 | |
![]() |
4.14 | 83 | **Les Concepts de Base du Deep Learning** |
![]() |
2.1 | 84 | |
![]() |
4.11 | 85 | * Les Réseaux de Neurones Artificiels** **(couche d'entrée, couches cachées, couche de sortie, fonctions d'activation) |
![]() |
4.19 | 86 | * Architecture des Réseaux de Neurones Profonds (perceptron, MLP, CNN, RNN) |
![]() |
2.1 | 87 | |
![]() |
4.16 | 88 | **Apprentissage et Optimisation dans le Deep Learning** |
![]() |
4.15 | 89 | |
![]() |
4.17 | 90 | * Rétropropagation (Backpropagation) et Optimisation |
![]() |
4.18 | 91 | * Problèmes d’optimisation et techniques avancées ( vanishing gradient, overfitting et sous-apprentissage, régularisation et dropout) |
![]() |
4.17 | 92 | |
![]() |
4.19 | 93 | **Transformers et Generative Models** |
94 | |||
![]() |
4.21 | 95 | * Le Modèle Transformer : Architecture et Mécanisme d'Attention |
![]() |
4.23 | 96 | * Prétraitement des Données et Fine-Tuning des Transformers |
![]() |
4.21 | 97 | * Les Modèles Génératifs : GAN et VAE |
![]() |
4.22 | 98 | * Les Modèles de Diffusion |
![]() |
4.19 | 99 | |
![]() |
2.1 | 100 | **En TD :** |
101 | |||
![]() |
4.28 | 102 | * Implémentation d'un réseau neuronal simple avec PyTorch. |
103 | * Construction d'un modèle de réseau neuronal pour la classification. | ||
104 | * Entraînement du modèle avec PyTorch. | ||
105 | * Évaluation de la performance du modèle sur des données de test. | ||
106 | * Application de techniques de régularisation sur un réseau pour éviter le sur-apprentissage. | ||
107 | * Optimisation de l’apprentissage avec un scheduler de taux d’apprentissage. | ||
108 | * Déploiement d'un modèle entraîné en ligne pour une application réelle (par exemple, une interface de prédiction de texte ou d’image). | ||
![]() |
2.1 | 109 | |
![]() |
4.26 | 110 | **Projet :** |
![]() |
2.1 | 111 | |
![]() |
4.26 | 112 | Appliquer tout ce qui a été appris dans le cadre d’un projet final. |
![]() |
1.1 | 113 | ))) |
![]() |
4.2 | 114 | |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" %)((( |
115 | **Compétences** | ||
![]() |
1.1 | 116 | ))) |
117 | |((( | ||
![]() |
4.2 | 118 | (% style="color:#0070c0" %)**Niveaux** |
![]() |
1.1 | 119 | )))|(% colspan="17" %)((( |
![]() |
4.2 | 120 | (% style="color:#0070c0" %)**Description et verbes opérationnels** |
![]() |
1.1 | 121 | ))) |
122 | |((( | ||
![]() |
4.2 | 123 | **Connaître(% style="color:#0070c0" %) (%%)** |
![]() |
4.29 | 124 | )))|(% colspan="17" %)Identifier les différents modèles d'apprentissage profond et déterminer le modèle le plus approprié en fonction du problème à résoudre et du type de données disponible. |
![]() |
1.1 | 125 | |((( |
126 | **Comprendre** | ||
![]() |
4.29 | 127 | )))|(% colspan="17" %)Analyser le fonctionnement des modèles et de leurs composants, en comprenant les mécanismes sous-jacents. |
![]() |
1.1 | 128 | |((( |
![]() |
4.2 | 129 | **Appliquer(% style="color:#0070c0" %) (%%)** |
![]() |
4.29 | 130 | )))|(% colspan="17" %)Implémenter les différents modèles sur des ensembles de données complexes, telles que des images, des textes, etc. |
![]() |
1.1 | 131 | |((( |
![]() |
4.2 | 132 | **Analyser(% style="color:#0070c0" %) (%%)** |
![]() |
4.29 | 133 | )))|(% colspan="17" %)Interpréter les résultats obtenus et procéder à une analyse critique de leur validité et de leur pertinence. |
![]() |
1.1 | 134 | |(% colspan="1" %)((( |
135 | **Synthétiser** | ||
![]() |
4.29 | 136 | )))|(% colspan="17" %)Intégrer les connaissances acquises sur les modèles de deep learning, en expliquant les principes communs ainsi que les différences entre les modèles. |
![]() |
1.1 | 137 | |(% colspan="1" %)((( |
138 | **Évaluer** | ||
![]() |
4.29 | 139 | )))|(% colspan="17" %)Juger de la pertinence et de la performance d'un modèle pour un problème donné, en le comparant de manière rigoureuse avec d'autres solutions existantes. |
![]() |
1.1 | 140 | |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" %)((( |
![]() |
4.2 | 141 | (% class="kYiyGk sc-14kwckt-9" %)**Contributions aux Objectifs de Développement Durable des Nations Unies** |
![]() |
1.1 | 142 | ))) |
143 | |(% colspan="18" %)((( | ||
144 | (% class="content-wrapper" %) | ||
145 | ((( | ||
146 | (% class="wrapped" %) | ||
147 | |((( | ||
148 | (% class="content-wrapper" %) | ||
149 | ((( | ||
150 | (% class="task-list" %) | ||
151 | ((( | ||
152 | {{task reference="/Tasks/Task_5" status="InProgress"}} | ||
153 | [[image:attach:image2022-12-5_21-22-41.png||thumbnail="true" width="60"]] | ||
154 | {{/task}} | ||
155 | ))) | ||
156 | ))) | ||
157 | )))|((( | ||
158 | (% class="content-wrapper" %) | ||
159 | ((( | ||
160 | (% class="task-list" %) | ||
161 | ((( | ||
162 | {{task reference="/Tasks/Task_25" status="InProgress"}} | ||
163 | [[image:attach:image2022-12-5_21-23-16.png||thumbnail="true" width="60"]] | ||
164 | {{/task}} | ||
165 | ))) | ||
166 | ))) | ||
167 | )))|((( | ||
168 | (% class="content-wrapper" %) | ||
169 | ((( | ||
170 | (% class="task-list" %) | ||
171 | ((( | ||
172 | {{task reference="/Tasks/Task_26" status="InProgress"}} | ||
173 | [[image:attach:image2022-12-5_21-26-53.png||thumbnail="true" width="60"]] | ||
174 | {{/task}} | ||
175 | ))) | ||
176 | ))) | ||
177 | )))|((( | ||
178 | (% class="content-wrapper" %) | ||
179 | ((( | ||
180 | (% class="task-list" %) | ||
181 | ((( | ||
182 | {{task reference="/Tasks/Task_27" status="InProgress"}} | ||
183 | [[image:attach:image2022-12-5_21-27-10.png||thumbnail="true" width="60"]] | ||
184 | {{/task}} | ||
185 | ))) | ||
186 | ))) | ||
187 | )))|((( | ||
188 | (% class="content-wrapper" %) | ||
189 | ((( | ||
190 | (% class="task-list" %) | ||
191 | ((( | ||
192 | {{task reference="/Tasks/Task_28" status="InProgress"}} | ||
193 | [[image:attach:image2022-12-5_21-27-29.png||thumbnail="true" width="60"]] | ||
194 | {{/task}} | ||
195 | ))) | ||
196 | ))) | ||
197 | )))|(% colspan="1" %)((( | ||
198 | (% class="content-wrapper" %) | ||
199 | ((( | ||
200 | (% class="task-list" %) | ||
201 | ((( | ||
202 | {{task reference="/Tasks/Task_29" status="InProgress"}} | ||
203 | [[image:attach:image2022-12-5_21-27-47.png||thumbnail="true" width="60"]] | ||
204 | {{/task}} | ||
205 | ))) | ||
206 | ))) | ||
207 | )))|(% colspan="1" %)((( | ||
208 | (% class="content-wrapper" %) | ||
209 | ((( | ||
210 | (% class="task-list" %) | ||
211 | ((( | ||
212 | {{task reference="/Tasks/Task_30" status="InProgress"}} | ||
213 | [[image:attach:image2022-12-5_21-29-25.png||thumbnail="true" width="60"]] | ||
214 | {{/task}} | ||
215 | ))) | ||
216 | ))) | ||
217 | )))|(% colspan="1" %)((( | ||
218 | (% class="content-wrapper" %) | ||
219 | ((( | ||
220 | (% class="task-list" %) | ||
221 | ((( | ||
222 | {{task reference="/Tasks/Task_31" status="InProgress"}} | ||
223 | [[image:attach:image2022-12-5_21-29-43.png||thumbnail="true" width="60"]] | ||
224 | {{/task}} | ||
225 | ))) | ||
226 | ))) | ||
227 | )))|(% colspan="1" %)((( | ||
228 | (% class="content-wrapper" %) | ||
229 | ((( | ||
230 | (% class="task-list" %) | ||
231 | ((( | ||
232 | {{task reference="/Tasks/Task_32" status="InProgress"}} | ||
233 | [[image:attach:image2022-12-5_21-34-38.png||thumbnail="true" width="60"]] | ||
234 | {{/task}} | ||
235 | ))) | ||
236 | ))) | ||
237 | ))) | ||
238 | |((( | ||
239 | (% class="content-wrapper" %) | ||
240 | ((( | ||
241 | (% class="task-list" %) | ||
242 | ((( | ||
243 | {{task reference="/Tasks/Task_33" status="InProgress"}} | ||
244 | [[image:attach:image2022-12-5_21-30-2.png||thumbnail="true" width="60"]] | ||
245 | {{/task}} | ||
246 | ))) | ||
247 | ))) | ||
248 | )))|((( | ||
249 | (% class="content-wrapper" %) | ||
250 | ((( | ||
251 | (% class="task-list" %) | ||
252 | ((( | ||
253 | {{task reference="/Tasks/Task_34" status="InProgress"}} | ||
254 | [[image:attach:image2022-12-5_21-30-25.png||thumbnail="true" width="60"]] | ||
255 | {{/task}} | ||
256 | ))) | ||
257 | ))) | ||
258 | )))|((( | ||
259 | (% class="content-wrapper" %) | ||
260 | ((( | ||
261 | (% class="task-list" %) | ||
262 | ((( | ||
263 | {{task reference="/Tasks/Task_35" status="InProgress"}} | ||
264 | [[image:attach:image2022-12-5_21-30-51.png||thumbnail="true" width="60"]] | ||
265 | {{/task}} | ||
266 | ))) | ||
267 | ))) | ||
268 | )))|((( | ||
269 | (% class="content-wrapper" %) | ||
270 | ((( | ||
271 | (% class="task-list" %) | ||
272 | ((( | ||
273 | {{task reference="/Tasks/Task_36" status="InProgress"}} | ||
274 | [[image:attach:image2022-12-5_21-31-32.png||thumbnail="true" width="60"]] | ||
275 | {{/task}} | ||
276 | ))) | ||
277 | ))) | ||
278 | )))|((( | ||
279 | (% class="content-wrapper" %) | ||
280 | ((( | ||
281 | (% class="task-list" %) | ||
282 | ((( | ||
283 | {{task reference="/Tasks/Task_37" status="InProgress"}} | ||
284 | [[image:attach:image2022-12-5_21-32-1.png||thumbnail="true" width="60"]] | ||
285 | {{/task}} | ||
286 | ))) | ||
287 | ))) | ||
288 | )))|(% colspan="1" %)((( | ||
289 | (% class="content-wrapper" %) | ||
290 | ((( | ||
291 | (% class="task-list" %) | ||
292 | ((( | ||
293 | {{task reference="/Tasks/Task_38" status="InProgress"}} | ||
294 | [[image:attach:image2022-12-5_21-32-28.png||thumbnail="true" width="60"]] | ||
295 | {{/task}} | ||
296 | ))) | ||
297 | ))) | ||
298 | )))|(% colspan="1" %)((( | ||
299 | (% class="content-wrapper" %) | ||
300 | ((( | ||
301 | (% class="task-list" %) | ||
302 | ((( | ||
303 | {{task reference="/Tasks/Task_39" status="InProgress"}} | ||
304 | [[image:attach:image2022-12-5_21-33-6.png||thumbnail="true" width="60"]] | ||
305 | {{/task}} | ||
306 | ))) | ||
307 | ))) | ||
308 | )))|(% colspan="1" %)((( | ||
309 | (% class="content-wrapper" %) | ||
310 | ((( | ||
311 | (% class="task-list" %) | ||
312 | ((( | ||
313 | {{task reference="/Tasks/Task_40" status="InProgress"}} | ||
314 | [[image:attach:image2022-12-5_21-33-33.png||thumbnail="true" width="60"]] | ||
315 | {{/task}} | ||
316 | ))) | ||
317 | ))) | ||
318 | )))|(% colspan="1" %)((( | ||
![]() |
4.2 | 319 | |
![]() |
1.1 | 320 | ))) |
321 | ))) | ||
322 | ))) | ||
![]() |
4.2 | 323 | |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" %)((( |
324 | **Modalités de contrôle des connaissances et compétences** | ||
![]() |
1.1 | 325 | ))) |
326 | |((( | ||
327 | Contrôle Continu | ||
![]() |
4.2 | 328 | )))|(% style="text-align:center" %)((( |
![]() |
1.1 | 329 | (% class="task-list" %) |
330 | ((( | ||
331 | {{task reference="/Tasks/Task_45" status="InProgress"}} | ||
332 | |||
333 | {{/task}} | ||
334 | ))) | ||
335 | )))|(% colspan="4" %)((( | ||
336 | Examen écrit | ||
![]() |
4.2 | 337 | )))|(% colspan="2" style="text-align:center" %)((( |
![]() |
1.1 | 338 | (% class="task-list" %) |
339 | ((( | ||
![]() |
2.1 | 340 | {{task reference="/Tasks/Task_46" status="Done"}} |
![]() |
1.1 | 341 | |
342 | {{/task}} | ||
343 | ))) | ||
344 | )))|(% colspan="3" %)((( | ||
345 | Oral / Soutenance | ||
![]() |
4.2 | 346 | )))|(% colspan="2" style="text-align:center" %)((( |
![]() |
1.1 | 347 | (% class="task-list" %) |
348 | ((( | ||
349 | {{task reference="/Tasks/Task_47" status="InProgress"}} | ||
350 | |||
351 | {{/task}} | ||
352 | ))) | ||
353 | )))|(% colspan="3" %)((( | ||
354 | Rapport / Projet | ||
![]() |
4.2 | 355 | )))|(% colspan="2" style="text-align:center" %)((( |
![]() |
1.1 | 356 | (% class="task-list" %) |
357 | ((( | ||
![]() |
2.1 | 358 | {{task reference="/Tasks/Task_48" status="Done"}} |
![]() |
1.1 | 359 | |
360 | {{/task}} | ||
361 | ))) | ||
362 | ))) |