Skip to Content
Découvrez les nouveautés de cette version : Fonctionnalités, améliorations et évolutions vous attendent ! 👉 Cliquez ici pour en savoir plus

Code source wiki de Introduction au deep learning

Modifié par Parisa Rastin le 28/04/2025 - 11:20
Afficher les derniers auteurs
1 (% class="relative-table wrapped" style="width:100.0%" %)
2 |(% class="highlight-#fff0b3" colspan="11" data-highlight-colour="#fff0b3" rowspan="3" style="text-align:left" title="Couleur d'arrière-plan : Jaune clair 100 %" %)(((
3 (% style="color:#000080" %)**Introduction au deep learning**
4
5 (% style="color:#000080" %)**8KUAEN12**
6 )))|(% colspan="2" style="text-align:center" %)(((
7 **ECTS**
8 )))|(% class="highlight-#fff0b3" data-highlight-colour="#fff0b3" style="text-align:center" title="Couleur d'arrière-plan : Jaune clair 100 %" %)(((
9
10 )))|(% colspan="3" style="text-align:center" %)(((
11 **SEMESTRE**
12 )))|(% class="highlight-#fff0b3" data-highlight-colour="#fff0b3" style="text-align:center" title="Couleur d'arrière-plan : Jaune clair 100 %" %)(((
13
14 )))
15 |(% style="text-align:center" %)(((
16 CM
17 )))|(% style="text-align:center" %)(((
18 TD
19 )))|(% style="text-align:center" %)(((
20 TP
21 )))|(% style="text-align:center" %)(((
22 EI
23 )))|(% colspan="3" style="text-align:center" %)(((
24 Travail personnel
25 )))
26 |(% style="text-align:center" %)(((
27 7h
28 )))|(% style="text-align:center" %)(((
29 14h
30 )))|(% style="text-align:center" %)(((
31 0h
32 )))|(% style="text-align:center" %)(((
33 0h
34 )))|(% colspan="3" style="text-align:center" %)(((
35 10h
36 )))
37 |(% colspan="2" %)(((
38 **Langues d'enseignement**
39 )))|(% colspan="9" %)(((
40 Français/Anglais
41 )))|(% colspan="7" rowspan="2" %)(((
42
43 )))
44 |(((
45 **Responsable(s)**
46 )))|(% colspan="10" %)(((
47 (% class="content-wrapper" %)
48 (((
49 [[Parisa Rastin>>mailto:parisa.rastin@univ-lorraine.fr||shape="rect"]][[~[~[image:url:https://play-lh.googleusercontent.com/kMofEFLjobZy_bCuaiDogzBcUT-dz3BBbOrIEjJ-hqOabjK8ieuevGe6wlTD15QzOqw~|~|width="16" class="KAlRDb n3VNCb"~]~]>>url:https://www.linkedin.com/in/parisa-rastin-b1675474/||shape="rect"]][[~[~[image:attach:index.png~|~|thumbnail="true" width="16"~]~]>>url:https://www.researchgate.net/profile/Parisa-Rastin||shape="rect"]]
50 )))
51 )))
52 |(((
53 **Mots clefs**
54 )))|(% colspan="17" %)(((
55 ===== (% style="color:#000000" %)Intelligence artificielle, réseaux de neurones profonds(%%) =====
56 )))
57 |(((
58 **Prérequis**
59 )))|(% colspan="17" %)(((
60 ===== (% style="color:#000000" %)Introduction à l'apprentissage automatique, programmation en python(%%) =====
61 )))
62 |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" %)(((
63 **Objectif pédagogique**
64 )))
65 |(% colspan="18" %)Ce cours présente les connaissances théoriques et pratiques sur l'apprentissage profond et son utilisation. Dans ce cadre, nous apprendrons à créer des modèles profonds et à étudier l'impact de différents paramètres sur la qualité des performances des modèles.
66 |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" %)(((
67 **Organisation et contenus**
68 )))
69 |(% colspan="18" %)(((
70 Chaque séance comprend une heure de cours (cours + discussion sur les difficultés du TD précédent) ainsi que deux heures de TD.
71
72 Les TD sont basés sur la construction de différents modèles de deep learning en utilisant le langage de programmation Python.
73
74
75 **En cours :**
76
77 === **Introduction au Deep Learning** ===
78
79 * Comprendre les principes fondamentaux du Deep Learning.
80 * Se familiariser avec les concepts clés des réseaux de neurones et des architectures profondes.
81 * Appréhender les applications concrètes et les enjeux de cette technologie.
82
83 **Les Concepts de Base du Deep Learning**
84
85 * Les Réseaux de Neurones Artificiels** **(couche d'entrée, couches cachées, couche de sortie, fonctions d'activation)
86 * Architecture des Réseaux de Neurones Profonds (perceptron, MLP, CNN, RNN)
87
88 **Apprentissage et Optimisation dans le Deep Learning**
89
90 * Rétropropagation (Backpropagation) et Optimisation
91 * Problèmes d’optimisation et techniques avancées ( vanishing gradient, overfitting et sous-apprentissage, régularisation et dropout)
92
93 **Transformers et Generative Models**
94
95 * Le Modèle Transformer : Architecture et Mécanisme d'Attention
96 * Prétraitement des Données et Fine-Tuning des Transformers
97 * Les Modèles Génératifs : GAN et VAE
98 * Les Modèles de Diffusion
99
100 **En TD :**
101
102 * Implémentation d'un réseau neuronal simple avec PyTorch.
103 * Construction d'un modèle de réseau neuronal pour la classification.
104 * Entraînement du modèle avec PyTorch.
105 * Évaluation de la performance du modèle sur des données de test.
106 * Application de techniques de régularisation sur un réseau pour éviter le sur-apprentissage.
107 * Optimisation de l’apprentissage avec un scheduler de taux d’apprentissage.
108 * Déploiement d'un modèle entraîné en ligne pour une application réelle (par exemple, une interface de prédiction de texte ou d’image).
109
110 **Projet :**
111
112 Appliquer tout ce qui a été appris dans le cadre d’un projet final.
113 )))
114 |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" %)(((
115 **Compétences**
116 )))
117 |(((
118 (% style="color:#0070c0" %)**Niveaux**
119 )))|(% colspan="17" %)(((
120 (% style="color:#0070c0" %)**Description et verbes opérationnels**
121 )))
122 |(((
123 **Connaître(% style="color:#0070c0" %) (%%)**
124 )))|(% colspan="17" %)Identifier les différents modèles d'apprentissage profond et déterminer le modèle le plus approprié en fonction du problème à résoudre et du type de données disponible.
125 |(((
126 **Comprendre**
127 )))|(% colspan="17" %)Analyser le fonctionnement des modèles et de leurs composants, en comprenant les mécanismes sous-jacents.
128 |(((
129 **Appliquer(% style="color:#0070c0" %) (%%)**
130 )))|(% colspan="17" %)Implémenter les différents modèles sur des ensembles de données complexes, telles que des images, des textes, etc.
131 |(((
132 **Analyser(% style="color:#0070c0" %) (%%)**
133 )))|(% colspan="17" %)Interpréter les résultats obtenus et procéder à une analyse critique de leur validité et de leur pertinence.
134 |(% colspan="1" %)(((
135 **Synthétiser**
136 )))|(% colspan="17" %)Intégrer les connaissances acquises sur les modèles de deep learning, en expliquant les principes communs ainsi que les différences entre les modèles.
137 |(% colspan="1" %)(((
138 **Évaluer**
139 )))|(% colspan="17" %)Juger de la pertinence et de la performance d'un modèle pour un problème donné, en le comparant de manière rigoureuse avec d'autres solutions existantes.
140 |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" %)(((
141 (% class="kYiyGk sc-14kwckt-9" %)**Contributions aux Objectifs de Développement Durable des Nations Unies**
142 )))
143 |(% colspan="18" %)(((
144 (% class="content-wrapper" %)
145 (((
146 (% class="wrapped" %)
147 |(((
148 (% class="content-wrapper" %)
149 (((
150 (% class="task-list" %)
151 (((
152 {{task reference="/Tasks/Task_5" status="InProgress"}}
153 [[image:attach:image2022-12-5_21-22-41.png||thumbnail="true" width="60"]]
154 {{/task}}
155 )))
156 )))
157 )))|(((
158 (% class="content-wrapper" %)
159 (((
160 (% class="task-list" %)
161 (((
162 {{task reference="/Tasks/Task_25" status="InProgress"}}
163 [[image:attach:image2022-12-5_21-23-16.png||thumbnail="true" width="60"]]
164 {{/task}}
165 )))
166 )))
167 )))|(((
168 (% class="content-wrapper" %)
169 (((
170 (% class="task-list" %)
171 (((
172 {{task reference="/Tasks/Task_26" status="InProgress"}}
173 [[image:attach:image2022-12-5_21-26-53.png||thumbnail="true" width="60"]]
174 {{/task}}
175 )))
176 )))
177 )))|(((
178 (% class="content-wrapper" %)
179 (((
180 (% class="task-list" %)
181 (((
182 {{task reference="/Tasks/Task_27" status="InProgress"}}
183 [[image:attach:image2022-12-5_21-27-10.png||thumbnail="true" width="60"]]
184 {{/task}}
185 )))
186 )))
187 )))|(((
188 (% class="content-wrapper" %)
189 (((
190 (% class="task-list" %)
191 (((
192 {{task reference="/Tasks/Task_28" status="InProgress"}}
193 [[image:attach:image2022-12-5_21-27-29.png||thumbnail="true" width="60"]]
194 {{/task}}
195 )))
196 )))
197 )))|(% colspan="1" %)(((
198 (% class="content-wrapper" %)
199 (((
200 (% class="task-list" %)
201 (((
202 {{task reference="/Tasks/Task_29" status="InProgress"}}
203 [[image:attach:image2022-12-5_21-27-47.png||thumbnail="true" width="60"]]
204 {{/task}}
205 )))
206 )))
207 )))|(% colspan="1" %)(((
208 (% class="content-wrapper" %)
209 (((
210 (% class="task-list" %)
211 (((
212 {{task reference="/Tasks/Task_30" status="InProgress"}}
213 [[image:attach:image2022-12-5_21-29-25.png||thumbnail="true" width="60"]]
214 {{/task}}
215 )))
216 )))
217 )))|(% colspan="1" %)(((
218 (% class="content-wrapper" %)
219 (((
220 (% class="task-list" %)
221 (((
222 {{task reference="/Tasks/Task_31" status="InProgress"}}
223 [[image:attach:image2022-12-5_21-29-43.png||thumbnail="true" width="60"]]
224 {{/task}}
225 )))
226 )))
227 )))|(% colspan="1" %)(((
228 (% class="content-wrapper" %)
229 (((
230 (% class="task-list" %)
231 (((
232 {{task reference="/Tasks/Task_32" status="InProgress"}}
233 [[image:attach:image2022-12-5_21-34-38.png||thumbnail="true" width="60"]]
234 {{/task}}
235 )))
236 )))
237 )))
238 |(((
239 (% class="content-wrapper" %)
240 (((
241 (% class="task-list" %)
242 (((
243 {{task reference="/Tasks/Task_33" status="InProgress"}}
244 [[image:attach:image2022-12-5_21-30-2.png||thumbnail="true" width="60"]]
245 {{/task}}
246 )))
247 )))
248 )))|(((
249 (% class="content-wrapper" %)
250 (((
251 (% class="task-list" %)
252 (((
253 {{task reference="/Tasks/Task_34" status="InProgress"}}
254 [[image:attach:image2022-12-5_21-30-25.png||thumbnail="true" width="60"]]
255 {{/task}}
256 )))
257 )))
258 )))|(((
259 (% class="content-wrapper" %)
260 (((
261 (% class="task-list" %)
262 (((
263 {{task reference="/Tasks/Task_35" status="InProgress"}}
264 [[image:attach:image2022-12-5_21-30-51.png||thumbnail="true" width="60"]]
265 {{/task}}
266 )))
267 )))
268 )))|(((
269 (% class="content-wrapper" %)
270 (((
271 (% class="task-list" %)
272 (((
273 {{task reference="/Tasks/Task_36" status="InProgress"}}
274 [[image:attach:image2022-12-5_21-31-32.png||thumbnail="true" width="60"]]
275 {{/task}}
276 )))
277 )))
278 )))|(((
279 (% class="content-wrapper" %)
280 (((
281 (% class="task-list" %)
282 (((
283 {{task reference="/Tasks/Task_37" status="InProgress"}}
284 [[image:attach:image2022-12-5_21-32-1.png||thumbnail="true" width="60"]]
285 {{/task}}
286 )))
287 )))
288 )))|(% colspan="1" %)(((
289 (% class="content-wrapper" %)
290 (((
291 (% class="task-list" %)
292 (((
293 {{task reference="/Tasks/Task_38" status="InProgress"}}
294 [[image:attach:image2022-12-5_21-32-28.png||thumbnail="true" width="60"]]
295 {{/task}}
296 )))
297 )))
298 )))|(% colspan="1" %)(((
299 (% class="content-wrapper" %)
300 (((
301 (% class="task-list" %)
302 (((
303 {{task reference="/Tasks/Task_39" status="InProgress"}}
304 [[image:attach:image2022-12-5_21-33-6.png||thumbnail="true" width="60"]]
305 {{/task}}
306 )))
307 )))
308 )))|(% colspan="1" %)(((
309 (% class="content-wrapper" %)
310 (((
311 (% class="task-list" %)
312 (((
313 {{task reference="/Tasks/Task_40" status="InProgress"}}
314 [[image:attach:image2022-12-5_21-33-33.png||thumbnail="true" width="60"]]
315 {{/task}}
316 )))
317 )))
318 )))|(% colspan="1" %)(((
319
320 )))
321 )))
322 )))
323 |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" %)(((
324 **Modalités de contrôle des connaissances et compétences**
325 )))
326 |(((
327 Contrôle Continu
328 )))|(% style="text-align:center" %)(((
329 (% class="task-list" %)
330 (((
331 {{task reference="/Tasks/Task_45" status="InProgress"}}
332
333 {{/task}}
334 )))
335 )))|(% colspan="4" %)(((
336 Examen écrit
337 )))|(% colspan="2" style="text-align:center" %)(((
338 (% class="task-list" %)
339 (((
340 {{task reference="/Tasks/Task_46" status="Done"}}
341
342 {{/task}}
343 )))
344 )))|(% colspan="3" %)(((
345 Oral / Soutenance
346 )))|(% colspan="2" style="text-align:center" %)(((
347 (% class="task-list" %)
348 (((
349 {{task reference="/Tasks/Task_47" status="InProgress"}}
350
351 {{/task}}
352 )))
353 )))|(% colspan="3" %)(((
354 Rapport / Projet
355 )))|(% colspan="2" style="text-align:center" %)(((
356 (% class="task-list" %)
357 (((
358 {{task reference="/Tasks/Task_48" status="Done"}}
359
360 {{/task}}
361 )))
362 )))