Code source wiki de Deep Learning avancé
Modifié par Parisa Rastin le 07/05/2025 - 15:55
Afficher les derniers auteurs
author | version | line-number | content |
---|---|---|---|
1 | (% class="relative-table wrapped" style="width:100.0%" %) | ||
2 | |(% class="highlight-#fff0b3" colspan="11" data-highlight-colour="#fff0b3" rowspan="3" style="text-align:left" title="Couleur d'arrière-plan : Jaune clair 100 %" %)((( | ||
3 | (% style="color:#000080" %)**Deep Learning avancé** | ||
4 | |||
5 | (% style="color:#000080" %)**9KUAJN11** | ||
6 | )))|(% colspan="2" style="text-align:center" %)((( | ||
7 | **ECTS** | ||
8 | )))|(% class="highlight-#fff0b3" data-highlight-colour="#fff0b3" style="text-align:center" title="Couleur d'arrière-plan : Jaune clair 100 %" %)((( | ||
9 | |||
10 | )))|(% colspan="3" style="text-align:center" %)((( | ||
11 | **SEMESTRE** | ||
12 | )))|(% class="highlight-#fff0b3" data-highlight-colour="#fff0b3" style="text-align:center" title="Couleur d'arrière-plan : Jaune clair 100 %" %)((( | ||
13 | |||
14 | ))) | ||
15 | |(% style="text-align:center" %)((( | ||
16 | CM | ||
17 | )))|(% style="text-align:center" %)((( | ||
18 | TD | ||
19 | )))|(% style="text-align:center" %)((( | ||
20 | TP | ||
21 | )))|(% style="text-align:center" %)((( | ||
22 | EI | ||
23 | )))|(% colspan="3" style="text-align:center" %)((( | ||
24 | Travail personnel | ||
25 | ))) | ||
26 | |(% style="text-align:center" %)((( | ||
27 | 7h | ||
28 | )))|(% style="text-align:center" %)((( | ||
29 | 0h | ||
30 | )))|(% style="text-align:center" %)((( | ||
31 | 14h | ||
32 | )))|(% style="text-align:center" %)((( | ||
33 | 0h | ||
34 | )))|(% colspan="3" style="text-align:center" %)((( | ||
35 | 10h | ||
36 | ))) | ||
37 | |(% colspan="2" %)((( | ||
38 | **Langues d'enseignement** | ||
39 | )))|(% colspan="9" %)((( | ||
40 | Français ou Anglais | ||
41 | )))|(% colspan="7" rowspan="2" %)((( | ||
42 | |||
43 | ))) | ||
44 | |((( | ||
45 | **Responsable(s)** | ||
46 | )))|(% colspan="10" %)((( | ||
47 | (% class="content-wrapper" %) | ||
48 | ((( | ||
49 | [[Parisa Rastin>>mailto:parisa.rastin@univ-lorraine.fr||shape="rect"]][[~[~[image:url:https://play-lh.googleusercontent.com/kMofEFLjobZy_bCuaiDogzBcUT-dz3BBbOrIEjJ-hqOabjK8ieuevGe6wlTD15QzOqw~|~|width="16" class="KAlRDb n3VNCb"~]~]>>url:https://www.linkedin.com/in/parisa-rastin-b1675474/||shape="rect"]][[~[~[image:attach:index.png~|~|thumbnail="true" width="16"~]~]>>url:https://www.researchgate.net/profile/Parisa-Rastin||shape="rect"]] | ||
50 | ))) | ||
51 | ))) | ||
52 | |((( | ||
53 | **Mots clefs** | ||
54 | )))|(% colspan="17" %)((( | ||
55 | Intelligence artificielle, réseaux neuronaux profonds | ||
56 | ))) | ||
57 | |((( | ||
58 | **Prérequis** | ||
59 | )))|(% colspan="17" %)((( | ||
60 | Apprentissage automatique, Introduction à l'apprentissage profond | ||
61 | ))) | ||
62 | |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" %)((( | ||
63 | **Objectif pédagogique** | ||
64 | ))) | ||
65 | |(% colspan="18" %)((( | ||
66 | Dans ce cours, nous allons acquérir une compréhension complète des aspects théoriques et pratiques de l'apprentissage profond, avec un accent particulier sur les modèles modernes d'apprentissage profond. Nous explorerons les diverses applications de l'apprentissage profond dans la recherche universitaire et l'industrie, en vous fournissant les connaissances et les compétences nécessaires pour réussir dans ce domaine passionnant. | ||
67 | ))) | ||
68 | |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" %)((( | ||
69 | **Organisation et contenus** | ||
70 | ))) | ||
71 | |(% colspan="18" %)((( | ||
72 | Chaque session se compose d'une heure de cours (incluant une discussion des difficultés rencontrées lors des exercices pratiques de la session précédente) et de deux heures d'exercices pratiques (TD). | ||
73 | |||
74 | Les TDs se concentrent sur la construction de divers modèles d'apprentissage profond à l'aide du langage de programmation Python. | ||
75 | |||
76 | Better Deep learning : Améliorer la précision et les performances des modèles d'apprentissage profond. Cela peut impliquer le développement de nouvelles architectures, d'algorithmes d'optimisation, de techniques de régularisation ou d'autres approches pour rendre les modèles d'apprentissage profond plus efficaces et performants. Nous parlons également d'améliorer l'interprétabilité et l'explicabilité des modèles d'apprentissage profond. Cela peut impliquer le développement de techniques permettant de mieux comprendre comment les modèles d'apprentissage profond font des prédictions, ou la création de visualisations et d'autres outils qui aident les utilisateurs à interpréter les résultats d'un modèle d'apprentissage profond. | ||
77 | |||
78 | Architectures de réseaux neuronaux avancées : réseaux neuronaux récurrents (RNN), réseaux neuronaux convolutifs (CNN), réseaux adversaires génératifs (GAN), transformers, etc. | ||
79 | |||
80 | Apprentissage non supervisé et auto-supervisé : autoencodeurs, autoencodeurs variationnels (VAE), apprentissage contrastif, etc. | ||
81 | |||
82 | Modèles probabilistes de diffusion (MPD) : un cadre général pour construire des modèles génératifs basés sur le processus de diffusion. | ||
83 | |||
84 | |||
85 | Dans le TP, nous travaillons sur différents modèles pré-entraînés : BERT pour l'analyse des sentiments, GPT J, Génération d'images à partir de texte en utilisant la diffusion stable et plus encore. | ||
86 | ))) | ||
87 | |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" %)((( | ||
88 | **Compétences** | ||
89 | ))) | ||
90 | |((( | ||
91 | (% style="color:#0070c0" %)**Niveaux** | ||
92 | )))|(% colspan="17" %)((( | ||
93 | (% style="color:#0070c0" %)**Description et verbes opérationnels** | ||
94 | ))) | ||
95 | |((( | ||
96 | **Connaître(% style="color:#0070c0" %) (%%)** | ||
97 | )))|(% colspan="17" %)((( | ||
98 | Connaître les différents modèles de deep learning et comprendre quel modèle est approprié pour un problème donné et un type de données. | ||
99 | ))) | ||
100 | |((( | ||
101 | **Comprendre** | ||
102 | )))|(% colspan="17" %)((( | ||
103 | Comprendre le fonctionnement des différents modèles et de leurs composants. | ||
104 | ))) | ||
105 | |((( | ||
106 | **Appliquer(% style="color:#0070c0" %) (%%)** | ||
107 | )))|(% colspan="17" %)((( | ||
108 | Appliquer les différents modèles sur des données multimodales (image, texte, ...). | ||
109 | ))) | ||
110 | |((( | ||
111 | **Analyser(% style="color:#0070c0" %) (%%)** | ||
112 | )))|(% colspan="17" %)((( | ||
113 | Analyser les résultats obtenus et les interpréter. | ||
114 | ))) | ||
115 | |(% colspan="1" %)((( | ||
116 | **Synthétiser** | ||
117 | )))|(% colspan="17" %)((( | ||
118 | Utiliser les connaissances acquises sur les modèles d'apprentissage profond pour articuler efficacement les principes communs et distinguer les différences entre ces modèles. | ||
119 | ))) | ||
120 | |(% colspan="1" %)((( | ||
121 | **Évaluer** | ||
122 | )))|(% colspan="17" %)((( | ||
123 | Évaluer la pertinence et la qualité d'un modèle pour un problème spécifique et le comparer à des solutions alternatives. | ||
124 | ))) | ||
125 | |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" %)((( | ||
126 | (% class="kYiyGk sc-14kwckt-9" %)**Contributions aux Objectifs de Développement Durable des Nations Unis** | ||
127 | ))) | ||
128 | |(% colspan="18" %)((( | ||
129 | (% class="content-wrapper" %) | ||
130 | ((( | ||
131 | (% class="wrapped" %) | ||
132 | |((( | ||
133 | (% class="content-wrapper" %) | ||
134 | ((( | ||
135 | (% class="task-list" %) | ||
136 | ((( | ||
137 | {{task reference="/Tasks/Task_5" status="InProgress"}} | ||
138 | [[image:attach:image2022-12-5_21-22-41.png||thumbnail="true" width="60"]] | ||
139 | {{/task}} | ||
140 | ))) | ||
141 | ))) | ||
142 | )))|((( | ||
143 | (% class="content-wrapper" %) | ||
144 | ((( | ||
145 | (% class="task-list" %) | ||
146 | ((( | ||
147 | {{task reference="/Tasks/Task_25" status="InProgress"}} | ||
148 | [[image:attach:image2022-12-5_21-23-16.png||thumbnail="true" width="60"]] | ||
149 | {{/task}} | ||
150 | ))) | ||
151 | ))) | ||
152 | )))|((( | ||
153 | (% class="content-wrapper" %) | ||
154 | ((( | ||
155 | (% class="task-list" %) | ||
156 | ((( | ||
157 | {{task reference="/Tasks/Task_26" status="InProgress"}} | ||
158 | [[image:attach:image2022-12-5_21-26-53.png||thumbnail="true" width="60"]] | ||
159 | {{/task}} | ||
160 | ))) | ||
161 | ))) | ||
162 | )))|((( | ||
163 | (% class="content-wrapper" %) | ||
164 | ((( | ||
165 | (% class="task-list" %) | ||
166 | ((( | ||
167 | {{task reference="/Tasks/Task_27" status="InProgress"}} | ||
168 | [[image:attach:image2022-12-5_21-27-10.png||thumbnail="true" width="60"]] | ||
169 | {{/task}} | ||
170 | ))) | ||
171 | ))) | ||
172 | )))|((( | ||
173 | (% class="content-wrapper" %) | ||
174 | ((( | ||
175 | (% class="task-list" %) | ||
176 | ((( | ||
177 | {{task reference="/Tasks/Task_28" status="InProgress"}} | ||
178 | [[image:attach:image2022-12-5_21-27-29.png||thumbnail="true" width="60"]] | ||
179 | {{/task}} | ||
180 | ))) | ||
181 | ))) | ||
182 | )))|(% colspan="1" %)((( | ||
183 | (% class="content-wrapper" %) | ||
184 | ((( | ||
185 | (% class="task-list" %) | ||
186 | ((( | ||
187 | {{task reference="/Tasks/Task_29" status="InProgress"}} | ||
188 | [[image:attach:image2022-12-5_21-27-47.png||thumbnail="true" width="60"]] | ||
189 | {{/task}} | ||
190 | ))) | ||
191 | ))) | ||
192 | )))|(% colspan="1" %)((( | ||
193 | (% class="content-wrapper" %) | ||
194 | ((( | ||
195 | (% class="task-list" %) | ||
196 | ((( | ||
197 | {{task reference="/Tasks/Task_30" status="InProgress"}} | ||
198 | [[image:attach:image2022-12-5_21-29-25.png||thumbnail="true" width="60"]] | ||
199 | {{/task}} | ||
200 | ))) | ||
201 | ))) | ||
202 | )))|(% colspan="1" %)((( | ||
203 | (% class="content-wrapper" %) | ||
204 | ((( | ||
205 | (% class="task-list" %) | ||
206 | ((( | ||
207 | {{task reference="/Tasks/Task_31" status="InProgress"}} | ||
208 | [[image:attach:image2022-12-5_21-29-43.png||thumbnail="true" width="60"]] | ||
209 | {{/task}} | ||
210 | ))) | ||
211 | ))) | ||
212 | )))|(% colspan="1" %)((( | ||
213 | (% class="content-wrapper" %) | ||
214 | ((( | ||
215 | (% class="task-list" %) | ||
216 | ((( | ||
217 | {{task reference="/Tasks/Task_32" status="InProgress"}} | ||
218 | [[image:attach:image2022-12-5_21-34-38.png||thumbnail="true" width="60"]] | ||
219 | {{/task}} | ||
220 | ))) | ||
221 | ))) | ||
222 | ))) | ||
223 | |((( | ||
224 | (% class="content-wrapper" %) | ||
225 | ((( | ||
226 | (% class="task-list" %) | ||
227 | ((( | ||
228 | {{task reference="/Tasks/Task_33" status="InProgress"}} | ||
229 | [[image:attach:image2022-12-5_21-30-2.png||thumbnail="true" width="60"]] | ||
230 | {{/task}} | ||
231 | ))) | ||
232 | ))) | ||
233 | )))|((( | ||
234 | (% class="content-wrapper" %) | ||
235 | ((( | ||
236 | (% class="task-list" %) | ||
237 | ((( | ||
238 | {{task reference="/Tasks/Task_34" status="InProgress"}} | ||
239 | [[image:attach:image2022-12-5_21-30-25.png||thumbnail="true" width="60"]] | ||
240 | {{/task}} | ||
241 | ))) | ||
242 | ))) | ||
243 | )))|((( | ||
244 | (% class="content-wrapper" %) | ||
245 | ((( | ||
246 | (% class="task-list" %) | ||
247 | ((( | ||
248 | {{task reference="/Tasks/Task_35" status="InProgress"}} | ||
249 | [[image:attach:image2022-12-5_21-30-51.png||thumbnail="true" width="60"]] | ||
250 | {{/task}} | ||
251 | ))) | ||
252 | ))) | ||
253 | )))|((( | ||
254 | (% class="content-wrapper" %) | ||
255 | ((( | ||
256 | (% class="task-list" %) | ||
257 | ((( | ||
258 | {{task reference="/Tasks/Task_36" status="InProgress"}} | ||
259 | [[image:attach:image2022-12-5_21-31-32.png||thumbnail="true" width="60"]] | ||
260 | {{/task}} | ||
261 | ))) | ||
262 | ))) | ||
263 | )))|((( | ||
264 | (% class="content-wrapper" %) | ||
265 | ((( | ||
266 | (% class="task-list" %) | ||
267 | ((( | ||
268 | {{task reference="/Tasks/Task_37" status="InProgress"}} | ||
269 | [[image:attach:image2022-12-5_21-32-1.png||thumbnail="true" width="60"]] | ||
270 | {{/task}} | ||
271 | ))) | ||
272 | ))) | ||
273 | )))|(% colspan="1" %)((( | ||
274 | (% class="content-wrapper" %) | ||
275 | ((( | ||
276 | (% class="task-list" %) | ||
277 | ((( | ||
278 | {{task reference="/Tasks/Task_38" status="InProgress"}} | ||
279 | [[image:attach:image2022-12-5_21-32-28.png||thumbnail="true" width="60"]] | ||
280 | {{/task}} | ||
281 | ))) | ||
282 | ))) | ||
283 | )))|(% colspan="1" %)((( | ||
284 | (% class="content-wrapper" %) | ||
285 | ((( | ||
286 | (% class="task-list" %) | ||
287 | ((( | ||
288 | {{task reference="/Tasks/Task_39" status="InProgress"}} | ||
289 | [[image:attach:image2022-12-5_21-33-6.png||thumbnail="true" width="60"]] | ||
290 | {{/task}} | ||
291 | ))) | ||
292 | ))) | ||
293 | )))|(% colspan="1" %)((( | ||
294 | (% class="content-wrapper" %) | ||
295 | ((( | ||
296 | (% class="task-list" %) | ||
297 | ((( | ||
298 | {{task reference="/Tasks/Task_40" status="InProgress"}} | ||
299 | [[image:attach:image2022-12-5_21-33-33.png||thumbnail="true" width="60"]] | ||
300 | {{/task}} | ||
301 | ))) | ||
302 | ))) | ||
303 | )))|(% colspan="1" %)((( | ||
304 | |||
305 | ))) | ||
306 | ))) | ||
307 | ))) | ||
308 | |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" %)((( | ||
309 | **Modalités de contrôle des connaissances et compétences** | ||
310 | ))) | ||
311 | |((( | ||
312 | Contrôle Continu | ||
313 | )))|(% style="text-align:center" %)((( | ||
314 | (% class="task-list" %) | ||
315 | ((( | ||
316 | {{task reference="/Tasks/Task_45" status="InProgress"}} | ||
317 | |||
318 | {{/task}} | ||
319 | ))) | ||
320 | )))|(% colspan="4" %)((( | ||
321 | Examen écrit | ||
322 | )))|(% colspan="2" style="text-align:center" %)((( | ||
323 | (% class="task-list" %) | ||
324 | ((( | ||
325 | {{task reference="/Tasks/Task_46" status="Done"}} | ||
326 | |||
327 | {{/task}} | ||
328 | ))) | ||
329 | )))|(% colspan="3" %)((( | ||
330 | Oral / Soutenance | ||
331 | )))|(% colspan="2" style="text-align:center" %)((( | ||
332 | (% class="task-list" %) | ||
333 | ((( | ||
334 | {{task reference="/Tasks/Task_47" status="InProgress"}} | ||
335 | |||
336 | {{/task}} | ||
337 | ))) | ||
338 | )))|(% colspan="3" %)((( | ||
339 | Rapport / Projet | ||
340 | )))|(% colspan="2" style="text-align:center" %)((( | ||
341 | (% class="task-list" %) | ||
342 | ((( | ||
343 | {{task reference="/Tasks/Task_48" status="Done"}} | ||
344 | |||
345 | {{/task}} | ||
346 | ))) | ||
347 | ))) |