Skip to Content
Découvrez les nouveautés de cette version : Fonctionnalités, améliorations et évolutions vous attendent ! 👉 Cliquez ici pour en savoir plus

Code source wiki de Deep Learning avancé

Version 4.1 par Parisa Rastin le 19/02/2023 - 13:46
Afficher les derniers auteurs
1 (% class="relative-table wrapped" style="width: 100.0%;" %)
2 |(% class="highlight-#fff0b3" style="text-align: left;" title="Couleur d'arrière-plan : Jaune clair 100 %" colspan="11" rowspan="3" data-highlight-colour="#fff0b3" %)(((
3 (% style="color: rgb(0,0,128);" title="" %)**Deep Learning avancé**
4
5 (% style="color: rgb(0,0,128);" title="" %)**9KUAJN11**
6 )))|(% style="text-align: center;" colspan="2" %)(((
7 **ECTS**
8 )))|(% class="highlight-#fff0b3" style="text-align: center;" title="Couleur d'arrière-plan : Jaune clair 100 %" data-highlight-colour="#fff0b3" %)(((
9 \\
10 )))|(% style="text-align: center;" colspan="3" %)(((
11 **SEMESTRE**
12 )))|(% class="highlight-#fff0b3" style="text-align: center;" title="Couleur d'arrière-plan : Jaune clair 100 %" data-highlight-colour="#fff0b3" %)(((
13 \\
14 )))
15 |(% style="text-align: center;" %)(((
16 CM
17 )))|(% style="text-align: center;" %)(((
18 TD
19 )))|(% style="text-align: center;" %)(((
20 TP
21 )))|(% style="text-align: center;" %)(((
22 EI
23 )))|(% style="text-align: center;" colspan="3" %)(((
24 Travail personnel
25 )))
26 |(% style="text-align: center;" %)(((
27 7h
28 )))|(% style="text-align: center;" %)(((
29 0h
30 )))|(% style="text-align: center;" %)(((
31 14h
32 )))|(% style="text-align: center;" %)(((
33 0h
34 )))|(% style="text-align: center;" colspan="3" %)(((
35 10h
36 )))
37 |(% colspan="2" %)(((
38 **Langues d'enseignement**
39 )))|(% colspan="9" %)(((
40 Français
41 )))|(% colspan="7" rowspan="2" %)(((
42
43 \\\\
44 )))
45 |(((
46 **Responsable(s)**
47 )))|(% colspan="10" %)(((
48 (% class="content-wrapper" %)
49 (((
50 [[Parisa Rastin>>mailto:parisa.rastin@univ-lorraine.fr||shape="rect"]][[~[~[image:url:https://play-lh.googleusercontent.com/kMofEFLjobZy_bCuaiDogzBcUT-dz3BBbOrIEjJ-hqOabjK8ieuevGe6wlTD15QzOqw~|~|width="16" class="n3VNCb KAlRDb"~]~]>>url:https://www.linkedin.com/in/parisa-rastin-b1675474/||shape="rect"]][[~[~[image:attach:index.png~|~|thumbnail="true" width="16"~]~]>>url:https://www.researchgate.net/profile/Parisa-Rastin||shape="rect"]]
51 )))
52 )))
53 |(((
54 **Mots clefs**
55 )))|(% colspan="17" %)(((
56 Intelligence artificielle, réseaux neuronaux profonds
57 )))
58 |(((
59 **Prérequis**
60 )))|(% colspan="17" %)(((
61 Apprentissage automatique, Introduction à l'apprentissage profond
62 )))
63 |(% class="highlight-#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" colspan="18" data-highlight-colour="#c1c7d0" %)(((
64 (% title="" %)**Objectif pédagogique**
65 )))
66 |(% colspan="18" %)(((
67 Dans ce cours, nous allons acquérir une compréhension complète des aspects théoriques et pratiques de l'apprentissage profond, avec un accent particulier sur les modèles modernes d'apprentissage profond. Nous explorerons les diverses applications de l'apprentissage profond dans la recherche universitaire et l'industrie, en vous fournissant les connaissances et les compétences nécessaires pour réussir dans ce domaine passionnant.
68 )))
69 |(% class="highlight-#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" colspan="18" data-highlight-colour="#c1c7d0" %)(((
70 (% title="" %)**Organisation et contenus**
71 )))
72 |(% colspan="18" %)(((
73 Chaque session se compose d'une heure de cours (incluant une discussion des difficultés rencontrées lors des exercices pratiques de la session précédente) et de deux heures d'exercices pratiques (TD).
74
75 Les TDs se concentrent sur la construction de divers modèles d'apprentissage profond à l'aide du langage de programmation Python.
76
77 Better Deep learning : Améliorer la précision et les performances des modèles d'apprentissage profond. Cela peut impliquer le développement de nouvelles architectures, d'algorithmes d'optimisation, de techniques de régularisation ou d'autres approches pour rendre les modèles d'apprentissage profond plus efficaces et performants. Nous parlons également d'améliorer l'interprétabilité et l'explicabilité des modèles d'apprentissage profond. Cela peut impliquer le développement de techniques permettant de mieux comprendre comment les modèles d'apprentissage profond font des prédictions, ou la création de visualisations et d'autres outils qui aident les utilisateurs à interpréter les résultats d'un modèle d'apprentissage profond.
78
79 Architectures de réseaux neuronaux avancées : réseaux neuronaux récurrents (RNN), réseaux neuronaux convolutifs (CNN), réseaux adversaires génératifs (GAN), transformers, etc.
80
81 Apprentissage non supervisé et auto-supervisé : autoencodeurs, autoencodeurs variationnels (VAE), apprentissage contrastif, etc.
82
83 Modèles probabilistes de diffusion (MPD) : un cadre général pour construire des modèles génératifs basés sur le processus de diffusion.
84
85
86 Dans le TP, nous travaillons sur différents modèles pré-entraînés : BERT pour l'analyse des sentiments, GPT J, Génération d'images à partir de texte en utilisant la diffusion stable et plus encore.
87 )))
88 |(% class="highlight-#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" colspan="18" data-highlight-colour="#c1c7d0" %)(((
89 (% title="" %)
90 **Compétences
91 **
92 )))
93 |(((
94 (% style="color: rgb(0,112,192);" %)**Niveaux**
95 )))|(% colspan="17" %)(((
96 (% style="color: rgb(0,112,192);" %)**Description et verbes opérationnels**
97 )))
98 |(((
99 **Connaître(% style="color: rgb(0,112,192);" %) (%%)**
100 )))|(% colspan="17" %)(((
101 Connaître les différents modèles de deep learning et comprendre quel modèle est approprié pour un problème donné et un type de données.
102 )))
103 |(((
104 **Comprendre**
105 )))|(% colspan="17" %)(((
106 Comprendre le fonctionnement des différents modèles et de leurs composants.
107 )))
108 |(((
109 **Appliquer(% style="color: rgb(0,112,192);" %) (%%)**
110 )))|(% colspan="17" %)(((
111 Appliquer les différents modèles sur des données multimodales (image, texte, ...).
112 )))
113 |(((
114 **Analyser(% style="color: rgb(0,112,192);" %) (%%)**
115 )))|(% colspan="17" %)(((
116 Analyser les résultats obtenus et les interpréter.
117 )))
118 |(% colspan="1" %)(((
119 **Synthétiser**
120 )))|(% colspan="17" %)(((
121 Utiliser les connaissances acquises sur les modèles d'apprentissage profond pour articuler efficacement les principes communs et distinguer les différences entre ces modèles.
122 )))
123 |(% colspan="1" %)(((
124 **Évaluer**
125 )))|(% colspan="17" %)(((
126 Évaluer la pertinence et la qualité d'un modèle pour un problème spécifique et le comparer à des solutions alternatives.
127 )))
128 |(% class="highlight-#c1c7d0" colspan="18" data-highlight-colour="#c1c7d0" %)(((
129 (% class="sc-14kwckt-9 kYiyGk" %)**Contributions aux Objectifs de Développement Durable des Nations Unis
130 **
131 )))
132 |(% colspan="18" %)(((
133 (% class="content-wrapper" %)
134 (((
135 (% class="wrapped" %)
136 |(((
137 (% class="content-wrapper" %)
138 (((
139 (% class="task-list" %)
140 (((
141 {{task reference="/Tasks/Task_5" status="InProgress"}}
142 [[image:attach:image2022-12-5_21-22-41.png||thumbnail="true" width="60"]]
143 {{/task}}
144 )))
145 )))
146 )))|(((
147 (% class="content-wrapper" %)
148 (((
149 (% class="task-list" %)
150 (((
151 {{task reference="/Tasks/Task_25" status="InProgress"}}
152 [[image:attach:image2022-12-5_21-23-16.png||thumbnail="true" width="60"]]
153 {{/task}}
154 )))
155 )))
156 )))|(((
157 (% class="content-wrapper" %)
158 (((
159 (% class="task-list" %)
160 (((
161 {{task reference="/Tasks/Task_26" status="InProgress"}}
162 [[image:attach:image2022-12-5_21-26-53.png||thumbnail="true" width="60"]]
163 {{/task}}
164 )))
165 )))
166 )))|(((
167 (% class="content-wrapper" %)
168 (((
169 (% class="task-list" %)
170 (((
171 {{task reference="/Tasks/Task_27" status="InProgress"}}
172 [[image:attach:image2022-12-5_21-27-10.png||thumbnail="true" width="60"]]
173 {{/task}}
174 )))
175 )))
176 )))|(((
177 (% class="content-wrapper" %)
178 (((
179 (% class="task-list" %)
180 (((
181 {{task reference="/Tasks/Task_28" status="InProgress"}}
182 [[image:attach:image2022-12-5_21-27-29.png||thumbnail="true" width="60"]]
183 {{/task}}
184 )))
185 )))
186 )))|(% colspan="1" %)(((
187 (% class="content-wrapper" %)
188 (((
189 (% class="task-list" %)
190 (((
191 {{task reference="/Tasks/Task_29" status="InProgress"}}
192 [[image:attach:image2022-12-5_21-27-47.png||thumbnail="true" width="60"]]
193 {{/task}}
194 )))
195 )))
196 )))|(% colspan="1" %)(((
197 (% class="content-wrapper" %)
198 (((
199 (% class="task-list" %)
200 (((
201 {{task reference="/Tasks/Task_30" status="InProgress"}}
202 [[image:attach:image2022-12-5_21-29-25.png||thumbnail="true" width="60"]]
203 {{/task}}
204 )))
205 )))
206 )))|(% colspan="1" %)(((
207 (% class="content-wrapper" %)
208 (((
209 (% class="task-list" %)
210 (((
211 {{task reference="/Tasks/Task_31" status="InProgress"}}
212 [[image:attach:image2022-12-5_21-29-43.png||thumbnail="true" width="60"]]
213 {{/task}}
214 )))
215 )))
216 )))|(% colspan="1" %)(((
217 (% class="content-wrapper" %)
218 (((
219 (% class="task-list" %)
220 (((
221 {{task reference="/Tasks/Task_32" status="InProgress"}}
222 [[image:attach:image2022-12-5_21-34-38.png||thumbnail="true" width="60"]]
223 {{/task}}
224 )))
225 )))
226 )))
227 |(((
228 (% class="content-wrapper" %)
229 (((
230 (% class="task-list" %)
231 (((
232 {{task reference="/Tasks/Task_33" status="InProgress"}}
233 [[image:attach:image2022-12-5_21-30-2.png||thumbnail="true" width="60"]]
234 {{/task}}
235 )))
236 )))
237 )))|(((
238 (% class="content-wrapper" %)
239 (((
240 (% class="task-list" %)
241 (((
242 {{task reference="/Tasks/Task_34" status="InProgress"}}
243 [[image:attach:image2022-12-5_21-30-25.png||thumbnail="true" width="60"]]
244 {{/task}}
245 )))
246 )))
247 )))|(((
248 (% class="content-wrapper" %)
249 (((
250 (% class="task-list" %)
251 (((
252 {{task reference="/Tasks/Task_35" status="InProgress"}}
253 [[image:attach:image2022-12-5_21-30-51.png||thumbnail="true" width="60"]]
254 {{/task}}
255 )))
256 )))
257 )))|(((
258 (% class="content-wrapper" %)
259 (((
260 (% class="task-list" %)
261 (((
262 {{task reference="/Tasks/Task_36" status="InProgress"}}
263 [[image:attach:image2022-12-5_21-31-32.png||thumbnail="true" width="60"]]
264 {{/task}}
265 )))
266 )))
267 )))|(((
268 (% class="content-wrapper" %)
269 (((
270 (% class="task-list" %)
271 (((
272 {{task reference="/Tasks/Task_37" status="InProgress"}}
273 [[image:attach:image2022-12-5_21-32-1.png||thumbnail="true" width="60"]]
274 {{/task}}
275 )))
276 )))
277 )))|(% colspan="1" %)(((
278 (% class="content-wrapper" %)
279 (((
280 (% class="task-list" %)
281 (((
282 {{task reference="/Tasks/Task_38" status="InProgress"}}
283 [[image:attach:image2022-12-5_21-32-28.png||thumbnail="true" width="60"]]
284 {{/task}}
285 )))
286 )))
287 )))|(% colspan="1" %)(((
288 (% class="content-wrapper" %)
289 (((
290 (% class="task-list" %)
291 (((
292 {{task reference="/Tasks/Task_39" status="InProgress"}}
293 [[image:attach:image2022-12-5_21-33-6.png||thumbnail="true" width="60"]]
294 {{/task}}
295 )))
296 )))
297 )))|(% colspan="1" %)(((
298 (% class="content-wrapper" %)
299 (((
300 (% class="task-list" %)
301 (((
302 {{task reference="/Tasks/Task_40" status="InProgress"}}
303 [[image:attach:image2022-12-5_21-33-33.png||thumbnail="true" width="60"]]
304 {{/task}}
305 )))
306 )))
307 )))|(% colspan="1" %)(((
308 \\
309 )))
310 )))
311 )))
312 |(% class="highlight-#c1c7d0" title="Couleur d'arrière-plan : Gris moyen 45 %" colspan="18" data-highlight-colour="#c1c7d0" %)(((
313 (% title="" %)**Modalités de contrôle des connaissances et compétences**
314 )))
315 |(((
316 Contrôle Continu
317 )))|(% style="text-align: center;" %)(((
318 (% class="task-list" %)
319 (((
320 {{task reference="/Tasks/Task_45" status="InProgress"}}
321
322 {{/task}}
323 )))
324 )))|(% colspan="4" %)(((
325 Examen écrit
326 )))|(% style="text-align: center;" colspan="2" %)(((
327 (% class="task-list" %)
328 (((
329 {{task reference="/Tasks/Task_46" status="Done"}}
330
331 {{/task}}
332 )))
333 )))|(% colspan="3" %)(((
334 Oral / Soutenance
335 )))|(% style="text-align: center;" colspan="2" %)(((
336 (% class="task-list" %)
337 (((
338 {{task reference="/Tasks/Task_47" status="InProgress"}}
339
340 {{/task}}
341 )))
342 )))|(% colspan="3" %)(((
343 Rapport / Projet
344 )))|(% style="text-align: center;" colspan="2" %)(((
345 (% class="task-list" %)
346 (((
347 {{task reference="/Tasks/Task_48" status="Done"}}
348
349 {{/task}}
350 )))
351 )))