L’objectif de ce cours est double:

• Présenter les principes des modèles de réseaux neuronaux profonds, ainsi que les moyens de les implémenter pour résoudre des problèmes de classification et régression. 
• Proposer un aperçu des bases mathématiques des techniques d’apprentissage modernes basée sur ces réseaux.
   

Le cours commencera avec la propriété d’approximation universelle des réseaux de neurones. Nous verrons ensuite pourquoi la profondeur améliore la capacité des réseaux à donner des approximations précises de fonctions pour un budget de calcul donné.

Des outils permettant de traiter les problèmes d’apprentissages rencontrés dans l’entrainement de ces réseaux sur de grands jeux de données seront proposés, et des éléments de convergence seront discutés. 

Finalement, des résultats statistiques sur les garantie en généralisation des réseaux de neurones profonds seront présentés, à la fois dans des scénarios (classique) de sous-apprentissage, mais aussi dans le cas de sur-apprentissage conduisant au phénomène de ‘double descente’.