Machine learning
Niveau M1
"Depuis quelques années, l'augmentation conjointe, rapide et massive des quantités de données et des puissances de calcul a permis l'essor d'algorithmes de prise de décision issus de l'apprentissage statistique (machine learning en anglais). On les retrouve aujourd'hui dans tous les domaines industriels liés à des applications numériques (vision artificielle, robotique, traitement du langage, systèmes de recommandation, etc).
Les objectifs du module sont d'acquérir les intuitions qui sont au fondement de la théorie de l'apprentissage statistique, de maîtriser les algorithmes les plus usuels qui permettent de résoudre les tâches les plus communes (classification, régression, clustering), et d'être capable d'en analyser la pertinence.
Le module permettra d'avoir de solides bases pour poursuivre dans un cursus spécialisé en apprentissage statistique, mais également d'être capable d'utiliser ces algorithmes dans un cadre pratique."
David Picard
1. Introduction
- Ressources
- Configuration
- Minimisation du risque empirique
- Généralisation
- k-NN : Une meilleure machine d'apprentissage
- Coup de chance statistique ?
- Trouver f est difficile
- Conclusion sur l'optimisation et l'apprentissage automatique
2. Modèles linéaires
- Régression linéaire
- Cas non linéaire
- Régularisation
- Autres fonctions de perte
- Sensibilité aux petites erreurs
- Apprentissage par dictionnaire
3. Machines à vecteurs de support et noyaux
- Classification linéaire binaire
- Machines à vecteurs de support
- Noyaux
4. Arbres de décision et méthodes d'ensemble
- Classification basée sur les régions
- Forêt aléatoire
- Apprentissage par ensemble
- Boosting
5. Réseaux de neurones
- Neurone naturel
- Neurone artificiel (McCulloch & Pitts)
- Perceptron multicouche
- Capacité des réseaux de neurones
6. Clustering et apprentissage métrique
- Apprentissage non supervisé
- Clustering
- Apprentissage métrique
7. Introduction à l'apprentissage PAC
- Probablement approximativement correct
Grands scientifiques de ce cours
- Warren McCulloch
- Walter Pitts