Table des matieres du chapitres 1 - TCTS Lab

Traitement de L’Information
Classification et Reconnaissance
Statistique de Formes
Notes de Cours
Copyright © 2000 Faculté Polytechnique de Mons - B. Gosselin
Faculté Polytechnique
de Mons - TCTS
Bernard Gosselin
Faculté Polytechnique de Mons
TCTS Lab
Bâtiment Multitel – Parc Initialis
Avenue Copernic
Ph:
+32 65 374706
B-7000 Mons
Fax: +32 65 374729
Belgium
Email: [email protected]
Classification et Reconnaissance Statistique de Formes
Table des Matières
Chapitre 1 – Reconnaissance de Formes
1.1
Notion de Classificateur
.................................................................................. 1.1
1.2
Classificateurs Paramétriques
.................................................................................. 1.4
1.3
1.4
1.2.1
Le Classificateur Euclidien............................................................................... 1.4
1.2.2
Le Classificateur Quadratique........................................................................... 1.6
1.2.3
Le Classificateur Gaussien ............................................................................... 1.7
Classificateurs Non Paramétriques................................................................................ 1.9
1.3.1
Estimation des probabilités à posteriori ........................................................... 1.9
1.3.2
La Méthode du Plus Proche Voisin.................................................................. 1.10
1.3.3
La Méthode des k Plus Proches Voisins........................................................... 1.14
Réseaux de Neurones Artificiels 1.15
1.4.1
Du neurone biologique au neurone formel ......................................................... 1.15
1.4.2
Le Perceptron
.................................................................................. 1.18
1.4.2.1 Architecture du Réseau........................................................................ 1.18
1.4.2.2 La Phase d’Apprentissage .................................................................... 1.20
1.4.2.3 Liens entre Perceptron et Classificateur Gaussien................................... 1.22
1.4.3
Le Perceptron Multicouches ............................................................................ 1.23
1.4.3.1 Architecture du Réseau........................................................................ 1.23
1.4.3.2 La Phase d’Apprentissage .................................................................... 1.24
1.4.3.3 Propriétés du Perceptron Multicouches ................................................. 1.29
1.4.3.4 De l’Apprentissage du Perceptron Multicouches..................................... 1.32
1.4.4
1.4.3.4.1
Introduction ................................................................ 1.32
1.4.3.4.2
Les Différents Modes d’Apprentissage .......................... 1.33
1.4.3.4.3
Utilisation d’un Terme de Moment................................ 1.33
1.4.3.4.4
Les Minima locaux ...................................................... 1.35
1.4.3.4.5
La Validation Croisée................................................... 1.36
1.4.3.4.6
Méthodes d’Apprentissage Accéléré .............................. 1.37
1.4.3.4.7
Adaptation aux probabilités à priori .............................. 1.39
Autres Modèles de Réseaux de Neurones .......................................................... 1.40
1.4.4.1 Le Réseau de Fonctions à Base Radiale................................................. 1.40
1.4.4.2 La Carte Auto-Organisatrice de Kohonen .............................................. 1.42
1.4.4.2.1
Architecture du Réseau ................................................ 1.42
Copyright © 2000 Faculté Polytechnique de Mons - B. Gosselin
2
Classification et Reconnaissance Statistique de Formes
1.4.4.2.2
La Phase d'Apprentissage ............................................. 1.43
1.4.4.2.3
L'Algorithme « Learning Vector Quantization ».............. 1.46
1.4.4.2.4
Propriétés de la Carte Auto-Organisatrice....................... 1.48
1.4.4.3 Les Réseaux Dynamiques .................................................................... 1.49
1.5
1.6
Comparaison Dynamique
.................................................................................. 1.51
1.5.1
Introduction
.................................................................................. 1.51
1.5.2
Alignement Temporel Linéaire ......................................................................... 1.52
1.5.3
Alignement Temporel par Programmation Dynamique........................................ 1.52
1.5.4
Variantes dans la Programmation Dynamique .................................................... 1.54
1.5.5
Exemple
.................................................................................. 1.56
Modèles de Markov
.................................................................................. 1.57
1.6.1
Introduction
.................................................................................. 1.57
1.6.2
Les Modèles de Markov à Temps Discret .............................................
1.57
1.6.2.1 Notions de Base ...................................................................... 1.57
1.6.2.2 Les Modèles de Markov Cachés ............................................... 1.59
1.6.2.3 Paramètres d'un Modèle de Markov Caché................................ 1.60
1.6.2.4 Les Trois Problèmes de Base ................................................... 1.61
1.6.3
Résolution des Trois Problèmes de Base ............................................... 1.62
1.6.3.1 L’Evaluation ........................................................................... 1.62
1.6.3.2 Détermination de la Suite Optimale d’Etats ............................... 1.66
1.6.3.3 L’Entraînement....................................................................... 1.69
1.6.4
Types de Modèles de Markov Cachés................................................... 1.73
1.6.4.1 Structures de Modèles de Markov Cachés ................................. 1.73
1.6.4.2 La Durée des Etats .................................................................. 1.75
1.6.4.3 Les Modèles de Markov à Temps Continu ................................ 1.76
1.6.4.4 Les Modèles Hybrides ............................................................. 1.78
1.7
1.8
L’Extraction de Caractéristiques 1.83
1.7.1
Introduction
.................................................................................. 1.83
1.7.2
L’Expansion de Karhunen & Loève.................................................................. 1.84
1.7.3
La Sélection de Caractéristiques ....................................................................... 1.88
1.7.4
L’Analyse Discriminante de Fisher ................................................................... 1.91
Techniques d’Evaluation des Performances .................................................................. 1.93
Bibliographie
.................................................................................. 1.95
Tables des Matières
.................................................................................. 1.97
Copyright © 2000 Faculté Polytechnique de Mons - B. Gosselin
3