Book Announcement

[Jean-Francois Jodouin]

Ths is a book announcement for two French-language books on
neural networks.

Though there is a large and ever-growing number of such texts in English,
connectionists required to teach neural networks in French have difficulty
finding the equivalent in their language. Because there is to my knowledge
no French connectionist forum, I have permitted myself to post this
message here, despite the fact that only a small proportion of you are
francophone.

The following two books are now available :

	Reseaux de neurones : Principes et definitions,
	Jean-Francois Jodouin
	editions Hermes, Paris, 140p, 1994.

	Reseaux neuromimctiques : Modeles et applications,
	Jean-Francois Jodouin
	editions Hermes, Paris, 260p, 1994.

The first is short presentation destined for the general public. The second is 
an introductory textbook intended for graduate students. 

Abstract and Table of Contents (in French) for both books follow.

===========================================
	Reseaux de neurones : Principes et definitions
	Jean-Francois Jodouin
	editions Hermes, Paris, 140p, 1994

------------------------------------------------------------------------------
			Resume

Les reseaux neuromimetiques sont inspires de la neurobiologie. Ils ont 
depuis des notions de plusieurs disciplines : leurs concepteurs auraient 
peine a les reconnaitre, vu la grande diversite de formes qu'ils revetent 
aujourd'hui. A la fois objets d'etude et outils applicatifs, les reseaux ont un 
role a jouer dans un nombre rapidement croissant de domaines, autant en 
recherche qu'en industrie.

Ce livre s'adresse aux etudiants, enseignants et professionnels ayant une 
culture scientifique generale. Son but est de presenter sous une forme 
didactique les principes generaux qui sous-tendent les travaux en reseaux 
de neurones, et qui ne sont souvent qu'esquisses dans les textes plus 
specialises. C'est donc un premier apercu utile de l'etude des reseaux de 
neurones. Il constitue une introduction aux textes de presentation plus 
approfondis, en particulier a "Reseaux neuromimetiques : Modeles et 
applications" (Hermes, 1994).

------------------------------------------------------------------------------
			Table des matieres

Avant-propos
Introduction

1.	Le reseau de neurones
1.1.	Apercu general
1.1.1.	Les elements constitutifs d'un reseau neuromimetique
1.1.2.	L'architecture d'un reseau neuromimetique
1.1.3.	Le choix des poids synaptiques
1.1.4.	Les entrees et les sorties du reseau
1.1.5.	Discussion : regles locales et comportement emergent
1.2.	Applications des reseaux neuromimetiques
1.3.	Bibliographie

2.	Neurones et activation
2.1.	Un modele formel du neurone
2.1.1.	Le modele de McCulloch et de Pitts
2.1.2.	Un modele plus general
2.1.3.	Neurone formel et neurone biologique
2.2.	La fonction d'activation d'un neurone formel
2.2.1.	Caracteristiques des fonctions d'activation
2.2.2.	Quelques exemples de fonctions
2.3.	La propagation de l'activation
2.3.1.	Phenomenes connus de la propagation d'activation
2.3.1.1.	Detection de traits
2.3.1.2.	Memoire associative
2.3.1.3.	Satisfaction de contraintes
2.3.2.	Comportements dynamiques des reseaux
2.3.2.1.	Convergence vers un point fixe
2.3.2.2.	Comportements dynamiques plus complexes
2.3.3.	Exemple : un petit reseau
2.4.	Capacites de calcul d'un reseau neuromimetique
2.4.1.	Quelques simplifications preliminaires
2.4.2.	Le Perceptron et ses limites
2.4.3.	L'importance des neurones caches
2.4.4.	Les reseaux non-lineaires
2.4.5.	Langages formels et reseaux de neurones
2.5.	Exemple : le modele de McClelland et de Rumelhart
2.5.1.	La reconnaissance des lettres en contexte
2.5.2.	Un modele de la lecture
2.5.3.	Comportement du modele
2.5.4.	Competition et cooperation
2.6.	Bibliographie

3.	Apprentissage et erreur
3.1.	Le protocole d'apprentissage
3.1.1.	La procedure d'apprentissage
3.1.2.	La procedure de validation croisee
3.2.	Trois types d'apprentissage
3.2.1.	Apprentissage non-supervise
3.2.2.	Apprentissage supervise
3.2.3.	Apprentissage semi-supervise
3.2.4.	Problemes d'apprentissage
3.3.	Exemple : apprendre la fonction "Impair-5"
3.4.	Bibliographie

4.	Environnement et codage
4.1.	Considerations generales
4.2.	Quelques exemples de codages
4.2.1.	Codage local
4.2.2.	Codage semi-distribue
4.2.2.1.	Un codage du sens : les micro-traits
4.2.2.2.	Codage de la position : champs recepteurs et codage grossier
4.2.2.3.	Codage de valeurs numeriques : le thermometre
4.2.3.	Codage distribue et representations internes
4.3.	Le codage interne d'un reseau
4.3.1.	L'experience des deux familles
4.3.2.	Phrases actives et passives
4.3.3.	Discussion
4.4.	Quelques exemples
4.5.	Bibliographie

Bibliographie generale
Index

===========================================
	Reseaux neuromimetiques : Modeles et applications
	Jean-Francois Jodouin
	editions Hermes, Paris, 260, 1994

------------------------------------------------------------------------------
			Resume

Les reseaux neuromimetiques sont des modeles mathematiques et 
informatiques, des assemblages d'unites de calculs appeles neurones 
formels, et dont l'inspiration originelle etait un modele de la cellule 
nerveuse humaine. Cet heritage de la neurobiologie forme une composante 
importante de la matiere, et le souci de maintenir un certaine 
correspondance avec le systeme nerveux humain a anime et continue a 
animer une part importante des recherches dans ce domaine.
Malgre cet heritage, l'essentiel des travaux d'aujourd'hui ont pour objet le 
reseau de neurones formels et non son correlat neurobiologique. Vu comme 
des systemes de calcul, les reseaux de neurones possedent plusieurs 
proprietes qui les rendent interessants d'un point de vue theorique, et fort 
utiles en pratique. C'est cette approche - plus technique que biologique - qui 
sera prise dans le present texte.

Ce livre n'est pas un texte de vulgarisation. Il a pour vocation de servir de 
point de depart et de texte de reference a celui qui desire utiliser ou etudier 
les reseaux de neurones. Il constitue la suite logique de l'ouvrage "Les 
reseaux de neurones : Principes et definitions" (Hermes, 1994).

------------------------------------------------------------------------------
			Table des matieres

Avant-propos
Introduction

Partie I : Les reseaux a couches

1.	Les reseaux a couches : un premier apercu
1.1.	Les reseaux a deux couches
1.1.1.	Le Perceptron
1.1.2.	L'Adaline
1.2.	Le Perceptron Multi-Couches
1.2.1.	Structure du reseau
1.2.2.	Apprentissage
1.2.3.	Exemple de calcul
1.2.4.	Exemple : NET-talk
1.3.	Bibliographie

2.	De la theorie a la pratique
2.1.	La constitution des corpus
2.2.	L'architecture du reseau
2.2.1.	Correlation en cascade
2.2.2.	Le neurochirurgien
2.3.	Les minima locaux
2.4.	Les parametres du reseau
2.4.1.	La fonction d'activation
2.4.2.	La fonction d'erreur
2.4.3.	Le pas d'apprentissage
2.4.3.1.	L'ajout d'un terme d'inertie
2.4.3.2.	Quickprop
2.4.3.3.	Delta-bar-delta
2.5.	Discussion
2.6.	Bibliographie

3.	Le Perceptron Multi-Couches et la statistique
3.1.	Apprentissage supervise et estimation statistique
3.1.1.	Mesure d'erreur et qualite de l'estimation
3.1.2.	Biais et variance
3.2.	Generalisation, taille de corpus et nombre de neurones
3.2.1.	Convergence uniforme des PMC
3.2.2.	Generalisation et dimension de Vapnik et Cervonenkis
3.3.	Bibliographie
4.	Les reseaux RBF
4.1.	Methode RBF
4.2.	Architecture et fonctionnement du reseau RBF
4.3.	Apprentissage
4.4.	Discussion
4.5.	Bibliographie

5.	Code informatique : Adaline et PMC
5.1.	Une premiere definition
5.1.1.	Modes d'utilisation d'un reseau
5.1.2.	Reseau, neurone et lien
5.2.	De l'efficacite des calculs
5.2.1.	Representer l'architecture du reseau
5.2.2.	Tableaux homogenes
5.3.	Definitions principales
5.3.1.	Reseau, neurone et lien
5.3.2.	Couches de neurones
5.3.3.	Patrons et corpus
5.4.	Adaline
5.4.1.	Utilisation du reseau
5.4.1.1.	Calcul de l'activation
5.4.1.2.	Fonction principale : la Question
5.4.2.	Apprentissage et erreur
5.4.2.1.	Calcul d'erreur et correction des liens
5.4.2.2.	Fonction principale
5.5.	Le Perceptron Multi-Couches
5.5.1.	Mode d'utilisation
5.5.1.1.	Propagation d'activation
5.5.1.2.	Fonction principale
5.5.2.	Mode apprentissage
5.5.2.1.	Retropropagation

Partie II : Les reseaux recurrents

6.	Les reseaux a competition
6.1.	Un reseau a competition simple
6.1.1.	Architecture competitive
6.1.1.1.	Points fixes et contraintes de connectivite
6.1.1.2.	Fonctionnement du reseau
6.1.2.	Apprentissage competitif
6.1.2.1.	Une regle d'apprentissage competitif
6.1.2.2.	Un petit exemple
6.1.2.3.	Discussion
6.2.	Learning Vector Quantization
6.2.1.	Vector Quantization
6.2.2.	Learning Vector Quantization
6.2.3.	Discussion
6.3.	Les cartes topologiques
6.3.1.	Architecture
6.3.2.	Apprentissage
6.3.3.	Discussion
6.4.	Adaptive Resonance Theory
6.4.1.	Preliminaire : une etude des fonctions d'activation du neurone
6.4.1.1.	Fonctions additives
6.4.1.2.	Fonctions multiplicatives
6.4.2.	La dynamique de ART-1
6.4.2.1.	Le dilemme du bruit et de la saturation
6.4.2.2.	Le probleme du codage
6.4.2.3.	Deceler les erreurs
6.4.2.4.	La regle des deux-tiers
6.4.2.5.	Le systeme d'orientation
6.4.3.	Apprentissage
6.4.3.1.	Le dilemme de la stabilite et de la plasticite
6.4.3.2.	Le mecanisme d'apprentissage de ART-1
6.4.4.	Utiliser ART-1
6.4.5.	Exemple
6.4.6.	Discussion
6.5.	Bibliographie

7.	Les reseaux a connexions symetriques
7.1.	Le reseau de Hopfield
7.1.1.	Le reseau et son comportement
7.1.1.1.	Le modele des verres de spin de Ising
7.1.1.2.	Exemple : les deux equipes
7.1.1.3.	Architecture du reseau de Hopfield
7.1.1.4.	Energie et convergence vers un etat stable
7.1.2.	Apprentissage
7.1.2.1.	Capacite de memoire et oubli catastrophique
7.1.3.	Discussion
7.2.	La machine de Boltzmann
7.2.1.	Architecture de la machine de Boltzmann
7.2.2.	Le recuit simule
7.2.3.	Apprentissage
7.2.4.	Discussion
7.3.	Bibliographie

8.	Les reseaux et le temps
8.1.	Solutions non recurrentes
8.1.1.	Les fenetres temporelles
8.1.2.	Time-Delay Neural Networks
8.2.	Les reseaux recurrents a couches
8.2.1.	Le reseau de Jordan
8.2.2.	Le "Simple Recurrent Network"
8.3.	La retropropagation dans les reseaux recurrents
8.3.1.	La retropropagation dans le temps
8.3.2.	L'apprentissage en temps reel
8.4.	Bibliographie

9.	Code informatique : reseaux recurrents
9.1.	La carte topologique de Kohonen
9.1.1.	Utilisation
9.1.2.	Apprentissage
9.2.	Le reseau de Hopfield
9.2.1.	Utilisation
9.2.2.	Apprentissage
9.3.	La retropropagation dans le temps
9.3.1.	Utilisation
9.3.2.	Apprentissage

Bibliographie generale
Index

===========================================