seminaire SAMOS mai-juin 98
Marie COTTRELL
UNIVERSITE DE PARIS 1 - PANTHEON - SORBONNE
SCIENCES ECONOMIQUES - SCIENCES HUMAINES - SCIENCES JURIDIQUES ET POLITIQUES
UFR DE MATHEMATIQUES ET D'INFORMATIQUE
90, rue de Tolbiac - 75634 PARIS CEDEX 13
SAMOS
(Statistique Appliquée
et MOdélisation Stochastique)
Bureau C-21-01
Tél. et Fax : 33 1 40 77 19 22
E-mail : cott...@univ-paris1.fr
GROUPE DE TRAVAIL : RESEAUX DE NEURONES
Centre Tolbiac, 90, rue de Tolbiac, Paris 13
Salle C-22-04, Ascenseurs Rouges
Vendredi 15 Mai, à 10h30,
David ELIZONDO (LSIIT - Université Louis Pasteur - Strasbourg)
Approches géométriques pour les réseaux de neurones artificiels
Vendredi 29 Mai, à 10h30,
Vincent VIGNERON (IUT - Evry et SAMOS)
Apprentissage inverse pour la régularisation de problèmes mal posés
Vendredi 5 Juin, à 10h30,
Vincent SAUVAGE (LLAIC - Université d'Auvergne)
Propriétés des cartes de Kohonen hiérarchiques (T-SOM)
Vendredi 19 Juin, à 10h30,
Serge IOVLEFF (Université de Bretagne-Sud)
Joseph RYNKIEWICZ (SAMOS - Paris 1)
Estimation d'une fonction de covariance non stationnaire par recuit
simulé
Optimisation de réseaux de neurones par recuit simulé
Bien amicalement et à bientôt,
M.Cottrell J.C.Fort
Résumés
Approches géométriques pour les réseaux de neurones artificiels
David Elizondo
LSIIT UPRES-A 7005, Université Louis Pasteur
eliz...@dpt-info.u-strasbg.fr
Une des utilisations les plus courantes des réseaux de neurones artificiels
est la classification. Celle-ci comporte des problèmes de décisions
binaires simples et des problèmes d'identification de plusieurs classes.
Lorsque deux classes sont linéairement séparables, un simple perceptron
mono-couche peut être utilisé pour résoudre le problème. Mais les réseaux
mono-couche sont insuffisants pour bien classifier les problèmes non
linéairement séparables. Nous proposons ici un nouveau modèle de réseaux de
neurones (appelé perceptron déterministe récursif (RDP)) qui permet de
résoudre tous les problèmes de classification. La méthode consiste à
augmenter progressivement la dimension des vecteurs de données par une
série de neurones intermédiaires, ce qui produit une augmentation du nombre
de degrés de liberté. Ainsi un RDP peut être vu comme une composition de
plusieurs perceptrons mono-couche. Plusieurs stratégies (globale,
incrémentale, modulaire, .), sont proposées pour la construction
automatique d'un RDP. Toutes ces stratégies sont complètes (i.e la
construction du RDP, permettant de résoudre un problème de classification
donné, est toujours garantie).
Nous avons aussi étudié le problème de l'extraction des connaissances dans
un RDP donné, et nous avons montré que la région de décision d'un RDP est
une union finie de polytopes.
_____________________________________________________________Apprentissage
inverse pour la régularisation de problèmes mal posés
Vincent Vigneron
IUT-EVRY et SAMOS
vign...@univ-paris1.fr
La plupart des modèles mathématiques utilisés dans un grand nombre de
domaines, et en Physique en particulier, cherchent à modéliser une relation
supposée exister entre un vecteur d'entrée x et un vecteur réponse y. Or,
il est très difficile de mener à bien cette modélisation lorsque la
dimension de l'espace des entrées est très grande par rapport au nombre
d'exemples disponibles (curse of dimensionality dans le jargon des
connexionnistes). Régulariser un modèle consiste alors à proposer des
techniques de calcul comme les modèles additifs ou la transformation des
données.
Nous proposons dans cet esprit un algorithme original de type Metropolis
conçu pour supporter l'apport d'une grande quantité d'informations en
entrée sans payer le prix en terme de variance des résultats. Cet
algorithme exploite la relation inverse qui relie y à x.
_____________________________________________________________
Propriétés des cartes de Kohonen hiérarchiques
Vincent Sauvage
LLAIC - Université d'Auvergne
sau...@llaic.univ-bpclermont.fr
Nous présentons les T-SOM, une variante des cartes de Kohonen originale par
sa structure hiérarchique et son algorithme d'apprentissage. L'étude des
T-SOM permet de montrer les nouvelles propriétés qu'apporte une approche
arborescente dans l'apprentissage des cartes de Kohonen. Une représentation
à résolutions multiples de la connaissance, une recherche rapide du
vainqueur et le principe d'héritage permettent une mise au point simplifiée
des paramètres d'apprentissage et une complexité inférieure et sont donc
les facteurs de diminution du coût de l'apprentissage. Les cartes de
Kohonen hiérarchiques sont particulièrement efficaces pour la
classification de grands volumes de données. Ces propriétés seront
illustrées dans le cadre d'une application de reconnaissance de formes.
_____________________________________________________________Estimation
d'une fonction de covariance non stationnaire par recuit simulé
Serge Iovleff
Université de Bretagne Sud
Serge....@univ-ubs.fr
Le recuit simulé est un algorithme stochastique d'optimisation. Il a
jusqu'ici été surtout utilisé pour minimiser des fonctions sur un espace
d'état discret de grande cardinalité. Dans ce travail, nous montrons que le
recuit simulé peut aussi être utilisé avec succès pour minimiser une
fonction sur un espace d'état continu.
Notre problème est le suivant : Nous observons T réalisations d'un champ
spatial non stationnaire de covariance r(.,.) en N points (x1,...,xN). Nous
supposons qu'il existe une fonction de covariance stationnaire R(u) et une
bijection f : R2 ®R2 telle que r(xi,xj)=R(||f(xi)-f(xj)||). On note
r(xi,xj) l'estimateur standard de r(xi,xj) et fi = f(xi). La fonction R
étant connue, notre but est de minimiser, pour une certaine métrique dp,
Pour minimiser cette fonction nous utilisons un algorithme de recuit
simulé. Nous présentons des résultats sur simulation et sur données
réelles. Nous montrons comment que cette méthode d'optimisation est très
souple et permet théoriquement de tenir compte du fait que f est bijective.
_____________________________________________________________
Optimisation de réseaux de neurones par recuit simule
Joseph Rynkiewicz
SAMOS - Paris 1
rynki...@univ-paris1.fr
De nombreux problèmes peuvent être résolus par des réseaux de neurones en
déterminant les poids qui minimisent une fonction de coût. Les méthodes les
plus répandues pour minimiser cette fonction sont basées sur des
algorithmes de gradients qui, dans certains cas, peuvent converger vers de
mauvais minima locaux.
Les poids du réseau peuvent être vus comme des paramètres évoluant dans un
espace d'état continu, on peut donc essayer d'approcher les paramètres
optimaux par des techniques stochastiques. Dans ce travail on montre que
l'on peut utiliser le recuit simulé pour trouver un point de départ à
l'algorithme du gradient qui évite ces mauvais minima.
Différentes implémentations possibles sont comparées sur des problèmes
d'approximation de fonction et de modélisation de séries temporelles.
****************************************************
Marie Cottrell Tel et fax(prof): 33 1 40 77 19 22
SAMOS
Universite Paris 1 E-mail : cott...@univ-paris1.fr
90, rue de Tolbiac http://www.univ-paris1.fr/SAMOS
75634 PARIS CEDEX 13
Marie COTTRELL
ERROR SMTP TRANSFERT ....
------->De cogni-inf...@cismsun.univ-lyon1.fr a lu...@mcom.fr Compte local inexistant