Cela vous parle-t-il: hdfs.server.namenode.FSNamesystem?

21 views
Skip to first unread message

Nasreddine

unread,
Jan 26, 2016, 8:33:20 AM1/26/16
to Hadoop User Group France
Bonjour à tous, 

j´installe et configure un cluster hadoop (1 master, 1 secondary NN et 3 esclaves) sur ubuntu 14.04.
Or le message suivant lorsque je demarre mes services

Je n´arrive pas à identifier les actions pour resoudre ces 2 pb. 

Si vous avez une idee, n´hesitez pas!

******************************************************************** 
WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Only one image storage directory (dfs.namenode.name.dir) configured. Beware of data loss due to lack of redundant storage directories!

WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Only one namespace edits storage directory (dfs.namenode.edits.dir) configured. Beware of data loss due to lack of redundant storage directories!
**************************************************************************************************

Guillaume Polaert

unread,
Jan 26, 2016, 8:47:09 AM1/26/16
to hadoop-user-...@googlegroups.com

De mémoire, les propriétés dfs.namenode.name.dir et dfs.namenode.edits.dir sont les emplacements de stockage pour la cartographie du NN et les edits logs (les ajouts/modif successifs en attendant d’être mergés) de la carto.

 

Pour éviter de perdre ces données, si tu perds le disque dur associé au répertoire, tu peux préciser dans la conf plusieurs répertories sur des disques différents (séparés par des virgules). Tu peux également y inclure un point de montage NFS pour encore plus de sécurité.

 

Guillaume

 

De : hadoop-user-...@googlegroups.com [mailto:hadoop-user-...@googlegroups.com] De la part de Nasreddine
Envoyé : mardi 26 janvier 2016 14:33
À : Hadoop User Group France <hadoop-user-...@googlegroups.com>
Objet : [HUG France] Cela vous parle-t-il: hdfs.server.namenode.FSNamesystem?

--
Hadoop User Group France
http://hugfrance.fr | https://twitter.com/hugfrance
---
Vous recevez ce message, car vous êtes abonné au groupe Google Groupes "Hadoop User Group France".
Pour vous désabonner de ce groupe et ne plus recevoir d'e-mails le concernant, envoyez un e-mail à l'adresse hadoop-user-group-...@googlegroups.com.
Pour obtenir davantage d'options, consultez la page https://groups.google.com/d/optout.

Nasreddine

unread,
Jan 26, 2016, 9:16:48 AM1/26/16
to Hadoop User Group France
Merci Guillaume

Si je comprends bien cela signifie que ce warning est en fait un message informatif plus qu une erreur. 

les machines tournent sous AWS, cela ne doit pas etre un pb.

Ma comprehension est elle correcte?

Nasreddine


On Tuesday, January 26, 2016 at 2:47:09 PM UTC+1, gpolaert wrote:

De mémoire, les propriétés dfs.namenode.name.dir et dfs.namenode.edits.dir sont les emplacements de stockage pour la cartographie du NN et les edits logs (les ajouts/modif successifs en attendant d’être mergés) de la carto.

 

Pour éviter de perdre ces données, si tu perds le disque dur associé au répertoire, tu peux préciser dans la conf plusieurs répertories sur des disques différents (séparés par des virgules). Tu peux également y inclure un point de montage NFS pour encore plus de sécurité.

 

Guillaume

 


Envoyé : mardi 26 janvier 2016 14:33
À : Hadoop User Group France <hadoop-user-...@googlegroups.com>
Objet : [HUG France] Cela vous parle-t-il: hdfs.server.namenode.FSNamesystem?

 

Bonjour à tous, 

 

j´installe et configure un cluster hadoop (1 master, 1 secondary NN et 3 esclaves) sur ubuntu 14.04.

Or le message suivant lorsque je demarre mes services

 

Je n´arrive pas à identifier les actions pour resoudre ces 2 pb. 

 

Si vous avez une idee, n´hesitez pas!

 

******************************************************************** 

WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Only one image storage directory (dfs.namenode.name.dir) configured. Beware of data loss due to lack of redundant storage directories!

 

WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Only one namespace edits storage directory (dfs.namenode.edits.dir) configured. Beware of data loss due to lack of redundant storage directories!

**************************************************************************************************

--
Hadoop User Group France
http://hugfrance.fr | https://twitter.com/hugfrance
---
Vous recevez ce message, car vous êtes abonné au groupe Google Groupes "Hadoop User Group France".

Pour vous désabonner de ce groupe et ne plus recevoir d'e-mails le concernant, envoyez un e-mail à l'adresse hadoop-user-group-france+unsub...@googlegroups.com.

Guillaume Polaert

unread,
Jan 26, 2016, 9:19:14 AM1/26/16
to hadoop-user-...@googlegroups.com

Oui c’est bien cela.

 

De : hadoop-user-...@googlegroups.com [mailto:hadoop-user-...@googlegroups.com] De la part de Nasreddine
Envoyé : mardi 26 janvier 2016 15:17


À : Hadoop User Group France <hadoop-user-...@googlegroups.com>

Objet : Re: [HUG France] Cela vous parle-t-il: hdfs.server.namenode.FSNamesystem?

 

Merci Guillaume

 

Si je comprends bien cela signifie que ce warning est en fait un message informatif plus qu une erreur. 

 

les machines tournent sous AWS, cela ne doit pas etre un pb.

 

Ma comprehension est elle correcte?

 

Nasreddine



On Tuesday, January 26, 2016 at 2:47:09 PM UTC+1, gpolaert wrote:

De mémoire, les propriétés dfs.namenode.name.dir et dfs.namenode.edits.dir sont les emplacements de stockage pour la cartographie du NN et les edits logs (les ajouts/modif successifs en attendant d’être mergés) de la carto.

 

Pour éviter de perdre ces données, si tu perds le disque dur associé au répertoire, tu peux préciser dans la conf plusieurs répertories sur des disques différents (séparés par des virgules). Tu peux également y inclure un point de montage NFS pour encore plus de sécurité.

 

Guillaume

 


Envoyé : mardi 26 janvier 2016 14:33
À : Hadoop User Group France <hadoop-user-...@googlegroups.com>
Objet : [HUG France] Cela vous parle-t-il: hdfs.server.namenode.FSNamesystem?

 

Bonjour à tous, 

 

j´installe et configure un cluster hadoop (1 master, 1 secondary NN et 3 esclaves) sur ubuntu 14.04.

Or le message suivant lorsque je demarre mes services

 

Je n´arrive pas à identifier les actions pour resoudre ces 2 pb. 

 

Si vous avez une idee, n´hesitez pas!

 

******************************************************************** 

WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Only one image storage directory (dfs.namenode.name.dir) configured. Beware of data loss due to lack of redundant storage directories!

 

WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Only one namespace edits storage directory (dfs.namenode.edits.dir) configured. Beware of data loss due to lack of redundant storage directories!

**************************************************************************************************

--
Hadoop User Group France
http://hugfrance.fr | https://twitter.com/hugfrance
---
Vous recevez ce message, car vous êtes abonné au groupe Google Groupes "Hadoop User Group France".

Pour vous désabonner de ce groupe et ne plus recevoir d'e-mails le concernant, envoyez un e-mail à l'adresse hadoop-user-group-...@googlegroups.com.


Pour obtenir davantage d'options, consultez la page https://groups.google.com/d/optout.

--

Hadoop User Group France
http://hugfrance.fr | https://twitter.com/hugfrance
---
Vous recevez ce message, car vous êtes abonné au groupe Google Groupes "Hadoop User Group France".

Pour vous désabonner de ce groupe et ne plus recevoir d'e-mails le concernant, envoyez un e-mail à l'adresse hadoop-user-group-...@googlegroups.com.

Nasreddine

unread,
Jan 26, 2016, 10:11:18 AM1/26/16
to Hadoop User Group France
Merci!


On Tuesday, January 26, 2016 at 3:19:14 PM UTC+1, gpolaert wrote:

Oui c’est bien cela.

 


Envoyé : mardi 26 janvier 2016 15:17
À : Hadoop User Group France <hadoop-user-...@googlegroups.com>
Objet : Re: [HUG France] Cela vous parle-t-il: hdfs.server.namenode.FSNamesystem?

Merci Guillaume

 

Si je comprends bien cela signifie que ce warning est en fait un message informatif plus qu une erreur. 

 

les machines tournent sous AWS, cela ne doit pas etre un pb.

 

Ma comprehension est elle correcte?

 

Nasreddine



On Tuesday, January 26, 2016 at 2:47:09 PM UTC+1, gpolaert wrote:

De mémoire, les propriétés dfs.namenode.name.dir et dfs.namenode.edits.dir sont les emplacements de stockage pour la cartographie du NN et les edits logs (les ajouts/modif successifs en attendant d’être mergés) de la carto.

 

Pour éviter de perdre ces données, si tu perds le disque dur associé au répertoire, tu peux préciser dans la conf plusieurs répertories sur des disques différents (séparés par des virgules). Tu peux également y inclure un point de montage NFS pour encore plus de sécurité.

 

Guillaume

 


Envoyé : mardi 26 janvier 2016 14:33
À : Hadoop User Group France <hadoop-user-...@googlegroups.com>
Objet : [HUG France] Cela vous parle-t-il: hdfs.server.namenode.FSNamesystem?

 

Bonjour à tous, 

 

j´installe et configure un cluster hadoop (1 master, 1 secondary NN et 3 esclaves) sur ubuntu 14.04.

Or le message suivant lorsque je demarre mes services

 

Je n´arrive pas à identifier les actions pour resoudre ces 2 pb. 

 

Si vous avez une idee, n´hesitez pas!

 

******************************************************************** 

WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Only one image storage directory (dfs.namenode.name.dir) configured. Beware of data loss due to lack of redundant storage directories!

 

WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Only one namespace edits storage directory (dfs.namenode.edits.dir) configured. Beware of data loss due to lack of redundant storage directories!

**************************************************************************************************

--
Hadoop User Group France
http://hugfrance.fr | https://twitter.com/hugfrance
---
Vous recevez ce message, car vous êtes abonné au groupe Google Groupes "Hadoop User Group France".

Pour vous désabonner de ce groupe et ne plus recevoir d'e-mails le concernant, envoyez un e-mail à l'adresse hadoop-user-group-france+unsub...@googlegroups.com.


Pour obtenir davantage d'options, consultez la page https://groups.google.com/d/optout.

--
Hadoop User Group France
http://hugfrance.fr | https://twitter.com/hugfrance
---
Vous recevez ce message, car vous êtes abonné au groupe Google Groupes "Hadoop User Group France".

Pour vous désabonner de ce groupe et ne plus recevoir d'e-mails le concernant, envoyez un e-mail à l'adresse hadoop-user-group-france+unsub...@googlegroups.com.

matt Lieber

unread,
Jan 26, 2016, 11:47:07 AM1/26/16
to hadoop-user-...@googlegroups.com
Ce message indique que tu n'as probablement mis qu'un directory pour stocker les donnees relatives au name table; typiquement, il en faut plusieurs, pour ajouter de la redondance, les paths des directories etant separés par des virgules. 

matt

2016-01-26 7:11 GMT-08:00 Nasreddine <nasreddi...@gmail.com>:
Merci!

On Tuesday, January 26, 2016 at 3:19:14 PM UTC+1, gpolaert wrote:

Oui c’est bien cela.

 


Envoyé : mardi 26 janvier 2016 15:17
À : Hadoop User Group France <hadoop-user-...@googlegroups.com>


Objet : Re: [HUG France] Cela vous parle-t-il: hdfs.server.namenode.FSNamesystem?

Merci Guillaume

 

Si je comprends bien cela signifie que ce warning est en fait un message informatif plus qu une erreur. 

 

les machines tournent sous AWS, cela ne doit pas etre un pb.

 

Ma comprehension est elle correcte?

 

Nasreddine



On Tuesday, January 26, 2016 at 2:47:09 PM UTC+1, gpolaert wrote:

De mémoire, les propriétés dfs.namenode.name.dir et dfs.namenode.edits.dir sont les emplacements de stockage pour la cartographie du NN et les edits logs (les ajouts/modif successifs en attendant d’être mergés) de la carto.

 

Pour éviter de perdre ces données, si tu perds le disque dur associé au répertoire, tu peux préciser dans la conf plusieurs répertories sur des disques différents (séparés par des virgules). Tu peux également y inclure un point de montage NFS pour encore plus de sécurité.

 

Guillaume

 


Envoyé : mardi 26 janvier 2016 14:33
À : Hadoop User Group France <hadoop-user-...@googlegroups.com>
Objet : [HUG France] Cela vous parle-t-il: hdfs.server.namenode.FSNamesystem?

 

Bonjour à tous, 

 

j´installe et configure un cluster hadoop (1 master, 1 secondary NN et 3 esclaves) sur ubuntu 14.04.

Or le message suivant lorsque je demarre mes services

 

Je n´arrive pas à identifier les actions pour resoudre ces 2 pb. 

 

Si vous avez une idee, n´hesitez pas!

 

******************************************************************** 

WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Only one image storage directory (dfs.namenode.name.dir) configured. Beware of data loss due to lack of redundant storage directories!

 

WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Only one namespace edits storage directory (dfs.namenode.edits.dir) configured. Beware of data loss due to lack of redundant storage directories!

**************************************************************************************************

--
Hadoop User Group France
http://hugfrance.fr | https://twitter.com/hugfrance
---
Vous recevez ce message, car vous êtes abonné au groupe Google Groupes "Hadoop User Group France".

Pour vous désabonner de ce groupe et ne plus recevoir d'e-mails le concernant, envoyez un e-mail à l'adresse hadoop-user-group-...@googlegroups.com.


Pour obtenir davantage d'options, consultez la page https://groups.google.com/d/optout.

--
Hadoop User Group France
http://hugfrance.fr | https://twitter.com/hugfrance
---
Vous recevez ce message, car vous êtes abonné au groupe Google Groupes "Hadoop User Group France".

Pour vous désabonner de ce groupe et ne plus recevoir d'e-mails le concernant, envoyez un e-mail à l'adresse hadoop-user-group-...@googlegroups.com.


Pour obtenir davantage d'options, consultez la page https://groups.google.com/d/optout.

--
Hadoop User Group France
http://hugfrance.fr | https://twitter.com/hugfrance
---
Vous recevez ce message, car vous êtes abonné au groupe Google Groupes "Hadoop User Group France".
Pour vous désabonner de ce groupe et ne plus recevoir d'e-mails le concernant, envoyez un e-mail à l'adresse hadoop-user-group-...@googlegroups.com.

Nasreddine

unread,
Jan 26, 2016, 1:31:46 PM1/26/16
to Hadoop User Group France
Merci Matt - comme il s´agit d´un test cela ne m´ennuie pas plus que cela 


On Tuesday, January 26, 2016 at 5:47:07 PM UTC+1, matt lieber wrote:
Ce message indique que tu n'as probablement mis qu'un directory pour stocker les donnees relatives au name table; typiquement, il en faut plusieurs, pour ajouter de la redondance, les paths des directories etant separés par des virgules. 

matt
2016-01-26 7:11 GMT-08:00 Nasreddine <nasreddi...@gmail.com>:
Merci!

On Tuesday, January 26, 2016 at 3:19:14 PM UTC+1, gpolaert wrote:

Oui c’est bien cela.

 


Envoyé : mardi 26 janvier 2016 15:17
À : Hadoop User Group France <hadoop-user-...@googlegroups.com>


Objet : Re: [HUG France] Cela vous parle-t-il: hdfs.server.namenode.FSNamesystem?

Merci Guillaume

 

Si je comprends bien cela signifie que ce warning est en fait un message informatif plus qu une erreur. 

 

les machines tournent sous AWS, cela ne doit pas etre un pb.

 

Ma comprehension est elle correcte?

 

Nasreddine



On Tuesday, January 26, 2016 at 2:47:09 PM UTC+1, gpolaert wrote:

De mémoire, les propriétés dfs.namenode.name.dir et dfs.namenode.edits.dir sont les emplacements de stockage pour la cartographie du NN et les edits logs (les ajouts/modif successifs en attendant d’être mergés) de la carto.

 

Pour éviter de perdre ces données, si tu perds le disque dur associé au répertoire, tu peux préciser dans la conf plusieurs répertories sur des disques différents (séparés par des virgules). Tu peux également y inclure un point de montage NFS pour encore plus de sécurité.

 

Guillaume

 


Envoyé : mardi 26 janvier 2016 14:33
À : Hadoop User Group France <hadoop-user-...@googlegroups.com>
Objet : [HUG France] Cela vous parle-t-il: hdfs.server.namenode.FSNamesystem?

 

Bonjour à tous, 

 

j´installe et configure un cluster hadoop (1 master, 1 secondary NN et 3 esclaves) sur ubuntu 14.04.

Or le message suivant lorsque je demarre mes services

 

Je n´arrive pas à identifier les actions pour resoudre ces 2 pb. 

 

Si vous avez une idee, n´hesitez pas!

 

******************************************************************** 

WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Only one image storage directory (dfs.namenode.name.dir) configured. Beware of data loss due to lack of redundant storage directories!

 

WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Only one namespace edits storage directory (dfs.namenode.edits.dir) configured. Beware of data loss due to lack of redundant storage directories!

**************************************************************************************************

--
Hadoop User Group France
http://hugfrance.fr | https://twitter.com/hugfrance
---
Vous recevez ce message, car vous êtes abonné au groupe Google Groupes "Hadoop User Group France".

Pour vous désabonner de ce groupe et ne plus recevoir d'e-mails le concernant, envoyez un e-mail à l'adresse hadoop-user-group-france+unsub...@googlegroups.com.


Pour obtenir davantage d'options, consultez la page https://groups.google.com/d/optout.

--
Hadoop User Group France
http://hugfrance.fr | https://twitter.com/hugfrance
---
Vous recevez ce message, car vous êtes abonné au groupe Google Groupes "Hadoop User Group France".

Pour vous désabonner de ce groupe et ne plus recevoir d'e-mails le concernant, envoyez un e-mail à l'adresse hadoop-user-group-france+unsub...@googlegroups.com.


Pour obtenir davantage d'options, consultez la page https://groups.google.com/d/optout.

--
Hadoop User Group France
http://hugfrance.fr | https://twitter.com/hugfrance
---
Vous recevez ce message, car vous êtes abonné au groupe Google Groupes "Hadoop User Group France".
Pour vous désabonner de ce groupe et ne plus recevoir d'e-mails le concernant, envoyez un e-mail à l'adresse hadoop-user-group-france+unsub...@googlegroups.com.

Nasreddine

unread,
Jan 26, 2016, 1:41:23 PM1/26/16
to Hadoop User Group France
Merci Phillipe

j´imagine que le hdfs-site.xml qui est modifie est celui du 2nd NN.

Correcte
Reply all
Reply to author
Forward
0 new messages