쿼리 수행 시 무한 대기 상태 질문드립니다. (Resourcetracker, Query master 문제)

[Mellisa]

안녕하세요

타조 코드를 받아 바이너리를 만든 후
타조를 실행하였습니다.

현재 클러스터 구성은 다음과 같습니다.
host1 : tajo master, namenode
host2,3,4 : tajo worker, datanode

마스터인 host1에서 간단한 쿼리 select count(*) from lineitem; 을 했을 경우에

터미널상에서 무한 대기 상태가 발생하였습니다.

이에, 로그를 확인 해 본 결과

마스터인 host1의 로그는 다음과 같습니다.

2015-08-26 17:40:43,815 INFO org.apache.tajo.master.schedulr: No Available Resources for QueryMaster :q_1440576503051_051_0001,state=QUERY_MASTER_INIT,progress=0.0, queryMaster=

워커의 로그는 아래 문구가 반복적으로 찍히고 있습니다.

2015-08-26 17:47:59,309 WARN: org.apache.tajo.rpc.NettyClientBase (doReconnect(198)) -
Exception [org.apache.tajo.ipc.TajoResourceTrackerProtocol(localhost/127.0.0.1:26003)]: ConnectException: 연결이 거부 됨: localhost/127.0.0.1:26003 Try to reconnect : localhost/127.0.0.1:26003

웹 ul 에서는 해당 쿼리가 query init()에서 무한 대기 상태로 progress 0% 입니다.

포트 문제인가 싶어서 master의 26003의 포트를 확인해 본 결과 listen 상태임을 확인하였습니다.

지난 게시글을 참고하니 만약 타조를 구동하는 시작 부분에서
워커에TajoResourceTrackerProtocol 연결 오류가 발생한다면 문제가 되지 않는다고 해서
확인해보니 처음에 발생하긴 합니다.

하지만 위의 쿼리마스터 자원 할당 부분에서 멈춰 있는 것을 보니 TajoResourceTrackerProtocol과 관련이 있는 것 같아 질문드립니다.

관련해서 조언 주시면 감사하겠습니다!

[Jinho Kim]

안녕하세요.

로그에 찍힌 부분을 보시면 worker 가 localhost 로 master 에 연결하려고 하는데 master 는 localhost 가 아닐것 같습니다.

먼저 cluster 설정을 하신후 각 tajo worker 로 복사하시고 사용하시기 바랍니다.

http://tajo.apache.org/docs/current/configuration/cluster_setup.html

2015년 8월 26일 수요일 오후 6시 8분 25초 UTC+9, Mellisa 님의 말:

[정꾸]

왠지 마스터노드에 tajo-site.xml 설정을 안해서 localhost로 뜬것은 아닌가 싶네요.

tajo-site.xml설정후 모든 노드에 복사해서 재기동 하세요.

[hyejong jeong]

 안녕하세요!

우선 Try to reconnect 문제 부터 제 경험을 바탕으로 설명드리겠습니다.

host1  : tajo master, namenode : tajo-site.xml 설정하기 - 제가 삽질했던 가장큰 실수는 Tajo Master에 tajo-site.xml을 설정하지 않은 것이였습니다.

host2,3,4 : tajo worker, datanode : tajo-site.xml 복사하기

1. tajo-site.xml 파일은 모든 노드에 존재해야합니다. (host1, 2, 3, 4 모두에 존재해야함)

2. Master 노드에 대한 호스트 or IP를 정의해야  마스터 노드로 붙을수 있습니다.

ex) Tajo Master Node IP : 172.31.22.99 ( 저 같은 경우 아마존 웹 서비스(aws) 사용하여 프라이빗 아이피를 사용하였습니다.)

<property>

  <name>tajo.resource-tracker.rpc.address</name>

  <value>172.31.22.99:26003</value>

  <description>TajoMaster binding address between master and workers.</description>

</property>

아래와 같은 커넥션 오류는 타조 워커(worker)에는 tajo-site.xml를 설정하였지만, 타조 마스터(master)에는 tajo-site.xml 파일이 없거나 수정하지 않았을 경우일 가능성이 높습니다.

a. tajo master를 tajo-site.xml에 설정하지 않은경우.

b. tajo master를 tajo-site.xml에 설정한 경우.

정선생의 블로그( http://tost.tistory.com/192 )를 참고하여 설명드립니다.

2015-08-26 17:47:59,309 WARN: org.apache.tajo.rpc.NettyClientBase (doReconnect(198)) - 
Exception [org.apache.tajo.ipc.TajoResourceTrackerProtocol(localhost/127.0.0.1:26003)]: ConnectException: 연결이 거부                           됨: localhost/127.0.0.1:26003 Try to reconnect : localhost/127.0.0.1:26003

두번째는 타조 워커가 어떠한 파일을 가지고 있어야 하는 문제입니다.

-->  tajo-site.xml , tajo-env.sh 파일를 worker 노드서버에 복사

정혜종 드림.

2015년 8월 26일 수요일 오후 6시 8분 25초 UTC+9, Mellisa 님의 말:

안녕하세요

[Mellisa]

답변 감사드립니다. 

우선 말씀해주셨던 

 localhost/127.0.0.1:26003 Try to reconnect : localhost/127.0.0.1:26003  

부분에서 localhost로 표기되는 부분이 master의 ip가 뜨도록 설정을 수정하고 웹 ui에서 확인하였습니다. 

하지만, 여전히 아래의 캡쳐된 워커 로그 내용과 같이 resourcetracker 연결 거부 에러가 발생하고 

select count(*) from tablename; 쿼리는 query master init()상태에서 progress 0% 로 정지해있습니다.

마스터와 워커간에 통신이 안 되는 문제라고 예상되는데요 

현재 tajo-0.11.0-snapshot binary 사용중이며,

master : 227

worker : 229, 236, 237 

tajo-env.sh 설정은 아래와 같습니다. 

export JAVA_HOME=/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.51-2.4.5.5.el7.x86_64/

export HADOOP_HOME=/home/team_system/hadoop-2.7.1

export TAJO_CLASSPATH=$HADOOP_HOME/clinet/*:$HADOOP_HOME/lib/*

tajo-site.xml 설정은 아래와 같습니다. 

<configuration>

 <property>

  <name>tajo.rootdir</name>

  <value>hdfs://165.132.122.227:9000/home/team_system/tajo</value>

  <description>Base directory including system directories.</description>

</property>

<property>

  <name>tajo.master.umbilical-rpc.address</name>

  <value>165.132.122.227:26001</value>

  <description>TajoMaster binding address between master and workers.</description>

</property>

<property>

  <name>tajo.master.client-rpc.address</name>

  <value>165.132.122.227:26002</value>

  <description>TajoMaster binding address between master and clients.</description>

</property>

<property>

  <name>tajo.resource-tracker.rpc.address</name>

  <value>165.132.122.227:26003</value>

</property>

<property>

  <name>tajo.catalog.client-rpc.address</name>

  <value>165.132.122.227:26005</value>

  <description>CatalogServer binding address between catalog server and workers.</description>

</property>

</configuration>

 

 

조언 부탁드립니다.

2015년 8월 26일 수요일 오후 6시 8분 25초 UTC+9, Mellisa 님의 말:

안녕하세요

[Jihoon Son]

안녕하세요
첫번째 스냅샷을 보면 노드 주소가 localhost로 되어 있습니다. 워커 설정이 잘 되지 않은 것처럼 보이네요.
혹시 워커들에도 동일한 tajo-site.xml으로 설정하셨나요?

손지훈 드림

2015년 8월 27일 (목) 오전 3:02, Mellisa <goodga...@gmail.com>님이 작성:

[Mellisa]

답변 감사드립니다. 

마스터에 있는 tajo-site.xml을 복사해서 워커로 옮겨서 사용해도 같은 문제가 발생합니다. 

그래도 여전히 웹 ui의 노드부분에 localhost라고 명시됩니다. 

workers 설정이라고 하시면, 

마스터 서버에 workers 파일에 마스터를 제외한 워커의 ip을 적는 것 이외에도 다른 것이 있나요~?!  

2015년 8월 26일 수요일 오후 6시 8분 25초 UTC+9, Mellisa 님의 말:

안녕하세요

[Mellisa]

추가로 

master log를 살펴보니 

ERROR org.apache.tajo.master.rm.NodeStatus: Invalid event STATE_UPDATE on NodeStatus  -1944742237

에러 로그가 찍혀있었습니다. 

조언받는데 도움이 될까 하여 올려봅니다. 

감사합니다.

2015년 8월 26일 수요일 오후 6시 8분 25초 UTC+9, Mellisa 님의 말:

안녕하세요

[정꾸]

제가 테스트하다보면 종종 오동작할때  stop-tajo 로 종료했는데 프로세스가 종료되지 않는 경우가 있습니다.

stop-tajo 하시고 마스터랑 워커노드 모두 돌면서 수동으로

ps -ef | grep tajo 해서 프로세스 체크한번 해보시겠어요?

[Mellisa]

답변 감사합니다. 

각 노드에서 프로세스 확인해보았는데 따로 돌고있는 것은 없는 것을 확인했습니다. 

기존에 설치되어 있던 tajo 0.10.1 버전으로 실행해보니 

워커에서  127.0.0.1:26003 으로 연결되는 문제는 해결이 된 것 같습니다 ( 기존에 설치했던 버전과 다른 것이 없는데 해결되서 의문이긴 합니다만..) 

하지만, select count(*) from customer;  쿼리 수행 시 웹 ul에서 여전히 query init() 부분에서 멈춰있고 

결과가 나오지 않는데 

이 문제 또한 환경셋팅 문제일 확률이 높은가요? 

감사합니다! 

2015년 8월 26일 수요일 오후 6시 8분 25초 UTC+9, Mellisa 님의 말:

안녕하세요

[Jihoon Son]

안녕하세요

여전히 설정에 문제가 있는 것처럼 보입니다.

마스터와 워커가 동일하게 설정된 tajo-site.xml 을 갖고 있어야 합니다. 그리고 tajo-site.xml 파일에는 resolving이 가능한 네트워크 이름이 들어있어야 합니다. 타조 설정 후에는 전체 클러스터를 재시작하여야합니다.

손지훈 드림

2015년 8월 27일 (목) 오후 4:50, Mellisa <goodga...@gmail.com>님이 작성:

[hyejong jeong]

안녕하세요!

2. 기존 프로세스가 죽지 않고 살아 있을경우

- http://tost.tistory.com/189

정혜종 드림

2015년 8월 27일 목요일, Mellisa<goodga...@gmail.com>님이 작성한 메시지:

[Mellisa]

조언 감사드립니다 !!!! 

설정이 꼬인 문제인 것 같아 모두 지운 후 

다시 설치해보았습니다. 

1. tajo trunk -0.11.0-SNAPSHOT 버전

2. tajo-0.10.1 버전 

위의 두 가지 버전에 대해 셋팅 후 실행해 본 경과 

1번의 경우에는 여전히 워커에서 26003 포트 연결 오류 발생, select count(*) from table 질의 수행 시 무한 대기 

2번은 초기에 연결오류 발생하다가 정상 연결 된 것을 확인, select count(*) from table 질의 수행 시 무한 대기 

마스터에서 오류 메시지는 다음과 같습니다. 

2015-08-27 22:16:25,714 INFO org.apache.tajo.master.rm.NodeStatus: -1944742237 Node Transitioned from NEW to RUNNING

2015-08-27 22:16:25,715 ERROR org.apache.tajo.master.rm.NodeStatus: Can't handle this event at current state, eventType:STATE_UPDATE, oldState:NEW, nextState:NEW

org.apache.hadoop.yarn.state.InvalidStateTransitonException: Invalid event: STATE_UPDATE at NEW

        at org.apache.hadoop.yarn.state.StateMachineFactory.doTransition(StateMachineFactory.java:305)

        at org.apache.hadoop.yarn.state.StateMachineFactory.access$300(StateMachineFactory.java:46)

        at org.apache.hadoop.yarn.state.StateMachineFactory$InternalStateMachine.doTransition(StateMachineFactory.java:448)

        at org.apache.tajo.master.rm.NodeStatus.handle(NodeStatus.java:282)

        at org.apache.tajo.master.rm.TajoResourceManager$WorkerEventDispatcher.handle(TajoResourceManager.java:135)

        at org.apache.tajo.master.rm.TajoResourceManager$WorkerEventDispatcher.handle(TajoResourceManager.java:120)

        at org.apache.hadoop.yarn.event.AsyncDispatcher.dispatch(AsyncDispatcher.java:175)

        at org.apache.hadoop.yarn.event.AsyncDispatcher$1.run(AsyncDispatcher.java:108)

        at java.lang.Thread.run(Thread.java:744)

2015-08-27 22:16:25,716 ERROR org.apache.tajo.master.rm.NodeStatus: Invalid event STATE_UPDATE on NodeStatus  -1944742237

 

로그를 보았을 때 여전히 워커와의 통신이 잘 안되는 듯 보입니다. 

그런데 여기서  궁금증이 생겨 질문드립니다. 

질문 1. 만약 hdfs의 데이터노드 프로세스가 떠있긴 하지만 정상적으로  등록되지 않은 경우라면 

타조의 기본 설정이 제대로 되어 있어도 

./start-tajo.sh 스크립트 수행했을 때 위의 제시된 타조 워커 연결 오류, master 로그와 같은 문제가 발생할 여지가 있는 건가요? (데이터노드와 상관없이 타조 실행 자체는 정상적으로 돌아가야 한다고 생각했는데 , 자원 관련해서 관계가 있나 싶어서요..) 

질문 2. 오픈 소스 개발 초보자입니다.  타조 소스 코드를 받아서 수정 했을 경우에 수정 부분 검증을 위해서는 컴파일 확인 후 바이너리로 만들어 직접 실행해보는 방법 이외에 다른 방안이 있을까요? (코드 내에서 전체 프로그램을 테스트 해보기 등등,, ) 개발 환경이 미숙해서 조언 부탁드립니다  

감사합니다 !  

이전 게시글에서 

2015년 8월 26일 수요일 오후 6시 8분 25초 UTC+9, Mellisa 님의 말:

안녕하세요

[hyejong jeong]

안녕하세요 ^^

오늘 타조 8월 밋업에서 손지훈 박사님을 만나 뒷풀이 시간에 문제를 해결하였습니다. 

저 같은 경우는 aws 1cpu를 사용하여 리소스 부족인 case 였습니다. 

타조 마스터가 1cpu를 타저워커의 쿼리 마스터가 1cpu를, 타조 워커가 1cpu를 사용하기 때문에

리소스가 부족한 경우였습니다. 

그래서 저는 타조 마스터 와 워커 2개의 서버를 이용하여 아래 3번 처럼 진행을 하였습니다. 

여전히 같은 문제가 발생하였지만, 뒷풀이에서 손박사님의 기술지원(영광스럽게도)을 받아 리소스 문제임을 알게 되고 conf/workers 파일에 타조 마스터 워커 노드를 추가하여 실행하니, 문제가 해결 되었습니다. 

사진을 함께 첨부합니다. 

쿼리 결과에 오류가 나는건 더비디비를 사용하여 나는 문제입니다. 

1. tajo-0.11.0-desktop 버전은 정상적으로 잘 되었습니다. 그래서 리소스는 상관이 없는줄 알았습니다. 

2. tajo-0.11.0-SNAPSHOT 버전으로 스탠드얼론(Standalone)으로 테스트 하다가 Mellisa님 과 같은 현상이 발생하여, 타조 사용자 그룹에 문의하다가

아래 3번과 같이 테스트 환경을 변경하였습니다. 

3. tajo-0.12.0-SNAPSHOT 버전으로 변경하여 

마스터 와 워커 2대의 서버를 사용하였습니다. 

2015년 8월 28일 금요일, Mellisa<goodga...@gmail.com>님이 작성한 메시지:

[Jinho Kim]

안녕하세요.

1번 질문은 hadoop 라이브러리와 설정을 tajo 가 참조하는것 외에는 별도로 실행됩니다.

그러나 HDFS 가 정상 실행되지 않는다면 tajo 쿼리의 결과 파일을 저장할수 없기때문에 사용할수 없고

HDFS 없이 로컬파일로 1대만 실행하실수 있습니다.

2번은 BUILDING 파일을 보시면 상세하게 적혀있습니다. 간단하게 mvn clean install 만 하셔도 전체  test 를 돌려보실수 있습니다.

tajo-site.xml, tajo-env.sh, workers, /etc/hosts 를 만감한 부분(ip 또는 호스트네임) 은 xx 로 하셔서 한번 첨부해 주시면 살펴보겠습니다.

Meetup에 한번 오셔서 궁금하신부분 질문 하시는것도 좋을듯 합니다.

2015년 8월 28일 금요일 오전 2시 29분 34초 UTC+9, Mellisa 님의 말:

[Jinho Kim]

안녕하세요.

설정하신 부분중 로컬파일시스템 은 분산모드에서 사용하실수 없습니다. 

s3 를 사용하신다면 다음과 같이 바꿔주셔야 정상적으로 결과를 저장하실수 있습니다.

alter tablespace set location 's3://location/tajo/warehouse'; 

그리고 설정중 인스턴스가 cpu1 개면 아래 설정으로 강제로 변경하실수 있습니다.

tajo.worker.resource.cpu-cores

자원을 최대한 활용하실려면 tajo-env.sh 에 worker heap 도 설정하시는것이 좋습니다.

2015년 8월 28일 금요일 오전 4시 38분 35초 UTC+9, hyejong jeong 님의 말:

[hyejong jeong]

안녕하세요 ^^

1. HDFS 파일 없이 로컬 파일로 로컬 서버 1대로

Apache Tajo를 실행할 수 있다는 것은 

1-1. 서버 사양 : 2코어이상의 서버 1대

        (2코어 이상의 서버가 없을때는 환경설정에서 코어수를 2로 셋팅하는 편법을 사용할 수 있습니다. )

1-2. 디비는 derby db를 사용합니다. 

1-3. Workers 파일에 로컬호스트를 추가한다. 

위와 같이 테스트해보고 결과를 피드백 드리겠습니다. 

여기서 잠깐) 타조는 첨부한 파일과 같이 

Tajo Master

Query Master

Node로 구성되어 있기 때문에 최소 2개의 cpu가 필요하다. (자세한 설명은 밋업에서 진호님에게 듣는다 ^^)

정혜종 드림

2015년 8월 28일 금요일, Jinho Kim<jin...@gmail.com>님이 작성한 메시지:

[hyejong jeong]

안녕하세요!

김진호님이 말씀해주신 것처럼 인스턴스(worker)의 cpu 를 2로 설정하고 재시작하였더니 아래와 같이 쿼리의 결과를 가지고 왔습니다.

1. master 와 worker의 tajo-site.xml 파일을 아래와 같이 수정하였습니다.

2. 타조 서비스를 재시작하고, 다시 쿼리를 실행해 보았습니다.

--> 결과 : 성공

3. Web UI 에서 쿼리가 정상적으로완료된것도 확인 할수 있습니다. 4초가 걸려습니다.

정혜종 드림

2015년 8월 28일 오전 11:16, Jinho Kim <jin...@gmail.com>님이 작성:

[Mellisa]

2가지 질문에 대한 답변 감사드립니다. 

tajo-site.xml 

tajo-env.sh를 첨부하겠습니다. 

가능하시다면 살펴봐주시면 감사하겠습니다. 

worker는 따로 첨부하지 않았는데 

파일을 열면

165.xxx.xxx.xxx

165.xxx.xxx.xxx

165.xxx.xxx.xxx

위와 같이 마스터를 제외한 3개의 ip주소를 적어놓았습니다. 

host1 : master

host2,3,4 : worker

현재 상태는 

타조를 실행하면

서버에서 master와 worker 프로세스가  모두 뜬 것이 확인됩니다. 

그런데 문제가 되는 부분이 master를 포함하여 총 4개의 노드이므로 

마스터1개 워커 2개 쿼리마스터 1개 이렇게 웹 ui에 표시되어야 하는데

워커가 1개만 인식되고 있습니다. 

또한 노드의 주소가 localhost로 인식됩니다.

사진 첨부하겠습니다. 

 

역시나 설정문제인 것 같은데....

관련해서 조언 받을 수 있을까요? 

 

2015년 8월 28일 금요일 오전 10시 52분 7초 UTC+9, Jinho Kim 님의 말:

[Mellisa]

우선 노드를 제대로 정상동작 시킨 후에 

위에서 조언 주셨던 쿼리 수행 시 무한 대기상태 문제에 대해 변경 사항을 적용해서 다시 실험 할 예정입니다. 

성공하면 결과를 정리해서 공유하도록 하겠습니다! 

 

2015년 8월 26일 수요일 오후 6시 8분 25초 UTC+9, Mellisa 님의 말:

안녕하세요

[Jinho Kim]

안녕하세요.

혹시 /etc/hosts 파일내에 165.xxx.xxx.xxx localhost 같은 라인이 있는건 아닐까요?

그리고 IP 를 직접 사용하시는것 보다 hostname 을 서버별로 등록하시고 사용하는게 좋습니다.

tajo 는 HDFS 에서 block location 을 가져와 같은 호스트인지 검사하고 locality 를 높이게 되는데
네트워크 전송이 줄어서 scan 이 더 빠르게 됩니다.

2015년 8월 28일 금요일 오후 4시 47분 53초 UTC+9, Mellisa 님의 말:

[Jihoon Son]

안녕하세요

workers에 워커 노드들의 ip 혹은 hostname이 정확하게 들어있다면 웹 ui의 cluster 페이지에 워커 주소가 localhost라고 뜨면 안됩니다.
웹 ui에 워커가 localhost라고 뜨면, 워커가 마스터 노드에 실행되었다고 잘못 인식될 수 있습니다.

마스터와 워커 로그를 올려주시면 문제 파악에 도움이 될 것 같습니다.

손지훈 드림

2015년 8월 28일 (금) 오후 5:17, Jinho Kim <jin...@gmail.com>님이 작성:

[Mellisa]

각 서버의 /etc/hosts에는 

127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4

::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

가 저장되어있는 상태였습니다. 

hosts 설정을 건드려본적이 없어서

말씀해주신 대로 수정해본 후 다시 돌려보도록 하겠습니다.

감사합니다! 

2015년 8월 28일 금요일 오후 5시 17분 45초 UTC+9, Jinho Kim 님의 말:

[hyejong jeong]

안녕하세요 ^^

웹 ui를 보면 master 설정은 잘 되어 있는데, 워커와 쿼리 마스터가 하나인거를 보면 master 서버의 workers 파일이 localhost로 설정되어 있지는 않는지 확인이 필요할것 같다는 생각을 조심스럽게 해봅니다. 

Master server /conf 밑의 workers 파일을 볼수 있을까요?

첨부한 이미지와 같이 워커가 정상적으로  등록이 되면 

QueryMasters 2개, node 2개로 나타납니다. 

저같은 경우는 서버는 2대인데, workers에 마스터 ip도 추가하여 자세히 보시면 워커와 마스터 아이피가 겹치는 것을 보길수 있을겁니다. 

정혜종 드림

2015년 8월 28일 금요일, Mellisa<goodga...@gmail.com>님이 작성한 메시지:

2가지 질문에 대한 답변 감사드립니다. 

[Mellisa]

안녕하세요. 위의 많은 답변들을 참고하여 다시 수행해본 결과  드디어 ! 정상 동작에 성공하였습니다. 

총 4대의 서버로 구동시킨 결과 마스터와 워커 정상적으로 인식되는 것을 확인하였습니다. 

다음은 쿼리 수행 시 무한 대기 상태 였던 부분을 다시 테스트 한 결과입니다. 

정상동작합니다 ^^ !

문제가 되었던 부분과 해결법은 다음과 같습니다. 

우선 제가 클러스터를 구축하다보니, 아직 미숙한 부분이 많았습니다. 아주 기초적인 부분에서 문제가 있었습니다. ㅠㅠ

그래도 저처럼 초보자를 위해 만약 tajo-env.sh와 tajo-site.xml의 문제가 없다고 판단되시면 아래의 내용을 확인해보시기 바랍니다 !! 

1. worker 서버에 tajoworker 프로세스는 떠있는데 웹 ui 노드에 localhost 라고 출력되던 문제의 원인은 다음과 같습니다. (저처럼 서버 구축에 미숙하신 분들 참고하세요)  

   => 총 4대의 서버에서 각각 hostname 명령어를 타이핑 해보니, 별칭이 모두 localhost.localdomain 라고 등록이 되어 있던 문제였습니다. 

       centos 사용중인데 hostname 초기 값이  localhost.localdomain 으로 등록되어 있습니다.  

       즉 워커가 정상 등록 되어 있었는데 출력이 localhost로 되었던 것 같습니다

  => 이 부분을 vi /etc/hostname 를 통해 각 서버에 별칭인 master1, worker1, worker2,worker3 등으로 저장 후 실행해보니 웹 ui에 정상적으로 NODE 정보가 출력되었습니다. 

       

2. workers에 원래 ip를 기입했었는데, 위의 조언들을 보니 host명으로 하는게 좋을 것 같아서 다시 /etc/hosts를 수정 한 후, workers에 host명을 기입했습니다.   

    host명을 적는 것을 추천합니다. 

3. tsql 에서 쿼리 수행했는데 무한 대기 현상 => 위의 조언들처럼 resource 문제일 수 있습니다. 저는 master 1대와 worker 3대를 사용하였지만, 

   자원 부족 시 tajo-site.xml의 worker 셋팅 중 cpu-core를 2로 늘리는 방법을 사용해도 좋을 것 같습니다. ! 

4. 마지막으로 매번 설치할 때마다.. 느끼는 것이지만 master의 tajo-env.sh와 tajo-site.xml은 위의 조언대로 master에 있는 것을 워커로 복사해서 사용하시는 것을 강추합니다! 

    각 서버에서 일일이 작성시 타이핑 실수 할 여지가 상당히 큽니다! 

설치에 어려움이 있었는데 간단한 실수 였지만, 그래도 위의 조언들 보면서 하나씩 확인해볼 수 있었습니다.

정말 감사합니다!!

2015년 8월 26일 수요일 오후 6시 8분 25초 UTC+9, Mellisa 님의 말:

안녕하세요

[Jinho Kim]

안녕하세요.

물리적 core 가 1개가 아니라면 따로 설정하지 않는게 좋습니다. 아래 문서를 보시면 tajo-env.sh 에 힙메모리와 리소스 설정이 있으니 

참고해서 시스템 자원을 활용하시면 빠르게 쓰실수 있습니다.

http://tajo.apache.org/docs/current/configuration/worker_configuration.html

2015년 8월 29일 토요일 오후 2시 32분 31초 UTC+9, Mellisa 님의 말: