- 클래우데라에서 git 사용을 위한 버전업을 위한 설정
wget http://springdale.math.ias.edu/data/puias/computational/6/x86_64/git-1.8.3.1-1.sdl6.x86_64.rpm
wget http://springdale.math.ias.edu/data/puias/computational/6/x86_64/perl-Git-1.8.3.1-1.sdl6.noarch.rpm
sudo yum remove git -y
sudo yum localinstall git-*.rpm perl-Git-*.noarch.rpm -y
- SSL Error 문제 발생시 해결책
#yum update -y nss curl libcurl
- hive 연동을 위한 추가 설정
<dependencies>
<dependency>
<groupId>org.apache.hive</groupId>
<artifactId>hive-jdbc</artifactId>
<version>1.1.0</version>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-common</artifactId>
<version>2.6.0</version>
<exclusions>
<exclusion>
<artifactId>jdk.tools</artifactId>
<groupId>jdk.tools</groupId>
</exclusion>
</exclusions>
</dependency>
</dependencies>
- MySql에 table 생성하기
mysql> CREATE TABLE `CityExport` (
`ID` int(11) NOT NULL AUTO_INCREMENT,
`Name` char(35) NOT NULL DEFAULT '',
`CountryCode` char(3) NOT NULL DEFAULT '',
`District` char(20) NOT NULL DEFAULT '',
`Population` int(11) NOT NULL DEFAULT '0',
PRIMARY KEY (`ID`));
mysql> CREATE TABLE `CityExportStaging` (
`ID` int(11) NOT NULL AUTO_INCREMENT,
`Name` char(35) NOT NULL DEFAULT '',
`CountryCode` char(3) NOT NULL DEFAULT '',
`District` char(20) NOT NULL DEFAULT '',
`Population` int(11) NOT NULL DEFAULT '0',
PRIMARY KEY (`ID`));
- 맵리듀스 실행을 위한 환경 설정 추가 및 확인
$export CLASSPATH=hadoop의 lib 경로
$CLASSPATH
제공받은 WordCount.java와 Hadoop 튜터리얼에서 제공하는 두가지 예제로 실습해 보기
http://hadoop.apache.org/docs/current/hadoop-mapreduce-client/hadoop-mapreduce-client-core/MapReduceTutorial.html#Example:_WordCount_v1.0
- 제공받은 예제의 test 데이터 - 위키백과 표제어
https://ko.wikipedia.org/wiki/%ED%8A%B9%EC%88%98:%EB%AA%A8%EB%93%A0%EB%AC%B8%EC%84%9C
curl https://dumps.wikimedia.org/kowiki/latest/kowiki-latest-all-titles-in-ns0.gz | zcat > kowiki_titles
- 튜토리얼에서 제공받은 test 데이터 - test 파일 생성 및 서울시 공공데이터
- word cloud 참고 사이트
https://bl.ocks.org/wnghdcjfe/de87a75a9445c88061ad50edc1d4ac8d
- ajax
data = this.responseText; all = data.split(/\r\n|\r|\n/); document.getElementById("n1").value = all[1];