bigdata-playground
A complete example of a big data application using : Kubernetes (kops/aws), Apache Spark SQL/Streaming/MLib, Apache Flink, Scala, Python, Apache Kafka, Apache Hbase, Apache Parquet, Apache Avro, Apache Storm, Twitter Api, MongoDB, NodeJS, Angular, GraphQL
파일 탐색기
최종 버전 다운로드 (.zip)- airports.json
- airports.parquet
- build.properties
- plugins.sbt
- app.conf
- log4j.properties
- Airport.scala
- BatchConfig.scala
- BatchDbConfig.scala
- Config.scala
- ConfigurationFactory.scala
- Main.scala
- build.sbt
- Dockerfile-dev
- airports.json
- airports.parquet
- Application.java
- MongoReducer.java
- ParquetMapper.java
- airport.schema.avsc
- app.conf
- log4j.properties
- Dockerfile-dev
- pom.xml
- airports.json
- airports.parquet
- build.properties
- plugins.sbt
- Application.java
- app.conf
- log4j.properties
- BatchConfig.scala
- BatchDbConfig.scala
- Config.scala
- ConfigurationFactory.scala
- Main.scala
- build.sbt
- Dockerfile
- Dockerfile-dev
- pom.xml
- batch-flink.yml
- batch-hadoop.yml
- batch-spark.yml
- ml-spark.yml
- streaming-flink.yml
- streaming-spark.yml
- streaming-storm.yml
- webapp.yml
- docker-compose.yml
- flink.yml
- hadoop-hbase.yml
- kafka.yml
- kylo.yml
- mongo.yml
- webapp.yml
- zookeeper.yml
- Dockerfile-model-dev
- Dockerfile-stream-dev
- flight-info.schema.avsc
- model.py
- stream.py
- build.properties
- plugins.sbt
- app.conf
- flight-info.schema.avsc
- hbase-site.xml
- log4j.properties
- CabinClass.scala
- FlightInfoBean.scala
- TripType.scala
- Config.scala
- ProducerConfig.scala
- StreamingConfig.scala
- StreamingDbConfig.scala
- ConfigurationFactory.scala
- FlightInfoAvroSchema.scala
- FlightInfoHBaseOutputFormat.scala
- JsonUtils.scala
- Main.scala
- build.sbt
- Dockerfile-dev
- build.properties
- plugins.sbt
- Application.java
- FlightInfoBean.java
- app.conf
- flight-info.schema.avsc
- log4j.properties
- CabinClass.scala
- FlightInfoBean.scala
- TripType.scala
- Config.scala
- ProducerConfig.scala
- StreamingConfig.scala
- StreamingDbConfig.scala
- ConfigurationFactory.scala
- JsonUtils.scala
- Main.scala
- build.sbt
- Dockerfile
- Dockerfile-dev
- hbase-site.xml
- pom.xml
- KafkaFlightInfoBolt.java
- KafkaSpoutTopology.java
- Application.java
- FlightInfoBean.java
- app.conf
- flight-info.schema.avsc
- hbase-site.xml
- log4j.properties
- Dockerfile-dev
- pom.xml
- airport.dto.ts
- index.ts
- flight.mutations.ts
- airports.queries.ts
- airports.service.ts
- flight.service.ts
- index.ts
- tweet.service.ts
- tweet.subscription.ts
- airport-dto-mapper.ts
- airport-mapper.ts
- index.ts
- search-flight.component.html
- search-flight.component.scss
- search-flight.component.ts
- dashboard.component.html
- dashboard.component.scss
- dashboard.component.ts
- dashboard.module.ts
- dashboard.routes.ts
- airport.model.ts
- flight-info.model.ts
- index.ts
- material.module.ts
- app.component.html
- app.component.scss
- app.component.ts
- app.module.ts
- app.routes.ts
- .gitkeep
- environment.prod.ts
- environment.ts
- browserslist
- favicon.ico
- index.html
- karma.conf.js
- main.ts
- polyfills.ts
- styles.scss
- test.ts
- tsconfig.app.json
- tsconfig.spec.json
- tslint.json
- .editorconfig
- angular.json
- package.json
- protractor.conf.js
- README.md
- tsconfig.json
- tslint.json
- yarn.lock
- database.ts
- airport.ts
- flight-info.ts
- tweet.ts
- index.ts
- flight-info-avro.mapper.ts
- flight-info-avro.ts
- flight-info.producer.ts
- index.ts
- tweet.consumer.ts
- resolvers.ts
- types.ts
- index.ts
- index.ts
- package.json
- server.js
- tsconfig.json
- tslint.json
- yarn.lock
- Dockerfile
- Dockerfile-dev
- package.json
- yarn.lock
- .gitignore
- LICENSE
- README.md
# 설치 가이드
git clone https://github.com/Chabane/bigdata-playground
깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.
cd bigdata-playground
방금 내려받은 프로젝트 폴더 안으로 이동합니다.
2. Docker
쉬움 추천- Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
- Docker Desktop 컨테이너를 빌드하고 실행하려면 필요합니다. 설치 후 실행해서 백그라운드에 켜두세요.
docker network create vnet
이 명령어를 터미널에 그대로 입력해 실행하세요.
cd docker
방금 내려받은 프로젝트 폴더 안으로 이동합니다.
docker-compose -f mongo.yml -f zookeeper.yml -f kafka.yml -f hadoop-hbase.yml -f flink.yml up -d
compose 설정 파일에 정의된 서비스들을 대상으로 명령을 실행합니다.
docker-compose -f dev/webapp.yml up -d
compose 설정 파일에 정의된 서비스들을 대상으로 명령을 실행합니다.
docker-compose -f dev/batch-spark.yml up -d
compose 설정 파일에 정의된 서비스들을 대상으로 명령을 실행합니다.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
3. Maven (Java)
보통- Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
- JDK (Java) Java 프로젝트를 빌드/실행하려면 필요합니다.
- Maven mvn 명령어를 쓰기 위한 빌드 도구입니다.
cd batch/hadoop && mvn clean package && cd ../..
방금 내려받은 프로젝트 폴더 안으로 이동합니다.
cd streaming/storm && mvn clean package && cd ../..
방금 내려받은 프로젝트 폴더 안으로 이동합니다.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
4. Node.js
쉬움npm install yarn -g
package.json에 명시된 라이브러리들을 내려받아 설치합니다.
cd webapp && yarn && cd client && yarn && cd ../server && yarn && cd ../ && npm run build:dev && cd ../
방금 내려받은 프로젝트 폴더 안으로 이동합니다.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
