编译Yahoo Streaming Benchmark
- 下载Yahoo Streaming Benchmark源码。
1
wget https://github.com/dataArtisans/yahoo-streaming-benchmark/archive/master.zip
- 解压源码包。
1
unzip master.zip
- 进入源代码目录“yahoo-streaming-benchmark-master”。
1
cd yahoo-streaming-benchmark-master
- 修改文件stream-bench.sh。
- 打开文件。
1
vi stream-bench.sh
- 按“i”进入编辑模式,文件代码修改如下。
1 2 3 4 5 6 7 8 9 10 11 12
#Fetch Kafka KAFKA_FILE="$KAFKA_DIR.tgz" fetch_untar_file "$KAFKA_FILE" "https://archive.apache.org/dist/kafka/$KAFKA_VERSION/$KAFKA_FILE" #Fetch Storm STORM_FILE="$STORM_DIR.tar.gz" fetch_untar_file "$STORM_FILE" "https://archive.apache.org/dist/storm/$STORM_DIR/$STORM_FILE" #Fetch Flink FLINK_FILE="$FLINK_DIR-bin-hadoop27-scala_${SCALA_BIN_VERSION}.tgz" fetch_untar_file "$FLINK_FILE" "https://archive.apache.org/dist/flink/flink-$FLINK_VERSION/$FLINK_FILE" #Fetch Spark SPARK_FILE="$SPARK_DIR.tgz" fetch_untar_file "$SPARK_FILE" "https://archive.apache.org/dist/spark/spark-$SPARK_VERSION/$SPARK_FILE"
- 按“Esc”键,输入:wq!,按“Enter”保存并退出编辑。
- 打开文件。
- 创建当前代码库,并track所有代码。
1 2
git init git add *
- 运行编译脚本。
1
sh stream-bench.sh SETUP
图1 编译过程截图--完成下载spark的tar包