环境配置及部署
环境配置
主机名 |
硬盘数 |
内存 |
网络 |
---|---|---|---|
server1 |
系统盘:2*600G SAS,Raid 1 数据盘:12*1.2T SAS,Raid 0 |
256GB(8*32GB) |
10GE |
agent1 |
|||
agent2 |
|||
agent3 |
安装Maven
- 下载并安装到指定目录(此处以指定“/opt/tools/installed/”目录为例)。
1 2 3
wget https://archive.apache.org/dist/maven/maven-3/3.5.4/binaries/apache-maven-3.5.4-bin.tar.gz tar -zxf apache-maven-3.5.4-bin.tar.gz mv apache-maven-3.5.4 /opt/tools/installed/
- 修改Maven环境变量。
- 打开配置文件。
1
vi /etc/profile
- 按“i”进入编辑模式,在“/etc/profile”文件末尾增加下面代码。
1 2
export MAVEN_HOME=/opt/tools/installed/apache-maven-3.5.4 export PATH=$MAVEN_HOME/bin:$PATH
- 按“Esc”键,输入:wq!,按“Enter”保存并退出编辑。
- 打开配置文件。
- 使修改的环境变量生效。
1
source /etc/profile
- 检查Maven是否安装成功。
1
mvn -v
回显如下所示即为安装成功。
- 修改Maven配置文件中的本地仓路径、远程仓等。
配置文件路径:“/opt/tools/installed/apache-maven-3.5.4/conf/settings.xml”
本地仓库地址默认在“~/.m2/”目录下,如果想修改成指定目录,则修改localRepository标签,没有特殊需求,可不必修改该参数。
远程仓库配置(修改成自己搭建的Maven仓库,如果没有,可以按照下面示例配置),在<mirrors>标签内添加以下内容:
1 2 3 4 5 6
<mirror> <id>huaweimaven</id> <name>huawei maven</name> <url>https://mirrors.huaweicloud.com/repository/maven/</url> <mirrorOf>central</mirrorOf> </mirror>
当编译环境不能访问外网,需要在settings.xml配置文件中添加代理配置,具体内容如下:
1 2 3 4 5 6 7 8 9 10 11 12
<proxies> <proxy> <id>optional</id> <active>true</active> <protocol>http</protocol> <username>用户名</username> <password>密码</password> <host>代理服务器网址</host> <port>代理服务器端口</port> <nonProxyHosts>local.net|some.host.com</nonProxyHosts> </proxy> </proxies>
安装lein
- 进入“/usr/local/bin”目录。
1
cd /usr/local/bin
- 下载lein文件。
1
wget https://raw.githubusercontent.com/technomancy/leiningen/stable/bin/lein
- 赋予执行权限。
1
chmod 755 lein
测试环境部署
Yahoo Streaming Benchmark模拟了一个简单的广告场景来比较各个流计算框架,具体场景是从Kafka消费的广告的点击流,关联Redis中的广告所属的campaign信息,然后做时间窗口聚合计数。
Yahoo Streaming Benchmark工具中已经自带了Zookeeper、Kafka、Redis和Flink,可以直接测试使用。