鲲鹏社区首页
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助

环境配置及部署

环境配置

主机名

硬盘数

内存

网络

server1

系统盘:2*600G SAS,Raid 1

数据盘:12*1.2T SAS,Raid 0

256GB(8*32GB)

10GE

agent1

agent2

agent3

安装Maven

  1. 下载并安装到指定目录(此处以指定“/opt/tools/installed/”目录为例)。
    1
    2
    3
    wget https://archive.apache.org/dist/maven/maven-3/3.5.4/binaries/apache-maven-3.5.4-bin.tar.gz
    tar -zxf apache-maven-3.5.4-bin.tar.gz
    mv apache-maven-3.5.4 /opt/tools/installed/
    
  2. 修改Maven环境变量。
    1. 打开配置文件。
      1
      vi /etc/profile
      
    2. “i”进入编辑模式,在“/etc/profile”文件末尾增加下面代码。
      1
      2
      export MAVEN_HOME=/opt/tools/installed/apache-maven-3.5.4
      export PATH=$MAVEN_HOME/bin:$PATH
      
    3. “Esc”键,输入:wq!,按“Enter”保存并退出编辑。
  3. 使修改的环境变量生效。
    1
    source /etc/profile
    
  4. 检查Maven是否安装成功。
    1
    mvn -v
    

    回显如下所示即为安装成功。

  5. 修改Maven配置文件中的本地仓路径、远程仓等。

    配置文件路径:“/opt/tools/installed/apache-maven-3.5.4/conf/settings.xml”

    本地仓库地址默认在“~/.m2/”目录下,如果想修改成指定目录,则修改localRepository标签,没有特殊需求,可不必修改该参数。

    远程仓库配置(修改成自己搭建的Maven仓库,如果没有,可以按照下面示例配置),在<mirrors>标签内添加以下内容:

    1
    2
    3
    4
    5
    6
    <mirror>
      <id>huaweimaven</id>
      <name>huawei maven</name>
      <url>https://mirrors.huaweicloud.com/repository/maven/</url>
      <mirrorOf>central</mirrorOf>
    </mirror>
    

    当编译环境不能访问外网,需要在settings.xml配置文件中添加代理配置,具体内容如下:

     1
     2
     3
     4
     5
     6
     7
     8
     9
    10
    11
    12
    <proxies>
      <proxy>
        <id>optional</id>
        <active>true</active>
        <protocol>http</protocol>
        <username>用户名</username>
        <password>密码</password>
        <host>代理服务器网址</host>
        <port>代理服务器端口</port>
        <nonProxyHosts>local.net|some.host.com</nonProxyHosts>
      </proxy>
    </proxies>
    

安装lein

  1. 进入“/usr/local/bin”目录。
    1
    cd /usr/local/bin
    
  2. 下载lein文件。
    1
    wget https://raw.githubusercontent.com/technomancy/leiningen/stable/bin/lein
    
  3. 赋予执行权限。
    1
    chmod 755 lein
    

测试环境部署

Yahoo Streaming Benchmark模拟了一个简单的广告场景来比较各个流计算框架,具体场景是从Kafka消费的广告的点击流,关联Redis中的广告所属的campaign信息,然后做时间窗口聚合计数。

Yahoo Streaming Benchmark工具中已经自带了Zookeeper、Kafka、Redis和Flink,可以直接测试使用。

如果需要使用自定义版本的Flink和Kafka可参考下列文档,请自行下载指定版本的安装包。