摘要:总结本文描述了如何在电脑上安装,及运行它。相关文章从到学习介绍从到学习上搭建环境并构建运行简单程序入门从到学习配置文件详解从到学习介绍从到学习如何自定义从到学习介绍从到学习如何自定义
准备工作
1、安装查看 Java 的版本号,推荐使用 Java 8。
安装 Flink2、在 Mac OS X 上安装 Flink 是非常方便的。推荐通过 homebrew 来安装。
brew install apache-flink
3、检查安装:
flink --version
结果:
Version: 1.6.0, Commit ID: ff472b4
4、启动 flink
zhisheng@zhisheng /usr/local/Cellar/apache-flink/1.6.0/libexec/bin ./start-cluster.sh Starting cluster. Starting standalonesession daemon on host zhisheng. Starting taskexecutor daemon on host zhisheng.
接着就可以进入 web 页面(http://localhost:8081/) 查看
demo1、新建一个 maven 项目
创建一个 SocketTextStreamWordCount 文件,加入以下代码:
package com.zhisheng.flink; import org.apache.flink.api.common.functions.FlatMapFunction; import org.apache.flink.api.java.tuple.Tuple2; import org.apache.flink.streaming.api.datastream.DataStreamSource; import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator; import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment; import org.apache.flink.util.Collector; /** * Created by zhisheng_tian on 2018/9/18 */ public class SocketTextStreamWordCount { public static void main(String[] args) throws Exception { //参数检查 if (args.length != 2) { System.err.println("USAGE: SocketTextStreamWordCount"); return; } String hostname = args[0]; Integer port = Integer.parseInt(args[1]); // set up the streaming execution environment final StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); //获取数据 DataStreamSource stream = env.socketTextStream(hostname, port); //计数 SingleOutputStreamOperator > sum = stream.flatMap(new LineSplitter()) .keyBy(0) .sum(1); sum.print(); env.execute("Java WordCount from SocketTextStream Example"); } public static final class LineSplitter implements FlatMapFunction > { @Override public void flatMap(String s, Collector > collector) { String[] tokens = s.toLowerCase().split("W+"); for (String token: tokens) { if (token.length() > 0) { collector.collect(new Tuple2 (token, 1)); } } } } }
接着进入工程目录,使用以下命令打包。
mvn clean package -Dmaven.test.skip=true
然后我们开启监听 9000 端口:
nc -l 9000
最后进入 flink 安装目录 bin 下执行以下命令跑程序:
flink run -c com.zhisheng.flink.SocketTextStreamWordCount /Users/zhisheng/IdeaProjects/flink/word-count/target/original-word-count-1.0-SNAPSHOT.jar 127.0.0.1 9000
注意换成你自己项目的路径。
执行完上述命令后,我们可以在 webUI 中看到正在运行的程序:
我们可以在 nc 监听端口中输入 text,比如:
然后我们通过 tail 命令看一下输出的 log 文件,来观察统计结果。进入目录 apache-flink/1.6.0/libexec/log,执行以下命令:
tail -f flink-zhisheng-taskexecutor-0-zhisheng.out
注意:切换成你自己的路径和查看自己的目录。
总结本文描述了如何在 Mac 电脑上安装 Flink,及运行它。接着通过一个简单的 Flink 程序来介绍如何构建及运行Flink 程序。
关注我转载请注明地址:http://www.54tianzhisheng.cn/2018/09/18/flink-install
另外我自己整理了些 Flink 的学习资料,目前已经全部放到微信公众号了。你可以加我的微信:zhisheng_tian,然后回复关键字:Flink 即可无条件获取到。
相关文章1、《从0到1学习Flink》—— Apache Flink 介绍
2、《从0到1学习Flink》—— Mac 上搭建 Flink 1.6.0 环境并构建运行简单程序入门
3、《从0到1学习Flink》—— Flink 配置文件详解
4、《从0到1学习Flink》—— Data Source 介绍
5、《从0到1学习Flink》—— 如何自定义 Data Source ?
6、《从0到1学习Flink》—— Data Sink 介绍
7、《从0到1学习Flink》—— 如何自定义 Data Sink ?
文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。
转载请注明本文地址:https://www.ucloud.cn/yun/72051.html
摘要:指定了该迭代器返回元素的类型。这可能导致节点故障后的恢复速度较慢,因为该作业将从最后一个检查点恢复读取。监听的端口过来的数据这个在从到学习上搭建环境并构建运行简单程序入门文章里用的就是基于的程序。取消一个,也即将中的循环元素的行为终止。 showImg(https://segmentfault.com/img/remote/1460000016944116); 前言 Data Sou...
摘要:批处理的程序分析博客从到学习介绍从到学习上搭建环境并构建运行简单程序入门从到学习配置文件详解从到学习介绍从到学习如何自定义从到学习介绍从到学习如何自定义从到学习转换从到学习介绍中的从到学习中的几种详解从到学习读取数据写入到从到学习项 批处理的 WordCount 程序分析: https://t.zsxq.com/YJ2Zrfi 博客 1、Flink 从0到1学习 —— Apache ...
阅读 1200·2023-04-26 01:38
阅读 1427·2021-11-15 11:39
阅读 3233·2021-09-22 15:43
阅读 2583·2019-08-30 15:55
阅读 2014·2019-08-30 14:17
阅读 2830·2019-08-29 14:16
阅读 3035·2019-08-26 18:36
阅读 2587·2019-08-26 12:19