技术

对容器云平台的理解 Prometheus 源码分析 并发的成本 基础设施优化 hashicorp raft源码学习 docker 架构 mosn细节 与微服务框架整合 Java动态代理 编程范式 并发通信模型 《网络是怎样连接的》笔记 go细节 codereview mat使用 jvm 线程实现 go打包机制 go interface及反射 如何学习Kubernetes 《编译原理之美》笔记——后端部分 《编译原理之美》笔记——前端部分 Pilot MCP协议分析 go gc 内存管理玩法汇总 软件机制 istio流量管理 Pilot源码分析 golang io 学习Spring mosn源码浅析 MOSN简介 《datacenter as a computer》笔记 学习JVM Tomcat源码分析 Linux可观测性 MVCC 学习存储 学计算 Gotty源码分析 kubernetes operator kaggle泰坦尼克问题实践 kubernetes自动扩容缩容 神经网络模型优化 直觉上理解机器学习 knative入门 如何学习机器学习 神经网络系列笔记 TIDB源码分析 《阿里巴巴云原生实践15讲》笔记 Alibaba Java诊断工具Arthas TIDB存储——TIKV 《Apache Kafka源码分析》——简介 netty中的线程池 guava cache 源码分析 Springboot 启动过程分析 Spring 创建Bean的年代变迁 Linux内存管理 自定义CNI IPAM 扩展Kubernetes 副本一致性 spring redis 源码分析 kafka实践 spring kafka 源码分析 Linux进程调度 让kafka支持优先级队列 Codis源码分析 Redis源码分析 C语言学习 《趣谈Linux操作系统》笔记 docker和k8s安全机制 jvm crash分析 Kubernetes监控 Kubernetes 控制器模型 Prometheus 学习 容器日志采集 容器狂占cpu怎么办? Kubernetes资源调度——scheduler 时序性数据库介绍及对比 influxdb入门 maven的基本概念 《Apache Kafka源码分析》——server Kubernetes objects之编排对象 源码分析体会 《数据结构与算法之美》——算法新解 Kubernetes源码分析——controller mananger Kubernetes源码分析——apiserver Kubernetes源码分析——kubelet Kubernetes介绍 ansible学习 Kubernetes源码分析——从kubectl开始 jib源码分析之Step实现 kubernetes实践 jib源码分析之细节 线程排队 跨主机容器通信 jib源码分析及应用 为容器选择一个合适的entrypoint kubernetes yaml配置 《持续交付36讲》笔记 mybatis学习 程序猿应该知道的 无锁数据结构和算法 CNI 为什么很多业务程序猿觉得数据结构和算法没用? 串一串一致性协议 当我在说PaaS时,我在说什么 《数据结构与算法之美》——数据结构笔记 PouchContainer技术分享体会 harbor学习 用groovy 来动态化你的代码 《深入剖析kubernetes》笔记 精简代码的利器——lombok 学习 编程语言的动态性 rxjava3——背压 rxjava2——线程切换 spring cloud 初识 《深入拆解java 虚拟机》笔记 《how tomcat works》笔记 hystrix 学习 rxjava1——概念 Redis 学习 TIDB 学习 分布式计算系统的那些套路 Storm 学习 AQS1——论文学习 Unsafe Spark Stream 学习 linux vfs轮廓 mysql 批量操作优化 《自己动手写docker》笔记 java8 实践 中本聪比特币白皮书 细读 区块链泛谈 比特币 大杂烩 总纲——如何学习分布式系统 hbase 泛谈 forkjoin 泛谈 看不见摸不着的cdn是啥 《jdk8 in action》笔记 程序猿视角看网络 bgp初识 calico学习 AQS2——粗略的代码分析 我们能用反射做什么 web 跨域问题 《clean code》笔记 硬件对软件设计的影响 《Elasticsearch权威指南》笔记 mockito简介及源码分析 2017软件开发小结—— 从做功能到做系统 《Apache Kafka源码分析》——clients dns隐藏的一个坑 《mysql技术内幕》笔记2 《mysql技术内幕》笔记1 log4j学习 为什么netty比较难懂? 回溯法 apollo client源码分析及看待面向对象设计 学习并发 docker 环境(主要运行java项目)常见问题 Scala的一些梗 OpenTSDB 入门 spring事务小结 事务一致性 javascript应用在哪里 《netty in action》读书笔记 netty对http2协议的解析 ssl证书是什么东西 http那些事 苹果APNs推送框架pushy apple 推送那些事儿 编写java框架的几大利器 java内存模型 java exception Linux IO学习 network channel network byte buffer 测试环境docker化实践 netty(七)netty在框架中的使用套路 Nginx简单使用 《Linux内核设计的艺术》小结 Go并发机制及语言层工具 Macvlan Linux网络源代码学习——数据包的发送与接收 《docker源码分析》小结 docker中涉及到的一些linux知识 hystrix学习 Linux网络源代码学习——整体介绍 zookeeper三重奏 数据库的一些知识 Spark 泛谈 链式处理的那些套路 netty(六)netty回顾 Thrift基本原理与实践(二) Thrift基本原理与实践(一) 回调 异步执行抽象——Executor与Future Docker0.1.0源码分析 java gc Jedis源码分析 Redis概述 机器学习泛谈 Linux网络命令操作 JTA与TCC 换个角度看待设计模式 Scala初识 向Hadoop学习NIO的使用 以新的角度看数据结构 并发控制相关的硬件与内核支持 systemd 简介 异构数据库表在线同步 quartz 源码分析 基于docker搭建测试环境(二) spring aop 实现原理简述 自己动手写spring(八) 支持AOP 自己动手写spring(七) 类结构设计调整 分析log日志 自己动手写spring(六) 支持FactoryBean 自己动手写spring(九) 总结 自己动手写spring(五) bean的生命周期管理 自己动手写spring(四) 整合xml与注解方式 自己动手写spring(三) 支持注解方式 自己动手写spring(二) 创建一个bean工厂 自己动手写spring(一) 使用digester varnish 简单使用 关于docker image的那点事儿 基于docker搭建测试环境 分布式配置系统 JVM内存与执行 git spring rmi和thrift maven/ant/gradle使用 再看tcp 缓存系统 java nio的多线程扩展 《Concurrency Models》笔记 回头看Spring IOC IntelliJ IDEA使用 Java泛型 vagrant 使用 Go常用的一些库 Python初学 Goroutine 调度模型 虚拟网络 《程序员的自我修养》小结 VPN(Virtual Private Network) Kubernetes存储 Kubernetes 其它特性 访问Kubernetes上的Service Kubernetes副本管理 Kubernetes pod 组件 使用etcd + confd + nginx做动态负载均衡 如何通过fleet unit files 来构建灵活的服务 CoreOS 安装 CoreOS 使用 Go学习 JVM类加载 硬币和扑克牌问题 LRU实现 virtualbox 使用 ThreadLocal小结 docker快速入门

标签


Storm 学习

2018年06月06日

前言

流式处理说的是什么?实时处理与流处理流式处理就是指源源不断的数据流过系统时,系统能够不停地连续计算。所以流式处理没有什么严格的时间限制,数据从进入系统到出来结果可能是需要一段时间。然而流式处理唯一的限制是系统长期来看的输出速率应当快于或至少等于输入速率。否则的话,数据岂不是会在系统中越积越多(不然数据哪去了)?如此,不管处理时是在内存、闪存还是硬盘,早晚都会空间耗尽的。

Storm介绍(一)

storm 解决什么问题?JStrom 概叙 & 应用场景 一文中总结的 非常好,可以参考下。

JStorm Chinese Documentation apache 接受了 阿里jstorm 的捐赠,传言 因为storm 原来的开发语言clojure 太小众,影响了社区的发展,因此正在将jstorm merge到 storm项目中

本文的主要 内容也参照 JStorm Chinese Documentation 来阐述

storm 趣闻

History of Apache Storm and lessons learned 是Storm作者Nathan Marz写的,文章讲述了Storm的构思、创建过程和Storm的市场营销,沟通交流和社区开发的故事。 有以下几个基本要点

  1. 作者称storm 是 the hadoop of realtime。 组件组成 上跟hadoop 非常相像,但针对realtime 做了一些调整。如果你观察 alibaba/jstorm 会发现有一个jstorm-on-yarn,资源管理与调度 二元架构,有没有发现一切都是套路。
  2. 作者在创业公司 BackType 时候,设想的是storm 谁用谁搭集群就行了(或者说BackType 也用不了几个集群),使用和维护一体的。BackType 被Twitter 收购之后,storm 在各个团队中使用,使用方不想管维护的事儿,只是提交任务就完事了。这样storm 就要做资源管理,并减少Application 之间的相互影响,也就是multi-tenancy 多租户。这也是其它 类似spark 等的共同思路。
  3. 作者写storm的时候就打算开源,所以虽然clojure写的,但百分百兼容java(因为用java的人多)。Topologies are defined as Thrift data structures, and topologies are submitted using a Thrift API. Additionally, I designed a protocol so that spouts and bolts could be implemented in any language

抽象概念

topology is a network of spouts and bolts.

spout 产生的消息tuple 发送到 哪些 botls中,可以通过Stream Groupings 来设定,rabbitmq 的订阅模型 storm 都支持。

下面用一个简单的例子来描述下topology 的拓扑结构

TopologyBuilder builder = new TopologyBuilder();
// Kestrel 是一个消息队列,1 是spout 的id
builder.setSpout(1,new KestrelSpout("kestrel.backtype.com",22133,"sencence_queue",new StringScheme()));
// 表示SplitSentence 通过shuffle Grouping 读取组件1 发出的所有消息
builder.setBolt(2,new SplitSentence(),10).shuffleGrouping(1);
builder.setBolt(3,new WordCount(),20).fieldsGrouping(2,new Fields("word"));

运行

  1. master 节点运行进程 Nimbus
  2. slave 节点 运行进程 Supervisor

一个运行中的Topology 由分布在不同slave节点上的多个 Supervisor 组成。具体的说:对一个topology,JStorm最终会调度成一个或多个worker,每个worker即为一个真正的操作系统执行进程,分布到一个集群的一台或者多台机器上并行执行。而每个worker中,又可以有多个task,分别代表一个执行线程。每个task就是上面提到的组件(component)的实现,要么是spout要么是bolt。

Nimbus 和 Supervisor 进程都是快速失败和无状态的。所有的状态要么在zookeeper里面,要么在本地磁盘上。这也就意味着你可以用kill -9来结束Nimbus 和 Supervisor 进程,然后再重启它们,就好像什么都没有发生过。

Topology 的定义是一个Thrift结构,并且Nimbus 就是一个Thrift 服务。

你可以动态增加或减少执行Topology的进程和线程数量

代码实例

可以 参见 https://github.com/alibaba/jstorm/tree/master/example/sequence-split-merge/src/main/java/com/alipay/dw/jstorm/example/batch,包括三个类:

  1. SimpleBatchTopology.java,包含main 方法
  2. SimpleBolt.java
  3. SimpleSpout.java

与mapreduce 极其相像,实现一个mapper类、reudce类,再提供一个聚合类,包括main函数。

public interface ISpout extends Serializable {
    void open(Map conf, TopologyContext context, SpoutOutputCollector collector);	//当task起来后执行的初始化动作
    void close();	//当task被shutdown后执行的动作
    void activate();	// 当task被激活时,触发的动作
    void deactivate();	// 是task被deactive时,触发的动作
    void nextTuple();	// 是spout实现核心, nextuple完成自己的逻辑,即每一次取消息后,用collector 将消息emit出去。
    void ack(Object msgId);	// 当spout收到一条ack消息时,触发的动作
    void fail(Object msgId);	// 当spout收到一条fail消息时,触发的动作
}
public interface IBolt extends Serializable {
    void prepare(Map stormConf, TopologyContext context, OutputCollector collector);	// task起来后执行的初始化动作
    void execute(Tuple input); // execute是bolt实现核心, 完成自己的逻辑,即接受每一次取消息后,处理完,有可能用collector 将产生的新消息emit出去。 在executor中,当程序处理一条消息时,需要执行collector.ack. 当程序无法处理一条消息时或出错时,需要执行collector.fail ,详情可以参考 ack机制
    void cleanup(); // 当task被shutdown后执行的动作
}

消息的处理

以一个wordcount 的中间 Bolt 为例,如果输入是“hello world”,则输出为”hello”,”world”,对应上图的B 节点

public class SplitSentence extends BaseRichBolt{
	OutputCollector _collector;
	public void prepare(Map conf,TopologyContext context,OutputCollector collector){
		_collector = collector;
	}
	public void execute(Tuple tuple){
		String sentence = tuple.getString(0);
		for(String word : sentence.split(" ")){
			_collector.emit(tuple,new Values(word));
		}
		_collector.ack(tuple);
	}
	public void declareOutputFields(OutputFieldsDeclarer declarer){
		declarer.declare(new Fields("word"));
	}
}

首先new Values(word)declarer.declare(new Fields("word")); 表示 该bolt 发往下一个 bolt 的 格式:只有一个字段,字段名word。

_collector.emit(tuple,new Values(word)); 两个参数,原来的消息tuple,新的消息。storm将将它们做了关联,即可形成一个tuple tree

storm 中有一个专职的acker,_collector.emit(tuple,new Values(word))/_collector.ack(tuple) 向acker 发送消息,acker 保存了一个<消息id,spout id,ack val>,以上图为例

  所在节点 <消息id,spout id,ack val>
emit B A 所在 spout a_msg_id,spout_id, a_msg_id xor b_msg_id
emit D B bolt a_msg_id,spout_id, last_id xor d_msg_id
emit E B bolt a_msg_id,spout_id, last_id xor e_msg_id
ack B B bolt a_msg_id,spout_id, last_id xor b_msg_id
emit C A spout a_msg_id,spout_id, last_id xor c_msg_id
emit F C bolt a_msg_id,spout_id, last_id xor f_msg_id
ack C C bolt a_msg_id,spout_id, last_id xor c_msg_id
ack F F bolt a_msg_id,spout_id, last_id xor f_msg_id
ack D F bolt a_msg_id,spout_id, last_id xor d_msg_id
ack E F bolt a_msg_id,spout_id, last_id xor e_msg_id

a_msg_id 对应的 <消息id,spout id,ack val>,若全部顺利处理(都发了ack),其ack val 最终会是0. 即通过是否为0 ,acker 向spout 告知该消息 需要重发

Storm的设计模式

就像基于spark core 衍生了spark sql、spark stream 等一样,颠覆大数据分析之Storm的设计模式 文中将DRPC 与 Trident 成为基于 storm 的设计模式(在给定上下文环境中,针对设计问题的可重用的通常解决方案)

Distributed RPC

DRPC提供了一个在Storm之上的分布式RPC实现。storm集群通过一个DRPC服务器协调DRPC请求,具体的说:

  1. DRPC服务器接收来自客户端的RPC请求,并把它们分到Storm集群,由集群节点并行的执行程序;
  2. DRPC服务器接收来自Storm集群的结果,并用它们响应客户端。

假设一次rpc 涉及到千万次的数据库调用。通常也只能先用spark 跑一下,将数据写入到hdfs,然后在代码中读取hdfs数据,再进行业务处理。DRPC 使得 业务系统 能够较为顺滑的接入 storm 以获取 集群维度的处理能力。

Trident

TridentTopology topology = new TridentTopology();
TridentState wordCounts = topology.newStream("input1",spout)
     .each(new Fields("sentence"), new Split(), new Fields("word"))
     .groupBy(new Fields("word"))
     .persistentAggregate(MemcachedState.transactional(serverLocations),
     new Count(), new Fields("count"));
MemcachedState.transactional();

是不是找到了spark rdd 的感觉。Trident 是基于 storm 进行实时流处理的高级抽象,提供了对实时流的聚集、投影、过滤等操作。省得写那么多琐碎的bolt