发布时间:2022-11-11 13:30
Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。
优点:
1、高吞吐量、低延迟
kafka每秒可以处理几十万条消息,它的延迟最低只有几毫秒;
2、高拓展性:
kafka集群支持热扩展;
3、持久性、可靠性
消息被持久化到本地磁盘,并且支持数据备份防止数据丢失;
4、 容错性
允许集群中节点故障(若副本数量为n,则允许n-1个节点故障);
5、 高并发:
支持数千个客户端同时读写。
缺点:
1、需要解决消息重复消费、有序消费、及消息积压、消息丢失等问题。
2、kafka需要zookeeper作为支持,部署和维护成本比一般的MQ更高。
1、日志的收集:
一个公司可以用Kafka可以收集各种服务的log,通过kafka以统一接口服务的方式开放给各种consumer;
2、消息系统
解耦生产者和消费者、缓存消息等;
3、用户的活动跟踪
kafka经常被用来记录web用户或者app用户的各种活动,如浏览网页、搜索、点击等活动,这些活动信息被各个服务器发布到kafka的topic中,然后消费者通过订阅这些topic来做实时的监控分析,亦可保存到数据库;
3、 运营指标
kafka也经常用来记录运营监控数据。包括收集各种分布式应用的数据,生产各种操作的集中反馈,比如报警和报告;
4、 流式处理
比如spark streaming和storm。
1、 流量削峰
2、 系统解耦
3、 异步处理。