首页 > 原创文章 > 技术应用 > 查看文章

K8s,Hadoop,Spark,Zookeeper,Elisticsearch,Kafka,Redis等等都是些什么?

所属分类:技术应用 来源: 丁老师原创 更新时间:2025-02-16 15:20 IP属地: 重庆
点击阅读全文

有同学问到,在java程序员招聘时,常被问到什么k8s,hadoop,zookeeper,elisticsearch,kafka等等名词,什么乱七八糟的,根本不知道是些什么东西,这些到底是什么啊?今天丁老师来给你解答。

其实这些都是java的中间件,主要用于分布式计算、大数据等,并且即使在对应的领域(如分布式计算,也有不同的用途),具体如下:


K8s
k8s是Kubernetes的简称,其实就是一个容器管理工具,所谓的容器,就是不同的应用环境,k8s提供这些容器单独管理,互相可以通信,但谁也不妨碍谁,遇到故障也可以快速更新或替换容器。
一般大项目才用,中小项目用不到也不需要用。


Hadoop
hadoop主要用来处理大数据的,支持GB到PB,可以对大数据高校快速的处理,一般中小项目用不到。


Spark
spark和hadoop一样,也是主要用来处理大数据的,只不过中间结果存储在内存中,减少对磁盘的读写,处理速度比hadoop要快。但是过于依赖内存,处理小文件时,性能不如hadoop。大型项目才用的到。


Zookeeper
zookeeper是一个分布式协调管理员,帮助一群服务器一起高效有序的工作,主要是协调顺序、共享信息,用于分布式架构中,解决数据一致性和协调服务的问题。是Hadoop和Hbase的重要组件,一般中小项目用不到。


Elisticsearch
elisticsearch是大数据搜索引擎,可以用来对大数据进行搜索查询。实时查询、分布式、可扩展,并且支持文本、日期、数值等查询,还支持全文搜索、分词、排序、聚合等功能。一般中小项目用不到。


Kafka
kafka也是处理大数据的,只不过是处理实时数据流,支持高吞吐量的数据读写,和hadoop不是一种类型的系统,不过经常一起使用,以处理不同的数据。比如用kafka接受实时数据流,然后存储起来让hadoop进行处理。一般中小项目用不到。


Redis
redis是本地存储程序,常用作本地缓存、消息代理和实时分析,支持各种数据结构,是各种高吞吐高并发访问的必备缓存中间件,可以明显减少对数据库的查询和依赖,提升web性能,广泛应用于各种系统中。大中小项目必备。

相关文章

mysql查当天、本周、当月、本季度、当年等...

以下是mysql常用的日期时间查询语句,其中,时间字段名是默认以datetime格式的,如果是int时间戳格式的时间,则需要在时间字段名字段上,加上from_unixtime(时间字段名)。查询当天的数据:#时间字段为y-m-d格式,如...

React框架适合做网站吗?

有同学在群里提问,React有快速应用开发框架,比如nextjs+tailwind.css的技术框架,可以实现网页应用的快速开发。但又听说React开发的网站不太好,那么React到底适合做网站吗?今天丁老师给你解答。其实,目前国内的确...

什么是no sql数据库?no sql数据库...

群里有同学在问,现在经常看到nosql数据库,nosql数据库到底是什么呢,一直不是很理解?nosql数据库又是什么意思呢?今天丁老师用白话文来给你们解答。 nosql数据库,是”非关系型数据库“,和平时我们使用的mysql不一样,不需...

Bagisto-基于Laravel框架的免费...

软件介绍Basgito是基于Laravel框架的免费电子商务平台,可以快速搭建自己企业专属的电子商务交易平台,适用于中小型外贸企业。该电商平台拥有无头laravel商务(headlesslaravelcommerce)的强大功能,可以快...

推荐文章

wordpress如何开启错误调试,查看错误...

在使用wordpress的过程中,有的时候部分页面打不开,或是程序不能正常使用,也没有显示具体的错误信息,这个时候该怎么办呢?首先是查看错误日志,可以查看wordpress本身的错误日志,以及php的错误日志。这时有朋友提问了,wordpr...

linux使用lnmp套件安装后打卡默认站点...

最近要在某单位内网部署项目,使用了lnmp来配置环境,软件安装成功,可安装后不管是打开ip地址还是默认站点,都提示nginx403forbidden,这是怎么回事呢?首先,已经出现了nginx403提示,说明nginx是安装正常的。其次,4...

AI工具大全:好用的AI工具推荐(持续更新中...

这几年AI技术的发展已经达到新的高度,从提高个人生产力到企业操作效率的各个方面,AI都扮演着不可或缺的角色。无论是进行语言交流、内容创作、或是任务管理,都有相应的AI工具可以帮助我们更加轻松地完成工作。以下是丁老师觉得不错的AI工具推荐,希...

关闭edge浏览器自带image viewe...

挺不错的浏览器,强加入了edgeimageviewer图片浏览器,感觉不是那么好,对于开发者来说,更想要原生的东西。包括微信网页版里的表情图片,用edgeimageviewer打开的话,无法保存为gif格式,即使保存了,也只是第一帧静态的。...

QQ咨询 微信咨询