本文将深入探讨 HBase,这是分布式 NoSQL 数据库中的关键技术,被广泛用于大数据存储和实时查询。透过高频面试题解析,我们将深入研究 HBase 在数据存储和检索中的作用。无论你是初学者还是渴望加深对 NoSQL 数据库技术的了解,本文都将为你提供实用的面试准备。
hbase是一种分布式、可扩展,支持海量存储的NoSQL数据库
1、master
实现类为hmaster,负责监控集群中所有的regionserver实例,功能如下:
(1)管理元数据表格hbase:meta,接受用户对表格创建修改的命令并执行
(2)监控region是否需要负载均衡,故障转移和region的拆分
2、region server
实现类为hregionserver,组合作用如下:
(1)负责数据cell的处理,例如写入数据put,查询数据get等
(2)拆分合并region的实际执行者,由master监控,有regionserver执行
1、client客户端向zk发生请求创建连接
2、读取zk存储meta表是由哪个region server管理(如103)、
3、访问103读取meta表
4、将读取的meta表作为属性保存在连接中,如果meta发生变化需要重新读取缓存
5、向待写入表发送put写数据请求
6、将请求先写入WAL
在mem story会排序并保存一段时间,并不安全。数据在写入到mem story之后就会返回写入成功的ack,此时宕机可以通过WAL找回
7、操作put请求,写入到对应mem story并排序
8、等待触发刷写条件写入对应的store
1、client客户端向zk发生请求创建连接
2、读取zk存储元数据表是由哪个region server管理(如103)
3、访问103读取meta表
4、将meta表作为属性保存在连接中,如果meta表发生变化需要重新读取缓存
5、memstore:正常读,storefile:根据索引确定待读取文件,再根据blockcache读取文件
6、合并多个位置读取到的数据,给用户返回最大版本的数据,如果最大版本数据为删除标记,则不返回任何数据
1、mem store:flush.size 128M,当mem store的大小达到128M,其所在region的所有memstore都会刷写
2、region:128M*4,当mem store的大小达到了128*4M时,会阻止继续会该memstore写
3、regionserver:JVM堆内存*memstore.size*memstore.size.low.limit(JVM堆内存*0.4*0.95),当regionserver中memstore的总大小达到上述值,region会按其所有memstore的大小顺序依次进行刷写,直到总大小减小到上述值以下;当总大小达到JVM内存*0.4时,会阻止继续往所有的memstore写数据
4、定期刷写:默认最后修改时间距离1小时
5、手动刷写,手动执行flush
1、0.94之前:国定按10G切。当1个region中的某个store下所有storefile的总大小超过10G就会进行执行
2、0.97-2.0:动态变化,min(10G,2*128M*R^3),R是一个RS中同一张表region的数量
3、2.0之后:第一次是按照256M切,后面都按照10G切
1、minor compaction:会将临近的若干个小的hfile合并成一个大的hflie,但不会完全清理过期和删除的数据,只执行部分的物理删除操作
2、major compaction:会将一个store下的所有hfile合并成一个大的hfile,并且会清理掉删除和过期的数据
1、长度原则:建议越短越好,不要超过16个字节
2、散列原则:如果rowkey是按时间戳的方式递增,不要将时间放在二进制码的前面,建议将rowkey高位作为散列字段,由程序循环生成,低位放时间字段
3、唯一原则,必须在设计上保证其唯一性
通过对rowkey的设计,使数据能够分散到多个region中
1、原理:协处理器,协助处理数据,可以在向原始表中写入数据之后向索引表中写入一条索引数据
2、种类及写法
(1)全局 读多写少
单独创建表专门用于存储索引,索引表数据量比原始表小,读取更快速。但是写操作会写两张表的数据,跨region,需要多个连接
(2)本地 写多读少
将索引数据和原表放在一起,加在一起比原表数据大,读取相对较慢,但是由于是在同一个region,所以写操作两条数据用的是同一个连接
1、hive
(1)数据仓库:hive的本质其实就相当于将hdfs中已经存储的文件在mysql中做了一个双射关系,以方便使用hql去管理查询
(2)用于数据分析、清洗:hive适用于离线的数据分析和清洗,延迟较高
(3)基于hdfs、mapreduce:hive存储的数据依旧在datanode,编写的hql语句终将是转换成mapreduce代码执行
2、hbase
(1)数据库:是一种面向列族存储的非关系型数据库
(2)用于存储半结构化和非结构化的数据:适用于单表非关系型数据的存储,不适合做关联查询,类似join操作
(3)基于hdfs:数据持久化存储的体现形式是hfile,存放于datanode中,被regionserver以region的形式进行管理
(4)延迟较低,接入在线业务使用:面对大量的企业数据,hbase可以直接单表大量数据的存储,同时提供了高效的数据访问速度
文章浏览阅读1k次。通过使用ajax方法跨域请求是浏览器所不允许的,浏览器出于安全考虑是禁止的。警告信息如下:不过jQuery对跨域问题也有解决方案,使用jsonp的方式解决,方法如下:$.ajax({ async:false, url: 'http://www.mysite.com/demo.do', // 跨域URL ty..._nginx不停的xhr
文章浏览阅读2k次。关于在 Oracle 中配置 extproc 以访问 ST_Geometry,也就是我们所说的 使用空间SQL 的方法,官方文档链接如下。http://desktop.arcgis.com/zh-cn/arcmap/latest/manage-data/gdbs-in-oracle/configure-oracle-extproc.htm其实简单总结一下,主要就分为以下几个步骤。..._extproc
文章浏览阅读1.5w次。linux下没有上面的两个函数,需要使用函数 mbstowcs和wcstombsmbstowcs将多字节编码转换为宽字节编码wcstombs将宽字节编码转换为多字节编码这两个函数,转换过程中受到系统编码类型的影响,需要通过设置来设定转换前和转换后的编码类型。通过函数setlocale进行系统编码的设置。linux下输入命名locale -a查看系统支持的编码_linux c++ gbk->utf8
文章浏览阅读750次。今天准备从生产库向测试库进行数据导入,结果在imp导入的时候遇到“ IMP-00009:导出文件异常结束” 错误,google一下,发现可能有如下原因导致imp的数据太大,没有写buffer和commit两个数据库字符集不同从低版本exp的dmp文件,向高版本imp导出的dmp文件出错传输dmp文件时,文件损坏解决办法:imp时指定..._imp-00009导出文件异常结束
文章浏览阅读143次。当下是一个大数据的时代,各个行业都离不开数据的支持。因此,网络爬虫就应运而生。网络爬虫当下最为火热的是Python,Python开发爬虫相对简单,而且功能库相当完善,力压众多开发语言。本次教程我们爬取前程无忧的招聘信息来分析Python程序员需要掌握那些编程技术。首先在谷歌浏览器打开前程无忧的首页,按F12打开浏览器的开发者工具。浏览器开发者工具是用于捕捉网站的请求信息,通过分析请求信息可以了解请..._初级python程序员能力要求
文章浏览阅读7.6k次,点赞2次,收藏6次。@Service标注的bean,类名:ABDemoService查看源码后发现,原来是经过一个特殊处理:当类的名字是以两个或以上的大写字母开头的话,bean的名字会与类名保持一致public class AnnotationBeanNameGenerator implements BeanNameGenerator { private static final String C..._@service beanname
文章浏览阅读6.9w次,点赞73次,收藏463次。1.前序创建#include<stdio.h>#include<string.h>#include<stdlib.h>#include<malloc.h>#include<iostream>#include<stack>#include<queue>using namespace std;typed_二叉树的建立
文章浏览阅读7.1k次。在Asp.net上使用Excel导出功能,如果文件名出现中文,便会以乱码视之。 解决方法: fileName = HttpUtility.UrlEncode(fileName, System.Text.Encoding.UTF8);_asp.net utf8 导出中文字符乱码
文章浏览阅读2.1k次,点赞4次,收藏23次。第一次实验 词法分析实验报告设计思想词法分析的主要任务是根据文法的词汇表以及对应约定的编码进行一定的识别,找出文件中所有的合法的单词,并给出一定的信息作为最后的结果,用于后续语法分析程序的使用;本实验针对 PL/0 语言 的文法、词汇表编写一个词法分析程序,对于每个单词根据词汇表输出: (单词种类, 单词的值) 二元对。词汇表:种别编码单词符号助记符0beginb..._对pl/0作以下修改扩充。增加单词
文章浏览阅读773次。我在使用adb.exe时遇到了麻烦.我想使用与bash相同的adb.exe shell提示符,所以我决定更改默认的bash二进制文件(当然二进制文件是交叉编译的,一切都很完美)更改bash二进制文件遵循以下顺序> adb remount> adb push bash / system / bin /> adb shell> cd / system / bin> chm..._adb shell mv 权限
文章浏览阅读6.8k次,点赞12次,收藏125次。1. 单目相机标定引言相机标定已经研究多年,标定的算法可以分为基于摄影测量的标定和自标定。其中,应用最为广泛的还是张正友标定法。这是一种简单灵活、高鲁棒性、低成本的相机标定算法。仅需要一台相机和一块平面标定板构建相机标定系统,在标定过程中,相机拍摄多个角度下(至少两个角度,推荐10~20个角度)的标定板图像(相机和标定板都可以移动),即可对相机的内外参数进行标定。下面介绍张氏标定法(以下也这么称呼)的原理。原理相机模型和单应矩阵相机标定,就是对相机的内外参数进行计算的过程,从而得到物体到图像的投影_相机-投影仪标定
文章浏览阅读2.2k次。文章目录Wayland 架构Wayland 渲染Wayland的 硬件支持简 述: 翻译一篇关于和 wayland 有关的技术文章, 其英文标题为Wayland Architecture .Wayland 架构若是想要更好的理解 Wayland 架构及其与 X (X11 or X Window System) 结构;一种很好的方法是将事件从输入设备就开始跟踪, 查看期间所有的屏幕上出现的变化。这就是我们现在对 X 的理解。 内核是从一个输入设备中获取一个事件,并通过 evdev 输入_wayland