数据存储方式有哪些(数据类型的存储方式)

数据存储方式有哪些(数据类型的存储方式)

业务问题的范围太广、太深、太复杂,一种工具无法解决所有问题,在大数据和分析领域尤其如此。

热数据需要在内存中存储和处理,因此适合用缓存或内存数据库(如Redis或SAPHana)。

AWS提供了ElastiCache服务,可生成托管的Redis或Memcached环境。

NoSQL数据库是面向高速但小规模记录(例如,用户会话信息或物联网数据)的理想选择。

NoSQL数据库对于内容管理也很有用,可以存储数据目录。

1、结构化数据存储

结构化数据存储已经存在了几十年,是人们最熟悉的数据存储技术。大多数事务型数据库(如Oracle、MySQL、SQLServer和PostgreSQL)都是行式数据库,因为要处理来自软件应用程序的频繁数据写入。

企业经常将事务型数据库同时用于报表,在这种情况下,需要频繁读取数据,但数据写入频率要低得多。

随着数据读取的需求越来越强,有更多的创新进入了结构化数据存储的查询领域,比如列式文件格式的创新,它有助于提高数据读取性能,满足分析需求。

基于行的格式将数据以行的形式存储在文件中。基于行的写入方式是将数据写入磁盘的最快方式,但它不一定能最快地读取,因为你必须跳过很多不相关的数据。

基于列的格式将所有的列值一起存储在文件中。这样会带来更好的压缩效果,因为相同的数据类型现在被归为一组。通常,它还能提供更好的读取性能,因为你可以跳过不需要的列。

我们来看结构化数据存储的常见选择。

例如,你需要从订单表中查询某个月的销售总数,但该表有50列。在基于行的架构中,查询时会扫描整个表的50个列,但在列式架构中,查询时只会扫描订单销售列,因而提高了数据查询性能。

我们再来详细介绍关系型数据库,重点介绍事务数据和数据仓库处理数据分析的需求。

(1)关系型数据库

RDBMS比较适合在线事务处理(OLTP)应用。流行的关系型数据库有Oracle、MSSQL、MariaDB、PostgreSQL等。其中一些传统数据库已经存在了几十年。

许多应用,包括电子商务、银行业务和酒店预订,都是由关系型数据库支持的。关系型数据库非常擅长处理表之间需要复杂联合查询的事务数据。

从事务数据的需求来看,关系型数据库应该坚持原子性、一致性、隔离性、持久性原则,具体如下:

原子性:事务将从头到尾完全执行,一旦出现错误,整个事务将会回滚。

一致性:一旦事务完成,所有的数据都要提交到数据库中。

隔离性:要求多个事务能在隔离的情况下同时运行,互不干扰。

持久性:在任何中断(如网络或电源故障)的情况下,事务应该能够恢复到最后已知的状态。

通常情况下,关系型数据库的数据会被转存到数据仓库中,用于报表和聚合。

(2)数据仓库

数据仓库更适合在线分析处理(OLAP)应用。数据仓库提供了对海量结构化数据的快速聚合功能。

虽然这些技术(如AmazonRedshift、Netezza和Teradata)旨在快速执行复杂的聚合查询,但它们并没有针对大量并发写入进行过优化。所以,数据需要分批加载,使得仓库无法在热数据上提供实时洞察。

现代数据仓库使用列式存储来提升查询性能,例如AmazonRedshift、Snowflake和GoogleBigQuery。得益于列式存储,这些数据仓库提供了非常快的查询速度,提高了I/O效率。

除此之外,AmazonRedshift等数据仓库系统还通过在多个节点上并行查询以及大规模并行处理(MPP)来提高查询性能。

数据仓库是中央存储库,可以存储来自一个或多个数据库的累积数据。它们存储当前和历史数据,用于创建业务数据的分析报告。

虽然,数据仓库集中存储来自多个系统的数据,但它们不能被视为数据湖。数据仓库只能处理结构化的关系型数据,而数据湖则可以同时处理结构化的关系型数据和非结构化的数据,如JSON、日志和CSV数据。

AmazonRedshift等数据仓库解决方案可以处理PB级的数据,并提供解耦的计算和存储功能,以节省成本。

除了列式存储外,Redshift还使用数据编码、数据分布和区域映射来提高查询性能。比较传统的基于行的数据仓库解决方案包括Netezza、Teradata和Greenplum。

2、NoSQL数据库

NoSQL数据库(如DynamoDB、Cassandra和MongoDB)可以解决在关系型数据库中经常遇到的伸缩和性能挑战。顾名思义,NoSQL表示非关系型数据库。NoSQL数据库储存的数据没有明确结构机制连接不同表中的数据(没有连接、外键,也不具备范式)。

NoSQL运用了多种数据模型,包括列式、键值、搜索、文档和图模型。NoSQL数据库提供可伸缩的性能、具有高可用性和韧性。

NoSQL通常没有严格的数据库模式,每条记录都可以有任意数量的列(属性),这意味着某一行可以有4列,而同一个表中的另一行可以有10列。分区键用于检索包含相关属性的值或文档。

NoSQL数据库是高度分布式的,可以复制。NoSQL数据库非常耐用,高可用的同时不会出现性能问题。

SQL数据库已经存在了几十年,大多数人可能已经非常熟悉关系型数据库。我们来看SQL数据库和NoSQL数据库之间的一些重大区别(见表1)。

数据存储方式有哪些(数据类型的存储方式)

表1SQL数据库和NoSQL数据库的区别

根据数据特点,市面上有各种类别的NoSQL数据存储来解决特定的问题。我们来看NoSQL数据库的类型。

3、NoSQL数据库类型

NoSQL数据库的主要类型如下:

列式数据库:ApacheCassandra和ApacheHBase是流行的列式数据库。列式数据存储有助于在查询数据时扫描某一列,而不是扫描整行。如果物品表有10列100万行,而你想查询库存中某一物品的数量,那么列式数据库只会将查询应用于物品数量列,不需要扫描整个表。

文档数据库:最流行的文档数据库有MongoDB、Couchbase、MarkLogic、DynamoDB和Cassandra。可以使用文档数据库来存储JSON和XML格式的半结构化数据。

图数据库:流行的图数据库包括AmazonNeptune、JanusGraph、TinkerPop、Neo4j、OrientDB、GraphDB和Spark上的GraphX。图数据库存储顶点和顶点之间的链接(称为边)。图可以建立在关系型和非关系型数据库上。

内存式键值存储:最流行的内存式键值存储是Redis和Memcached。它们将数据存储在内存中,用于数据读取频率高的场景。应用程序的查询首先会转到内存数据库,如果数据在缓存中可用,则不会冲击主数据库。内存数据库很适合存储用户会话信息,这些数据会导致复杂的查询和频繁的请求数据,如用户资料。

NoSQL有很多用例,但要建立数据搜索服务,需要对所有数据建立索引。

4、搜索数据存储

Elasticsearch是大数据场景(如点击流和日志分析)最受欢迎的搜索引擎之一。搜索引擎能很好地支持对具有任意数量的属性(包括字符串令牌)的温数据进行临时查询。Elasticsearch非常流行。一般的二进制或对象存储适用于非结构化、不可索引和其他没有专业工具能理解其格式的数据。

AmazonElasticsearchService管理Elasticsearch集群,并提供API访问。它还提供了Kibana作为可视化工具,对Elasticsearch集群中的存储的索引数据进行搜索。

AWS管理集群的容量、伸缩和补丁,省去了运维开销。日志搜索和分析是常见的大数据应用场景,Elasticsearch可以帮助你分析来自网站、服务器、物联网传感器的日志数据。

Elasticsearch被大量的行业应用使用,如银行、游戏、营销、应用监控、广告技术、欺诈检测、推荐和物联网等。

5、非结构化数据存储

当你有非结构化数据存储的需求时,Hadoop似乎是一个完美的选择,因为它是可扩展、可伸缩的,而且非常灵活。它可以运行在消费级设备上,拥有庞大的工具生态,而且运行起来似乎很划算。

Hadoop采用主节点和子节点模式,数据分布在多个子节点,由主节点协调作业,对数据进行查询运算。Hadoop系统依托于大规模并行处理(MPP),这使得它可以快速地对各种类型的数据进行查询,无论是结构化数据还是非结构化数据。

在创建Hadoop集群时,从服务器上创建的每个子节点都会附带一个称为本地Hadoop分布式文件系统(HDFS)的磁盘存储块。

你可以使用常见的处理框架(如Hive、Ping和Spark)对存储数据进行查询。但是,本地磁盘上的数据只在相关实例的生命期内持久化。

如果使用Hadoop的存储层(即HDFS)来存储数据,那么存储与计算将耦合在一起。增加存储空间意味着必须增加更多的机器,这也会提高计算能力。为了获得最大的灵活性和最佳成本效益,需要将计算和存储分开,并将两者独立伸缩。

总的来说,对象存储更适合数据湖,以经济高效的方式存储各种数据。基于云计算的数据湖在对象存储的支持下,可以灵活地将计算和存储解耦。

6、数据湖

数据湖是结构化和非结构化数据的集中存储库。数据湖正在成为在集中存储中存储和分析大量数据的一种流行方式。它按原样存储数据,使用开源文件格式来实现直接分析。

由于数据可以按当前格式原样存储,因此不需要将数据转换为预定义的模式,从而提高了数据摄取的速度。如图1所示,数据湖是企业中所有数据的单一真实来源。

数据存储方式有哪些(数据类型的存储方式)

图1数据湖的对象存储

数据湖的好处如下:

从各种来源摄取数据:数据湖可以让你在一个集中的位置存储和分析来自各种来源(如关系型、非关系型数据库以及流)的数据,以产生单一的真实来源。它解答了一些问题,例如,为什么数据分布在多个地方?单一真实来源在哪里?

采集并高效存储数据:数据湖可以摄取任何类型的数据,包括半结构化和非结构化数据,不需要任何模式。这就回答了如何从各种来源、各种格式的数据中快速摄取数据,并高效地进行大规模存储的问题。

随着产生的数据量不断扩展:数据湖允许你将存储层和计算层分开,对每个组件分别伸缩。这就回答了如何随着产生的数据量进行伸缩的问题。

将分析方法应用于不同来源的数据:通过数据湖,你可以在读取时确定数据模式,并对从不同资源收集的数据创建集中的数据目录。这使你能够随时、快速地对数据进行分析。这回答了是否能将多种分析和处理框架应用于相同的数据的问题。

你需要为数据湖提供一个能无限伸缩的数据存储解决方案。将处理和存储解耦会带来巨大的好处,包括能够使用各种工具处理和分析相同的数据。

虽然这可能需要一个额外的步骤将数据加载到对应工具中,但使用AmazonS3作为中央数据存储比传统存储方案有更多的好处。

数据湖还有其他好处。它能让你的架构永不过时。假设12个月后,可能会有你想要使用的新技术。因为数据已经存在于数据湖,你可以以最小的开销将这种新技术插入工作流程中。

通过在大数据处理流水线中构建模块化系统,将AWSS3等通用对象存储作为主干,当特定模块不再适用或有更好的工具时,可以自如地替换。

更多服务器知识文章推荐:
分享到 :
相关推荐

Hostwinds联系技术客户获得帮助的四种简单方法(hostwinds 教程)

如今使用Hostwinds主机的朋友越来越多。但目前Hostwinds还没有开通中文...

如何在Ubuntu 18.04上安装GCC编译器(ubuntu16.04安装gcc编译器)

GNU编译器集合(GCC)是C。C++。Objective-C。Fortran。A[...

WordPress和Duda哪个好

WordPress和Duda哪个好?WordPress和Duda都是比较受欢迎的内容...

hostease建站教程(hostinger建站)

对于刚入门的外贸新手来讲。不知道怎样搭建网站。实际上利用开源程序即可快速搭建出简单的...

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注