【数据蒋堂】第5期:1T数据到底有多大?

news/2024/10/30 23:25:49/

640?wx_fmt=png&wxfrom=5&wx_lazy=1

一英里不是个很长的距离,一立方英里相对于地球也不会让人觉得是个很大的空间。然后我说,这个空间内能装下全世界所有人,你会不会觉到很惊讶?不过这话不是我说的,是美国作家房龙在一本书里写的。

业内有个著名的数据仓库产品,叫Teradata,20多年前起这个名字,显然是想给人能处理海量数据的感觉。可现在,论用户还是厂商,谈论数据量时都常常以T为单位了,动不动就有几十上百T甚至PB级的数据。似乎T不是个多大的数,多几个几十个T也没什么大不了的。

其实T有点像上面说的立方英里,是个挺大的数。很多人对它没有多深的感性认识,我们要换个角度来看1T数据意味着什么。

先从空间上看

用于分析计算的数据仍然以结构化数据为主。结构化数据中占据空间最大的是不断增长的交易类记录,这种数据每条并不大,大概只有几十到100字节,比如银行交易只要记下帐号、日期、金额;电信的通话记录也只是通话号码、时刻、时长等。就按100字节算,也就是0.1K,那么1T空间就可以放下10G行记录,100亿条!

这是什么概念呢?一年大概是3000多万秒,如果用一年时间来积累1T数据,那意味着每秒要产生300多笔记录,24小时不停息!

这个数也不算大,像中国这样的大国,电信运营商、全国级银行以及大型互联公司都不难有这种规模的业务量。但对于一个城市级别甚至有些省级的机构就是个不小的数了,比如税务部门采集的企业交税信息、连锁超市的商品购买数据、城市商业银行的交易记录等,要达到300笔/秒并不容易,何况很多机构只有白天或工作日才能产生数据。而且这还只是1T,要搞到几十上百T,那就得让业务量再上一两个数量级才行。

简单说有多少T数据是没什么感觉的,换算成每秒对应的业务量后,才知道是不是靠谱。大数据分析计算产品的技术方案和数据量相关性非常强,正确估算自己的数据量对于大数据平台的建设是至关重要的。

如果用来存储音频视频这种非结构化数据, 或者仅仅用于备份原始凭据,那1T空间就存不了多少东西了,但这种数据一般也没什么要分析计算的需求,只是存储和检索,那不需要什么大数据计算平台,只要有个网络文件系统就行了,这成本就低多了。

再从时间上看

假设有1T数据,那么要多少时间才能处理一遍?有些厂商宣称能在数秒内处理TB级数据,用户经常也这样期望,这可能吗?

机械硬盘在操作系统下的读取数据大概是150M/秒(不能看硬盘厂商那个指标,根本达不到),固态硬盘快些,能翻个倍。我们就算300M/秒,那么1T数据只是读取不做任何运算也需要3000秒以上,接近一个小时!那怎么可能数秒内处理1T数据呢?很简单,增加硬盘,如果有1000块硬盘,那就可以在3秒左右读出1T数据了。

这还是比较理想的估算。实际上数据不大可能存放着那么整齐(硬盘不连续读取时性能下降严重),集群(1000块硬盘显然不会在一台机器上)还有网络延迟,有些运算可能还有回写动作(大分组和排序等),秒级访问常常还会有并发需求,这些因素综合起来,再慢几倍也是正常的。

现在我们知道了,1T数据意味着几个小时,或者上千块硬盘。而且还是前面的话,这只算了1T,可想而知几十上百T会是什么概念了。

有人说,硬盘太慢了,我们改用内存。

内存是比硬盘快得多,而且还适合并行计算。不过大内存的机器并不便宜(成本不是线性增长的),而且更糟糕的是,内存使用率经常很低。比如许多计算体系都是基于Java平台的,如果不做特别的压缩优化的话,JVM的内存利用率只有20%的样子,也就是硬盘上1T数据需要5T内存才能加载进来,这得装多少机器,花多少钱?


我们对1T有了上面这些感性认识后,听到多少多少T的说法时,就可以随时脑补出交易、节点数、成本等信息。做平台规划和产品选择时,就不容易被忽悠了。Teradata这个名字,今天也还不算过时的。


原文发布时间为:2017-5-4
本文作者:蒋步星
本文来自云栖社区合作伙伴“数据蒋堂”,了解相关信息可以关注“数据蒋堂”微信公众号

http://www.ppmy.cn/news/203925.html

相关文章

小白 也能听懂Hadoop到底是什么!

缘起 呆在舒适区太久了,最近学了下大数据,正好总结,复习一下,用一个小故事来带出Hadoop是什么 ! 有一天 ,我的朋友 小扬 在看 某老师的视频 ,他刚开始看的时候,查找没什么难度,一般…

两万字长文,彻底搞懂Kafka

点击关注公众号,实用技术文章及时了解 1、为什么有消息系统 1、解耦合 2、异步处理 例如电商平台,秒杀活动。 一般流程会分为: 风险控制库存锁定生成订单短信通知更新数据 通过消息系统将秒杀活动业务拆分开,将不急需处理的业务放…

iTunes只能装C盘吗_求你了,把软件装在C盘吧

欢迎分享本文到朋友圈,文章转载、投稿、业务合作联系请微信Havana90~~ 本文来源:IT之家张老湿:发现不少人有这种历史遗留的习惯。所以往一些软件里面装插件,找不到正确的路径,可能就杯具了~~ 很多同学在安装Windows时,…

【数据蒋堂】1T数据到底有多大?

一英里不是个很长的距离,一立方英里相对于地球也不会让人觉得是个很大的空间。然后我说,这个空间内能装下全世界所有人,你会不会觉到很惊讶?不过这话不是我说的,是美国作家房龙在一本书里写的。 业内有个著名的数据仓库…

macos windowserver占用内存_iMac 5K 硬件升级:加内存、外接 SSD

更新日志 2020.05.13 更新: macOS 10.15.4 依然完美运行,不同年份的 iMac 理论上都可采用此方法。 2019.02.21 更新: macOS 10.14.3 更新后,外置移动硬盘 APFS 格式无法启动的问题已经修复,大家可将外置 SDD 格式成 APFS 了,这样再更新系统的时候就不需要那么麻烦了。 20…

新手操作更换固态和重装系统竟然这么麻烦?!

新手操作更换固态和重装系统竟然这么麻烦?! 当我打开我的本子(已经用了三年)的任务管理器的时候,我看到了我的cpu占用20%,内存占用80%而且C盘将满,一个无法恶制的念头涌上心头:我&a…

你的硬盘有多快?,教你提升硬盘/NAS读写性能

速度是每个极客的追求,为了提升充电速度,我研究了各种充电头,写了篇「关于PD快充和快充充电器选购指南,看这一篇就够了」,还被张大妈首页推荐了。今天我们就来聊一聊机械硬盘 / 固态硬盘 / U盘 / NAS 等设备的理论极限…

想配个电脑玩魔兽世界9.0,要什么配置,大概多少钱?

这是魔兽世界9.0的最低配置和推荐配置: (括号内为参考价格,因各平台以及店铺优惠不同可能有所浮动,仅供参考) 2600元配置,预估可以野外做任务4-5档画质,打五人本2-3档画质,打团1档画…