-
[图片] 减少外存（硬盘）访问量一直是提高大数据计算性能的永恒话题，我们也讨论过列存、压缩等直接减少访问量甚至存储量的手段。除了这些存储层面的方法外，在算法和计算实现环节，也可以想办法减少外存 ..
-
[图片] 我们知道，外存（硬盘）的性能远远低于内存，即使是同样复杂度的运算（CPU 计算量相同），如果能减少外存的访问量，也会大大提高整体性能。甚至有时我们需要用 CPU 换硬盘，即宁可多消耗 ..
-
[图片] 最近碰到几家用户在使用 HBase 或者试图使用 HBase 来做高性能查询，场景也比较类似，就是从几十亿甚至上百亿记录中按键值找出相关记录来。按说，这种 key-value 式的数 ..
-
[图片] 用户在选购 BI 解决方案的时候，常常会更关注界面环节的功能指标，比如美观性、操作的流畅性、移动端支持等等。毕竟，BI 是要给业务人员使用的，这些看得见的内容一般不容易被遗漏。 然而 ..
-
[图片] 经常有用户会问这个问题，你家的产品能处理多大数据量？似乎是这个值越大产品就越牛。 这个问题，其实没多大意义。 能处理多大的数据量，还有个很关键的因素是期望的响应时间，在脱离这个因素单 ..
-
[图片] 大数据的性能是个永恒的话题。但是，在实际工作中我们发现，许多人都不知道如何进行最简单的性能估算，结果经常被大数据厂商忽悠:)。 这个办法在以往也提到过，不过没有以这个题目明确地点出来 ..
-
[图片] 我们谈了大清单报表的呈现方法，其实有时候这些报表还需要打印，比如银行打印流水对账单。 那么，打印是不是也要像呈现那样做一个缓存机制呢？ 没有这个必要。打印和浏览不同，一般是从头到尾过 ..
-
[图片] 在数据查询时，有时会碰到数据量很大的清单报表。用户输入的查询条件很宽泛，可能会从数据库中查出几百上千万行甚至过亿的记录。如果等着把这些记录全部检索出来再生成报表呈现，那需要很长时间， ..
-
[图片] 大数据的 4 个 V 说法在业界已经尽人皆知，这是指的大数据本身的特征。现在我们来考察一下用于处理大数据的技术应该具有的特性。为方便记忆，类似 4 个 V，我们把这些特性总结成 4 ..
-
[图片] 这几天中国数据库界出了一件悲伤的事情，南大通用创始人崔维力先生突然因病去世。我和崔先生神交已久，但却未曾谋面，一直希望有机会当面沟通讨教，这一下就成永远的遗憾了。 崔先生的英年早逝（ ..
-
[图片] 现在有个说法，国家对基础软硬件的投入太少，经常会说微软、Oracle、Intel 这些巨头每年的研发费有多少多少，我们的投入连个零头都不到，当然做不出什么象样的东西了。 看起来还真是 ..
-
[图片] 一家之言，开个脑洞。 操作系统在市场上的关键点，并不在于进程管理、文件系统这些看起来很核心的东西，这些东西真地可以抄（借鉴一下没关系的）。操作系统要普及成功，关键在于上面开发技术的方 ..
-
[图片] 这标题摆明了就是招人骂，一下子把国内做数据库的同行们都得罪了，甚至连自己都没落下（我也算做数据库的，而且当然也是国产的）。 这观点已经有 N 年了，而且也多次讲过。这次正好有个热点来 ..
-
[图片] 自从 AlphaGo 赢了之后，人工智能就变得非常热门了。不过，大家在关注“智能”时，却很少把注意力放在“人工”上，似乎感觉上了人工智能之后，一切都能自动化了。其实，这份智能的背后有 ..
-
[图片] 前一阵子公司有个售前来沟通某个用户的情况：数据量比较大，又涉及很多复杂的关联计算，在数据库中用 SQL 计算性能很差。本来这种场景是比较适合集算器的集文件（集算器特有的压缩二进制格式 ..
-
[图片] 下面是我在学习了解区块链技术过程中产生的疑问，思考问题的过程中也会让自己对这项技术理解得更深刻。我不算初学者（知道区块链已有五年之久了），但一直也没有深入学习，不能算链圈的专业人士， ..
-
[图片] 时光匆匆，《数据蒋堂》已经走过一年。在这里，也庸俗地感谢一下读者们的一路相伴！ 老实说，这一年写这玩意儿有点难度的，主要原因是时间周期卡得有点死，每周一篇执行起来是不太容易，一开始小 ..
-
[图片] Hadoop 是当前重要的大数据计算平台，它试图摒弃传统数据库的理念，重新构建一套新的大数据体系。但是，这并不是件很容易的事，在 Hadoop 的设计和实现中能看到一些先天不足的地方 ..
-
[图片] Hadoop 是个庞大的重型解决方案，它的设计目标本来就是大规模甚至超大规模的集群，面对的是上百甚至上千个节点，这样就会带来两个问题： 1.自动化管理管任务分配机制：这样规模的集群， ..
-
[图片] 这好像是个多余的问题，大部分大数据平台都把集群透明化作为一个基本目标在努力实现。 所谓集群透明化，是指把一个多台机器的集群模拟得像一个巨大的单机，只是系统管理层面知道体系是由很多单机 ..
-
虽然我们说了不少 SQL 在性能上的不足，但是，回归 SQL 却是当前大数据计算语法的一个发展倾向。在 Hadoop 体系中，早期的 PIG Latin 已经被淘汰，而 Hive 却一直坚挺； ..
-
[图片] 临时性计算，顾名思义，是指临时发生的一些计算需求。这种计算在日常数据处理中很常见，我们举一些例子： 应对业务部门的取数需求：比如销售部门想获得进行了某项促销活动前后的销售情况变化信息 ..
-
[图片] 报表开发，看起来只是数据呈现环节的事务，并不起眼，但仔细想想，它涉及的工作范围却非常广。如果把查询和交互分析也认为是报表事务的话（呈现形式本来也是报表），那么可以说，绝大多数 ETL ..
-
[图片] 我们继续从软件角度上看外存数据源的性能，来考察数据库的性能特点，在这篇文章中，我们只关心数据的访问性能，而不涉及计算性能。 关系数据库 关系数据库也是很常见的数据存储方式。本质上讲， ..
-
[图片] 我们讲过硬盘的性能特征，主要是针对硬件和操作系统层面进行分析的，现在我们来考虑应用软件层面的差异。 理论上讲，软件可以穿过操作系统直接进行磁盘扇区的访问，但实在太过于麻烦而几乎不会实 ..
