-
[图片] 在数据查询时，有时会碰到数据量很大的清单报表。用户输入的查询条件很宽泛，可能会从数据库中查出几百上千万行甚至过亿的记录。如果等着把这些记录全部检索出来再生成报表呈现，那需要很长时间， ..
-
[图片] 大数据的 4 个 V 说法在业界已经尽人皆知，这是指的大数据本身的特征。现在我们来考察一下用于处理大数据的技术应该具有的特性。为方便记忆，类似 4 个 V，我们把这些特性总结成 4 ..
-
[图片] 这几天中国数据库界出了一件悲伤的事情，南大通用创始人崔维力先生突然因病去世。我和崔先生神交已久，但却未曾谋面，一直希望有机会当面沟通讨教，这一下就成永远的遗憾了。 崔先生的英年早逝（ ..
-
[图片] 现在有个说法，国家对基础软硬件的投入太少，经常会说微软、Oracle、Intel 这些巨头每年的研发费有多少多少，我们的投入连个零头都不到，当然做不出什么象样的东西了。 看起来还真是 ..
-
[图片] 一家之言，开个脑洞。 操作系统在市场上的关键点，并不在于进程管理、文件系统这些看起来很核心的东西，这些东西真地可以抄（借鉴一下没关系的）。操作系统要普及成功，关键在于上面开发技术的方 ..
-
[图片] 这标题摆明了就是招人骂，一下子把国内做数据库的同行们都得罪了，甚至连自己都没落下（我也算做数据库的，而且当然也是国产的）。 这观点已经有 N 年了，而且也多次讲过。这次正好有个热点来 ..
-
[图片] 自从 AlphaGo 赢了之后，人工智能就变得非常热门了。不过，大家在关注“智能”时，却很少把注意力放在“人工”上，似乎感觉上了人工智能之后，一切都能自动化了。其实，这份智能的背后有 ..
-
[图片] 前一阵子公司有个售前来沟通某个用户的情况：数据量比较大，又涉及很多复杂的关联计算，在数据库中用 SQL 计算性能很差。本来这种场景是比较适合集算器的集文件（集算器特有的压缩二进制格式 ..
-
[图片] 下面是我在学习了解区块链技术过程中产生的疑问，思考问题的过程中也会让自己对这项技术理解得更深刻。我不算初学者（知道区块链已有五年之久了），但一直也没有深入学习，不能算链圈的专业人士， ..
-
[图片] 时光匆匆，《数据蒋堂》已经走过一年。在这里，也庸俗地感谢一下读者们的一路相伴！ 老实说，这一年写这玩意儿有点难度的，主要原因是时间周期卡得有点死，每周一篇执行起来是不太容易，一开始小 ..
-
[图片] Hadoop 是当前重要的大数据计算平台，它试图摒弃传统数据库的理念，重新构建一套新的大数据体系。但是，这并不是件很容易的事，在 Hadoop 的设计和实现中能看到一些先天不足的地方 ..
-
[图片] Hadoop 是个庞大的重型解决方案，它的设计目标本来就是大规模甚至超大规模的集群，面对的是上百甚至上千个节点，这样就会带来两个问题： 1.自动化管理管任务分配机制：这样规模的集群， ..
-
[图片] 这好像是个多余的问题，大部分大数据平台都把集群透明化作为一个基本目标在努力实现。 所谓集群透明化，是指把一个多台机器的集群模拟得像一个巨大的单机，只是系统管理层面知道体系是由很多单机 ..
-
虽然我们说了不少 SQL 在性能上的不足，但是，回归 SQL 却是当前大数据计算语法的一个发展倾向。在 Hadoop 体系中，早期的 PIG Latin 已经被淘汰，而 Hive 却一直坚挺； ..
-
[图片] 临时性计算，顾名思义，是指临时发生的一些计算需求。这种计算在日常数据处理中很常见，我们举一些例子： 应对业务部门的取数需求：比如销售部门想获得进行了某项促销活动前后的销售情况变化信息 ..
-
[图片] 报表开发，看起来只是数据呈现环节的事务，并不起眼，但仔细想想，它涉及的工作范围却非常广。如果把查询和交互分析也认为是报表事务的话（呈现形式本来也是报表），那么可以说，绝大多数 ETL ..
-
[图片] 我们继续从软件角度上看外存数据源的性能，来考察数据库的性能特点，在这篇文章中，我们只关心数据的访问性能，而不涉及计算性能。 关系数据库 关系数据库也是很常见的数据存储方式。本质上讲， ..
-
[图片] 我们讲过硬盘的性能特征，主要是针对硬件和操作系统层面进行分析的，现在我们来考虑应用软件层面的差异。 理论上讲，软件可以穿过操作系统直接进行磁盘扇区的访问，但实在太过于麻烦而几乎不会实 ..
-
[图片] 针对我们为数据分段设定的 4 个目标，区块方案会在灵活性和紧凑性之间出现一定的矛盾，还算不上很好，而且这个方案对于列存也不是太适合。 数据按列分别存储后，分段时必须保证各列同步，即各 ..
-
[图片] 现代计算机一般都有多 CPU 核，而日益广泛应用的固态硬盘也有较强的并发能力，这些硬件资源都为并行计算提供了有力的保证。不过，要实现并行计算还需要有较好的数据分段技术，也就是能方便地 ..
-
[图片] 明确维度定义后，还可以换一种更清晰的方式来审视数据库的结构。 这是我们常见的 E-R 图： [图片] E-R 图是个网状结构，实体（表）之间的外键关系直接画在图上，当实体较多时这个图 ..
-
[图片] 有了维度定义后，我们就可以来梳理前面讲过的简化 JOIN 语法了。 先定义字段维度： 维度字段的维度为其本身； 外键字段的维度为相应外键表中关联字段的维度； 测度字段没有维度； 这是 ..
-
[图片] 谈到数据分析时常常会用到维度这个词，针对数据立方体的钻取、旋转、切片等操作都是围绕维度进行的，几乎所有的数据分析人员都知道并会运用这个术语，但要问及它的定义，却几乎没有人能给出来。 ..
-
[图片] 我们再来看同维表和主子表的 JOIN，这两种情况的优化提速手段是一样的。 设两个关联表的规模（记录数）分别是 N 和 M，则 HASH 分段技术的计算复杂度（关联字段的比较次数）大概 ..
-
[图片] 我们继续讨论外键 JOIN，并延用 上一篇 的例子。 当数据量大到无法全部放进内存时，前述的指针化方法就不再有效了，因为在外存无法保存事先算好的指针。 一般来讲， ..
