【数据蒋堂】第 40 期:倍增分段技术
针对我们为数据分段设定的 4 个目标,区块方案会在灵活性和紧凑性之间出现一定的矛盾,还算不上很好,而且这个方案对于列存也不是太适合。
数据按列分别存储后,分段时必须保证各列同步,即各列的分段点对应的是同一条记录的列,否则就会出错数据错位。而各个列的宽度是不同的,同样大小的区块在存储不同列的值时,能装下的个数是不同的,继续按区块分段就无法保证同步了。
各列要同步分段,就需要按记录数分段,但这样就不能采用固定大小的区块了,而要有个区块索引。如果数据不再追加,那可以建立固定长度的索引,但数据不断追加时,索引也会动态增长。这时候,要么每次追加数据时把所有数据重写一遍保证索引的连续性,要么用有某种复杂机制能处理不连续的索引,都是成本不低的手段。
业界常用的列存分段也还是分块方案:把数据分成若干块,块内是列存,分段以块为单位。分块数要足够多才能保证平均分段,而分块又要足够大才能让列存产生效果,这两者就是个矛盾,要数据量很大时才合适。而且,这个分块是按记录数划分的,不能固定大小,就需要我们上面说的分块索引,当数据不断追加时,索引也会动态变大,连续性就无法保证了。
为解决这些问题,我们介绍一下润乾集算器采用的倍增分段技术。
先预留一个固定长度的索引区,可以保存 N 个索引块,编号为 1,…,N。N 是个固定的数,比如是 1024。
初始状态时没有数据。加入第 1 条记录后,在 1 号索引块中填入该记录(称为记录 1)的存储(比如文件)位置;加入第 2 条记录后,在 2 号索引块中填入记录 2 的位置,…;加入第 N 条记录后,在 N 号索引块中填入记录 N 的位置。
每个索引块可以看成是一个区块,k 号索引块对应的区块就是它保存的记录位置到第 k+1 号索引块保存的记录位置之间的所有记录(含头不含尾)。在这一轮追加后,相当于每个区块中只有一条记录。
再继续追加记录时,索引区已经没有空索引块了。这时我们做这样一个操作:把 1 号索引块保留,2 号索引块填入原 3 号索引块的内容,3 号索引块填入原 5 号索引块的内容,…,k 号索引块填入原 2k-1 号索引块的内容。这样一直到在 N/2 号索引块填入原 2*N/2-1 即 N-1 号索引块的内容信息,然后再把第 N/2+1 到 N 号索引块的内容清空。
这个操作,相当于把区块 1 和区块 2 合并成区块 1,区块 3 和区块 4 合并成区块 2,.. 区块 2k-1 和区块 2k 合并成区块 k,这些区块就变成由 2 条记录构成,数据记录本来就是连续写入的,这样合并后的区块仍然是由连续记录构成。
后半部分的索引块被清空后,就可以用于再追加记录了。但再追加时,要每次写 2 条记录才使用下一个索引块,即把记录 N+1 的位置填入 N/2+1 号索引块,记录 N+2 继续写入,记录 N+3 的位置填入 N/2+2 号索引块,记录 N+4 继续写入,…。
再追加下去填满所有索引块后,再次做合并动作,把每区块记录数再倍增成 4 条。同时空出后半部分索引块,再追加数据时每个索引块要增加 4 条记录才使用下一个索引块。…,如此往复下去。
在这个机制下,任何时候都有 N/2 到 N 个区块存储有数据,每个区块存储的记录数基本相同(只最后一个可能少几条),只要 N 足够大(1024 基本上够了),就可以做到平均程度较高的分段。每个分段由连续的区块构成,区块由连续紧凑的记录构成,这样能确保目标 3,而上述的算法过程已经解决了目标 4。而且,在遍历过程也不象固定区块方案有浪费,只是连续地从分段起始位置读到结束位置就可以,动作非常简单。
倍增分段方案是以记录数为基础的,所以对于列存也是适合的。各个列都采用这种方式追加数据后,分段点对于各列总是落在同一条记录上,不可能发生错位的现象,而且,每个列的数据都是一直连续的,没有中断点,不象分块方案在只能在分块内连续,也不会面对分块大小与数量的矛盾。
更多细节和代码样例可以参考乾学院上的资料。