简单几行代码轻松实现大文本并行计算
关键词导读:大文本计算 并行计算
对于大文件的处理,可以充分利用现代计算机的多核CPU,实施多线程并行计算,从而达到提速的目的。然而,要在程序语言中编写多线程并行程序,并不是一件容易的事。
要并行处理就需要将源文件分段,每个线程处理其中一段。文本文件一般是每一行对应一条记录,每一行长度不一定相同。所以,不能按行数分段,因为每次都从头遍历,起不到提高性能的目标;若按字节分段则不需要遍历,但有可能分段点正好落在行的中间,造成一行被拆进两段,导致数据错误。有效的解决办法是采用自动去头补尾的字节分段机制,即分段开始点所在的行被舍弃,分段结束点所在的行会被补齐,这样将确保每一段都由完整的行构成,不会有数据错误。另外,还有线程的管理和控制等问题,如果管理不当,则会出现越界的情况。
如果有集算器SPL就简单多了,它对多线程并行计算进行了封装,代码写起来不仅更短而且更容易理解,这样在获得高性能的同时,让程序员把注意力更多地放在计算的整体逻辑上,而不必纠缠于为了提高性能而采用的并行细节。用集算器SPL写出并行计算代码:
|
A |
B |
C |
1 |
=file(“data.txt”) |
/源文件 |
|
2 |
fork 4 |
=A1.cursor@t(amount;A2:4) |
/分作4段并行,分别建立游标 |
3 |
|
=B2.groups(;sum(amount):am) |
/遍历游标计算amount之和 |
4 |
=A2.conj().sum(am) |
/汇总每个线程的结果 |
文本解析的时间经常比计算要长得多,有时候只要解析能够并行,计算本身是否并行并不重要。所以SPL对于读取数据提供了简单的内置并行选项,如果对数据读取次序不关心,比如分组、求和运算就不在乎次序,可以更简单地写出代码:
|
A |
B |
1 |
=file("orders.txt").cursor@mt() |
/@m选项将自动根据系统配置决定并行的线程数量 |
2 |
=A1.select(month(Date)==10) |
/过滤 |
3 |
=A2.groups(ID;sum(COST*WEIGHT):VALUE) |
/分组、汇总(串行) |
其实还有很多场景需要处理大文本计算,直接用集算器SPL处理会很简单,感兴趣可以参考:SPL结构化文本计算
集算器也是进行文件数据源处理的专业工具,可以方便地进行 TXT、Excel、Xml、Json、CSV、ini 等各种文件数据的混合计算、入库以及导出等工作。桌面级计算工具,即装即用,配置简单,调试功能完善,可设置断点、单步执行,每步执行结果都可查看。语法简单,符合人的自然思维,比其他高级开发语言更简单。请参阅:文件处理的应用场景
集算器还很容易嵌入到Java应用程序中,Java如何调用SPL脚本有使用和获得它的方法。
关于集算器安装使用、获得免费授权和相关技术资料,可以参见如何使用集算器。