计算＆AI •
874 引用 •
936 回帖 •
446 关注
博客
关注
-
ETL 是将数据从来源端经过清洗（extract）、转换（transform）、加载（load）至目的端的过程。正常的 ETL 过程应当是 E、T、L 这三个步骤逐步进行，也就是先清洗转换之后 ..
-
大数据表关联时，有时会先对关联表做条件过滤。对于关联字段是主键或者部分主键的情况，SPL 在有序归并关联算法（参考这里）的基础上提供关联定位算法，来提升过滤后关联的计算性能。 先来看关联表按照 ..
-
JAVA开发中经常会遇到不方便使用数据库，但又要进行结构化数据计算的场景。JAVA早期没有提供相关类库，即使排序、分组这种基本计算也要硬写代码，开发效率很低。后来JAVA8推出了Stream库 ..
-
在大数据表关联场景中，如果各个表按照主键或部分主键关联，我们可以采用 SPL 附表机制来做性能优化。 附表机制是将上述要关联的表绑在一起存储。以客户表 customer 和联系方式表 cont ..
-
[链接]文本为什么更慢？ 文本文件慢的原因，主要在于会多出很多数据类型解析的动作。 举个例子，设想一下把文本“12345' 转成内存二进制整数 12345 的过程： 1. 先设结果的初始值为 ..
-
大表关联常常会出现性能问题。对于关联字段是主键或者部分主键的情况，SPL 提供有序归并算法来计算。 有序关联算法，要事先把这些关联表的数据按其主键排序。排序的成本虽然较高，但是一次性的。一旦完 ..
-
大数据计算场景下，很多比较复杂的算法都会产生落地的中间结果，出现对外存的读写，从而影响性能。 例如，帐户交易表 trades 包含帐号 id，交易日期 dt 和交易金额 amou ..
-
Kafka是一种分布式的信息流平台，它的客户端分为生产者、消费者两种，生产者提交数据，消费者读取数据。Kafka中传递的事件消息没有固定格式，消费者、生产者自由约定一些个性化格式，比如是JSO ..
-
遍历复用的原理 对外存数据表做遍历计算时，大部分时间都用来从硬盘上读取数据了。所以我们会希望一次读取能做尽量多的事情，也就是尽量做到能复用遍历过程中读出来的数据。 比如我们对订单 ..
-
结构化数据查询中，常常会遇到全文检索的需求。比如，在国家表中，查找 Ch 开头的国家；或者在“帖子”表中，查找“内容”字段包含 water 的记录。 面向搜索的全文检索虽然能解决这个问题，但不 ..
-
Cassandra是一种分布式的NoSQL数据库。JAVA中可以使用DataStax执行Cassandra的CQL，CQL语言能简单地维护、读写数据，但不支持关联、分组聚合等操作，计算能力比关 ..
-
外存索引是在原表之外建立的，被查找字段值和原表记录物理位置的关联表。在查找时，用指定值从这个关联表中迅速获得原表物理位置，再去读取原表记录。 这样，索引中会存储很多被查找字段值。要在其中找到指 ..
-
现代信息系统多数据源的情况很常见，尤其分析型应用经常要跨多数据源混合计算实现数据统计分析。由于数据源种类众多，有 RDB，也有 NoSQL，还有 CSV、Excel 等文件，JSON、XML ..
-
在数据分析时，经常遇到内存无法放下的数据，需要借助硬盘完成数据分析，本文对比 Python 和 SPL 对这种数量级数据的运算分析能力，至于更大级别如 ..
-
业务逻辑经常包含较复杂的流程和计算，同时涉及数据库的读写。由于授权麻烦、影响数据库安全、无法迁移、技术要求高、编写困难等原因，很多场景不适合用存储过程实现业务逻辑。因为不擅长复杂的流程处理，S ..
-
使用数据库存储数据很常见，数据库不仅提供了多种存储策略，还可以满足数据一致性的要求，基于数据库还能很方便完成数据计算，但使用数据库存储数据也有一些缺点，在一些场景下并非最佳选择。与数据库相对的 ..
-
《Python和 SPL对比系列 10——一对 N关联》介绍了关联关系中的一对一和一对 N 关联，本文对比 Python 和 SPL 多对一关联的运算能 ..
-
FTP是常用的文件传输服务。JAVA虽然也提供了从FTP server读写文件的接口，但用起来不够便捷，因此，SPL进一步地提供了方便函数。 创建/ 关闭FTP 连接 使用方式类似关系数据库的 ..
-
索引类似于原表的 '目录'，是在原表之外，另外建立的存储结构。在做查找计算时，先查索引，在 '目录' 中找到原表的位置，再去原表找到对应的记录。查索引比查原表快的越多，索引提速的效果越明显。 ..
-
报表查询分析都要涉及数据准备，就是把原始数据加工成可以呈现或分析的形式（如常见的报表数据集）。不过，数据准备经常并不轻松，可能面临各种复杂的情况。 数据准备面临的挑战 多样性数据源 当前业务的 ..
-
日常工作中，经常需要把多个 Excel 文件的数据合并到一起，便于做各种统计分析。 1 纵向合并 - 列名列数相同 最简单常见的 ..
-
数据分析中，经常会遇到两表或多表关联，表间关联关系可以分为以下几种：一对一、一对多、多对一和多对多。一对一关联，是指一张表的一条记录只与另外一张表的一条记录对应；一对多关联，是指一张表的一条记 ..
-
分组后再汇总，通常会得到一个比原集合更小的集合，相当于做了聚合；逆分组相当于分组的逆运算，用一个较小的数据表通过某种规则计算出一个更大的数据表；转置也就是常说的行转列，相当于是分组的变种，逆转 ..
-
Redis是K-V数据库，value可以是String、Hashmap、List、Set、Sortedset。针对每种value提供了一系列不同的操作命令，加上一些管理命令，总计三百多个。这些 ..
-
SPL 不仅可以做数据准备和计算，还可以调用润乾报表的外部库来生成有格式要求的报表，比如导出 Excel、pdf、Word、Html 等格式，并且 SPL 脚本可以集成到 JAVA 程序中调用 ..
