计算＆AI •
874 引用 •
936 回帖 •
446 关注
博客
关注
-
WebService/Restful广泛应用于程序间通讯，如微服务、数据交换、公共或私有的数据服务等。之所以如此流行，主要是因为WebService/Restful采用了XML/Json这类多 ..
-
对Excel进行解析\生成\查询\计算等处理是Java下较常见的任务，但Excel的文件格式很复杂，自行编码读写太困难，有了POI\EasyExcel\JExcel等类库就方便多了，其中POI ..
-
XML和Json不仅是结构化文本，而且擅长表示多层数据，可承载足够通用和足够丰富的信息，因此常被用于各种数据交换和信息传递事务，比如WebService/Restful，微服务等。但多层数据要 ..
-
中间表是数据库中专门存放中间计算结果的数据表，往往是为了前端查询统计更快或更方便而在数据库中建立的汇总表，由于是由原始数据加工而成的中间结果，因此被称为中间表。在某些大型机构中，多年积累出来中 ..
-
发明 SQL 的初衷之一显然是为了降低人们实施数据查询计算的难度。SQL 中用了不少类英语的词汇和语法，这是希望非技术人员也能掌握。确实，简单的 SQL 可以当作英语阅读，即使没有程序设计经验 ..
-
T+0 问题 T+0 查询是指实时数据查询，数据查询统计时将涉及到最新产生的数据。在数据量不大时，T+0 很容易完成，直接基于生产数据库查询就可以了。但是，当数据量积累到一定程度时，在生产库中 ..
-
ETL 是将数据从来源端经过清洗（extract）、转换（transform）、加载（load）至目的端的过程。正常的 ETL 过程应当是 E、T、L 这三个步骤逐步进行，也就是先清洗转换之后 ..
-
业务逻辑由数据库读写、结构化数据计算、流程处理组成。SQL的设计初衷就是数据库读写和结构化数据计算，解决这两部分相对轻松，但因为缺乏流程处理语句（循环、判断），SQL难以独自实现完整的业务逻辑 ..
-
SQL计算能力较强，在JAVA开发中广泛应用于结构化数据计算，但SQL深度绑定数据库，存在架构性缺陷，包括计算代码难以移植、业务逻辑不支持热切换、计算性能无法低成本扩展等。现代应用架构更推崇在 ..
-
现在应用中的报表大都使用报表工具开发，成熟的报表工具提供了丰富的显示设置、图表类型、导出打印等功能可以简化报表开发，非常方便。但是，实际报表开发中还是经常碰到一些非常棘手的深层次问题，即使是已 ..
-
JAVA开发中经常会遇到不方便使用数据库，但又要进行结构化数据计算的场景。JAVA早期没有提供相关类库，即使排序、分组这种基本计算也要硬写代码，开发效率很低。后来JAVA8推出了Stream库 ..
-
转置功能常用报表等前端展现，将查询出来的数据转置成指定的显示格式。比如行转列，列转行，以及比较复杂的动态转置等等。动态行转列，是指转置时生成的字段不能事先指 ..
-
部分预汇总 多维分析后台的运算本质是分组汇总，可以直接对数据执行这个计算。但是，当数据量非常大的时候，很难做到即时响应。 预汇总是个容易想到的办法，即事先把各种汇总结果计算好，保存为中间结果（ ..
-
转置功能常用报表等前端展现，将查询出来的数据转置成指定的显示格式。比如行转列，列转行，以及比较复杂的动态转置等等。在《SPL：静态转置》一文中，我们为大家介 ..
-
Elasticsearch 是一个分布式搜索服务器，它提供了Restful API更新数据、搜索数据。提交的数据、搜索结果都是JSON格式，计算引擎语言SPL有json()函数解析JSON字符 ..
-
在大数据表关联场景中，如果各个表按照主键或部分主键关联，我们可以采用 SPL 附表机制来做性能优化。 附表机制是将上述要关联的表绑在一起存储。以客户表 customer 和联系方式表 cont ..
-
[链接]文本为什么更慢？ 文本文件慢的原因，主要在于会多出很多数据类型解析的动作。 举个例子，设想一下把文本“12345' 转成内存二进制整数 12345 的过程： 1. 先设结果的初始值为 ..
-
一、 问题背景与适用场景 在对数据集进行排序运算时，有时会遇到这样一种场景：数据集T已经按字段a有序，而字段b无序，现在我们要将T按a、b排序，我们称之为前半有序(a ..
-
大数据表关联时，有时会先对关联表做条件过滤。对于关联字段是主键或者部分主键的情况，SPL 在有序归并关联算法（参考这里）的基础上提供关联定位算法，来提升过滤后关联的计算性能。 先来看关联表按照 ..
-
InfluxDB是时序数据库，数据存储在它的bucket中，多个bucket又组成一个organization。每条数据由measurement、多个维度、多个字段值、时间戳构成： airSe ..
-
遍历复用的原理 对外存数据表做遍历计算时，大部分时间都用来从硬盘上读取数据了。所以我们会希望一次读取能做尽量多的事情，也就是尽量做到能复用遍历过程中读出来的数据。 比如我们对订单 ..
-
结构化数据查询中，常常会遇到全文检索的需求。比如，在国家表中，查找 Ch 开头的国家；或者在“帖子”表中，查找“内容”字段包含 water 的记录。 面向搜索的全文检索虽然能解决这个问题，但不 ..
-
外存索引是在原表之外建立的，被查找字段值和原表记录物理位置的关联表。在查找时，用指定值从这个关联表中迅速获得原表物理位置，再去读取原表记录。 这样，索引中会存储很多被查找字段值。要在其中找到指 ..
-
大表关联常常会出现性能问题。对于关联字段是主键或者部分主键的情况，SPL 提供有序归并算法来计算。 有序关联算法，要事先把这些关联表的数据按其主键排序。排序的成本虽然较高，但是一次性的。一旦完 ..
-
索引类似于原表的 '目录'，是在原表之外，另外建立的存储结构。在做查找计算时，先查索引，在 '目录' 中找到原表的位置，再去原表找到对应的记录。查索引比查原表快的越多，索引提速的效果越明显。 ..
