SQL 和 SPL 的动态转置对比
【摘要】
转置功能常用报表等前端展现,将查询出来的数据转置成指定的显示格式。比如行转列,列转行,以及比较复杂的动态转置等等。SQL 和 SPL 是大家比较熟悉的程序语言,本文将探讨对于转置问题,这两种语言的解决方案和基本原理。如何简便快捷的处理转置运算,这里为你全程解析,并提供 SQL 和 SPL 示例代码。SQL 和 SPL 的动态转置对比
动态行转列,是指转置时生成的字段不能事先指定,只能根据原字段的取值动态确定。
1. 根据字段值自动生成列
【例 1】 根据员工表,统计各部门在不同地区的平均工资。部分数据如下:
ID |
NAME |
SURNAME |
STATE |
DEPT |
SALARY |
1 |
Rebecca |
Moore |
California |
R&D |
7000 |
2 |
Ashley |
Wilson |
New York |
Finance |
11000 |
3 |
Rachel |
Johnson |
New Mexico |
Sales |
9000 |
4 |
Emily |
Smith |
Texas |
HR |
7000 |
5 |
Ashley |
Smith |
Texas |
R&D |
16000 |
… |
… |
… |
… |
… |
… |
期望得到如下格式结果:
DEPT |
California |
Colorado |
Florida |
… |
Administration |
9333.333
|
… |
||
Finance |
8000 |
5000 |
10000 |
… |
HR |
10000 |
7000 |
… |
|
… |
… |
… |
… |
… |
SQL的解决方案:
在本例中,结果集的字段名称是从 STATE 字段值中提取的。前面介绍过,在 SQL 中不允许将非常量表达式用于 PIVOT/UNPIVOT 值,所以 PIVOT 不能用于动态的行转列。SQL 语句本身也不支持返回动态的结构,无法实现动态行转列。
想要通过数据库实现这个问题,可以使用存储过程来构造动态的 SQL 语句。本文重点是比较 SQL 和 SPL 语句,就不再具体说明了。
SPL的解决方案:
这个例子是行转列,目标字段需要从数据中提取。函数 A.pivot() 支持这种动态转置,不指定目标字段时,它会自动提取目标字段的名称。
A |
|
1 |
=T("Employee.csv") |
2 |
=A1.groups(STATE,DEPT;avg(SALARY):AVG_SALARY) |
3 |
=A2.pivot(DEPT; STATE, AVG_SALARY) |
A1:导入员工表。
A2:分组汇总每个州各部门的平均工资。
A3:使用函数 A.pivot() 行转列,不指定目标字段时,会自动提取目标字段的名称。
2. 通过计算动态生成列名
【例 2】 根据收入明细表,统计每位员工各类收入的情况,类别自动生成。部分数据如下:
NAME |
SOURCE |
INCOME |
David |
Salary |
8000 |
David |
Bonus |
15000 |
Daniel |
Salary |
9000 |
Andrew |
Shares |
26000 |
Andrew |
Sales |
23000 |
… |
… |
… |
期望得到如下格式结果:
NAME |
SOURCE1 |
INCOME1 |
SOURCE2 |
INCOME2 |
… |
Andrew |
Shares |
26000 |
Sales |
23000 |
… |
Daniel |
Salary |
9000 |
… |
||
David |
Salary |
8000 |
Bonus |
15000 |
… |
Robert |
Bonus |
13000 |
… |
||
… |
… |
… |
… |
… |
… |
SQL的解决方案:
在本例中,列名需要根据字段的取值动态计算取得。不确定行转列后,列的数量,甚至连列名也不能完全确定。SQL 语句无法实现这类动态行转列。
SPL的解决方案:
目标字段并不是从某个字段动态取出,而是需要动态计算取得,这时就不能使用函数 A.pivot() 了。我们可以根据收入类型最长的一组,动态生成目标结构,再填充数据。
A |
|
1 |
=T("Income.txt").group(NAME) |
2 |
=A1.max(~.len()) |
3 |
=create(NAME, ${A2.("SOURCE"/~/", INCOME"/~).concat@c()}) |
4 |
>A1.(A3.record(~.NAME | ~.conj([SOURCE, INCOME]))) |
A1:导入收入明细表,并按姓名分组。
A2:计算分组成员的最大数量,即最多的收入分类数。
A3:根据最多的收入分类数动态生成列名,创建空表。
A4:对各组循环,将每组的姓名、收入来源和收入金额填充到 A3 创建的表中。
3. 表间关联的动态行专列
【例 3】 根据订单表、订单明细表和产品表,查询出 2014 年每个客户每日购买产品的汇总表。其中订单表和订单明细表是一对多关系,每个订单有多条明细数据。订单明细表与产品表是多对一关系,订单明细表中的产品 ID 字段指向了产品表的 ID 字段。部分数据如下:
ORDERS:
ID |
CUSTOMERID |
EMPLOYEEID |
ORDER_DATE |
ARRIVAL_DATE |
10248 |
VINET |
5 |
2012/07/04 |
2012/08/01 |
10249 |
TOMSP |
6 |
2012/07/05 |
2012/08/16 |
10250 |
HANAR |
4 |
2012/07/08 |
2012/08/05 |
10251 |
VICTE |
3 |
2012/07/08 |
2012/08/05 |
10252 |
SUPRD |
4 |
2012/07/09 |
2012/08/06 |
… |
… |
… |
… |
… |
ORDER_DETAIL:
ID |
ORDER_NUMBER |
PRODUCTID |
PRICE |
COUNT |
DISCOUNT |
10814 |
1 |
48 |
102.0 |
8 |
0.15 |
10814 |
2 |
48 |
102.0 |
8 |
0.15 |
10814 |
3 |
48 |
306.0 |
24 |
0.15 |
10814 |
4 |
48 |
102.0 |
8 |
0.15 |
10814 |
5 |
48 |
204.0 |
16 |
0.15 |
… |
… |
… |
… |
… |
… |
PRODUCT:
ID |
NAME |
SUPPLIERID |
CATEGORY |
1 |
Apple Juice |
2 |
1 |
2 |
Milk |
1 |
1 |
3 |
Tomato sauce |
1 |
2 |
4 |
Salt |
2 |
2 |
5 |
Sesame oil |
2 |
2 |
… |
… |
… |
… |
期望得到如下格式结果:
ORDER_DATE |
CUSTOMERID |
PRODUCT1 |
COUNT1 |
PRODUCT2 |
COUNT2 |
… |
2014/1/5 |
VICTE |
Corn flakes |
8 |
|||
2014/1/23 |
CONSH |
Chicken |
3 |
Cake |
9 |
|
… |
… |
… |
… |
… |
… |
… |
SQL的解决方案:
与前面的例子类似,SQL 语句无法实现这类动态行转列。
SPL的解决方案:
首先将几个表通过关联关系进行连接,然后再按前面题目的思路解决即可。
A |
|
1 |
=T("Orders.txt").select(year(ORDER_DATE)==2014) |
2 |
=T("Product.txt") |
3 |
=T("OrderDetail.txt").switch(PRODUCTID,A2:ID).group(ID) |
4 |
=join(A1:ORDERS,ID;A3:DETAIL,ID) |
5 |
=create(DATE,CUSTOMERID,${A4.max(DETAIL.len()).("PRODUCT"/~/","/"COUNT"/~).concat@c()}) |
6 |
>A4.run(A5.record([ORDERS.ORDER_DATE,ORDERS.CUSTOMERID]|DETAIL.([PRODUCTID.NAME,COUNT]).conj())) |
A1:导入订单表,并选出 2014 年的记录。
A2:导入产品表。
A3:导入订单明细表,与产品表通过产品 ID 连接,将产品 ID 转换为对应的产品记录。然后按订单 ID 分组。
A4:订单表与订单明细表按照订单 ID 连接。
A5:根据订单明细最多的一组计算目标表结构,并创建空表。
A6:循环订单信息,顺序将数据填充到 A5 创建的表中。
其实本例与前面的动态转置并没有本质上的不同,只是多了一步,将几个表通过关联关系进行连接。然后根据需求创建目标数据结构,再填入数据即可。
总结
通过 SQL 和 SPL 转置对比的三篇文章,我们可以看到,SQL 提供的静态转置功能 PIVOT 和 UNPIVOT 适用范围很受限,而且还只有部分数据库支持。要用 SQL 实现一些比较复杂的静态转置功能,常常会遇到语句过于复杂的问题,而且也缺少一个标准的解决思路。对于动态转置,SQL 语句则是无法实现,只能通过存储过程生成动态 SQL 等较为复杂的方式解决。
而 SPL 所提供的转置功能要更加灵活,适应性也更加广泛,可以满足各种复杂的转置需求。更重要的是,SPL 处理复杂转置问题的思路非常清晰,首先按照需求创建目标数据结构,再将计算出的数据依次填入表中即可。
另外,当查询比较复杂时,SQL 语句的复杂程度会成倍增加。比如经常要用到临时表、嵌套查询等等,使得 SQL 语句的编写和维护难度提升。而 SPL 只要按自然思维去组织计算逻辑,逐行书写出简洁的代码。
esProc 是专业的数据计算引擎,基于有序集合设计,同时提供了完善的集合运算,相当于 Java 和 SQL 优势的结合。在 SPL 的支持下,转置运算会非常容易。
SQL 与 SPL 对比系列:
SQL 和 SPL 的集合运算对比
SQL 和 SPL 的选出运算对比
SQL 和 SPL 的有序运算对比
SQL 和 SPL 的等值分组对比
SQL 和 SPL 的非等值分组对比
SQL 和 SPL 的有序分组对比
SQL 和 SPL 的一对一和一对多连接对比
SQL 和 SPL 的多对一连接对比
SQL 和 SPL 的多对多连接对比
SQL 和 SPL 的基本静态转置对比
SQL 和 SPL 的复杂静态转置对比
SQL 和 SPL 的动态转置对比
SQL 和 SPL 的递归对比
英文版