SQL 和 SPL 的动态转置对比

【摘要】
    转置功能常用报表等前端展现,将查询出来的数据转置成指定的显示格式。比如行转列,列转行,以及比较复杂的动态转置等等。SQL 和 SPL 是大家比较熟悉的程序语言,本文将探讨对于转置问题,这两种语言的解决方案和基本原理。如何简便快捷的处理转置运算,这里为你全程解析,并提供 SQL 和 SPL 示例代码。SQL 和 SPL 的动态转置对比

复制摘要

 

动态行转列,是指转置时生成的字段不能事先指定,只能根据原字段的取值动态确定。

 

1. 根据字段值自动生成列

 

【例 1】 根据员工表,统计各部门在不同地区的平均工资。部分数据如下:

ID NAME SURNAME STATE DEPT SALARY
1 Rebecca Moore California R&D 7000
2 Ashley Wilson New   York Finance 11000
3 Rachel Johnson New   Mexico Sales 9000
4 Emily Smith Texas HR 7000
5 Ashley Smith Texas R&D 16000

期望得到如下格式结果:

DEPT California Colorado Florida
Administration

9333.333

 

Finance 8000 5000 10000
HR 10000 7000

 

SQL的解决方案:

    在本例中,结果集的字段名称是从 STATE 字段值中提取的。前面介绍过,在 SQL 中不允许将非常量表达式用于 PIVOT/UNPIVOT 值,所以 PIVOT 不能用于动态的行转列。SQL 语句本身也不支持返回动态的结构,无法实现动态行转列。

想要通过数据库实现这个问题,可以使用存储过程来构造动态的 SQL 语句。本文重点是比较 SQL 和 SPL 语句,就不再具体说明了。

 

SPL的解决方案:

    这个例子是行转列,目标字段需要从数据中提取。函数 A.pivot() 支持这种动态转置,不指定目标字段时,它会自动提取目标字段的名称。


A
1 =T("Employee.csv")
2 =A1.groups(STATE,DEPT;avg(SALARY):AVG_SALARY)
3 =A2.pivot(DEPT; STATE, AVG_SALARY)

A1:导入员工表。

A2:分组汇总每个州各部门的平均工资。

A3:使用函数 A.pivot() 行转列,不指定目标字段时,会自动提取目标字段的名称。

 

 

2. 通过计算动态生成列名

 

【例 2】 根据收入明细表,统计每位员工各类收入的情况,类别自动生成。部分数据如下:

NAME SOURCE INCOME
David Salary 8000
David Bonus 15000
Daniel Salary 9000
Andrew Shares 26000
Andrew Sales 23000

期望得到如下格式结果:

NAME SOURCE1 INCOME1 SOURCE2 INCOME2
Andrew Shares 26000 Sales 23000
Daniel Salary 9000
David Salary 8000 Bonus 15000
Robert Bonus 13000

 

SQL的解决方案:

    在本例中,列名需要根据字段的取值动态计算取得。不确定行转列后,列的数量,甚至连列名也不能完全确定。SQL 语句无法实现这类动态行转列。

 

SPL的解决方案:

    目标字段并不是从某个字段动态取出,而是需要动态计算取得,这时就不能使用函数 A.pivot() 了。我们可以根据收入类型最长的一组,动态生成目标结构,再填充数据。


A
1 =T("Income.txt").group(NAME)
2 =A1.max(~.len())
3 =create(NAME, ${A2.("SOURCE"/~/", INCOME"/~).concat@c()})
4 >A1.(A3.record(~.NAME | ~.conj([SOURCE, INCOME])))

A1:导入收入明细表,并按姓名分组。

A2:计算分组成员的最大数量,即最多的收入分类数。

A3:根据最多的收入分类数动态生成列名,创建空表。

A4:对各组循环,将每组的姓名、收入来源和收入金额填充到 A3 创建的表中。

 

3. 表间关联的动态行专列

 

【例 3】 根据订单表、订单明细表和产品表,查询出 2014 年每个客户每日购买产品的汇总表。其中订单表和订单明细表是一对多关系,每个订单有多条明细数据。订单明细表与产品表是多对一关系,订单明细表中的产品 ID 字段指向了产品表的 ID 字段。部分数据如下:

ORDERS:

ID CUSTOMERID EMPLOYEEID ORDER_DATE ARRIVAL_DATE
10248 VINET 5 2012/07/04 2012/08/01
10249 TOMSP 6 2012/07/05 2012/08/16
10250 HANAR 4 2012/07/08 2012/08/05
10251 VICTE 3 2012/07/08 2012/08/05
10252 SUPRD 4 2012/07/09 2012/08/06

ORDER_DETAIL:

ID ORDER_NUMBER PRODUCTID PRICE COUNT DISCOUNT
10814 1 48 102.0 8 0.15
10814 2 48 102.0 8 0.15
10814 3 48 306.0 24 0.15
10814 4 48 102.0 8 0.15
10814 5 48 204.0 16 0.15

PRODUCT:

ID NAME SUPPLIERID CATEGORY
1 Apple Juice 2 1
2 Milk 1 1
3 Tomato sauce 1 2
4 Salt 2 2
5 Sesame oil 2 2

 

期望得到如下格式结果:

ORDER_DATE CUSTOMERID PRODUCT1 COUNT1 PRODUCT2 COUNT2
2014/1/5 VICTE Corn flakes 8
2014/1/23 CONSH Chicken 3 Cake 9

 

SQL的解决方案:

    与前面的例子类似,SQL 语句无法实现这类动态行转列。

 

SPL的解决方案:

    首先将几个表通过关联关系进行连接,然后再按前面题目的思路解决即可。


A
1 =T("Orders.txt").select(year(ORDER_DATE)==2014)
2 =T("Product.txt")
3 =T("OrderDetail.txt").switch(PRODUCTID,A2:ID).group(ID)
4 =join(A1:ORDERS,ID;A3:DETAIL,ID)
5 =create(DATE,CUSTOMERID,${A4.max(DETAIL.len()).("PRODUCT"/~/","/"COUNT"/~).concat@c()})
6 >A4.run(A5.record([ORDERS.ORDER_DATE,ORDERS.CUSTOMERID]|DETAIL.([PRODUCTID.NAME,COUNT]).conj()))

A1:导入订单表,并选出 2014 年的记录。

A2:导入产品表。

A3:导入订单明细表,与产品表通过产品 ID 连接,将产品 ID 转换为对应的产品记录。然后按订单 ID 分组。

A4:订单表与订单明细表按照订单 ID 连接。

A5:根据订单明细最多的一组计算目标表结构,并创建空表。

A6:循环订单信息,顺序将数据填充到 A5 创建的表中。

 

    其实本例与前面的动态转置并没有本质上的不同,只是多了一步,将几个表通过关联关系进行连接。然后根据需求创建目标数据结构,再填入数据即可。

 

总结

通过 SQL 和 SPL 转置对比的三篇文章,我们可以看到,SQL 提供的静态转置功能 PIVOT 和 UNPIVOT 适用范围很受限,而且还只有部分数据库支持。要用 SQL 实现一些比较复杂的静态转置功能,常常会遇到语句过于复杂的问题,而且也缺少一个标准的解决思路。对于动态转置,SQL 语句则是无法实现,只能通过存储过程生成动态 SQL 等较为复杂的方式解决。

而 SPL 所提供的转置功能要更加灵活,适应性也更加广泛,可以满足各种复杂的转置需求。更重要的是,SPL 处理复杂转置问题的思路非常清晰,首先按照需求创建目标数据结构,再将计算出的数据依次填入表中即可。

    另外,当查询比较复杂时,SQL 语句的复杂程度会成倍增加。比如经常要用到临时表、嵌套查询等等,使得 SQL 语句的编写和维护难度提升。而 SPL 只要按自然思维去组织计算逻辑,逐行书写出简洁的代码。

esProc 是专业的数据计算引擎,基于有序集合设计,同时提供了完善的集合运算,相当于 Java 和 SQL 优势的结合。在 SPL 的支持下,转置运算会非常容易。

Employee.csv

Income.txt

Orders.txt

Product.txt

OrderDetail.txt

SQL 与 SPL 对比系列:
SQL 和 SPL 的集合运算对比
SQL 和 SPL 的选出运算对比
SQL 和 SPL 的有序运算对比
SQL 和 SPL 的等值分组对比
SQL 和 SPL 的非等值分组对比
SQL 和 SPL 的有序分组对比
SQL 和 SPL 的一对一和一对多连接对比
SQL 和 SPL 的多对一连接对比
SQL 和 SPL 的多对多连接对比
SQL 和 SPL 的基本静态转置对比
SQL 和 SPL 的复杂静态转置对比
SQL 和 SPL 的动态转置对比
SQL 和 SPL 的递归对比