SPL 游标上的常规运算

SPL中,从数据源将数据读成游标以后,就可以进行所有SQL式的运算,如过滤、汇总、跨列计算、排序、分组汇总、Top-N、分组Top-N、去重、分组去重、关联查询等。游标上的运算分为延迟计算和立即计算两种。本文以大文件数据源举例讨论游标上的SQL式运算。

1.   过滤

从数据表中筛选出满足条件的记录。

示例:从学生成绩表Students_scores.txt中筛选出10班的学生成绩,文件中第一行是列名,第二行开始是数据,如下图所示。

..


A

1

=file(“E:/txt/Students_scores.txt”).cursor@t()

2

=A1.select(CLASS==10)

3

=A2.fetch()

A1   读取文件中数据为游标,选项@t表示首行是标题行

A2   选出班级为10的数据记录,此为延迟计算

A3   取出A2游标中的过滤后数据(假定过滤后数据能装入内存,否则只能指定取多少行数据),此时才进行附加在游标上的过滤计算

 

2.  汇总

对数据表中的数据进行汇总。

示例:计算学生成绩表中全体学生的语文平均分、数学最高分、英语总分。


A

1

=file(“E:/txt/Students_scores.txt”).cursor@t()

2

=A1.total(avg(Chinese),max(Math),sum(English))

A1   读取文件中数据为游标,选项@t表示首行是标题行

A2   计算语文平均分、数学最高分、英语总分,此为立即计算。

游标上没有直接的聚合函数sumavgcount等,因为它只能遍历一次,所以不能连续使用这些聚合函数。需要一次实现多种聚合运算时,要用游标的total函数。

 

3.   跨列计算

对数据表中的数据进行跨列计算。

示例1:计算学生成绩表中每位学生的总分。


A

1

=file(“E:/txt/Students_scores.txt”).cursor@t()

2

=A1.derive(English+Chinese+Math:total_score)

3

=A2.fetch(100)

A1   读取文件中数据为游标,选项@t表示首行是标题行

A2   A1中新增一列total_score,其值为英语、语文、数学3列之和,此为延迟计算

A3   取出A2游标中的前100行数据,此时会执行在A2上附加的计算

A3中结果如下:

..

示例2:计算学生成绩表中每位同学的语文成绩评级。


A

1

=file(“E:/txt/Students_scores.txt”).cursor@t()

2

=A1.derive(if(Chinese>=90:"Excellent",Chinese>=80:"Good",Chinese>=60:"Pass","Fail"):Chinese_evaluation)

3

=A2.fetch(100)

A1   读取文件中数据为游标,选项@t表示首行是标题行

A2   A1中新增一列Chinese_evaluation,当语文成绩在90以上时评级为Excellent80以上时评级为Good60以上时评级为Pass,否则评级为Fail。此为延迟计算

A3   取出A2游标中的前100行数据,此时会执行在A2上附加的计算

A3中结果如下,增加了一个新的计算列Chinese_evaluation

..

 

4.   排序

对数据表中的数据进行升/降序排序。

示例:将学生成绩表按照班号升序、总分降序的顺序排列。


A

1

=file(“E:/txt/Students_scores.txt”).cursor@t()

2

=A1.sortx(CLASS,-Math)

3

=A2.fetch(100)

A1   读取文件中数据为游标,选项@t表示首行是标题行

A2   先按班级号升序排列,班级内再按数学成绩降序排列,这是立即计算的,但返回的是游标

A3   取出A2游标中的前100行数据

 

5.   分组汇总

对数据表中的数据进行分组汇总。

示例:查询各班的英语最低分、语文最高分、数学总分。

分两种情况:1、分组后的结果集不大


A

1

=file(“E:/txt/Students_scores.txt”).cursor@t()

2

=A1.groups(CLASS;min(English),max(Chinese),sum(Math))

A1   读取文件中数据为游标,选项@t表示首行是标题行

A2   按班级分组,计算各班英语最低分、语文最高分、数学总分,此为立即计算

2、分组后的结果集很大,内存中装不下


A

1

=file(“E:/txt/Students_scores.txt”).cursor@t()

2

=A1.groupx(CLASS;min(English),max(Chinese),sum(Math))

3

=A2.fetch(100)

A1   读取文件中数据为游标,选项@t表示首行是标题行

A2   按班级分组,计算各班英语最低分、语文最高分、数学总分,这是立即计算的,返回游标

A3   取出A2游标中的前100组数据

 

6.   Top-N

对数据表中的数据求TOP-N

示例:查看英语成绩最高的3个同学成绩。


A

1

=file(“E:/txt/Students_scores.txt”).cursor@t()

2

=A1.total(top(-3;English))

A1   读取文件中数据为游标,选项@t表示首行是标题行

A2   按英语降序排列后,取出前3个英语成绩最高的同学成绩记录。游标没有top函数,需要在它的total函数中进行top计算,此为立即计算

 

7.   分组Top-N

对数据表中的数据分组后求各组TOP-N

示例:查看各班英语成绩最低的3个同学的英语成绩。


A

1

=file(“E:/txt/Students_scores.txt”).cursor@t()

2

=A1.groups(CLASS;top(3,English))

A1   读取文件中数据为游标,选项@t表示首行是标题行

A2   按班级分组,各组英语升序排列后,取出前3个最低的英语成绩。当分组结果集不大时,用groups函数,此时为立即计算;当结果集很大时,用groupx函数,此时也是立即计算,但返回的还是游标。

这里的top函数与前例的参数分隔符不同,逗号分隔时,返回前n个排序表达式的值组成的序列;分号分隔时,返回前n个记录组成的序列。

 

8.   去重和去重计数

对数据表中的数据进行去重查询。

示例1:查询所有班级编号。


A

1

=file(“E:/txt/Students_scores.txt”).cursor@t()

2

=A1.groups(CLASS)

A1   读取文件中数据为游标,选项@t表示首行是标题行

A2   查出所有不重复的班级编号,此为立即计算。当结果集很大时,要改用groupx函数,也是立即计算但返回游标。

 

对数据表中的数据进行去重计数。

示例2:查询共有多少个班级编号。


A

1

=file(“E:/txt/Students_scores.txt”).cursor@t()

2

=A1.total(icount(CLASS))

A1   读取文件中数据为游标,选项@t表示首行是标题行

A2   查出所有不重复的班级编号的个数,此为立即计算。

 

9.   组内去重计数

对数据表中的数据进行分组后去重计数。

示例:产品销售记录文件sales.txt如下图,查询每个产品有销售记录的天数。

..


A

1

=file(“E:/txt/sales.txt”).cursor@t()

2

=A1.groups(PID;icount(DATE):days)

A1   读取文件中数据为游标,选项@t表示首行是标题行

A2   按产品编号PID进行分组,统计本组不重复日期的个数并命名为days,此为立即计算。如果结果集很大时,改用groupx函数,也是立即计算但返回游标

 

10.   外键关联

两个数据表,表A中的某些字段与表B的主键关联,B称为A的外键表,称此关联为外键关联。外键表必须是能全部装入内存的。

示例:销售订单信息和产品信息分别存储在两个Excel文件中,计算各订单的销售额。两个文件数据结构如下图:

..

对于这种单外键关联有两种方法实现,方法一:


A

1

=file(“e:/orders/sales.xlsx”).cursor@t()

2

=T(“e:/orders/product.xlsx”).keys(ID)

3

=A1.switch(ProductID,A2:ID)

4

=A3.derive(Quantity*ProductID.Price:amount)

5

=A4.fetch(100)

A1   读取销售订单数据为游标,选项@t表示首行是标题行

A2   读取产品信息数据,并设ID为主键

A3   switch函数将A1ProductIDA2中的ID进行关联(ID为主键时也可省略不写),此时ProductID列转换成了指向与它对应的产品记录,此为延迟计算。如果从A3中取出部分数据,将如下图所示

A4   A3中新增一列amount,其值为销售数量Quantity与产品价格Price的积,表达式ProductID.Price表示ProductID列指向的记录的Price列值,此为延迟计算。

A5   A4游标中取出前100行数据,此时会先计算游标上的附加运算

..

 

方法二:


A

1

=file(“e:/orders/sales.xlsx”).cursor@t()

2

=T(“e:/orders/product.xlsx”).keys(ID)

3

=A1.join(ProductID,A2:ID,Name,Price)

4

=A3.derive(Quantity*Price:amount)

5

=A4.fetch(100)

A1   读取销售订单数据为游标,选项@t表示首行是标题行

A2   读取产品信息数据,并设ID为主键

A3   join函数将A1ProductIDA2中的ID进行关联(ID为主键时也可省略不写),同时引入A2NamePrice列数据,此为延迟计算。如果取出A3中部分数据,将如下图所示

A4   A3中新增一列amount,其值为销售数量Quantity与产品价格Price的积

A5   A4游标中取出前100行数据,此时会先计算游标上的附加运算

..

 

而对于多个外键字段关联的情况,就不能用switch函数了,只能用join函数来关联。假如产品包装方式不同时,定价Price不同。在产品信息和销售订单信息表中加上Packing字段,产品信息的主键变成了IDPacking,部分数据如下图:

..

此时再计算订单销售额的示例如下:


A

1

=file(“e:/orders/sales.xlsx”).cursor@t()

2

=T(“e:/orders/product.xlsx”).keys(ID,Packing)

3

=A1.join(ProductID:Packing,A2,Name,Price)

4

=A3.derive(Quantity*Price:amount)

5

=A4.fetch(100)

A1   读取销售订单数据为游标,选项@t表示首行是标题行

A2   读取产品信息数据,并设IDPacking为主键

A3   join函数将A1ProductIDPackingA2中的主键进行关联,同时引入A2NamePrice列数据,此为延迟计算。如果取出A3中部分数据,将如下图所示

A4   A3中新增一列amount,其值为销售数量Quantity与产品价格Price的积

A5   A4游标中取出前100行数据,此时会先计算游标上的附加运算

..

 

11.   主键关联

A的主键与表B的主键关联,AB相互称为同维表。同维表是一对一的关系,逻辑上可以简单地看成一个表来对待。同维表都是按主键关联,相应记录是唯一对应的。

例如有员工信息表employee.xlsx与员工工资表salary.xlsx,主键都是Eid,部分数据如下:

..

..

现需查出员工的基本信息和工资信息:


A

1

=file("e:/work/employee.xlsx").cursor@t().sortx(Eid)

2

=file("e:/work/salary.xlsx").cursor@t().sortx(Eid)

3

=joinx(A1:emp,Eid;A2:salary,Eid)

4

=A3.new(emp.Eid,emp.IDCard,emp.Name,emp.Sex,emp.Phone,emp.Depart,salary.Wages,salary.Bonus)

5

=A4.fetch(100)

A1   读取员工信息表数据为游标,选项@t表示首行是标题行。并按Eid排序,如果原数据就是按Eid有序的,则可以省略sortx排序

A2   读取员工工资表数据为游标,选项@t表示首行是标题行。并按Eid排序,如果原数据就是按Eid有序的,则可以省略sortx排序

A3   A1A2按照Eid进行关联,将A1命名为empA2命名为salary,此为延迟计算。调用joinx时,参与关联的各游标数据必须按关联字段有序排列。

A4   取出A3empEidIDCardNameSexPhoneDepartsalaryWagesBonus列,构造一个新游标,此为延迟计算

A5   A4游标中取出前100行数据,此时会先计算游标上的附加运算

 

还有一种主子表形式的主键关联。A的主键与表B的部分主键关联,A称为主表,B称为子表。主子表是一对多的关系。

例如有员工家庭成员表family.xlsx部分数据如下,它有两个主键字段EidFid,请查询家中有70岁以上老人的员工信息。

..

 


A

1

=file("e:/work/employee.xlsx").cursor@t().sortx(Eid)

2

=file("e:/work/family.xlsx").cursor@t().select(age(Birthday)>=70).sortx(Eid)

3

=joinx(A1:employee,Eid;A2:family,Eid)

4

=A3.conj(employee)

5

=A4.fetch(100)

A1   读取员工信息表数据为游标,选项@t表示首行是标题行。并按Eid排序,如果原数据就是按Eid有序的,则可以省略排序

A2   读取员工家庭成员数据为游标,选项@t表示首行是标题行。选出年龄70以上的成员,然后按Eid排序,如果原数据就是按Eid有序的,则可以省略排序步骤。

A3   A1A2按照Eid进行关联过滤,删除不匹配的记录,将A1命名为employeeA2命名为family,此为延迟计算。调用joinx时,参与关联的各游标数据必须按关联字段有序排列。

A4   取出A3中的employee列,连接为游标,此为延迟计算

A5   A4游标中取出前100行数据,此时会先计算游标上的附加运算

 

附件: 本文所用数据文件