日常数据分析的主要内容仍是结构化计算
admin
2023-02-16 08:40:05
0

   日常业务中会出现各种各样的数据分析问题,但究其本质,其主要内容仍然是结构化数据的计算。比如:

  • 指定时间段,计算各营业网点的月销售额比上期和同期比。

   实现思路:对销售数据按时间段过滤,再按照营业网点、年、月进行三级分组汇总,最后进行跨行组的有序计算。

  • 找出收盘价连续增长超过10天的股票。

   实现思路:将日交易数据按照股票分组,组内按照日期排序,计算出股价的增长额,计算出连续正增长的天数,过滤出连续正增长超过10天的股票。

  • 将合同信息、付款信息等不同来源的数据关联到项目付款进度中,并找到逾期未付款的项目。

   实现思路:首先进行异构数据源之间的关联计算,之后进行分组汇总,最后进行过滤。

   可以看到,这些日常数据分析问题大都可以分解为结构化数据的过滤、分组、汇总、排序、排名、关联等算法。

   当然,偶尔也会出现模型或预测类的数据分析问题,比如:找出哪些商品之间存在较高的相关度,预测哪只股票将会上涨等等。这类算法需要的数学知识太多,日常工作人员一般不会掌握。这种分析在数据分析事务中非常重要,但并不是日常数据分析的主要内容。


   日常数据分析的主要内容仍是结构化数据计算,因此很多工具都支持此类计算,比如:R语言、Python、SQL、集算器等。

   R语言提供有dataframe数据类型,支持结构化数据计算。但R语言的设计初衷是进行科学数据的统计分析,重点在于矩阵和向量的计算,因此在结构化数据计算方面缺乏专业性。

   事实上,dataframe只是R语言新增的功能,模型预测类的算法才是R语言的重点,比如:回归分析regression analysis、方差分析ANOVAanalysis、一致性评估Agreementevaluation、贝努利分布Bernoulli distribution等等。这些算法在日常数据分析中很少用到。

   Python有第三方函数库pandas,支持结构化数据的计算。但Pandas的设计目标仍然是科学数据的统计分析,而不是结构化数据的计算,因此在这方面并不专业。和R语言类似,Pandas的功能也是围绕模型和预测展开的,在日常数据分析中很少用到。

   可以看到,支持结构化数据计算的工具虽然不少,但专业的并不多,算来算去,还是老牌计算语言SQL更专业。


   SQL的设计目标是纯粹的结构化数据计算,专业性更强,而且应用面非常广。

   但是对于日常分析来讲,SQL也存在不足之处,比较突出的是:应用环境复杂、不擅长有序计算。SQL的安装部署、维护管理非常复杂。SQL数据集本身缺乏序号,因此在有序计算方面存在天生的短板,比如同期比、比上期、相对区间取数、分组中的排名、分组中取前后几名等等这些是日常数据分析中常见的问题,开头提到的几个例子也大多和有序计算相关,用SQL可以解决此类问题,但难度较大。

   集算器的设计目标是纯粹的结构化数据计算,这一点和SQL类似。

   相对来讲,集算器的应用环境比较简单,安装部署毫无难度。集算器支持从数据库取数,也可以直接读取Txt、日志、Excel中的结构化数据。另外,集算器的序表天生具有序号,器可以轻松上面提到的有序计算。不过集算器在外存计算和内存计算的语法不,需要更新另一种写法,不如SQL语法的一致性好。


相关内容

热门资讯

美官员:美商船穿越霍尔木兹海峡... 当地时间5月5日,央视记者获悉,两艘搭载美军安全队员的美国商船在通过霍尔木兹海峡期间曾遭伊朗袭击。美...
日本参议员:对俄制裁损害日本国... 正在俄罗斯访问的日本国会参议员铃木宗男5月5日对媒体表示,日本对俄制裁同样损害了日本国家利益。铃木说...
美国务卿称美国正推进对伊朗“极... △美国国务卿鲁比奥(资料图)当地时间5月5日,美国国务卿鲁比奥在媒体简报会上称,美军正在霍尔木兹海峡...
伊朗外交部:敦促美方在外交问题... △伊朗外交部发言人巴加埃(资料图)据伊朗方面5月5日消息,伊朗外交部发言人巴加埃就当前伊美谈判进程表...
就在明晚,“极大雨”要来了! 据新华社消息,拥有哈雷彗星“血统”的宝瓶座η流星雨将于5月6日迎来极大,流星雨爱好者可在6日、7日夜...
原创 O... OPPO新机继续丰富,前有OPPO Find X9 Ultra、旗舰平板、小屏幕平板等,现有OPPO...
馆校合作丨南充科技馆走进仪陇县... 馆校合作 南充科技馆走进 NCSTM 仪陇县实验学校 天府科普研学游 4月29日上午,南充科技馆科普...
我国本土发现的首块月球陨石有重... 我国本土发现的首块月球陨石揭示了月球两次关键地质事件,并发现一种月球新矿物。 2026年世界地球日,...
马斯克的GPU也在摸鱼?狂囤几... 新智元报道 编辑:元宇 【新智元导读】马斯克囤了几十万张卡,结果只跑了11%?据媒体报道,xAI的...
原创 特... 4月24日,白宫以总统人事办公室的名义,向美国国家科学委员会的22名在任委员群发了一封冷冰冰的电子邮...