之前数据分层处理,最后把轻度聚合的结果保存到 ClickHouse 中,主要的目的就是提供即时的数据查询、统计、分析服务。这些统计服务一般会用两种形式展现,一种是为专业的数据分析人员的 BI 工具,一种是面向非专业人员的更加直观的数据大屏。
以下主要是面向百度的 sugar 的数据大屏服务的接口开发。

在可视化大屏中每个组件都需要一个单独的接口,图中一共涉及 8 个组件。

组件名称组件查询指标对应的数据表
总成交金额数字翻牌订单总金额product_stats
省市热力图查询热力图省市分组订单金额province_stats
分时流量折线图UV 分时数
PV 分时数
新用户分时数
visitor_stats
品牌 TopN水平柱状图按品牌分组订单金额product_stats
品类分布饼状图按品类分组订单金额product_stats
热词字符云字符云关键词分组计数keyword_stats
流量表格交叉透视表UV 数(新老用户)
PV 数(新老用户)
跳出率(新老用户)
平均访问时长 (新老用户)
平均访问页面数(新老用户)
visitor_stats
热门商品轮播表格按 SPU 分组订单金额product_stats


之前我们实现了 DWS 层计算后写入到 ClickHouse 中,接下来就是要为可视化大屏服务,提供一个数据接口用来查询 ClickHouse 中的数据。这里主要有两项工作

  • 配置可视化大屏服务。
  • 编写数据查询接口以供可视化大屏进行访问。

Sugar 数据大屏

Sugar 是百度云推出的敏捷 BI 和数据可视化平台,目标是解决报表和大屏的数据 BI 分析和可视化问题,解放数据可视化系统的开发人力
https://cloud.baidu.com/product/sugar.html

国内网穿透工具
花生壳:https://hsk.oray.com
Ngrok: http://www.ngrok.cc
网云穿:http://www.neiwangchuantou.net/

https://www.bilibili.com/video/BV1Ju411o7f8/?p=73

尚硅谷 源代码

大数据 – 数据仓库-实时数仓架构分析
大数据 – 业务数据采集-FlinkCDC
大数据 – DWD&DIM 行为数据
大数据 – DWD&DIM 业务数据
大数据 – DWM层 业务实现
大数据 – DWS层 业务实现
大数据 – ADS 数据可视化实现