引言
小伙伴们,大家好,距离上次数睿通 2.0 更新已经过去了两个月的时间,年底确实比较繁忙,分身乏术,加上本次需要更新的 ETL 和 BI 可视化实现难度较大,所以一直迟迟没能与大家见面,ETL 和 BI 两块单独拿出来都是可以独立成一个系统的存在,实现起来绝不是一朝一夕之事,所以决定采用边更新边发版的方式,来不断进行这两个模块的迭代,而不是等全部完成再发布,期间也可以集思广益,吸取大家的建议,来更好的完善功能。本次更新的内容主要包括:
- 可视化 ETL 拖拉拽,添加常用的数十种组件工具箱,初步实现拖拉拽,新增及编辑功能
- 可视化 BI,添加大屏配置列表,具体大屏设计器集成了开源项目 GoView,完整功能流程初步可用
- 数据推送模板下拉选问题修复,数字格式字段导入空字符串报错问题修复,添加导入数据删除功能;
- 整体界面色调调整,布局美化微调,添加版权声明
可视化 ETL
可视化 ETL 可以帮助我们更好的处理数据,有一款开源的 ETL 工具想必大家都非常熟悉,没错,就是 Kettle,开始的时候本来打算对 Kettle 进行集成,但是随着后来的不断了解,发现集成起来的研究成本过高,想与现有平台无缝集成难度很大,虽然 Kettle 提供了相关的 API 调用,但是文档需要花费大量时间研读,所以暂时放弃了这一条路,也许是我们还没有发现更简单的集成方式。其他的 ETL 国内比较出名的有 ETLCloud,但社区版也只是提供安装包使用,并没有开源,集成的路暂时走不通,所以只能选择自研了。
自研 ETL 同样也不容易,主要难点在于节点之间的数据流转,节点之间的参数传递,这个是比较头疼的问题,目前虽然已经有了初步的实现方案,但总觉得还是差点意思,这个只能边做边看边完善了,大家如果有什么好的想法可以提出来,我们一起探讨研究。
本次更新的 ETL 算是个半成品,对常用的组件工具箱进行了初步敲定,实现了组件的拖拉拽,流程的保存和编辑,流程运行本次更新尚未发布,感兴趣的朋友可以自行研究代码,尝试实现,或者等待下次更新。
可视化 BI
可视化 BI 当前市面上开源产品较多,经过多方考察,发现 GoView 更加契合数睿通 2.0,于是对 GoView 的开源大屏设计器进行了初步集成,大屏设计器保留了 GoView 的 Logo,版权归 GoView 所有,同时保留了开源许可的 MIT 协议声明,数睿通 2.0 只是二开集成使用,大家也需要注意保留以上信息,否则可能会有版权纠纷,如果需要去除声明,可以联系 GoView 作者进行授权。
通过集成 GoView,可视化 BI 的流程已经初步走通,剩下的就是对各种组件的完善和优化了。
数据推送问题处理修复
上个版本的数据推送更新的比较急,遗留的一些问题 bug 在本次更新的版本中进行了修复,解决了下载模板,下拉框类型的字段如果有多个,显示错乱的问题;解决了导入数据时,如果非必填的数字类型字段为空引起报错的问题,同时添加了导入数据的删除功能,用户可以删除已经导入的数据。
界面美化调整,添加版权声明
本次更新对系统的界面进行了简单微调,布局相比之前紧凑了一些,同时修改了主题配色,看上去更加清爽。该版本对版权做了进一步声明,起到保护版权的作用,也希望大家都能自觉尊重开发者的劳动成果,避免引起双方不必要的纠纷和麻烦,只有这样,项目才能平稳健康的发展下去。
结语
本次更新内容到这里就结束了,初步实现了 ETL 的拖拉拽,BI 可视化的全流程打通,功能还需要不断的完善优化,对于 ETL,也希望大家可以提出您的宝贵建议,帮助我们规划整体的实现思路,汲取更多灵感,因为既然做了,那就需要把它做好,而不是敷衍了事,此外,平台也会对现有的功能进行不断迭代优化,努力让产品变得更加健壮,任重而道远。
目前源码,部署指南,讲解视频等相关资料是付费加入知识星球获取的,对于目前实现的功能来说,这个价格可以说是非常便宜了,我们也在思考平台后续该如何发展,没有钱,很难为爱发电,所以可能会推出一个企业版本,专门服务于企业用户使用,同时这样也可以给我们带来更多的收益,支撑团队的正常运营,项目的良性迭代,当然,眼下还是先把这个年过好,今年整个市场环境比较低迷,大家都很难,裁员降薪,之前可能感觉与己无关的事情,都真实得发生在我们身边了。希望明年可以拨开乌云见晴天,守得花开见月明,预祝大家新年快乐。
感兴趣的朋友请关注公众号 螺旋编程极客 加入星球,我们一起成长,一起进步。