@Martin.Zhang 发表于 2021-11-15 18:12:09

【V5.0 Update1】智能制造全域数据分析方案(2)实时和缓存两种数据使用方式

本帖最后由 @Martin.Zhang 于 2022-2-18 15:26 编辑

各位同学,又有一波高级技能要跟大家分享一下了,请大家注意了,本次给大家介绍的功能,在以后的产品使用中,会让整个产品性能以及便捷性,实时性提供一个更加便捷的实现方式。今天要跟大家介绍的就是目前在 Wyn Enterprise 中对于制造业领域最受欢迎的两种数据对接模式:实时数据与缓存模式。实时数据:实时数据具有失效性,随着时间的推移,实时数据值就失效了。过时的实时数据因为可以反映制造系统的发生和发展过程,因此对制造人员有重要的参考价值,通常许多过时的数据都按时间和类别被保存下来,这就是历史数据。实时数据主要是指的数据延迟小,例如毫秒、秒、分钟级的延迟,小时级的延迟称之为“准实时数据“更为准确了。在BI领域,实时数据就相当于一个监控,能时刻反馈出当前关注点数据的最新情况。在数据处理上,实时响应,实时处理。在处理中总体分为两个步骤:①获取数据;③数据处理展示。缓存数据:缓存数据,是指在硬盘内部预先存储,一些数据暂时性的保存起来以供读取和再读取。对于大数据缓存的硬盘在存取零散文件时具有很大的优势。在系统中处理数据时效率更高,查询效率更快,尤其是采用分布式部署后,可以大大提升查询效率。相较于实时数据,就相当于将前一刻的数据进行预处理,将所处理的数据进行存储,方便于使用。在数据处理中,只需要做数据数据处理步骤即可。从以上两图,就可以看出,两种数据类型,在数据显示中的处理流程与效率。
那么两种类型的数据,我们在使用中用什么区别呢?实时数据:直接链接着业务数据库或者设备定时推送的实时数据;当业务系统产生新的数据之后,就会立即进行运算处理。
主要优点:

[*]数据的时效性强,可以做到秒级或者毫秒级时延,所见即所得。提升产品响应效率。

缺点:

[*]需要不停的进行数据计算,即每秒钟或者每分钟进行数据清洗和计算,资源消耗大,同时依赖数据库本身的性能,自助式分析性能会略差与抽取模型

主要使用场景:在车间看板中,需要在做一些实时监控,时刻监控设备运行状态;在设备运行中,各项指标是否符合要求;在生产阶段,需要时刻对产品参数进行监测,则需要实时数据进行响应。
缓存数据:抽取数据模型,在数据产生之后,不会立即对数据进行清洗,而是在固定的周期进行ETL,例如每天在凌晨12:00之后,处理前一天产生的数据,每月的最后一天,汇总本月产生的数据。
主要优点:
[*]能够处理的数据量巨大,从企业成立以来的历史数据,都可以存储、计算处理、分析应用。
[*]数据更准确,对于一些交易类的业务,存在订单状态流转,例如酒店,用户早上下了订单,但是下午有突发情况行程有变,取消了。在离线数据处理时,取当天订单成功状态,就不会计算在内。但对于数据漂移,即12点前下单,12点后取消的情况,就也无法统计到了,这种情形,在数据清洗任务处理时,可以采用全量更新的方式,每日更新全部数据,取最终的订单状态。

缺点:

[*]抽取数据模型的缺点也很明显,就是慢,产生的数据需要等到刷新周期才会进行更新,才能看的到。

主要使用场景:在数据处理中,需要处理一些实时性不高的数据,从时间维度来说,一般是处理T-1的日期数据,例如今天的日期T=2021-11-12,那么数据结果中,能够体现的业务数据只包括前一天的(昨日数据)。当然离线数据也可以是处理历史的数据,对历史的数据进行分析统计。

接下来划重点了:看到这里,相信大家对于概念已经了解的比较清楚了。那么该如何使用呢?在这里详细的给大家分享一下操作教程。对于上述所说的两种数据类型的处理,详细操作可以了解:缓存数据模型:https://gcdn.grapecity.com.cn/fo ... 6334&extra=page%3D1实时数据模型:①对接数据库,我们的数据源为数据库,则请了解:https://gcdn.grapecity.com.cn/fo ... 6352&extra=page%3D1②若我们在数据处理中,主要处理的数据为推送数据类型(给wyn中推送的数据),则给大家详细介绍一下,我们针对于工厂级数据处理功能:实时数据接入,开启 IoT 数据分析新篇章:https://gcdn.grapecity.com.cn/showtopic-136142-1-1.html

ZenosZeng 发表于 2021-11-23 11:20:35

:i0tw:

欢迎加入 Wyn Enterprise 官方QQ群下载预览版本,并与大家讨论新特性应用技巧,QQ群号(869635873)。
页: [1]
查看完整版本: 【V5.0 Update1】智能制造全域数据分析方案(2)实时和缓存两种数据使用方式