盛柄森,董磊,王天皓,赵铭
山东水发紫光大数据有限责任公司 山东菏泽 274000
摘要:在目前这个大数据时代,以往的数据储存方式并不能满足社会发展的需求,特别是在电力系统发展较为壮大的时候,大量数据无法进行有效分析和管理,无法发挥数据的价值。而通过可视化技术,将电力系统的各项数据进行展示,便于让专业人士快速、准确地了解这些数据,进而提高解决电力系统问题的反应能力。
关键词:电力业务;数据中心;动态可视化;应用
1电力数据实时分析技术
1.1主要挑战
Haddop批处理方式可以适用于电力大数据的历史数据分析,但其采用的是先储存后计算模式,需要频繁的磁盘操作,难以满足生产系统的需求。其主要面临两大挑战,其一,大规模实施流数据调度、分析技术,为更好地保障电力系统数据的时效性,能够对大规模实施流数据分析性能至关重要,需要保障流数据的实施处理效率;其二,利用大规模复杂细节多源数据的电力系统分析算法,在智能电网的环境下,智能电子设备、高级电表架构以及PMU提供了大规模可利用的复杂细节数据,这些数据为提高电力系统的操作水平提供了机遇和挑战,需要寻求一种设计快速、高精度的安全稳定分析算法来保障系统的实施性要求。
1.2云计算技术
云计算技术是处理电力业务大数据的有效方式,结合开源技术Hadoop,借助虚拟化技术以及列存储的数据管理模式来进行分析、储存和管理,能够保障电网海量状态数据的可靠和高效管理。在国外,通过分析电力系统中不同用户的实施查询需求,设计了用于实施数据管理的智能电网数据云模型,同时并根据该模型实现了实时数据的智能测量和管理系统。而在国内,随着大数据在电力系统中的形成,对其研究也获得了各方的关注。以往的潮流计算、靠性评估等方法具有算法复杂、处理数据有限等不足之处,并不能满足现代社会的发展需求,故而,对电力业务数据的处理应当结合电力系统的特点,并与电力生产系统密切结合。
数据实时分析技术为电力业务数据可视化应用提供基础保障,通过数据实时分析技术,分析电网数据中心的业务数据,并通过可视化技术做展示,为电力企业提供辅助分析应用,进而提升业务部门工作效率。
2数据治理面临的问题
2.1企业需求方面
缺乏企业级通用的数据治理规则。各业务部门制定自己的业务标准,部门之间的标准矛盾或相互混淆;各部门只专注与本部门业务相关的数据,数据共享能力差,形成信息孤岛;缺乏数据治理组织架构;缺乏正确的数据治理管理及配套的考核办法。
2.2数据质量方面
以满足功能应用为主,未遵循企业架构设计中对数据架构设计方面的相关要求,未形成企业级整体数据架构设计,是各业务部门在数据交换、数据共享上比较苦难,数据冗余,数据完整性、合规性、一致性问题突出;主数据、元数据管理建设应用推动迟缓,未建立企业全局的数据质量考评机制。
2.3系统建设方面
业务系统建设较多,分业务条线建设,系统集成性需要提升,在当前业务需求、企业政策变化频繁的情况下,信息部门难以及时响应和实现;分析、设计、构建、维护过程中,将流程、业务规则进行硬编码,难以适应业务变革的灵活需求;缺少有效手段进行数据管理,数据问题持续存在而得不到解决。
2.4组织管控方面
针对数据质量管控提升,业务部门与信息部门之间未达成共识,职责划分不清,标准规范不统一,未形成公司级统一的管理体系、管理规范和执行流程,业务部门各自为政,信息部门难以推动,未建立有效、常态的管理和执行组织,定期开展数据质量评估工作。
3可视化实现方法
3.1基础图表可视化方法
基础数据可视化是利用基本的显示手段,将采集到的数据以图形和表格的形式显示出来,方便人们获取数据,帮助人们发现数据之间的关系和特征。在这方面,我们主要采用了三种可视化显示方式:表格、折线图和柱状图。柱状图,通过设置不同的颜色,将不同的数据放在同一个柱状图中进行比较,方便工作人员直观地看到二者数量的差异;折线图主要应用于时间序列数据,利用折线图记录实时数据变化,方便工作人员了解查看某个时间节点上数据的具体变化;表格可以直观的显示每条记录的数据,通过数据查看,可以得到更详细的具体数据。电力业务数据中心通过多维条形图定期更新显示当前行政区域的双覆盖率,包括智能电网覆盖率、低压集中抄表、自动抄表、电子结算率等,并对比各省数据显示各地区的排名,如智能电表的覆盖率等,可以直观地看到不同地区城市覆盖率的差异。
3.2svg可视化方法
电力大数据通过SVG文件的显示,主要是对区域数据进行统计后,根据一定的电力指标调整各个区域的颜色深度,使人们直观地看到不同区域之间具体数据值的变化。从SVG文件的优良特性出发,它可以可视化的显示和显示结果的交互,可以发现更详细的信息,可以更好的发现数据隐藏的真实问题。
3.3地图可视化方法
电网系统的数据处理不是对大量的用户用电数据进行汇总,而是对传统数据进行比较,同时参照地图,进行特征显示,更直观地反映数据的特征,方便用户对信息进行全面控制,直观地看到数据的变化和变化。通过地图可视化,可以更直观地显示某一区域的用电量,并可以细化到特定的用户。它甚至可以实时显示特定用户下单个用电设备当前设备的具体用电信息,使显示器可以整体查看大量数据。电力业务数据中心采用可视化的方式对故障检修信息进行监控,通过可视化的方式显示故障检修的进展情况,并对位置、设备、准确定位等进行搜索,监控人员可以及时了解停电恢复的状态和过程处置。
3.4SVG技术
SVG是一种矢量图形格式,主要是利用文本格式的描述语言来对图像进行描述,能够进行有效的编辑和修改,还能对图像等文件进行可读操做。SVG图像各项可以方便地建立文字索引,能够对图像所展示的具体内容进行搜索;可以使用文本、图像及适量图形形状这3种图像;还能对图像进可任何变化、风格化;其可以进行特性化设置,包括剪辑的路径、滤波效果等优势。SVG图像文件可以非常方便、动态地由计算机程序设计语言来完成,齐聚友展示动态图的优势,便于将数据库中的数据进行实时低、动态地显示。
结论
电力企业通过开展数据治理体系建设,基于全业务统一数据中心建设现状,汇集所有系统业务数据,结合自身实际,以业务为需求、数据为导向,建立自助管理、自动查找识别的大数据治理框架,形成标准化的大数据治理架构规范,帮助业务人员落实数据管理责任,快速定位数据问题,加快电网大数据治理进程。基于深度学习技术的数据质量自主提升技术,研发电网大数据治理管理工具,克服和弥补了人工质检存在的缺陷和不足,针对发现的数据质量问题,提供个性化的数据质量解决方案。进而实现从数据源到全业务统一数据中心落地过程全生命周期的数据治理。对各项业务系统中运行中的产生问题进行发现、处理、总结。实现公司“全业务协同、全流程贯通、全数据共享”。通过,在数据质量、数据安全、数据生命周期和数据架构的管理方面起到了推动作用。提升电力企业整体数据管理及应用水平。
参考文献:
[1]贾福清.再接再厉全面推进“三集五大”体系建设[J].国家电网,2019(02):50-51.
[2]张一鸣.数据治理过程浅析[J].中国信息界,2019(09):15-17.
[3]陈敏,刘锦森,宋欣.构建数据整合下的精细化管理应用[J].中国金融电脑,2019(10):45-48.
[4]巨克真,魏珍珍.电力企业级数据治理体系的研究[J].电力信息与通信技术,2019(12):7-11.