水利大数据及其资源化关键技术研究

发表时间:2020/10/21   来源:《建筑实践》2020年17期   作者:潘新军
[导读] 随着水利信息化技术的不断推进,水利行业积累了极大丰富的数据资源
        潘新军
        652722197110220****
        
        摘要:随着水利信息化技术的不断推进,水利行业积累了极大丰富的数据资源,水利大数据的时代已经到来,数据已经从简单的处理对象开始转变为一种基础性资源。从水利大数据资源化的本质出发,在介绍大数据基本概念的基础上,阐述水利大数据资源化之路,给出水利数据资源化的技术路线,最后剖析资源化过程中所涉及的关键技术。
        关键词:水利大数据;资源化;数据共享;数据服务
        0引言
        随着信息技术特别是信息通讯技术的发展,互联网、社交网络、物联网、移动互联网、云计算等相继进入人们的日常工作和生活中,全球数据信息量呈指数式爆炸增长之势。作为发展的大趋势,数据资源化将逐步扩展至国民经济的各个领域。作为关系国计民生的水利行业,也需要利用大数据发展。本文从水利大数据资源化的本质出发,总结多年来水利信息化实践经验,在介绍大数据基本概念的基础上,首先阐述水利大数据资源化之路,接着给出水利的数据资源化的技术路线,最后剖析资源化过程中的关键技术。
        1水利大数据基本概念
        水利信息化长期的业务实践积累了大量分布异构独立的业务数据,例如实测信息就包括水文观测信息(地表地下水量水质状态等信息)、水利设施在线运行状态信息、用水户用水排水信息等,单是水文数据,截至2012年全国已超100TB;国家基础地理资源中心水利资源数据分中心信息资源建设的水文、水质、水资源、水利设施(空间)、土壤侵蚀、灌溉、水能资源调查、农村水电等8个专题信息库,以及第一次水利普查工程对河流湖泊、水利工程、重点经济社会取用水户及水利单位等对象进行普查和清查汇总形成的普查成果数据进一步丰富了水利行业的大数据集。防汛抗旱指挥系统、水资源监控能力建设项目等的开展也为水利大数据提供了持续更新的能力。
        2水利大数据的资源化之路
        数据为王的大数据时代已经到来,面对水利行业日益形成的大数据和社会对水利大数据的迫切共享需求,作为关乎国计民生的水利行业,迫切需要探索水利数据资源化关键技术,以提高水利行业社会服务能力。水利大数据的资源化,首先需要建立非常强的“数据意识”,甩掉“数据意识薄弱”的帽子,将水利大数据放在重要战略位置,不以“数据”而数据,不以特殊应用而数据。其次是进行“数据化”,建立完善的数据采集、汇集机制和存储能力,让文字变成数据,让沟通变成数据,让世间万物变成数据,形成数据的持续更新能力。最后是进行“数据开放”,顺应大数据共享联盟的趋势,以开放的态度,构建数据基础服务平台,打破行业内数据事权限制,向社会大众提供数据服务,让数据可以重复使用,自由架构,支持利用数据进行创新。
        3水利大数据资源化的技术路线
        水利大数据资源化的本质是实现数据的共享与服务,因此,通过构建水利数据基础服务平台,实现分布异构数据的互联互通与高效利用,是进行资源化技术探索的有效途径。从技术实现的角度,提出一套水利大数据的资源化蓝图,分为资源层、逻辑层、服务层和应用层4个层次。


        4水利大数据资源化的关键技术
        目前水利行业的资源化研究主要关注数据共享,离支持各种复杂查询与预测分析及人人皆可使用受益的愿景还有很大差距,流域与省级水利单位相互交错,数据的混杂性和多事权特性将给水利数据资源化带来更多新的挑战。为此结合我国近年来水利数据共享的实践经验,从数据的存储、共享、服务和交换等方面进行探讨,进而形成一套完整的水利数据资源化关键技术体系。
        4.1水利大数据的高效存储技术
        水利数据规模较大,保证系统具备较高的读写吞吐率和数据安全是大数据的典型问题与资源化的关注重点。随着大数据与云计算的结合成为大数据发展的趋势,Hadoop已经成为大数据存储与处理广泛采用的云计算平台,有效实现了数据的安全冗余存储。
        4.2面向异构水利大数据的共享技术
        数据共享是数据资源化的基础,面对水利行业来源于不同事权单位的实时水雨情、水文、水质、气象和水利普查等数据库,遥感影像、矢量空间数据等多类型异构数据资源,需要研究利用可配置的元数据映射机制,将多类型异构数据资源映射到规范的逻辑空间,以构建数据共享服务体系,完成数据与业务应用的解耦合,在不改变原始数据的前提下,实现各事权单位数据的共享与整合,并保证模型的完备性和精准性。
        4.3面向多事权的水利大数据交换技术
        水利数据采用多点采集、分散处理及分布存储的方式,促使水利数据资源化过程中必须建立高效的数据交换机制,实现数据的互联互通、信息共享、业务协同,以成为整合信息资源、深度利用分散数据的有效途径。笔者提出一种基于云计算的水利数据交换方法,以服务的方式封装交换功能,并在此基础上通过流程建模和服务组合来保证多事权条件下交换系统的动态性和伸缩性。
        4.4面向动态业务需求的数据服务技术
        水利是关系国计民生的基础行业,经济和社会发展的各行各业都需要水利数据做支撑,对水信息服务的应用需求也不断变化。这就要求相应的数据支撑条件具备良好的可用性和互操作性,能够根据组织形态和业务需求的动态变化进行按需使用。因此,需要研究面向动态业务需求的数据服务技术,利用服务封装与组合技术将数据访问功能发布成为数据服务,构建起水利数据资源服务体系,为用户提供服务聚合、发布订阅和门户访问等多模式的数据共享服务。
        5结语
        数据资源化是一个很重要的新概念和发展趋势,但是,数据资源化还处于开始阶段,成功案例也局限于大型互联网公司,可借鉴的经验少。目前水利大数据的研究,应当进行以数据管理为驱动的开放性、包容性和探索性工作,通过解决有什么大数据、大数据在哪里、大数据如何获取等基础性问题,为后续的水利大数据深度利用形成支撑。
        参考文献:
        [1]吴昌春,庄宇,张红建.浅谈水利信息资源共享体系的构建模式[J].水利发展研究,2016(9):42-44.
        [2]水利部信息化工作领导小组办公室.全国水利信息化的目标与任务[J].水利规划与设计,2014(1):22-25.
        [3]朱星明,张行南,白婧怡,等.水利科学数据共享元数据理论的应用探讨[J].水利学报,2015,36(8):946-949.
投稿 打印文章 转寄朋友 留言编辑 收藏文章
  期刊推荐
1/1
转寄给朋友
朋友的昵称:
朋友的邮件地址:
您的昵称:
您的邮件地址:
邮件主题:
推荐理由:

写信给编辑
标题:
内容:
您的昵称:
您的邮件地址: