大数据技术下海洋测绘数据的存储与挖掘

发表时间:2021/4/15   来源:《工程管理前沿》2021年2期   作者:曹锡军 曹鑫箭 沈超
[导读] 地球上海洋占比71%,随着当前时代的发展,人们一直在探索海洋世界。
        曹锡军  曹鑫箭  沈超
        南通市江海测绘院有限公司 江苏 南通 226300
        摘要:地球上海洋占比71%,随着当前时代的发展,人们一直在探索海洋世界。目前,信息化技术发展迅速,而且在各种新技术的推动下,大数据技术得以问世并被深入应用,而且在当下的海洋测绘工作中,大数据技术起到了至关重要的作用,其可以用于测绘数据的挖掘与存储,这对异构性、复杂性、多样性特点下的海洋数据测绘工作提供了重要帮助。要知道,海洋测绘数据具有“海量化”特点,现如今对于其测绘,多采用Hadoop大数据技术,以此来更加高效地进行数据挖掘和分析。本文中,笔者便重点探究了大数据技术下海洋测绘数据的存储与挖掘。
        关键词:大数据技术;海洋测绘;数据的分析与存储
        引言:随着社会的发展,我国的科学技术突飞猛进,信息时代已经来临。在当前信息技术背景下,其发展非常迅速,让现在这个社会已经完全进入了信息化时代,并且还会产生大量的数据,而大数据技术在这个社会中已经得到了广泛的应用[1]。另外,在开发海洋资源时,大数据技术能够有效对海洋环境的变化进行测绘,但是实现该目标的前提就是一定要采集、存储以及处理与海洋环境相关的数据,其在长期发展中,已经成为了众多人类所关注的问题。目前,大数据技术对海洋的测绘有着非常重要的作用,具体内容如下:
一、海洋测绘技术的分析
(一)海洋测绘的基本特征
        将测绘技术应用到海洋测绘时,需先进行三维坐标的测量,同时还应当采取不同的装置以及方法分别进行测量,并且还要记录下测量后的数据,确保其精准无误。不仅如此,在对海洋进行测绘时,一般都会测量船体下降的深度,也可以理解成船体的垂直坐标,将其与船体的平面位置同时测量。另外,在海洋测绘工作中,海中一般很难建立起控制点,那么这时就需要尽量选择海岛或测区附近的海工物作为海洋的监测点,这样方法在原来的基础上扩大了间距。因此,海洋测绘的作业距离要比陆地测绘距离长得多,而普通陆地测绘的间距一般不会超过50km,普通海洋的测绘间距一般处于50~500km之间,有时候测量作用距离甚至更大,严重影响了测绘的精准度。此外,外业工作人员在对陆地与海洋的测绘进行比较时,发现海洋的测绘处在一种动态变化的过程中,需要工作人员不断地对其进行测绘,在测绘过程中避免不了出现误差的情况,相对于陆地的测绘工作有着较大的难度[2]。所以,相关人员可以应用声波来作为信号频,这样做可以有效保证海洋测绘数据的精准度。
(二)海洋测绘数据的特点分析
        海洋测绘工作中,数据量庞大,这也给数据的存储、挖掘提出了难题,通过对海洋测绘工作的实际探究来看,其存在数据量庞大、测绘数据的结构和格式存在差异。
        首先,海洋数据的测绘工作非常艰巨,需要布置大量监测点,并于监测点内设置相应的技术设备,让其可以实时监测海洋数据信息。监测点的设置存在有较大难度,必须要保障设备具有极强的防水性,还要能够在恶劣天气下依然正常工作[3]。对于监测点来说,每一刻的信息数据采集工作均有着动态化的特征,而且数据量极为庞大,同时,还需要监测点设备时刻更新数据信息,因此,必须要有能够满足庞大信息数据存储需求的相关技术及设备。
        其次,在解决海洋数据测绘中信息采集与存储的问题后,研究人员还面临着数据结构和格式差异的问题。与陆地上发达的数据信息网络相比,来自海洋中的数据因无完善的基础设施或设备进行转换,需要通过大量的监测点来获取数据,,因此在数据信息的记录过程中,必然会出现数据格式和数据结构存在差异的问题,这样一来,因无统一的存储格式,也使得数据量更为庞大。
        海洋测绘中的数据信息也有着基础性的特点,每一次数据的存储和传输,均会在其中记录观测点、采集数据时的水文特征等,这样一来可以通过网格化、表格化的方式来对不同观测点的海洋数据进行更加直观、科学、合理的分析。

同时,海洋测绘时所获取的数据存在较大差异,如可能来自海底地形数据、海岸线数据、海岸带数据等等,因此在测绘工作中,要重视不同数据的不同特点。另外,无论在哪一数据的采集与分析中,均需保障其安全性。
二、数据技术下海洋测绘数据的存储与挖掘
(一)数据的存储分析
        海洋中有着无数的资源处于待开发状态,相信通过继续加强对海洋深处的探索,可以为人类社会的发展提供更大的助力。大数据技术对海洋的测绘非常关键,其能够通过信息化技术不间断的对海洋进行深入探索,并将所勘测得到的数据信息进行整理、分析。因海洋中的测绘难度较大,且无相应的基础设施,需要利用Hadoop技术源源不断地将海洋勘测数据传输至特定的HDFS文件系统中,这一技术具有复杂、全面、综合的特点,而且安全性较高,能够将所有的勘测点数据统一身份,然后将其上传至HDFS文件系统中[4]。同时,HDFS文件系统也有着透明性特点,即组织形式透明,会在数据采集、整理后于原地保存并上传,在应用过程中,一般会定期上传,且在系统确认上传完毕后,会将本地文件删除。
(二)数据的挖掘分析
        海洋数据测绘中,存储与挖掘是最为关键性任务,可以说数据存储是数据挖掘的重要前提。前文中提到过,大数据技术下测绘得到的海洋数据信息具有“海量化”的特点,因此在某一测绘节点将相关信息数据上传至HDFS文件系统后,系统还会自动对数据信息进行针对性地整理分析,并从中挖掘有价值的信息,而这一过程中也会应用到数据挖掘工具。
        目前,负责海洋数据挖掘工作的部门可利用人机交互界面中的不同选项来进行不同的数据挖掘工作,这一工作较为复杂,且耗时较长,需要不断的重复上传、下载、浏览等操作。在工作人员即将进行数据挖掘时,系统界面会自动应用常用的数据挖掘方法,并快速、高效的对数据进行分析、筛选,从而获取有价值的数据信息[5]。在过去,海洋数据信息的测绘工作常常会受到技术层面的阻碍,即无法存储大量的数据,而在大数据技术的帮助下,这一问题得到了解决,同时也能够更加高速的处理信息,并进行长时间的存储,而且数据的冗余备份也可实现[6]。
        Hadoop是一种具有极强应用价值的分布式系统基础架构,具有高容错性、高吞吐量的优势,给海洋数据测绘工作的开展提供了技术支撑。一般情况下,用户在应用相关数据文件时可能会出现无法找到的情况,此时便需通过系统将相关的数据上传至HDFS文件系统,稍加等待后,用户便可以将所需的文件下载至本地保存[7]。
        结语:综上所述,人类社会的发展离不开对资源的依赖,海洋中有着许多奇特的生物,通过相关探索得知,海洋中有着无数的未知物,随着人类科学技术的发展,正在逐步揭开“ 海洋谜团”,相信通过对海洋的探索,可以获取更多的资源来促进社会的现代化发展。目前我国对于海洋的探索脚步依然在继续,随着各种先进设备、技术的出现,为海洋探索工作提供了重要帮助。从实际情况来看,通过大数据技术来进行海洋数据测绘的效率非常高,尤其是大数据技术中的Hadoop技术,其属于一种基础架构技术,能够克服海洋数据测绘工作中的复杂性、异构性特点,并实现高效率的数据存储和挖掘,这对海洋测绘工作的开展提供了巨大助力。本文中,笔者详细分析了海洋测绘中大数据技术的应用,希望未来海洋探索工作能够取得更大的进展。
参考文献
[1]洪泽. GPS技术在海洋测绘中的运用效果研究[J]. 科技创新与应用,2020(08):16有力169.
[2]翟国君,吴太旗,陆秀平,陆毅,滕惠忠,孙万民. 海洋测绘标准体系建设需求分析与总体方案[J]. 海洋测绘,2020,40(01):1-5+10.
[3]孙伟,苗炳迪,吴二立. 大数据技术下海洋测绘数据的存储与挖掘[J]. 江西测绘,2020(02):35-37.
[4]暴景阳,许军,于彩霞. 海洋空间信息基准技术进展与发展方向[J]. 测绘学报,2017,46(10):1778-1785.
[5]刁永洲. 基于大数据技术的海洋测绘数据分析与研究[J]. 科技世界,2017(19):200+171.
[6]吴友宝. Hadoop平台下基于路网加权分层和关联规则的最短路径算法研究[D].华南理工大学,2016.
[7]陆秀平,黄谟涛,翟国君,黄贤源,黄辰虎. 多波束测深数据处理关键技术研究进展与展望[J]. 海洋测绘,2016,36(04):1-6+11.
投稿 打印文章 转寄朋友 留言编辑 收藏文章
  期刊推荐
1/1
转寄给朋友
朋友的昵称:
朋友的邮件地址:
您的昵称:
您的邮件地址:
邮件主题:
推荐理由:

写信给编辑
标题:
内容:
您的昵称:
您的邮件地址: