你好,欢迎来到! 设为首页 收藏本站
联系电话
论文范文 当前位置: > 写作指南 > 论文范文 >

大数据环境下卫星对地观测数据集成系统的关键技术(3)

时间:2015-11-06 11:13来源:www.hexinqk.com 作者:谢榕 刘亚文 李翔翔 点击:
3. 3 高效卫星元数据管理 大容量异构卫星数据的集成,需要解决卫星数据目录功能复杂性问题,因此建立标准化卫星数据集成元数据模型,对卫星遥感、地面观测、仿真模型等异构数据源以及不同数据归档系统之间数据进行
  3. 3 高效卫星元数据管理
  大容量异构卫星数据的集成,需要解决卫星数据目录功能复杂性问题,因此建立标准化卫星数据集成元数据模型,对卫星遥感、地面观测、仿真模型等异构数据源以及不同数据归档系统之间数据进行有效集成。一个完整的元数据模型可包含多个元数据包[26],包括主类定义、支撑类定义和描述图像的扩展类定义和特殊类定义。每个元数据包包含一个或多个元数据实体。元数据实体由一系列元数据元素组成。元数据元素可包括3 类成分,即核心元素、特殊类元素和扩展类元素。其中,核心元素定义每个数据集应该包含的元数据最小集; 扩展类元素则定义描述图像的扩展元数据; 特殊类元素包括专业元素和组织机构专用元素。图像元数据类包括元数据集信息、识别信息、数据质量信息、空间信息表示、参考系统信息、内容信息。
  在此基础上,采用分布式数据管理架构[27],将元数据分散在多个节点上,以目录为粒度对元数据进行划分,并根据集群负载状况建立目录子树,实现元数据在集群中的合理分布与存储,解决元数据服务器性能瓶颈问题,提高可扩展性。
  4 基于网格的遥感图像快速处理技术
  快速生产标准遥感产品需要开发系统具有大吞吐量的、高精度的以及自动化的数据处理能力。海量遥感数据的高效处理及其标准产品的快速生成属于数据密集型的计算工作,而传统计算模式无法满858 地球科学进展无法满足这种遥感图像实时快速处理的应用需求,因此,需要充分利用庞大的网络计算资源,通过集群计算、分布式处理等技术来实现网络化大容量数据处理及多机分布式并行处理。基于网格计算模式,开发基于网格计算的图像处理中间件,以及影像处理算法和数据质量评价,可集中实现对海量遥感图像的快速处理及应用。
  4. 1 网格计算模式
  利用网格技术[28]可以把分散于不同地理位置的计算机集中起来组织成一个虚拟超级计算机,为完成数据密集型的计算任务提供高吞吐量、高性能的计算环境; 同时充分利用网络上一些闲置资源设备及其处理能力,完成传统计算模式下难以完成的各种大数据量的计算任务,保证卫星数据快速处理以及标准产品生成。
  4. 2 图像处理中间件
  根据用户具体任务以及网格计算资源实际情况,对图像处理任务进行分割管理[29],并将分割任务及其执行任务所需程序和参数提交给中央管理服务器,通过中央管理器分发给网格计算资源中各个节点。完成图像处理后,再将各个计算节点上作业的计算执行结果返回到中央管理节点服务器进行数据合成。在处理过程中,还需要监控网格平台中计算资源的状况,包括工作状态、闲置状态以及各节点上作业执行情况等。
  4. 3 影像处理及数据质量评价
  由于遥感平台运动、地球自传等因素影响,卫星遥感对地观测所获得的影像会在几何上产生形变、在灰度上产生衰减。为了能从对地观测数据中精确提取所需地理空间信息,必须对获取的遥感影像进行影像处理,因此开发影像处理算法,包括遥感影像精确几何纠正算法和辐射校正算法,同时建立卫星数据质量评价体系。
  5 卫星遥感大数据深度分析与地学知识发现技术
  在数据量增大、信息提取精度高等需求下,从对地观测数据和时空信息中发现地学知识,需要解决海量遥感数据深度分析的新模式问题。目前,以Hadoop-MapReduce 为代表的非关系数据分析技术,以其适合非结构化数据处理、大规模并行处理等突出优势,在海量数据存储与分析应用领域中取得了重大进展,已成为大数据分析的主流技术。尽管如此,Hadoop 在应用性能等方面仍存在问题,其编程模型处于较低层次。针对不同数据分析任务,需要开发不同MapReduce 程序进行处理,使系统具有高扩展性大数据分析能力。在进行海量卫星遥感数据深度分析与地学知识发现时,可建立反映地面参数时空变化信息及其关联的卫星图像数据仓库,开发基于Hadoop 的高扩展性数据分析算法以及统一框架的时空分析具体任务,包括聚类、关联、分类、时序分析、不确定性挖掘以及知识表达与解释。
  5. 1 卫星图像数据仓库
  从应用深度上,可将遥感大数据分析划分为3个层次空间,即: ①数据空间。在该空间上利用现有数据库管理系统的查询检索功能,进行基于关键字或字段的信息查询,实现联机事务处理。②聚合空间。从时空数据集中获取满足空间与时间约束的时空对象集合,在该空间上利用聚集运算,并结合多维分析和统计分析,实现联机分析处理,以提供决策参考的统计分析。③影响空间。按照相似性的聚类,发现关联性、相似时序、分类结构以及不确定性知识等。按照这种层次空间建立卫星图像数据仓库,并从数据仓库中发现隐含的有用信息。
  5. 2 基于Hadoop 的高扩展性数据分析算法
    针对大数据计算模式和处理环境,利用Hadoop[30],并结合MapReduce 编程模型,可采用一种基于数据本地化计算的数据分析技术[31, 32],包括数据分布策略和数据挖掘算法2 个方面。


  核心期刊网(www.hexinqk.com)秉承“诚以为基,信以为本”的宗旨,为广大学者老师提供投稿辅导、写作指导、核心期刊推荐等服务。
  核心期刊网专业期刊发表机构,为学术研究工作者解决北大核心CSSCI核心统计源核心EI核心等投稿辅导咨询与写作指导的问题。

  投稿辅导咨询电话:18915033935
  投稿辅导客服QQ: 论文投稿1002080872 论文投稿1003158336
  投稿辅导投稿邮箱:1003158336@qq.com
------分隔线----------------------------
栏目列表  
推荐论文  
热点论文  
 
QQ在线咨询
投稿辅导热线:
189-1503-3935
微信号咨询:
18915033935
网站简介 核刊总览 普刊专栏 期刊验证 学术答疑 服务流程 写作指南 支付方式 信用说明 联系我们
CopyRight © 2013 All Rights Reserved.
免责声明:本站提供投稿辅导 论文投稿 投稿辅导 核心期刊检索 核心投稿辅导等服务,本站刊载文章仅代表作者观点
并不意味着本站认同,部分作品系转载,版权归原作者或相应的机构;若某篇作品侵犯您的权利,请来信告知:1003158336@qq.com