搭建“环保大数据平台”的设想与实践
摘要:本文对现有的环保数据管理现状及存在问题进行了分析,重点研究用大数据技术进行环保数据融合以及数据共享平台建设的方式,确立了以构建开放式数据管理模式为依托的数据资源融合与共享服务模式的管理平台。
关键词:环保大数据;平台搭建;设想实践
中图分类号:X321 文献标识码:A 文章编号:2095-672X(2017)03-0280-01
DOI:10.16647/j.cnki.cn15-1369/X.2017.03.154
Abstract: This paper analyzes the present situation and existing problems of existing environmental data management. It focuses on the way of using environmental data integration and data sharing platform with large data technology, and establishes the data resources based on the construction of open data management model Integration and sharing of service model management platform.
Key words: environmental protection large data;platform construction ;idea practice
随着环境信息化建设进程的逐渐推进,各环保部门的数据量不断攀升,范畴逐渐扩大。这种情况普遍存在在各个环保部门,包括环保科学研究、环保行政执法、环境监测分析、环保基础设施建设、生态保护和其他环保行政主管部门。数据都还以原始的状态保存,信息不利共享,导致形成信息“孤岛”。然而,很多大数据又需要新模式支撑,优化流程,达到海量信息高效率处理的目的。现今,已不是大数据存储的问题,而是信息间的专业化的处理问题,从而将其转化成有决策意义的信息。本文研究的重点則是借用物联网、云计算、大数据技术等对数据进行处理,从而搭建“环保大数据平台”,实现信息共享,给环保提供决策支撑1。
1 环保应用系统现状及存在问题
当下,环保数据处于分散状态。各个业务系统都有自身独自的数据结构,有自己专属的数据库类型。同时这些数据又被分散在不同的服务器之中,不同的地点中。由于在系统初建之时并没有进行按照统一的标准建设,也没有可转换的数据接口,再者各自的数据接口有不同的结构,最后只能是各自为政的局面。
目前,环境自动监控能力不足,环境安全很难得到可靠保障。首先,气体污染物,其排放末端的检测及监控效益不高。尽管很多重点行业及企业安装了污染源在线监测的设备,然而对于设备运行状态的判断力仍不足,对于治理设施工艺中参数的运行操作变得非常迫切。其次,环保系统的现场监察设施不完善,执法的效率十分低下。最后,数据资源分散的状态下,无法实现共享。造成信息“孤岛”。
2 大数据技术的发展对于环保数据平台的意义
大数据不只是在系统里转换,且会向外部公开发布,就也是为传统的数据保存、运用和研究制造了不小的困难。大数据的技术发展具有很重要的意义,不只是海量的数据的搜集,还包括对其专业化的处理,完成自“数据”至“数据”间的小流转,进而到不同部门间实现数据共享以及业务合作,能够系统的为环保职工及管理层工作者提供其想要的有用信息,且可以为他们的决策及分析起到辅助作用。
环保部门之间的资源分享和大数据技术之间存在着很好的耦合关系,政府各工作组的信息共享的前期发展与建设也给大数据的发展造就更多可能,相反大数据给政府各工作组的信息资源分享平台的进一步推进提供了好的方向2。
3 环保大数据平台的定位
环保大数据平台依靠“物联网、云计算、大数据管理”等技术来搭建,提供大数据运营新模式,其主要的定位是以下三方面:
多源、异构数据的采集通常是借由传感器等物联网底层传感技术,完成污染源等实时采集工作。
海量的数据处理工作,内含异构数据间融合转换、数据云得存储、数据进行实时分析,还有环保数据挖掘。
云桌面安全管理引人云桌面从根本上保障数据存储安全,作为数据运营的基础。
4 平台设计理念与原则
环保大数据平台的设计理念就是实现共享,行业领先。要密切围绕五个层面的需求展开,该平台要满足“感知、管理、存储、展现、应用”等,能有针对性、综合、创新。总体规划,面向未来。要把运用作为前提,用平台建设作为基地,环保大数据的平台建设,是城市环境信息化不断前进的根基。运用水平不断规范化。地业务及流程不断清理,将业务的执行力提升的同时还要强调规范,业务办理需要做流程化规定,在管理方面制定方便的维护措施,信息体统建设应进行模块化。采用信息化的方法,对整个业务体系建构新支撑。科学及实用性。使用标准的技术路线,能够对技术风险进行有效的规避,对系统的开放及扩展性都能增强保护,也以此减少对特定技术与供应商的依赖。技术路线应实用且高端。城市环保大数据的平台应有国内外高端技术及设备支撑,确保体系有强大的技术生命力,能符合建设需求。系统的高可靠性,通过城市大数据交换平台的建设,为系统的运行带来有效的安全保障,能将网络与系统出现的单点故障规避,使其具备灾难自修复力,确保系统有效的可靠运行。系统的可扩展性。使用标准的、且能扩展的架构,保证其在业务剧增的情况下还能稳定扩容,系统的结构不会有任何改变,这便是给未来发展奠定坚实基础,因此系统在设计方面必须有远大的前瞻性。易管理性:业务以及在性能管理方面应该要以方便为主,同时能及时发布日志,具备审计等等功能。实现信息化良性循环。就此项目的落成,能加快与落实环境大数据走向信息化,确保信息化能有良性的滚动式运转。
5 平台系统架构
环保大数据平台的架构主要有三大系统模块构成,分别是数据采集、数据存储、应用展示,下面进行简单介绍:
(1)分布式采集系统,是一种基于”桌面云“的技术。它是一种能集大合类型,能将各种不同的数据进行整合。它还能以此建立一个统一的物联网数据采集系统。(2)环境数据中心,是一个数据存储的管理平台。因此要具备信息转换的功能,能够将异构数据统一,且将其统一管理。(3)环境数据应用展示平台,则是一个综合应用平台。其中,包括仪器设备、信息监测展现、处理、整理、发布、运营管理。(4)云计算及存储中心,则是一种虚拟化的技术。目的是给环保大数据平台提供足够的存储空间,给予足够的弹性服务。
6 平台核心功能架构实践
数据的存贮和管理作为平台建设的根基,对环境数据融合,且有一个科学有效的数据存贮及管理模式,就能实现在一个平台上共享以及运转的目的,这个模式便是我们所要探讨的关键问题。就当下的环境数据存贮架构而言,把每个散落的数据,以及环境管理的需求,把每个需求当做核心,环境数据变成支撑的数据将其与核心融合,且把他们分散在异地的数据库经过数据交换中心进行连接,便是一个成功的存贮及管理新模式。
结合环保大数据平台的应用需求,分别是“感知、管理、储存、展现、应用”五大类,针对此设计了环保大数据大平台核心的功能架构方案。
6.1 数据感知层
目前许多监测仪器品牌繁杂、类型分散,为处理这个难题,需要在环保大数据平台上实现物联网环保数据采集体系。将采集的规范确立,发布标准,对于不同的数据接口要开发转换接口设备,实现不同类型设备间的连接转换,将异构信息统一于一个系统之上。
6.2 数据管理层
一般情况下,用PC服务器连接仪器设备进行数据采集时很容易出现数据外泄的情况。因此,采用桌面云的环保数据安全管理模式能有效解决这个问题。桌面云主机连接仪器能够有效的保障采集到的数据只有存储路径,没有拷贝功能,使得数据处于一个呗保护状态。能从根本上将数据安全指数提升,保护数据的产业价值。
6.3 數据存储层
环保大数据平台的系统较为复杂动态,其中牵涉多个部门、地区以及领域。因此,需要处理海量数据,基于数据建设云服务基础上进行多层级的升级。通过建设“IaaS-PaaS-SaaS”三层次的多元化云服务系统,进行更多弹性空间的设置,搭建大空间框架,给应用数据的平台带来更弹性的服务载体。
7 结语
当前环保信息化的现状问题较多,借由环保大数据平台的构建,通过多层级的服务设计,基于云计算、桌面云等等数据存储、管理技术,实现大范围、分散、独立环境数据间集中、统一、流转。有了强大的技术支撑,环保大数据平台搭建能够为环保机关、直属单位以及下属环保单位提供方便的数据决策、数据分析以及挖掘应用,为其他环保部门在数据上节省投入。
参考文献
[1]陈晓辉. 搭建“环保大数据”平台,推动绿色城市建设[J]. 江苏通信,2016,(03):12-14+21.
[2]闫甜. 环保大数据信息共享管理平台方案研究[J]. 中国新通信,2015,(19):100-101.
收稿日期:2017-05-11
作者简介:赵欢(1988-),男,本科,助工,研究方向为环境检测与环境管理。
关键词:环保大数据;平台搭建;设想实践
中图分类号:X321 文献标识码:A 文章编号:2095-672X(2017)03-0280-01
DOI:10.16647/j.cnki.cn15-1369/X.2017.03.154
Abstract: This paper analyzes the present situation and existing problems of existing environmental data management. It focuses on the way of using environmental data integration and data sharing platform with large data technology, and establishes the data resources based on the construction of open data management model Integration and sharing of service model management platform.
Key words: environmental protection large data;platform construction ;idea practice
随着环境信息化建设进程的逐渐推进,各环保部门的数据量不断攀升,范畴逐渐扩大。这种情况普遍存在在各个环保部门,包括环保科学研究、环保行政执法、环境监测分析、环保基础设施建设、生态保护和其他环保行政主管部门。数据都还以原始的状态保存,信息不利共享,导致形成信息“孤岛”。然而,很多大数据又需要新模式支撑,优化流程,达到海量信息高效率处理的目的。现今,已不是大数据存储的问题,而是信息间的专业化的处理问题,从而将其转化成有决策意义的信息。本文研究的重点則是借用物联网、云计算、大数据技术等对数据进行处理,从而搭建“环保大数据平台”,实现信息共享,给环保提供决策支撑1。
1 环保应用系统现状及存在问题
当下,环保数据处于分散状态。各个业务系统都有自身独自的数据结构,有自己专属的数据库类型。同时这些数据又被分散在不同的服务器之中,不同的地点中。由于在系统初建之时并没有进行按照统一的标准建设,也没有可转换的数据接口,再者各自的数据接口有不同的结构,最后只能是各自为政的局面。
目前,环境自动监控能力不足,环境安全很难得到可靠保障。首先,气体污染物,其排放末端的检测及监控效益不高。尽管很多重点行业及企业安装了污染源在线监测的设备,然而对于设备运行状态的判断力仍不足,对于治理设施工艺中参数的运行操作变得非常迫切。其次,环保系统的现场监察设施不完善,执法的效率十分低下。最后,数据资源分散的状态下,无法实现共享。造成信息“孤岛”。
2 大数据技术的发展对于环保数据平台的意义
大数据不只是在系统里转换,且会向外部公开发布,就也是为传统的数据保存、运用和研究制造了不小的困难。大数据的技术发展具有很重要的意义,不只是海量的数据的搜集,还包括对其专业化的处理,完成自“数据”至“数据”间的小流转,进而到不同部门间实现数据共享以及业务合作,能够系统的为环保职工及管理层工作者提供其想要的有用信息,且可以为他们的决策及分析起到辅助作用。
环保部门之间的资源分享和大数据技术之间存在着很好的耦合关系,政府各工作组的信息共享的前期发展与建设也给大数据的发展造就更多可能,相反大数据给政府各工作组的信息资源分享平台的进一步推进提供了好的方向2。
3 环保大数据平台的定位
环保大数据平台依靠“物联网、云计算、大数据管理”等技术来搭建,提供大数据运营新模式,其主要的定位是以下三方面:
多源、异构数据的采集通常是借由传感器等物联网底层传感技术,完成污染源等实时采集工作。
海量的数据处理工作,内含异构数据间融合转换、数据云得存储、数据进行实时分析,还有环保数据挖掘。
云桌面安全管理引人云桌面从根本上保障数据存储安全,作为数据运营的基础。
4 平台设计理念与原则
环保大数据平台的设计理念就是实现共享,行业领先。要密切围绕五个层面的需求展开,该平台要满足“感知、管理、存储、展现、应用”等,能有针对性、综合、创新。总体规划,面向未来。要把运用作为前提,用平台建设作为基地,环保大数据的平台建设,是城市环境信息化不断前进的根基。运用水平不断规范化。地业务及流程不断清理,将业务的执行力提升的同时还要强调规范,业务办理需要做流程化规定,在管理方面制定方便的维护措施,信息体统建设应进行模块化。采用信息化的方法,对整个业务体系建构新支撑。科学及实用性。使用标准的技术路线,能够对技术风险进行有效的规避,对系统的开放及扩展性都能增强保护,也以此减少对特定技术与供应商的依赖。技术路线应实用且高端。城市环保大数据的平台应有国内外高端技术及设备支撑,确保体系有强大的技术生命力,能符合建设需求。系统的高可靠性,通过城市大数据交换平台的建设,为系统的运行带来有效的安全保障,能将网络与系统出现的单点故障规避,使其具备灾难自修复力,确保系统有效的可靠运行。系统的可扩展性。使用标准的、且能扩展的架构,保证其在业务剧增的情况下还能稳定扩容,系统的结构不会有任何改变,这便是给未来发展奠定坚实基础,因此系统在设计方面必须有远大的前瞻性。易管理性:业务以及在性能管理方面应该要以方便为主,同时能及时发布日志,具备审计等等功能。实现信息化良性循环。就此项目的落成,能加快与落实环境大数据走向信息化,确保信息化能有良性的滚动式运转。
5 平台系统架构
环保大数据平台的架构主要有三大系统模块构成,分别是数据采集、数据存储、应用展示,下面进行简单介绍:
(1)分布式采集系统,是一种基于”桌面云“的技术。它是一种能集大合类型,能将各种不同的数据进行整合。它还能以此建立一个统一的物联网数据采集系统。(2)环境数据中心,是一个数据存储的管理平台。因此要具备信息转换的功能,能够将异构数据统一,且将其统一管理。(3)环境数据应用展示平台,则是一个综合应用平台。其中,包括仪器设备、信息监测展现、处理、整理、发布、运营管理。(4)云计算及存储中心,则是一种虚拟化的技术。目的是给环保大数据平台提供足够的存储空间,给予足够的弹性服务。
6 平台核心功能架构实践
数据的存贮和管理作为平台建设的根基,对环境数据融合,且有一个科学有效的数据存贮及管理模式,就能实现在一个平台上共享以及运转的目的,这个模式便是我们所要探讨的关键问题。就当下的环境数据存贮架构而言,把每个散落的数据,以及环境管理的需求,把每个需求当做核心,环境数据变成支撑的数据将其与核心融合,且把他们分散在异地的数据库经过数据交换中心进行连接,便是一个成功的存贮及管理新模式。
结合环保大数据平台的应用需求,分别是“感知、管理、储存、展现、应用”五大类,针对此设计了环保大数据大平台核心的功能架构方案。
6.1 数据感知层
目前许多监测仪器品牌繁杂、类型分散,为处理这个难题,需要在环保大数据平台上实现物联网环保数据采集体系。将采集的规范确立,发布标准,对于不同的数据接口要开发转换接口设备,实现不同类型设备间的连接转换,将异构信息统一于一个系统之上。
6.2 数据管理层
一般情况下,用PC服务器连接仪器设备进行数据采集时很容易出现数据外泄的情况。因此,采用桌面云的环保数据安全管理模式能有效解决这个问题。桌面云主机连接仪器能够有效的保障采集到的数据只有存储路径,没有拷贝功能,使得数据处于一个呗保护状态。能从根本上将数据安全指数提升,保护数据的产业价值。
6.3 數据存储层
环保大数据平台的系统较为复杂动态,其中牵涉多个部门、地区以及领域。因此,需要处理海量数据,基于数据建设云服务基础上进行多层级的升级。通过建设“IaaS-PaaS-SaaS”三层次的多元化云服务系统,进行更多弹性空间的设置,搭建大空间框架,给应用数据的平台带来更弹性的服务载体。
7 结语
当前环保信息化的现状问题较多,借由环保大数据平台的构建,通过多层级的服务设计,基于云计算、桌面云等等数据存储、管理技术,实现大范围、分散、独立环境数据间集中、统一、流转。有了强大的技术支撑,环保大数据平台搭建能够为环保机关、直属单位以及下属环保单位提供方便的数据决策、数据分析以及挖掘应用,为其他环保部门在数据上节省投入。
参考文献
[1]陈晓辉. 搭建“环保大数据”平台,推动绿色城市建设[J]. 江苏通信,2016,(03):12-14+21.
[2]闫甜. 环保大数据信息共享管理平台方案研究[J]. 中国新通信,2015,(19):100-101.
收稿日期:2017-05-11
作者简介:赵欢(1988-),男,本科,助工,研究方向为环境检测与环境管理。