大數(shù)據(jù)時(shí)代對地觀測衛(wèi)星的發(fā)展現(xiàn)狀與趨勢論文
一、前言
對地觀測是人類利用衛(wèi)星、飛船、航天飛機(jī)、飛機(jī)以及近空間飛行器等空間平臺和地面、地下的各種傳感器設(shè)備獲取觀測數(shù)據(jù),結(jié)合各個(gè)學(xué)科的專業(yè)知識,對地面物體和地理過程進(jìn)行監(jiān)測和預(yù)測的科學(xué)活動,其目的是更加深刻和科學(xué)地揭示人類社會活動所依賴的地球環(huán)境和人地環(huán)境的規(guī)律和變化,增強(qiáng)人類對地球的利用和適應(yīng)能力。對地觀測研究工作具有非常明顯的信息學(xué)特征。因此,除了地球科學(xué)方法論外,信息科學(xué)方法論也對對地觀測科學(xué)活動有非常重要的指導(dǎo)意義。對地觀測研究很大程度上是圍繞著“信號—數(shù)據(jù)—信息—知識”的數(shù)字化信息過程來展開的,并構(gòu)成了“信息獲取—信息傳輸—信息存儲—信息加工—信息挖掘—信息呈現(xiàn)”的數(shù)據(jù)全生命周期。
從信息科學(xué)的角度來看,對地觀測領(lǐng)域知識發(fā)現(xiàn)的方法主要是確定模型分析方法。在遙感技術(shù)的發(fā)展初期,觀測數(shù)據(jù)量較小,用于數(shù)據(jù)挖掘分析的理論和模型也不夠成熟,因此更多是依靠專業(yè)人員的目視判讀進(jìn)行信息解譯和勾繪制圖,然后再利用其他學(xué)科的知識對獲得的信息進(jìn)行修正。這種方法顯然不能滿足日益增大的觀測數(shù)據(jù)量和日益復(fù)雜的應(yīng)用模式需求。在數(shù)據(jù)量不斷增大、信息提取精度不斷提高的情況下,依賴于計(jì)算機(jī)處理的數(shù)據(jù)分析新模式出現(xiàn)了。遙感信息反演的定量化成為對地觀測信息深度應(yīng)用的趨勢,這種能力也隨著計(jì)算機(jī)處理能力的提升不斷提高,逐步滿足了 MB(220 字節(jié))、GB(230 字節(jié))、TB(240字節(jié))甚至部分 PB(250 字節(jié))量級的數(shù)據(jù)分析和信息挖掘工作,從應(yīng)用上解決了較大地理尺度上的復(fù)雜地學(xué)問題。提升計(jì)算機(jī)的處理速度和存儲設(shè)備的規(guī)模已經(jīng)成為解決觀測數(shù)據(jù)量增大和信息模型復(fù)雜化所帶來的問題的一個(gè)很好的途徑。進(jìn)入 21 世紀(jì)以后,對地觀測技術(shù)又呈現(xiàn)出很多新的發(fā)展趨勢,其中大數(shù)據(jù)的出現(xiàn)給對地觀測的研究帶來了全新的挑戰(zhàn)和發(fā)展機(jī)遇。近年來,隨著對地觀測需求的增加和技術(shù)的進(jìn)步,各種類型傳感器獲取數(shù)據(jù)的能力不斷提高,使得國內(nèi)外以專業(yè)化、行業(yè)化為特征的各類數(shù)據(jù)中心迅速崛起,對地觀測領(lǐng)域成為數(shù)據(jù)密集型計(jì)算的一個(gè)典型應(yīng)用。整個(gè)對地觀測系統(tǒng)流程突出體現(xiàn)了“需求牽引—知識驅(qū)動”的概念和原則,形成了以社會需求為先導(dǎo)來發(fā)展對地觀測衛(wèi)星、傳感器、平臺、數(shù)據(jù)傳輸、信息處理、應(yīng)用模型及相應(yīng)科學(xué)理論的發(fā)展模式。
二、對地觀測領(lǐng)域的大數(shù)據(jù)現(xiàn)象
在對地觀測領(lǐng)域,各類分辨率的衛(wèi)星產(chǎn)生的遙感信息無疑屬于大數(shù)據(jù)。以我國遙感衛(wèi)星為例,2008 年發(fā)射的風(fēng)云三號 A 星搭載著 20 通道的中分辨率光譜成像儀和 10 通道的可見光近紅外掃描輻射計(jì),實(shí)現(xiàn)了對整個(gè)地球進(jìn)行連續(xù)觀測,隨后與 2010 年和 2013 年發(fā)射的風(fēng)云三號 B 星和 C 星組網(wǎng),對地球開展每天 6 次的觀測。衛(wèi)星觀測數(shù)據(jù)切割成 5 分鐘段的數(shù)據(jù)文件,又將 250m 和 1000m 中分辨率光譜成像儀的數(shù)據(jù)分別存放,每天產(chǎn)生的數(shù)據(jù)文件和數(shù)據(jù)量均非常巨大。要管理、處理和分發(fā)這些全球數(shù)據(jù)需要運(yùn)用“大數(shù)據(jù)”的方式,而且需要大量的數(shù)據(jù)科學(xué)家開展基礎(chǔ)研究工作,研究算法,從數(shù)據(jù)中實(shí)時(shí)提取地球參數(shù)信息,進(jìn)而為科研、業(yè)務(wù)的數(shù)據(jù)信息需求服務(wù)。這一事實(shí)充分說明了從海量遙感數(shù)據(jù)的獲取、存儲、提取與分發(fā)、數(shù)值處理,到數(shù)據(jù)挖掘和知識發(fā)現(xiàn),對地觀測活動的整個(gè)生命周期體現(xiàn)了大數(shù)據(jù)的“4V”特性:數(shù)據(jù)體量大 (volume)、數(shù)據(jù)來源和類型繁多(variety)、數(shù)據(jù)的真實(shí)性難以保證(veracity)、數(shù)據(jù)增加和變化的速度快(velocity)。
國際上,美國和歐洲處理和分發(fā)中分辨率數(shù)據(jù)較中國稍早幾年,美國處理 MODIS 數(shù)據(jù)和產(chǎn)品的方式、歐洲處理 ENVISAT/MERIS 數(shù)據(jù)和產(chǎn)品的方式可為我們借鑒。由于美國沒有 MODIS 的后續(xù)衛(wèi)星計(jì)劃,數(shù)據(jù)的供給將隨著傳感器的失效而終止。歐洲的 ENVISAT/MERIS 于 2012 年失效,只能提供 2002-2012 年間的數(shù)據(jù)。中國風(fēng)云氣象衛(wèi)星規(guī)劃已持續(xù)到 2020 年,因而,在未來幾年,中國的風(fēng)云衛(wèi)星中分辨率遙感數(shù)據(jù)在國際上將是重要的數(shù)據(jù)源,向全球用戶提供優(yōu)質(zhì)的數(shù)據(jù)和產(chǎn)品,將是中國數(shù)據(jù)科學(xué)家肩上的重任。
1. 觀測平臺和傳感器的`數(shù)據(jù)獲取
遙感數(shù)據(jù)獲取是由載有成像傳感器的遙感飛行平臺來完成的。遙感飛行平臺的發(fā)展體現(xiàn)在:①先進(jìn)的衛(wèi)星對地觀測系統(tǒng),包括大型的綜合衛(wèi)星平臺與小衛(wèi)星星座;②先進(jìn)的集成高—中—低空飛行作業(yè)的航空遙感平臺;③全面一體化的對地觀測綜合系統(tǒng)。未來的傳感器搭載平臺將是由相輔相成的高中低軌道上的大小衛(wèi)星平臺和高中低航空平臺組成的,天地一體化、全球性、立體和多維的觀測體系。與此同時(shí),對地觀測傳感器的數(shù)據(jù)獲取能力將向著“三高”(高空間分辨率、高光譜分辨率和高時(shí)相分辨率)和全天候方向發(fā)展。遙感平臺和傳感器的技術(shù)進(jìn)步使得獲取的數(shù)據(jù)量大幅度增大。比如剛剛退役的 Landsat -5 衛(wèi)星在其29 年的在軌工作期間,平均每年獲取 8.6 萬景影像,每天獲取 67GB 的觀測數(shù)據(jù)。而 2012 年發(fā)射的資源 3 號衛(wèi)星,每天的觀測數(shù)據(jù)獲取量可以達(dá)到 10TB 以上。類似的傳感器現(xiàn)在已經(jīng)大量部署在衛(wèi)星、飛機(jī)等飛行平臺上,未來 10 年全球天、空、地空間中部署的百萬計(jì)傳感器每天獲取的觀測數(shù)據(jù)將超過 10PB。
2.天- 空- 地一體化的對地觀測數(shù)據(jù)網(wǎng)絡(luò)傳輸
巨大的觀測能力需要通過覆蓋天-空-地的高速數(shù)據(jù)傳輸網(wǎng)來實(shí)現(xiàn)對地觀測平臺和全球地面接收站網(wǎng)絡(luò)之間的數(shù)據(jù)傳遞。這種傳輸能力要通過一個(gè)由光纜、地面微波、蜂窩移動通信和低、中以及靜止軌道的衛(wèi)星通信系統(tǒng)組成的、服務(wù)于全球的、無縫隙覆蓋的、全球一體化的高速天-空-地對地觀測數(shù)據(jù)傳輸網(wǎng)絡(luò)實(shí)現(xiàn),F(xiàn)在,單個(gè)傳感器的信號下傳速率已經(jīng)突破了 Gbit/s。
3. 海量數(shù)據(jù)的快速處理
標(biāo)準(zhǔn)遙感產(chǎn)品的快速生成需要高吞吐量、高精度及自動化的分布式數(shù)據(jù)處理能力,以滿足規(guī);、業(yè)務(wù)化的標(biāo)準(zhǔn)產(chǎn)品生產(chǎn)的要求。標(biāo)準(zhǔn)產(chǎn)品快速處理的突出特點(diǎn)是即時(shí)性和大吞吐量,兼有數(shù)據(jù)密集、計(jì)算密集的性質(zhì)。海量遙感數(shù)據(jù)的處理需要利用龐大的網(wǎng)絡(luò)計(jì)算資源,通過并行計(jì)算、分布式處理以及集群計(jì)算技術(shù)來實(shí)現(xiàn)網(wǎng)絡(luò)化大數(shù)據(jù)量處理及多機(jī)分布式并行處理,以滿足應(yīng)用的需求。我們可以利用網(wǎng)格技術(shù)把分散在不同地理位置的計(jì)算機(jī)組織成一個(gè)“虛擬的超級計(jì)算機(jī)”,來提供高性能和高吞吐量的計(jì)算環(huán)境,為完成計(jì)算密集型任務(wù)提供有力的手段;同時(shí)充分利用網(wǎng)絡(luò)上多種閑置計(jì)算設(shè)備的處理能力,完成傳統(tǒng)計(jì)算模式下不能完成的各種大數(shù)據(jù)量的計(jì)算任務(wù),從而保證標(biāo)準(zhǔn)產(chǎn)品的快速處理和生成。
4. 下一代空間數(shù)據(jù)設(shè)施
下一代空間數(shù)據(jù)設(shè)施建設(shè)將以全球尺度問題求解和多樣化實(shí)體數(shù)據(jù)設(shè)施建設(shè)為前提,基于傳統(tǒng)空間數(shù)據(jù)設(shè)施和聯(lián)邦數(shù)據(jù)設(shè)施,通過松耦合形式建立一種非中心化、虛擬化、按需服務(wù)化和全球化的數(shù)據(jù)服務(wù)體系。分布在世界各地的各種對地觀測數(shù)據(jù)中心,將在下一代空間數(shù)據(jù)設(shè)施的連接下,面向特定專題,與高性能的信息化設(shè)施結(jié)合,動態(tài)形成大量專業(yè)化的虛擬數(shù)據(jù)設(shè)施。這些設(shè)施不僅可以匯聚和提供超大規(guī)模的數(shù)據(jù),還具備對數(shù)據(jù)進(jìn)行深度加工和挖掘的計(jì)算能力。地球觀測組織(GEO)所推動建立的全球綜合地球觀測系統(tǒng)(GEOSS)就是一種下一代空間數(shù)據(jù)設(shè)施,這種設(shè)施管理和處理的都是超大規(guī)模的對地觀測數(shù)據(jù)和空間數(shù)據(jù)。
5. 數(shù)字地球與未來地球
作為和對地觀測銜接的科學(xué)框架,數(shù)字地球是一個(gè)廣泛的以信息高速公路和空間基礎(chǔ)設(shè)施為依托的概念,其核心思想是用數(shù)字化手段整體性解決地球的各種科學(xué)問題,并最大限度地利用信息資源。未來的數(shù)字地球不再局限于進(jìn)行地學(xué)數(shù)據(jù)的表達(dá)和呈現(xiàn),而將成為一種對地球的各種學(xué)科的數(shù)據(jù)和模型進(jìn)行綜合分析的平臺。同時(shí),由國際科學(xué)理事會(ICSU)和國際社會科學(xué)理事會(ISSC) 共同發(fā)起的“未來地球”計(jì)劃將多學(xué)科交叉研究推向更加重要的位置。不論數(shù)字地球還是未來地球,其多學(xué)科的高度數(shù)據(jù)復(fù)雜性是非常顯著的信息特征。和常規(guī)的單學(xué)科研究不同,在這種綜合研究場景中,信息技術(shù)要面對的是多學(xué)科復(fù)雜數(shù)據(jù)類型之間的數(shù)據(jù)建模、數(shù)據(jù)發(fā)現(xiàn)和數(shù)據(jù)整合問題。
三、大數(shù)據(jù)在對地觀測領(lǐng)域應(yīng)用的典型案例
大數(shù)據(jù)時(shí)代的對地觀測技術(shù)為發(fā)展空間地球信息科學(xué)奠定了基礎(chǔ),從對地觀測過程的信息學(xué)特征可以清晰地看到此領(lǐng)域大數(shù)據(jù)的發(fā)展趨勢。但目前大數(shù)據(jù)研究普遍存在著“只有數(shù)據(jù)、沒有利用”的問題,導(dǎo)致搜集數(shù)據(jù)、存儲數(shù)據(jù)付出的成本被浪費(fèi)。據(jù)報(bào)道,通過遙感衛(wèi)星獲得的影像數(shù)據(jù)中,目前得到應(yīng)用的不到 5%,多半數(shù)企業(yè)不知如何從數(shù)據(jù)中獲得價(jià)值,因此這個(gè)問題急需解決,下面將介紹一些國內(nèi)外創(chuàng)新企業(yè)利用大數(shù)據(jù)技術(shù)為遙感圖像應(yīng)用找出路的典型案例,希望能夠擴(kuò)寬我們的視野并從中得到有價(jià)值的借鑒。
1.Digital Globle: 遙感圖像 + 大數(shù)據(jù)分析助力尋找馬航 MH370 迷蹤
馬航失聯(lián)客機(jī) MH370 去哪兒的問題,牽動著全世界的心。為了找出謎題的答案,尋回239名乘客的信息,各方為此動用了許多手段,包括直接分析飛機(jī)上設(shè)備發(fā)出的各種信號,衛(wèi)星和雷達(dá)的天羅地網(wǎng)等先進(jìn)的科技方式,調(diào)遣各類船只前往可能事故區(qū)域搜網(wǎng)式調(diào)查,可惜都無果而終,就在失聯(lián)事件發(fā)生的 12 天后,澳大利亞宣布從衛(wèi)星影像中找到了疑似馬航 MH370 失聯(lián)航班殘骸,廣袤的洋面找一架飛機(jī)如同大海撈針實(shí)屬不易,雖然還未能確定殘骸是否來自于 MH370,但在短短幾天內(nèi)在能夠通過海量的衛(wèi)星圖片發(fā)現(xiàn)如此重要的線索可見其背后的數(shù)據(jù)分析能力之強(qiáng)大,支撐這一能力的正是大數(shù)據(jù)技術(shù),快速定位殘骸坐標(biāo)體現(xiàn)了大數(shù)據(jù)技術(shù)在處理海量高分遙感圖像上的速度優(yōu)勢,展示了大數(shù)據(jù)與遙感技術(shù)的融合將在災(zāi)難救援方面的關(guān)鍵作用。
2.Skybox Imaging:邁向大數(shù)據(jù)時(shí)代的商業(yè)遙感成像公司
Skybox 成像公司成立于 2009 年,目前員工不到 60人,是名副其實(shí)的“小”公司,但卻在多輪融資中備受風(fēng)投的青睞,麻省理工學(xué)院技術(shù)評論將其評為 2012年最具“摧毀性”的 50 家公司之一。
3. 禾訊科技:商業(yè)化衛(wèi)星遙感服務(wù)現(xiàn)代化農(nóng)業(yè)生產(chǎn)
農(nóng)業(yè)是生命之源、發(fā)展之基。由于農(nóng)業(yè)資源、環(huán)境及多樣化的生產(chǎn)經(jīng)營方式,農(nóng)業(yè)大數(shù)據(jù)涉及到水、土、光、熱、氣候資源,作物育種、種植、施肥、植保、過程管理、收獲、加工、存儲、機(jī)械化等環(huán)節(jié)會產(chǎn)生大量結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù),而且隨著農(nóng)業(yè)科技創(chuàng)新發(fā)展和物聯(lián)網(wǎng)的應(yīng)用,非結(jié)構(gòu)化數(shù)據(jù)呈現(xiàn)快速增長的勢頭,其數(shù)量將大大超過結(jié)構(gòu)化數(shù)據(jù),為保障“舌尖上的安全”,利用大數(shù)據(jù)技術(shù)對不斷產(chǎn)生的大批非結(jié)構(gòu)化數(shù)據(jù)的信息獲取、挖掘、存貯、處理與智慧應(yīng)用是農(nóng)業(yè)現(xiàn)代化不可或缺的手段。
四、大數(shù)據(jù)情境下對地觀測研究的發(fā)展趨勢
1.從量變到質(zhì)變
對地觀測領(lǐng)域的大數(shù)據(jù)現(xiàn)象,在不同尺度上對現(xiàn)有的技術(shù)水平提出了挑戰(zhàn)。對地觀測領(lǐng)域的大數(shù)據(jù)現(xiàn)象包括 4 個(gè)方面:①數(shù)據(jù)量劇增,已經(jīng)達(dá)到 PB 量級;②數(shù)據(jù)類型多樣,來自空基、天基的各種不同成像機(jī)理及數(shù)據(jù)獲取方式、不同時(shí)空分辨率和光譜特性的傳感器數(shù)據(jù)和地面臺站的觀測數(shù)據(jù)及實(shí)驗(yàn)?zāi)M數(shù)據(jù)、統(tǒng)計(jì)數(shù)據(jù)等構(gòu)成了紛繁復(fù)雜的數(shù)據(jù)類型;③應(yīng)用場景眾多,目前對地觀測數(shù)據(jù)在氣象、水文、能源、農(nóng)林種植、工礦開發(fā)及災(zāi)害應(yīng)急等諸多領(lǐng)域體現(xiàn)了其應(yīng)用價(jià)值;④應(yīng)用服務(wù)時(shí)間尺度多種多樣,天氣預(yù)報(bào)、災(zāi)害應(yīng)急等需要實(shí)時(shí)或準(zhǔn)實(shí)時(shí)的數(shù)據(jù)分發(fā)反饋,而地圖測繪、土地變化等則需要中長期的對地觀測數(shù)據(jù),不需要高時(shí)效性。
2.多數(shù)據(jù)中心協(xié)同處理
傳統(tǒng)的對地觀測知識發(fā)現(xiàn)的科研模式在大數(shù)據(jù)情境下已經(jīng)不再適用,原因是傳統(tǒng)的科研模型不具有普適性且支持的數(shù)據(jù)量受限,受到數(shù)據(jù)傳輸、存儲及時(shí)效性需求的制約等。因此,新知識正更多來自于大數(shù)據(jù)的使用,數(shù)據(jù)生命周期中信息學(xué)流程的變化正引發(fā)傳統(tǒng)科研模式的變化。以“用戶需求”為導(dǎo)向的對地觀測活動,需要為有不同應(yīng)用需求的用戶提供恰當(dāng)?shù)臄?shù)據(jù)產(chǎn)品及信息資源,要求對地觀測數(shù)據(jù)實(shí)時(shí)處理及快速分發(fā)。實(shí)現(xiàn)這一目標(biāo)的關(guān)鍵是多中心協(xié)同計(jì)算,通過構(gòu)建分布式多中心計(jì)算環(huán)境,將大量松散綁定或獨(dú)立的數(shù)據(jù)處理任務(wù)動態(tài)分配給閑置計(jì)算資源,實(shí)現(xiàn)資源動態(tài)調(diào)度及任務(wù)分配。目前需要解決的問題是如何實(shí)現(xiàn)有效地調(diào)度計(jì)算資源及跨異構(gòu)系統(tǒng)計(jì)算時(shí)如何維持系統(tǒng)的高性能等。
3.模型驅(qū)動到數(shù)據(jù)中的知識發(fā)現(xiàn)模式
傳統(tǒng)的數(shù)據(jù)生命周期信息學(xué)流程是從數(shù)據(jù)到信息,再通過模型進(jìn)行知識發(fā)現(xiàn)。而隨著數(shù)據(jù)量的爆炸式增長,可用模型已不能對海量數(shù)據(jù)進(jìn)行模擬推演,因此由模型發(fā)現(xiàn)知識的傳統(tǒng)方法已經(jīng)不能適應(yīng)大數(shù)據(jù)時(shí)代的需求。
4.多學(xué)科交叉的科學(xué)研究
全球性的資源、環(huán)境問題日益凸顯,使得全球變化問題和可持續(xù)發(fā)展成為全世界科學(xué)家關(guān)注的焦點(diǎn)和研究的重點(diǎn)。全球變化的研究對象包括大氣圈、水圈、生物圈、人文圈并涉及外層空間,需要理解并掌握這些圈層中各個(gè)要素之間的物理、化學(xué)、生物、人文的影響過程和規(guī)律,需要自然科學(xué)、社會科學(xué)和工程科學(xué)相融合的面向大數(shù)據(jù)的新科學(xué)研究方法,也需要科學(xué)數(shù)據(jù)和互聯(lián)網(wǎng)數(shù)據(jù)之間的全新耦合和整合方法。
【大數(shù)據(jù)時(shí)代對地觀測衛(wèi)星的發(fā)展現(xiàn)狀與趨勢論文】相關(guān)文章:
我國IPTV現(xiàn)狀與發(fā)展趨勢的論文03-04
國內(nèi)電子病歷的發(fā)展現(xiàn)狀與趨勢論文05-21
設(shè)施農(nóng)業(yè)的現(xiàn)狀發(fā)展趨勢研究論文05-16
民族體育發(fā)展現(xiàn)狀與發(fā)展趨勢研究論文05-21
機(jī)械制造工藝發(fā)展現(xiàn)狀與發(fā)展趨勢論文05-17
林業(yè)發(fā)展現(xiàn)狀及我國林業(yè)發(fā)展趨勢論文05-15