HTML5 Webook
14/134

PANDAデータ利用システム2.1PAWR観測データのリアルタイム転送2012年に設置された吹田PAWRの観測データを利用するためのデータ処理システムは、当時のJGN-X回線を用いてNICTサイエンスクラウドを利用することで開発した[1]。2014年に運用を開始した神戸及び沖縄PAWRについては、導入当初からPANDAの仕様として小金井に観測データが転送されていた。しかしながら、遠距離の実効転送速度に問題があり、リアルタイム観測データの利用やクイックルック(QL)画像の作成を行うために、吹田PAWRデータと同じネットワークでデータを扱う改修を行った。また、2018年度まではNICTサイエンスクラウドのネットワークやWebサーバを利用していたが、その廃止に伴いNICTクラウドのネットワークにデータ利用システム全体を移行した。2019年4月現在のPANDAデータ利用システムのネットワークを図1に示す。吹田PAWRを含むvlanA系統が本研究で開発したネットワークで、神戸・沖縄PAWRを含むvlanBは導入時のPANDAネットワークで、レーダーシステムの制御サーバなどを含むため外部からのアクセスは最小限に制限している。PAWR観測データの容量は、通常の30秒観測シーケンスで生成される13種類の全種別データを合わせると493MBとなり、データレートは131Mbpsとなる。利用するJGN回線はほとんどが10Gbps以上の高速回線であるが、通常のTCP通信では遅延や長距離によるパケットロスの影響で、時々30秒以内に全データを転送できない状況が発生していた。そこでNICTで開発されたHpFPファイル転送ツールhpcopy(http://hpfp.nict.go.jp)を使うことで、全データのリアルタイム転送が安定して実現できるようになった。3台のPAWR観測データのアーカイブは、種別ごとのデータを1時間ごとにまとめて圧縮(tar.gz)し、主としてけいはんな(京都府精華町)のM2Mストレージの2.4PBボリュームに保存してきたが2019年6月で容量が一杯となる。M2Mに保存していない観測データは融合データ蓄積装置やデータ解析サーバ等に分散して保存している。また、非圧縮の最新数か月分の神戸・沖縄PAWRデータは融合データ蓄積装置に、吹田PAWRデータはデータ解析サーバ(pawr-dp04)にもデータ保存しており、顕著な現象が発生した時などには直ちにデータ解析できるようになっている。また、後述するリアルタイムのデータ品質管理及びリアルタイムデータ利用ユーザへの配信には、データ解析サーバを使用している。2.2データ公開Webページ吹田、神戸、沖縄の3台のPAWRの稼働状況を常時モニターするとともに、過去データの検索を行うための公開Webページ(https://pawr.nict.go.jp)を制作した。トップページでは3台のPAWRのQL画像(高度2kmの反射強度の水平分布)を公開しており、30秒ごとの自動ページ更新により3台のPAWRの最新の観測結果が観測終了後1分以内に確認できるように2図1PANDAデータ利用システムで用いている主要な計算機サーバ・ストレージ(青と赤)、ファイアウォール(FW)・スイッチ(SW)・アクセスポイント(AP)(橙)及びネットワークを示す模式図。沖縄神戸吹田PAWRJGN AP 近畿-2JGN AP 関東-3vlanAInternetJGN AP 近畿-3JOSE VMpanda-VM00M2M吹田小金井6号館SWデータ解析サーバpawr-dp01 ~dp05データ配信サーバtrans-panda-sc神戸PANDA沖縄PANDA融合データ蓄積装置dfsuc-panda-kgn高速QL作成サーバql-panda-kgnけいはんなNICTクラウドストレージpanda-nc-storageNICTクラウドWebサーバpanda-nc-web大阪大学内NWNICT研究系NWデータ蓄積装置hostDBQL作成サーバql-panda-kobNICTクラウドFW阪大APサーバL3-SWデータ中継サーバpawr-data-transncloudAPNICTクラウドFWvlanAvlanBvlanBvlanAvlanAvlanBvlanAデータ蓄積装置db-panda-kobデータ蓄積装置db-panda-oknQL作成サーバql-panda-oknPANDAゲートウェイpanda-gw10   情報通信研究機構研究報告 Vol. 65 No. 1 (2019)2 地上レーダーによる気象現象の観測

元のページ  ../index.html#14

このブックを見る