mk-mode BLOG

このブログは自作の自宅サーバに構築した Debian GNU/Linux で運用しています。
PC・サーバ構築等の話題を中心に公開しております。(クローンサイト: GitHub Pages

ブログ開設日2009-01-05
サーバ連続稼働時間
Reading...
Page View 合計
Reading...
今日
Reading...
昨日
Reading...

MariaDB(MySQL) - 国土交通省・位置参照情報をデータベース化(その2)!

[ サーバ構築 ] [ GIS, MariaDB, MySQL, bash, シェル ]

こんにちは。

国土交通省が公開している「位置参照情報」についてです。

「位置参照情報」には「街区レベル」と「大字・町丁目レベル」の2種類あります。要約すると、「街区レベル」は街区とその代表点座標を、「大字・町丁目レベル」は大字・町丁目とその代表点座標を対応付けた情報のことです。

以下は、「位置参照情報」を MariaDB(MySQL) でデータベース化する手順についての記録です。

(以前、「MySQL(MariaDB) - 国土交通省・位置参照情報をデータベース化!」でも紹介しましたが、今回は、緯度・経度を(double 型ではなく) geometry 型 で登録し直したので、その記録です)

0. 前提条件

  • MariaDB 10.3.8 での作業を想定。(geometry 型の使用できるバージョンなら、 MySQL でも同様のはず)
  • DB スキーマが作成済みである。(以下では mlit_isj としている)
  • 今回は、全都道府県の全て(「街区レベル」&「大字・町丁目レベル」)のデータ(データ整備年度が最新のもの)をダウンロードする。
    (必要な都道府県や必要なデータ形式のみ選択してもよいが、その場合は展開されるディレクトリ名やファイル名が以下で紹介していものと若干異なるので注意)
  • unzip コマンド nkf コマンドが導入済みであること。

1. データ形式

まず、街区レベル位置参照情報と大字・町丁目レベル位置参照情報のデータ形式について。

1-1. 街区レベル位置参照情報

街区レベル位置参照情報のデータ形式は、CSV(Comma Separated Values)形式です。数字のコードはASCII、文字のコードはSHIFT-JISコードです。 X・Y座標および緯度経度座標の値は、世界測地系(日本測地系2000)です。現在旧日本測地系に基づくデータは提供しておりません。 平成24年度街区レベル位置参照情報データの項目は以下の通りです。(履歴フラグの部分はデータの作成・更新年度ごとに異なりますが、基本的にはどの年度のデータも同じフォーマットになっています。)

(引用元:国土交通省国土政策局GISHP【インターネットサービス】「位置参照情報ダウンロードサービス - 位置参照情報のデータ形式」)

項目備考
都道府県名例:東京都
市区町村名例:千代田区
大字・町丁目名例:霞が関二丁目
街区符号・地番例:1
座標系番号平面直角座標系の座標系番号(1~19)
例:9
X座標平面直角座標系の座標系原点からの距離
メートル単位(小数第1位まで)(北方向プラス)
例:-35925.9
Y座標平面直角座標系の座標系原点からの距離
メートル単位(小数第1位まで)(東方向プラス)
例:-7446.2
緯度十進経緯度(少数第6位まで)
例:35.676154
経度十進経緯度(少数第6位まで)
例:139.751074
住居表示フラグ1:住居表示実施、0:住居表示未実施
例:1
代表フラグ1:代表する、0:代表しない
例:0
1つの街区が道路などで分断され、1つの街区符号が複数の代表点に対応付けられる場合などに、そのうちの一つに便宜的に代表フラグを立てています。
更新前履歴フラグ1:新規作成、2:名称変更、3:削除、0:変更なし
例:0
2007年度および2008年度データに含まれるフラグを立てています。
更新後履歴フラグ1:新規作成、2:名称変更、3:削除、0:変更なし
例:0
2009年度以降のデータに含まれるフラグを立てています。

(引用元:国土交通省国土政策局GISHP【インターネットサービス】「位置参照情報ダウンロードサービス - 位置参照情報のデータ形式」)

1-2. 大字・町丁目レベル位置参照情報

大字・町丁目レベル位置参照情報のデータ形式は、CSV(Comma Separated Values)形式です。数字のコードはASCII、文字のコードはSHIFT-JISコードです。 緯度経度座標の値は、世界測地系(日本測地系2000)です。旧日本測地系に基づくデータは提供しておりません。

(引用元:国土交通省国土政策局GISHP【インターネットサービス】「位置参照情報ダウンロードサービス - 位置参照情報のデータ形式」)

項目備考
都道府県コードJIS都道府県コード
都道府県名当該範囲の都道府県名
市区町村コードJIS市区町村コード
市区町村名当該範囲の市区町村名
(郡部は郡名、政令指定都市の区名も含む)
大字・町丁目コード大字町丁目コード
(JIS市区町村コード+独自7桁)
大字・町丁目名当該範囲の大字・町丁目名
(町丁目の数字は漢数字)
緯度十進経緯度
(少数第6位まで、半角)
経度十進経緯度
(少数第6位まで、半角)
原典資料コード大字・町丁目位置参照情報作成における原典資料を表すコード
1:自治体資料 2:街区レベル位置参照 3:1/25000地形図 0:その他資料
大字・字・丁目区分コード大字/字/丁目の区別を表すコード
1:大字 2:字 3:丁目 0:不明

(引用元:国土交通省国土政策局GISHP【インターネットサービス】「位置参照情報ダウンロードサービス - 位置参照情報のデータ形式」)

2. テーブルの作成

MySQL(MariaDB) サーバにテーブルを作成する。
(CSV データのフィールド以外に自動採番の主キーカラムを追加している)

2-1. 街区レベル位置参照情報

(実際今回の CSV データに含まれる最大文字数は、都道府県名:4、市区町村名:10、大字・町丁目名:15、街区符号・地番:9)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
CREATE TABLE blocks (
  id              INT(11)     NOT NULL AUTO_INCREMENT,
  pref_name       VARCHAR(4)  NOT NULL DEFAULT '',
  city_name       VARCHAR(20) NOT NULL DEFAULT '',
  town_name       VARCHAR(20) NOT NULL DEFAULT '',
  block_code      VARCHAR(20) NOT NULL DEFAULT '',
  coord_sys_no    TINYINT(3)  NOT NULL DEFAULT 0,
  coord_x         DOUBLE      NOT NULL DEFAULT 0.0,
  coord_y         DOUBLE      NOT NULL DEFAULT 0.0,
  loc             GEOMETRY    NOT NULL,
  flag_disp_addr  CHAR(1)     NOT NULL DEFAULT '0',
  flag_main       CHAR(1)     NOT NULL DEFAULT '0',
  flag_before_upd CHAR(1)     NOT NULL DEFAULT '0',
  flag_after_upd  CHAR(1)     NOT NULL DEFAULT '0',
  PRIMARY KEY (id),
  SPATIAL KEY `loc` (`loc`)
) ENGINE InnoDB DEFAULT CHARSET utf8;

2-2. 大字・町丁目レベル位置参照情報

(実際今回の CSV データに含まれる最大文字数は、都道府県名:4、市区町村名:10、大字・町丁目名:18)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
CREATE TABLE towns (
  id            INT(11)     NOT NULL AUTO_INCREMENT,
  pref_code     CHAR(2)     NOT NULL DEFAULT '',
  pref_name     VARCHAR(4)  NOT NULL DEFAULT '',
  city_code     CHAR(5)     NOT NULL DEFAULT '',
  city_name     VARCHAR(20) NOT NULL DEFAULT '',
  town_code     CHAR(12)    NOT NULL DEFAULT '',
  town_name     VARCHAR(20) NOT NULL DEFAULT '',
  loc           GEOMETRY    NOT NULL,
  org_res_code  CHAR(1)     NOT NULL DEFAULT '',
  town_div_code CHAR(1)     NOT NULL DEFAULT '',
  PRIMARY KEY (id),
  SPATIAL KEY `loc` (`loc`)
) ENGINE InnoDB DEFAULT CHARSET utf8;

3. データの準備

  1. 国土交通省国土政策局GISHP【インターネットサービス】の「位置参照情報ダウンロードサービス」から、全都道府県の全て(「街区レベル」&「大字・町丁目レベル」)のデータ(データ整備年度が最新のもの)をダウンロードする。
  2. ダウンロードしたデータは zip 圧縮されているので展開する。
  3. CSV データは文字エンコードが Shift-JIS であるので、テーブルに合わせて UTF-8 に変換、さらに改行コードを Unix(\n(LF)) に変換する。
    (各ディレクトリ内で nkf -w -Lu ??_????.csv > data.csv を実行)

ここで改行コードを Unix(\n(LF)) 変換しなかった場合は、次項の CSV データインポート時に指定する改行コードを \r\n(CRLF) にすること。

4. CSV データのインポート

以下のような SQL を実行して、CSV データを MySQL(MariaDB) にインポートする。(CSV ファイルのディレクトリは環境に合わせて適宜置き換える)

4-1. 街区レベル位置参照情報

以下は “32000-12.0a” ディレクトリ内の UTF-8 変換後の CSV ファイルをインポートする例。
(前項 3 で改行コードを Unix(\n(LF)) 変換しなかった場合は、以下の \n\r\n にすること)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
LOAD DATA LOCAL INFILE '/path/to/32000-12.0a/data.csv'
INTO TABLE blocks
CHARACTER SET utf8
FIELDS TERMINATED BY ',' ENCLOSED BY '"' ESCAPED BY '\\'
LINES TERMINATED BY '\n' STARTING BY ''
IGNORE 1 LINES
(@pref_name, @city_name, @town_name,
 @block_code, @coord_sys_no, @coord_x, @coord_y, @lat, @lon,
 @flag_disp_addr, @flag_main, @flag_before_upd, @flag_after_upd)
SET
pref_name = @pref_name,
city_name = @city_name,
town_name = @town_name,
block_code = @block_code,
coord_sys_no = @coord_sys_no,
coord_x = @coord_x,
coord_y = @coord_y,
loc = ST_GeomFromText(CONCAT('POINT(', @lon, ' ', @lat, ')')),
flag_disp_addr = @flag_disp_addr,
flag_main = @flag_main,
flag_before_upd = @flag_before_upd,
flag_after_upd = @flag_after_upd;

4-2. 大字・町丁目レベル位置参照情報

以下は “32000-07.0b” ディレクトリ内の UTF-8 変換後の CSV ファイルをインポートする例。
(前項 3 で改行コードを Unix(\n(LF)) 変換しなかった場合は、以下の \n\r\n にすること)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
LOAD DATA LOCAL INFILE '/path/to/32000-07.0b/data.csv'
INTO TABLE towns
CHARACTER SET utf8
FIELDS TERMINATED BY ',' ENCLOSED BY '"' ESCAPED BY '\\'
LINES TERMINATED BY '\n' STARTING BY ''
IGNORE 1 LINES
(@pref_code, @pref_name, @city_code, @city_name, @town_code,
 @town_name, @lat, @lon, @org_res_code, @town_div_code)
SET
pref_code = @pref_code, pref_name = @pref_name,
city_code = @city_code, city_name = @city_name,
town_code = @town_code, town_name = @town_name,
loc = ST_GeomFromText(CONCAT('POINT(', @lon, ' ', @lat, ')')),
org_res_code = @org_res_code,
town_div_code = @town_div_code;

5. 処理の自動化

当方は、ダウンロードした zip ファイル(全都道府県の「街区レベル」&「大字・町丁目レベル」)を展開して DB にインポートする処理を以下のような Bash スクリプトで自動化している。
以下の Bash スクリプトはダウンロードした zip ファイルと同じディレクトリに配置することを想定している。
ESCAPED BY '\\' の部分は Bash スクリプトのヒアドキュメント内では ESCAPED BY '\\\' とすること)

5-1. 街区レベル位置参照情報

import_blocks.sh
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
#!/bin/bash
# ================================
# 街区レベル位置参照情報インポート
# ================================
#
# 当 Bash スクリプト(& zip ファイル)のあるディレクトリ
DIR=$(cd $(dirname $0); pwd)
# CSV ファイル名(UTF-8 変換後)
CSV=data.csv
# DB 情報
DB_USER=root
DB_PW=XXXXXXXX
DB=mlit_isj
DB_TBL=blocks

# TABLE TRUNCATE
mysql -u $DB_USER -p$DB_PW $DB -e "TRUNCATE TABLE $DB_TBL"

# 都道府県別処理
for zip_file in `ls $DIR/*a.zip`; do
  # 作成されるサブディレクトリ名
  dir_sub=`basename $zip_file .zip`
  echo "* $dir_sub"

  # zip ファイル展開
  rm -rf $DIR/$dir_sub
  unzip $zip_file

  # UTF-8 変換, 改行コード Unix(\n) 変換
  nkf -w -Lu $dir_sub/??_????.* > $dir_sub/$CSV

  # CSV データインポート
  mysql --local-infile=1 -u $DB_USER -p$DB_PW $DB << EOS
    LOAD DATA LOCAL INFILE '$DIR/$dir_sub/$CSV'
    INTO TABLE $DB_TBL
    CHARACTER SET utf8
    FIELDS TERMINATED BY ',' ENCLOSED BY '"' ESCAPED BY '\\\'
    LINES TERMINATED BY '\n' STARTING BY ''
    IGNORE 1 LINES
    (@pref_name, @city_name, @town_name,
     @block_code, @coord_sys_no, @coord_x, @coord_y, @lat, @lon,
     @flag_disp_addr, @flag_main, @flag_before_upd, @flag_after_upd)
    SET
    pref_name = @pref_name,
    city_name = @city_name,
    town_name = @town_name,
    block_code = @block_code,
    coord_sys_no = @coord_sys_no,
    coord_x = @coord_x,
    coord_y = @coord_y,
    loc = ST_GeomFromText(CONCAT('POINT(', @lon, ' ', @lat, ')')),
    flag_disp_addr = @flag_disp_addr,
    flag_main = @flag_main,
    flag_before_upd = @flag_before_upd,
    flag_after_upd = @flag_after_upd;
EOS

  # csv ディレクトリ削除
  rm -rf $DIR/$dir_sub
done

read -p "Press ENTER key to close this terminal."

5-2. 大字・町丁目レベル位置参照情報

import_towns.sh
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
#!/bin/bash
# ========================================
# 大字・町丁目レベル位置参照情報インポート
# ========================================
#
# 当 Bash スクリプト(& zip ファイル)のあるディレクトリ
DIR=$(cd $(dirname $0); pwd)
# CSV ファイル名(UTF-8 変換後)
CSV=data.csv
# DB 情報
DB_USER=root
DB_PW=XXXXXXXX
DB=mlit_isj
DB_TBL=towns

# TABLE TRUNCATE
mysql -u $DB_USER -p$DB_PW $DB -e "TRUNCATE TABLE $DB_TBL"

# 都道府県別処理
for zip_file in `ls $DIR/*b.zip`; do
  # 作成されるサブディレクトリ名
  dir_sub=`basename $zip_file .zip`
  echo "* $dir_sub"

  # zip ファイル展開
  rm -rf $DIR/$dir_sub
  unzip $zip_file

  # UTF-8 変換, 改行コード Unix(\n) 変換
  nkf -w -Lu $dir_sub/??_????.* > $dir_sub/$CSV

  # CSV データインポート
  mysql --local-infile=1 -u $DB_USER -p$DB_PW $DB << EOS
    LOAD DATA LOCAL INFILE '$DIR/$dir_sub/$CSV'
    INTO TABLE $DB_TBL
    CHARACTER SET utf8
    FIELDS TERMINATED BY ',' ENCLOSED BY '"' ESCAPED BY '\\\'
    LINES TERMINATED BY '\n' STARTING BY ''
    IGNORE 1 LINES
    (@pref_code, @pref_name, @city_code, @city_name, @town_code,
     @town_name, @lat, @lon, @org_res_code, @town_div_code)
    SET
    pref_code = @pref_code, pref_name = @pref_name,
    city_code = @city_code, city_name = @city_name,
    town_code = @town_code, town_name = @town_name,
    loc = ST_GeomFromText(CONCAT('POINT(', @lon, ' ', @lat, ')')),
    org_res_code = @org_res_code,
    town_div_code = @town_div_code;
EOS

  # csv ディレクトリ削除
  rm -rf $DIR/$dir_sub
done

read -p "Press ENTER key to close this terminal."

6. 確認

処理終了後、インポートできているか確認する。(全都道府県で「街区レベル」が約 1,726 万レコード、「大字・町丁目レベル」が約 23 万レコード存在するはず)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
mysql> SELECT pref_name, city_name, town_name, block_code, ST_AsText(loc),
    -> X(loc), Y(loc)
    -> FROM blocks ORDER BY id LIMIT 10;
+-----------+--------------------+--------------------------------+------------+-----------------------------+------------+-----------+
| pref_name | city_name          | town_name                      | block_code | ST_AsText(loc)              | X(loc)     | Y(loc)    |
+-----------+--------------------+--------------------------------+------------+-----------------------------+------------+-----------+
| 北海道    | 札幌市中央区       | 旭ケ丘五丁目                   | 5          | POINT(141.321212 43.037301) | 141.321212 | 43.037301 |
| 北海道    | 札幌市中央区       | 南七条西十一丁目               | 1281       | POINT(141.342094 43.050264) | 141.342094 | 43.050264 |
| 北海道    | 札幌市中央区       | 南三十条西十丁目               | 3          | POINT(141.346997 43.018933) | 141.346997 | 43.018933 |
| 北海道    | 札幌市中央区       | 南三十条西十丁目               | 2          | POINT(141.346589 43.019201) | 141.346589 | 43.019201 |
| 北海道    | 札幌市中央区       | 南二十五条西十三丁目           | 1          | POINT(141.34135 43.025739)  |  141.34135 | 43.025739 |
| 北海道    | 札幌市中央区       | 南二十五条西十三丁目           | 1          | POINT(141.340889 43.026055) | 141.340889 | 43.026055 |
| 北海道    | 札幌市中央区       | 南二十二条西六丁目             | 2          | POINT(141.352831 43.029995) | 141.352831 | 43.029995 |
| 北海道    | 札幌市中央区       | 南二十二条西六丁目             | 3          | POINT(141.353607 43.03022)  | 141.353607 |  43.03022 |
| 北海道    | 札幌市中央区       | 伏見五丁目                     | 2          | POINT(141.334589 43.03074)  | 141.334589 |  43.03074 |
| 北海道    | 札幌市中央区       | 南二十二条西六丁目             | 1          | POINT(141.352383 43.030803) | 141.352383 | 43.030803 |
+-----------+--------------------+--------------------------------+------------+-----------------------------+------------+-----------+
10 rows in set (0.060 sec)

mysql> SELECT pref_name, city_name, town_name, ST_AsText(loc),
    -> X(loc), Y(loc)
    -> FROM towns ORDER BY id LIMIT 10;
+-----------+--------------------+-----------------------+-----------------------------+------------+-----------+
| pref_name | city_name          | town_name             | ST_AsText(loc)              | X(loc)     | Y(loc)    |
+-----------+--------------------+-----------------------+-----------------------------+------------+-----------+
| 北海道    | 札幌市中央区       | 旭ヶ丘一丁目          | POINT(141.31998 43.041403)  |  141.31998 | 43.041403 |
| 北海道    | 札幌市中央区       | 旭ヶ丘二丁目          | POINT(141.321595 43.039804) | 141.321595 | 43.039804 |
| 北海道    | 札幌市中央区       | 旭ヶ丘三丁目          | POINT(141.319717 43.039789) | 141.319717 | 43.039789 |
| 北海道    | 札幌市中央区       | 旭ヶ丘四丁目          | POINT(141.3228 43.038765)   |   141.3228 | 43.038765 |
| 北海道    | 札幌市中央区       | 旭ヶ丘五丁目          | POINT(141.322718 43.037356) | 141.322718 | 43.037356 |
| 北海道    | 札幌市中央区       | 旭ヶ丘六丁目          | POINT(141.31897 43.037008)  |  141.31897 | 43.037008 |
| 北海道    | 札幌市中央区       | 円山                  | POINT(141.314493 43.048356) | 141.314493 | 43.048356 |
| 北海道    | 札幌市中央区       | 円山西町一丁目        | POINT(141.303129 43.048663) | 141.303129 | 43.048663 |
| 北海道    | 札幌市中央区       | 円山西町二丁目        | POINT(141.304846 43.044979) | 141.304846 | 43.044979 |
| 北海道    | 札幌市中央区       | 円山西町三丁目        | POINT(141.305022 43.043095) | 141.305022 | 43.043095 |
+-----------+--------------------+-----------------------+-----------------------------+------------+-----------+
10 rows in set (0.573 sec)

7. 参考サイト


geometry 型に用意されている関数を使用すれば、 double 型で使用していたときよりも扱いやすくなるでしょう。

以上。

Comments