AWS Tokyo Regionのネットワークを調べてみた。

AWSの東京リージョンがリリースされたということで、技術視点からネットワーク関係を探ってみました。
なお、利用者視点でのレイテンシやスループットについては、並河さんの記事が分かりやすいです。

上位ネットワーク

まず最初に、インターネットとの接続方法、つまり上位ISPをざっくり知るために、実際にEC2上で立ち上げたインスタンスIPアドレスrobtexに突っ込んでみると、AS16509175.41.192.0/18 AWS AsiaPac prefixというのが実際にインターネット上で流れている経路、つまりIPアドレスブロックでよさそうです。さらに、

という情報があったので、名前は「AsiaPac」になっていますが、実際は東京リージョンのためのネットワークのようです。

このグラフでAS16509に矢印が伸びているASが上位ISPとなります。したがって、現時点で、AS10026 PACNETAS2516 KDDIAS2914 NTT Communicationsの三つということがわかります。

内部ネットワーク

次に、tracerouteで内部のネットワークを探ってみました。


$ traceroute -A cpu.sfc.wide.ad.jp
traceroute to cpu.sfc.wide.ad.jp (203.178.142.143), 30 hops max, 40 byte packets
1 ip-10-146-28-3.ap-northeast-1.compute.internal (10.146.28.3) [AS65534] 0.624 ms 0.602 ms 0.588 ms
2 ec2-175-41-192-172.ap-northeast-1.compute.amazonaws.com (175.41.192.172) [AS16509] 1.358 ms 1.349 ms 1.337 ms
3 ec2-175-41-192-27.ap-northeast-1.compute.amazonaws.com (175.41.192.27) [AS16509] 0.353 ms 0.442 ms 0.430 ms
4 27.0.0.205 (27.0.0.205) [AS12654] 7.587 ms 27.0.0.146 (27.0.0.146) [AS12654] 1.724 ms 27.0.0.205 (27.0.0.205) [AS12654] 7.649 ms
5 27.0.0.194 (27.0.0.194) [AS12654] 7.440 ms 27.0.0.134 (27.0.0.134) [AS12654] 1.521 ms 27.0.0.194 (27.0.0.194) [AS12654] 7.417 ms
6 118.155.202.29 (118.155.202.29) [AS2516] 14.221 ms 14.005 ms 113.157.231.13 (113.157.231.13) [AS2516] 11.396 ms
7 obpjbb204.kddnet.ad.jp (118.155.199.61) [AS2516] 8.586 ms obpjbb203.kddnet.ad.jp (118.155.199.21) [AS2516] 8.651 ms obpjbb203.kddnet.ad.jp (118.155.199.29) [AS2516] 9.002 ms
8 ix-osa207.kddnet.ad.jp (118.155.199.78) [AS2516] 20.094 ms obpjbb203.kddnet.ad.jp (59.128.4.178) [AS2516] 13.462 ms 13.465 ms
9 as2500.nspixp3.wide.ad.jp (202.249.38.9) [AS2500] 14.018 ms ix-osa207.kddnet.ad.jp (118.155.199.38) [AS2516] 15.479 ms 15.504 ms
(以下省略)
どうやら、EC2の経験がある人はご存知のとおり、インスタンスが直接接続されているのは10.0.0.0/8のプライベートアドレス空間ですが、その先は先程の175.41.192.0/18になっているようです。また、その先に27.0.0.205、27.0.0.194とぜんぜん異なるアドレスブロックがあります。
今度は別なやり方として、whoisを引いてみます。

$ jwhois 27.0.0.205
[Querying whois.arin.net]
[Redirected to whois.apnic.net]
[Querying whois.apnic.net]
[whois.apnic.net]
% [whois.apnic.net node-5]
% Whois data copyright terms http://www.apnic.net/db/dbcopyright.html

inetnum: 27.0.0.0 - 27.0.3.255
netname: AMAZON-AP
descr: Amazon.com, Inc.
descr: 605 5th Ave S
country: JP
(省略)

どうやら、27.0.0.0/22もまた東京リージョンのIPアドレスのようです。おそらく、バックボーンで使われているのではないでしょうか。後日、Availability-Zoneが増えたときに比較してみるとよさそうです。
また、6hop目以降はAS2516(KDDI)ですので、先程調べた上位ISPと合致していることも確認できました。

実際のネットワーク帯域幅

じゃあ、最後にネットワーク帯域幅を測ってみます。帯域幅ということで、王道のpathcharです。
デフォルト設定だと計測時間がかかりすぎてしまうので、測定回数を4回に減らしています。


$ sudo ./pathchar -m 1500 -q 4 cpu.sfc.wide.ad.jp
pathchar to cpu.sfc.wide.ad.jp (203.178.142.143)
doing 4 probes at each of 45 sizes (64 to 1500 by 32)
0 localhost
| 238 Mb/s, 163 us (376 us)
1 ip-10-146-28-3.ap-northeast-1.compute.internal (10.146.28.3)
-> 175.41.192.172 (166)
| 841 Mb/s, 34 us (458 us)
2?ec2-175-41-192-174.ap-northeast-1.compute.amazonaws.com (175.41.192.174)
-> 175.41.192.21 (169)
| 192 Mb/s, -60 us (400 us)
3?ec2-175-41-192-27.ap-northeast-1.compute.amazonaws.com (175.41.192.27)
-> 27.0.0.205 (154)
| 416 Mb/s, 691 us (1.81 ms), 20% dropped
4?27.0.0.146 (27.0.0.146)
-> 27.0.0.134 (170)
| 206 Mb/s, 2.84 ms (7.54 ms)
5?27.0.0.194 (27.0.0.194)
-> 118.155.202.29 (170)
| 91 Mb/s, 217 us (8.10 ms), +q 2.41 ms (27.5 KB) *2
6?113.157.231.13 (113.157.231.13)
-> 118.155.199.69 (151)
-> 118.155.199.21 (129)
-> 118.155.199.25 (104)
-> 118.155.199.29 (137)
-> 59.128.7.130 (170)
-> 118.155.199.65 (93)
-> 59.128.7.194 (180)
-> 59.128.7.129 (180)
-> 118.155.199.61 (113)
(省略)
どうやら、内部はGbEかそれ以上の帯域幅で繋がっていて、KDDI側のルータまで10ms未満で到達できているようです。

追記:
AS2914(NTT Communications)を経由するtracerouteをして見たら、AS2914側まで4ms前後で到達できていました。どうやら、KDDI経由の経路だと若干遅延が多いだけのようです。

ニフティクラウドの場合

AWSの対抗馬といえばニフティクラウドということで、同じように測ってみました。
まずはtraceroute。AS2510がニフティ(infoweb)です。


$ traceroute -A cpu.sfc.wide.ad.jp
traceroute to cpu.sfc.wide.ad.jp (203.178.142.143), 30 hops max, 40 byte packets
1 111.171.204.2 (111.171.204.2) [AS2510] 0.562 ms 0.617 ms 0.707 ms
2 133.160.191.153 (133.160.191.153) [AS2510] 0.217 ms 0.209 ms 0.231 ms
3 133.160.49.2 (133.160.49.2) [AS2510] 0.466 ms 0.486 ms 0.577 ms
4 133.160.139.69 (133.160.139.69) [AS2510] 3.892 ms 3.981 ms 4.009 ms
5 133.160.182.66 (133.160.182.66) [AS2510] 4.264 ms 4.251 ms 4.232 ms
6 xe-6-1-3.a21.tokyjp01.jp.ra.gin.ntt.net (203.105.72.41) [AS2914] 3.745 ms 3.719 ms 3.732 ms
(省略)
上位ISPが今度はAS2914(NTT Communications)になりますが、こちらはプライベートアドレス等は入らず、そのままニフティのバックボーンを経由していくようです。

続いてpathcharです。


$ sudo ./pathchar -m 1500 -q 4 cpu.sfc.wide.ad.jp
pathchar to cpu.sfc.wide.ad.jp (203.178.142.143)
doing 4 probes at each of 45 sizes (64 to 1500 by 32)
0 localhost
| 93 Mb/s, 178 us (485 us)
1 111.171.204.2 (111.171.204.2)
| ?? b/s, -51 us (296 us)
2 133.160.191.153 (133.160.191.153)
| 112 Mb/s, 72 us (548 us)
3 133.160.49.2 (133.160.49.2)
| 652 Mb/s, 1.73 ms (4.03 ms)
4 133.160.139.69 (133.160.139.69)

5 133.160.182.66 (133.160.182.66)
| ?? b/s, -167 us (3.79 ms)
6 xe-6-1-3.a21.tokyjp01.jp.ra.gin.ntt.net (203.105.72.41)

残念ながら、サーバ側が100Mbpsのためうまく計測できないのか、ニフティのバックボーン内は知ることができませんでしたが、インスタンスは100Mbpsで接続され、上位はおそらくGbE以上の回線で構成されているようです。
また、tracerouteやpathcharどちらからも判るとおり、上位ISPまでのRTTはだいたい4msぐらいのようです。

(追記) IIJ GIOの場合

国内でネットワークの強そうなIaaS事業者と言うことで、IIJ GIOについても計測してみましたが、どうやら計測に利用したサーバが大阪にあるようで、IIJを出るまでに10msほど掛かっていました。

(追記) さくらインターネットVPSの場合

さくらインターネットとWIDEのトラフィック交換が大阪のNSPIXP3経由のようで、同じく大阪周りとなっていました。さくらインターネットを出るまでにやはり10msぐらい掛かっています。
試しに、ニフティクラウドとの間で計測してみたところ、ニフティに入ったところでやはり5ms程度のようです。

ざっくり第一印象

1インスタンス当たりのトラフィックを出したければAWS、1インスタンスは100Mbps制限でもRTT等の全体的なネットワーク性能が安定しているのがニフティという印象を受けました。両者のコアビジネス領域を考えれば、素直な結果のように思います。
とはいえ、正直10ms未満の領域での争いなので、一般的なサーバ利用においてはほとんど問題ならない差異かもしれません。

追記: 2011-03-03 14時

IIJ GIOとさくらのVPSでも測ってみたので追記しました。
やはり、基本的に関東で完結している範囲であれば5ms未満で隣接ISPまでたどり着けるようですので、KDDI経由の遅延が若干気になるところではあります。