今回は、ある英文ページの要約です。
英語で自分の専門分野に相当するページを定期的に要約することで、英語スキルと専門分野スキルを、両方とも上げてしまおう！という野望です。
元ページはこちら（元ページが削除されました）
記事を読んだ第一印象は、Brocadeのニオイがする、と
さて、要約です。
【概要】
①DCBやTRILLなど、レイヤ2のマルチパス技術が出てきたことによって、モジュラー型の高いコアスイッチに投資する必要はなくなってきた
②変わりに各ラックのスイッチ（ToRスイッチ：ToR=top of rack）同士をフルメッシュで接続してしまおう
【内容】
○従来のデータセンターネットワークは、コア・アグリゲーション（ディストリビューション）・アクセスの3つの層からなる階層型デザインだった
＜補足＞
図で示すと、こんな感じのネットワークだったわけですね。Ciscoのサイトから引用。
このデザインが利用されていたのは、
①ボックス型スイッチ（小型スイッチ）の性能の制限が厳しかったから
②過去のトラフィックパターンは、ユーザからサーバ（インターネット等、外部を含む）への通信が大半だったから
という背景があるから。
②で示された過去のトラフィックパターンは、クライアント・サーバ型アプリケーションを利用していたことに拠る。「north-south traffic」という。
＜補足＞
図で示すと、こんな感じですね。（Ethereal Mindのページから引用）
○しかし、現在はトラフィックパターンが変わってきている。具体的には、サーバ間の通信が増えている。
①Webサーバ、アプリケーションサーバから、データベースサーバへのトラフィック
②仮想化環境によるライブマイグレーションなど
＜補足＞
上記の絵でいうと、縦の通信ではなくて、横の通信が増えたということですね。
特に最近は仮想化環境もそうですが、Hadoopなどの大規模分散系のクラウドシステムが増えてきていますし、仮想デスクトップの利用も通信をデータセンター内に閉じ込める意味では、横の通信を増やしているわけですね。
でも、縦の通信って、減ってはいないと思います。インターネットトラフィックとか、音声系・ビデオ系もありますので。
縦と横を比較したときに、データセンター内部では、相対的に横が増えている、ということでしょう。
○ToRスイッチからコアスイッチへ接続するのではなく、ToRスイッチ同士をフルメッシュで接続する構成を考えてみる
例えば、10Gbpsポートを60ポート持つToRスイッチ8台をフルメッシュする。各スイッチ間は2本の10Gbpsで接続。
すると、1台のToRスイッチからは、他の7台へ接続するので、14本の10Gbpsで接続することになる。
相互のToRスイッチが全てこのように接続するので、このFabricは140Gbpsの帯域を持つと考えられる。
1台のToRスイッチには、46ポート分のサーバやストレージが接続出来る。
したがって、oversubscription levelは3対1（46対14）程度。
（oversubscriptionは、ネットワークエンジニアには、日本語訳するより、そのままの方が分かりやすいので、そのまま利用。）
それに、各サーバ間の通信は最大でも2台のスイッチしか経由しない。
○従来型の階層デザインで、ToRスイッチからコアスイッチへ接続することを考える
例えば、ToRスイッチからコアスイッチまで8本の10Gbpsで接続すると、oversubscription levelは6.5対1（52対8）で急増する。
さらに、各サーバ間通信は3台のスイッチを経由することも出てしまう。
【概要の補足】
ただし、フルメッシュの台数が増えてくると、ToRスイッチのユーザ側（サーバ・ストレージ）ポートが不足するので、サーバが1,000台を超えるような環境では、コアスイッチも投資に値するかも知れない。
＜補足＞
実際、フルメッシュは8台程度が限界だと思います。
ラックも1列は8台から10台程度でしょうから、1列をフルメッシュの単位として、その上流にコアスイッチを接続するのが良いと感じました。
ただ、この記事には書いてありませんが、記事のネタになっていると思われるBrocade VDXシリーズでは、VCSと呼ばれるFabricを組んでも、まだレイヤ2しかサポートしていません。
サーバ間でルーティングをする必要が出てくると、どこかにレイヤ3ノード（レイヤ3スイッチとか、ルータとか）が必要になってきます。この点は要注意です。
