IT・システム関連

Ethenet Fabricをコアスイッチとして利用する

今回は、ある英文ページの要約です。
英語で自分の専門分野に相当するページを定期的に要約することで、英語スキルと専門分野スキルを、両方とも上げてしまおう!という野望です。
元ページはこちら(元ページが削除されました)
記事を読んだ第一印象は、Brocadeのニオイがする、とにひひ
さて、要約です。
【概要】
①DCBやTRILLなど、レイヤ2のマルチパス技術が出てきたことによって、モジュラー型の高いコアスイッチに投資する必要はなくなってきた
②変わりに各ラックのスイッチ(ToRスイッチ:ToR=top of rack)同士をフルメッシュで接続してしまおう
【内容】
○従来のデータセンターネットワークは、コア・アグリゲーション(ディストリビューション)・アクセスの3つの層からなる階層型デザインだった
<補足>
図で示すと、こんな感じのネットワークだったわけですね。Ciscoのサイトから引用。

このデザインが利用されていたのは、
①ボックス型スイッチ(小型スイッチ)の性能の制限が厳しかったから
②過去のトラフィックパターンは、ユーザからサーバ(インターネット等、外部を含む)への通信が大半だったから
という背景があるから。
②で示された過去のトラフィックパターンは、クライアント・サーバ型アプリケーションを利用していたことに拠る。「north-south traffic」という。
<補足>
図で示すと、こんな感じですね。(Ethereal Mindのページから引用)

○しかし、現在はトラフィックパターンが変わってきている。具体的には、サーバ間の通信が増えている。
①Webサーバ、アプリケーションサーバから、データベースサーバへのトラフィック
②仮想化環境によるライブマイグレーションなど

<補足>
上記の絵でいうと、縦の通信ではなくて、横の通信が増えたということですね。
特に最近は仮想化環境もそうですが、Hadoopなどの大規模分散系のクラウドシステムが増えてきていますし、仮想デスクトップの利用も通信をデータセンター内に閉じ込める意味では、横の通信を増やしているわけですね。
でも、縦の通信って、減ってはいないと思います。インターネットトラフィックとか、音声系・ビデオ系もありますので。
縦と横を比較したときに、データセンター内部では、相対的に横が増えている、ということでしょう。
○ToRスイッチからコアスイッチへ接続するのではなく、ToRスイッチ同士をフルメッシュで接続する構成を考えてみる
例えば、10Gbpsポートを60ポート持つToRスイッチ8台をフルメッシュする。各スイッチ間は2本の10Gbpsで接続。
すると、1台のToRスイッチからは、他の7台へ接続するので、14本の10Gbpsで接続することになる。
相互のToRスイッチが全てこのように接続するので、このFabricは140Gbpsの帯域を持つと考えられる。
1台のToRスイッチには、46ポート分のサーバやストレージが接続出来る。
したがって、oversubscription levelは3対1(46対14)程度。
(oversubscriptionは、ネットワークエンジニアには、日本語訳するより、そのままの方が分かりやすいので、そのまま利用。)
それに、各サーバ間の通信は最大でも2台のスイッチしか経由しない。
○従来型の階層デザインで、ToRスイッチからコアスイッチへ接続することを考える
例えば、ToRスイッチからコアスイッチまで8本の10Gbpsで接続すると、oversubscription levelは6.5対1(52対8)で急増する。
さらに、各サーバ間通信は3台のスイッチを経由することも出てしまう。
【概要の補足】
ただし、フルメッシュの台数が増えてくると、ToRスイッチのユーザ側(サーバ・ストレージ)ポートが不足するので、サーバが1,000台を超えるような環境では、コアスイッチも投資に値するかも知れない。
<補足>
実際、フルメッシュは8台程度が限界だと思います。
ラックも1列は8台から10台程度でしょうから、1列をフルメッシュの単位として、その上流にコアスイッチを接続するのが良いと感じました。
ただ、この記事には書いてありませんが、記事のネタになっていると思われるBrocade VDXシリーズでは、VCSと呼ばれるFabricを組んでも、まだレイヤ2しかサポートしていません。
サーバ間でルーティングをする必要が出てくると、どこかにレイヤ3ノード(レイヤ3スイッチとか、ルータとか)が必要になってきます。この点は要注意です。

PVアクセスランキング にほんブログ村