menu

Ethenet Fabricをコアスイッチとして利用する

今回は、ある英文ページの要約です。
英語で自分の専門分野に相当するページを定期的に要約することで、英語スキルと専門分野スキルを、両方とも上げてしまおう!という野望です。
元ページはこちら(元ページが削除されました)
記事を読んだ第一印象は、Brocadeのニオイがする、とにひひ
さて、要約です。
【概要】
①DCBやTRILLなど、レイヤ2のマルチパス技術が出てきたことによって、モジュラー型の高いコアスイッチに投資する必要はなくなってきた
②変わりに各ラックのスイッチ(ToRスイッチ:ToR=top of rack)同士をフルメッシュで接続してしまおう
【内容】
○従来のデータセンターネットワークは、コア・アグリゲーション(ディストリビューション)・アクセスの3つの層からなる階層型デザインだった
<補足>
図で示すと、こんな感じのネットワークだったわけですね。Ciscoのサイトから引用。

このデザインが利用されていたのは、
①ボックス型スイッチ(小型スイッチ)の性能の制限が厳しかったから
②過去のトラフィックパターンは、ユーザからサーバ(インターネット等、外部を含む)への通信が大半だったから
という背景があるから。
②で示された過去のトラフィックパターンは、クライアント・サーバ型アプリケーションを利用していたことに拠る。「north-south traffic」という。
<補足>
図で示すと、こんな感じですね。(Ethereal Mindのページから引用)

○しかし、現在はトラフィックパターンが変わってきている。具体的には、サーバ間の通信が増えている。
①Webサーバ、アプリケーションサーバから、データベースサーバへのトラフィック
②仮想化環境によるライブマイグレーションなど

<補足>
上記の絵でいうと、縦の通信ではなくて、横の通信が増えたということですね。
特に最近は仮想化環境もそうですが、Hadoopなどの大規模分散系のクラウドシステムが増えてきていますし、仮想デスクトップの利用も通信をデータセンター内に閉じ込める意味では、横の通信を増やしているわけですね。
でも、縦の通信って、減ってはいないと思います。インターネットトラフィックとか、音声系・ビデオ系もありますので。
縦と横を比較したときに、データセンター内部では、相対的に横が増えている、ということでしょう。
○ToRスイッチからコアスイッチへ接続するのではなく、ToRスイッチ同士をフルメッシュで接続する構成を考えてみる
例えば、10Gbpsポートを60ポート持つToRスイッチ8台をフルメッシュする。各スイッチ間は2本の10Gbpsで接続。
すると、1台のToRスイッチからは、他の7台へ接続するので、14本の10Gbpsで接続することになる。
相互のToRスイッチが全てこのように接続するので、このFabricは140Gbpsの帯域を持つと考えられる。
1台のToRスイッチには、46ポート分のサーバやストレージが接続出来る。
したがって、oversubscription levelは3対1(46対14)程度。
(oversubscriptionは、ネットワークエンジニアには、日本語訳するより、そのままの方が分かりやすいので、そのまま利用。)
それに、各サーバ間の通信は最大でも2台のスイッチしか経由しない。
○従来型の階層デザインで、ToRスイッチからコアスイッチへ接続することを考える
例えば、ToRスイッチからコアスイッチまで8本の10Gbpsで接続すると、oversubscription levelは6.5対1(52対8)で急増する。
さらに、各サーバ間通信は3台のスイッチを経由することも出てしまう。
【概要の補足】
ただし、フルメッシュの台数が増えてくると、ToRスイッチのユーザ側(サーバ・ストレージ)ポートが不足するので、サーバが1,000台を超えるような環境では、コアスイッチも投資に値するかも知れない。
<補足>
実際、フルメッシュは8台程度が限界だと思います。
ラックも1列は8台から10台程度でしょうから、1列をフルメッシュの単位として、その上流にコアスイッチを接続するのが良いと感じました。
ただ、この記事には書いてありませんが、記事のネタになっていると思われるBrocade VDXシリーズでは、VCSと呼ばれるFabricを組んでも、まだレイヤ2しかサポートしていません。
サーバ間でルーティングをする必要が出てくると、どこかにレイヤ3ノード(レイヤ3スイッチとか、ルータとか)が必要になってきます。この点は要注意です。

一流に触れる

環境変化

関連記事

  1. 【アップグレード!!Vol.45】作りかけの資料を共有する

    ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━【アップグレード!!ネットワ…

  2. フル充電 #238

    こんばんは、duckです。月末の追い込みで、今日もほぼ終電での帰宅になりました。今日、やろうと思って…

  3. 収穫祭 #169

    おはようございます。duckです。昨晩は収穫祭でした。「収穫祭=飲み会」なのですが、何故、収穫祭と呼…

  4. Facebookを仕事で使うなら、最低限知っておきたいこと

    会社を辞め、個人として働くようになってから、ますますFacebookは手放せないものとなりました。…

  5. テレワーク・リモートワークを実現するためのツール一覧

    今どきテレワークも自由に使えない会社からは、優秀な人から去っていく傾向が、ますます強まっています。…

  6. 居心地の「悪さ」を求めて

    こんばんは、duckです。昨日はIT関係繋がりという共通点はあるのですが、 20代から50代まで 新…

  7. 生活の基礎代謝を上げる #128

    こんばんは、duckです。この2年間半の体重の推移を見てみたら、平均で5kgほどは増えています。そり…

  8. 餅は餅屋 #202

    こんばんは、duckです。ブログのタイトルを変えました。『大きく考え、小さくはじめる』です。以前から…

最近の記事

最近読んだ本

PAGE TOP