[レポート] さくらインターネット石狩DC 第4回見学ツアーに参加してきた [1号棟] #石狩DC

ishikari
83件のシェア(ちょっぴり話題の記事)

この記事は公開されてから1年以上経過しています。情報が古い可能性がありますので、ご注意ください。

2015/11/08〜09にかけて、さくらインターネット様第4回石狩DC見学ツアー に参加しました。僕は新千歳空港集合の数少ない北海道枠として参加しました *1。今回はこちらのツアーの様子をレポートします。画像がかなり多めなのでご容赦ください。

この見学ツアーの存在自体は、自分が東京に居た頃から楽しそうだな―と見ていただけでした。 *2まさか北海道の地に来て行けるとは思っていなかったので、非常に楽しみにしていました。巨大建造物というだけでもテンションはあがるのに、普段見ることの出来ないデータセンターの中ですからね。ワクワクするのは仕方がないことです。

出発

僕は北海道組での参加だったので、2015/11/08の11時に新千歳空港に直接集合です。現地組ならではのゆったりとしたスケジュールで10時くらいにゆるゆると出発(東京・大阪組は相当早かったとのこと)。北海道組は全部で4名。大阪組の方々はすでに到着済みだったので、東京組の方の到着を待ちます。

新千歳空港から石狩DCまではバスでの移動です。今回も毎度の沿岸バスさんのバス。今回も特別仕様だそう。

石狩DC-080

当日の沿岸バスさんのTweet 何故か天地逆転しているバス

石狩丼とご対面

1日目は1号棟を中心に見学しました。到着後、まずはみんなで集合写真をパシャリ。

石狩DC-150

一緒に写ってるゆるキャラは、石狩市のさけ子 足元が微妙におぼつかないキャラでした。口の中に顔があるのは突っ込んではいけません。

石狩DC-158

集合写真を撮影後、石狩DC内へ潜入です。でかい。

石狩DC-169

石狩DC-492

そして我々を待ち構えていたのがこちら。噂の石狩丼。

石狩DC-185

みんなで北の大地の恵みである新鮮な海鮮を丼で頂きます。札幌にいると、新鮮な海鮮を食べれる機会も多いわけですが、こちらもとても美味しかったです。ウニが、カニが、いくらが、どーんと。

昼食後、簡単な自己紹介の後、2つの班に分かれて見学へ。自分は石狩DCセンター長の宮下さんが案内する2班でした。見学中は、サーバー室の中など結構音があるため、イヤホンガイドを装着します。これで解説が聞こえなかったりすることはありません。

石狩DC-214

ただ少々残念だったのが、見学中に色々な質問が飛び交うのですが、参加者は当然マイクをもっていないため、質問が聞こえずにマイクを持っている担当の方の答えだけが聞こえることが多々有りました。答える前に事前に質問を繰り返してくれたりするとより良かったのでは、と思いました。

見学開始

2班はまず監視センターから。全施設の監視を行っている箇所。巨大なモニターに施設の温度、湿度、電力などからPUEの値 *3まで、様々なデータを視覚化して表示されています。

石狩DC-245

特にPUEという値は、データセンターにとって評価値として非常に大切な値だとか。古いデータセンターなどは1.5〜2.0など高い数値になるとのこと。この値が1に近づくほど効率が良いとのことです。

石狩DC-250

石狩DCは北海道石狩という地にある性質上、基本的に冷房などはあまり必要としないそうです。夏場は冷房の関係で若干PUEの値が上がることがありますが、夜間は温度が下がるため、終日必要な日はないとのこと。そのため、夏場であっても他の地域に比べて効率は良いそうです。この辺りは北国に作った大きなメリットの一つでしょうか。

サーバー室へ

続いてサーバー室へ。データセンターのコアの部分であるため、さすがに認証は厳重です。ICカード+指紋認証。

石狩DC-260

入り口のゲートはロータゲートになっており、必ずひとりずつ入るようになっています。またアンチパスロックがかかっており、正常に入室した記録がないと出ることも出来ないとのこと。うーむ、厳重です。

石狩DC-255

ゲートをくぐると目の前にサーバー室のドアが。

石狩DC-264

万一の場合は窒素ガスが充満するため、非常に気密性が高い設計になっているとのこと。

整然と並ぶサーバーラック。まず最初に入ったサーバールームの空調は天井からの吹き出しです。

石狩DC-265

石狩DC-327

排熱はラック上部に設けられたダクトから排熱しています。この排熱ダクトは段ボール製だとのこと。コストが安いのも理由の一つですが、アルミなどの熱伝導性の高い素材で作ってしまうと、せっかく排熱した熱が部屋に漏れて戻ってしまうため、ダンボールは断熱性の意味でも優れた素材だとのことです。耐用年数は概ね10年ほどを見積もっているとのこと。

うーん、段ボール優秀。

石狩DC-269

作りたての段ボールダクト。

石狩DC-419

配線は天井から。天井から配線するため、床をOAフロアにする必要がありません。そのためサーバーラックにフルで組んでも床が抜けたりしないようになっています。 *4

石狩DC-277

電源は230Vのものが主力になっています。電圧を制限するトランスを必要としないため、シングルポイントが一つでも減るようにしてあります。ただ、機材の関係上230Vが使えない場合もあるので100V電源も設置してありますが、あくまで補助的なものとなっているそうです。

石狩DC-307

排熱をするための構造がいくつかあり、排熱ダクトで排熱しているものと、ホットアイルという排熱専用の領域を設けているものがありました。後半に作られた部屋はホットアイルの方を採用しており、必ず排熱専用の領域が設けられていました。断熱性を高めるため、アコーディオンカーテンで領域を仕切り、天井のファンから外へ排熱しています。天井のモジュールは取り外しが簡単に出来るようになっており、必要に応じて簡単に排熱の処理能力を向上させるようにできるようになっています。

石狩DC-316

空調について

空調は本来、効率性の面だけを見ると壁吹き出しの空調が最適だそうです。データセンターのサーバー室は、人がかならず入って作業を行う場所でもあります。あまりに空調が効き過ぎると、作業をしている人が長時間作業を行うことができません。そのため、作業効率性も考えると、天井吹き出しの空調が現状では最適であると判断しているそうです。この辺りは、実際に作ってみて経験してみないとなかなかわからないことでしょうし、こういった施設を建設する際の内部の設計のノウハウとして非常に重要な知見ではないかと思います。

石狩DC-294

直流サーバーについて

直流電流(DC)サーバーを一部導入しているそうです。詳しい解説はこちら。 HVDCの電源装置から配電されています。通常のサーバーよりも効率が2割ほど良いとのことです。こちらは初めて見ましたが、外側から見てもなかなか見分けがつくものではありませんでした・・・。

石狩DC-267

噂の直流電流用。

石狩DC-292

なんだかカッコいい *5

特高電気室

これも巨大なDCならではの施設なのではないでしょうか。北電から直接66000Vという超高電圧を引き込んでいます。専用で直接引き込んでいるため、費用は全てさくらさん持ちだとのこと。当然変電所から遠くなればなるほどケーブルの距離が伸びるため高額になります。幸い変電所からそう遠くない位置にあるため、それなりに安価で済んでいるとのことです *6

石狩DC-377

じーっと耳を済ませると聞こえる高周波音。

発電機室

何故か2班で非常に興味を持つ人が多かった(かくいう自分もその一人)発電機室です。48時間連続稼働できるとのこと。こちらは重油を使った汎用ディーゼルエンジンが4機配置されています。こちらは汎用ディーゼルエンジンを使うことのメリットとしては、汎用であるがゆえに納期が短いこと。さらに他に転用が効くなどといったことがあるそうです。

石狩DC-469

デメリットとしては、騒音が非常に大きいため、全てが稼働するととんでもない騒音が発生するとか。そのため、都心部などではこのエンジンは使用することが出来ず、ガスタービン発電機を利用していることが多いとか。ただ、ガスタービン発電機は非常に納期が長く(~2年)、細かくスケールをしている石狩DCのような施設では、必要となった時に素早く納品してもらいたいため、ディーゼル発電機の方が相性が良いとのことでした。また地上にあるのも理由があり、通常建物の屋上などに配置されていることが多い発電機ですが、重量制限があることが多く、地上の場合はそれらの制限を受けることがないという理由があるそうです。

石狩DC-474

こちらは月一での運転試験を行っており、送電が止まる状況を想定して訓練を行っているとのことです。実際に送電が止まった際のフローは以下のとおり。

  • 北電からの送電が止まる -(Max 5min)UPS -> (1minくらい)ディーゼル起動 -> 6600V送電開始。

UPSで耐えられる時間に割と余裕が有るため、一度起動に失敗しても何度かリトライできるとのことです(今のところこれらの発電機が本番で起動したことはないとのこと)

外気取り込み

こちらは、北国DCの本領発揮です。気温が低いため、外気を取り入れるだけでも随分と冷たい空気を得られます。ただ、石狩は海が近いため、なかなか一筋縄ではいかない模様。外気取り込み口にも様々な工夫が凝らされていました。

石狩DC-436

フィルターは二重化されており、一番外側のフィルターで大きなホコリなどを取り除きます。さらに外側からは見えませんが、内側にもう一枚フィルターがあり、こちらは外気に含まれる塩分などを除去するためだそうです。この二重のフィルタによって外気を取り込んでいます。

さらに不思議なものがあったのでこれは何かと質問したところ、外の気温や湿度をサンプリングするための装置だそうです。

石狩DC-446

外壁との間に少し人が通れる通路があるため、外側から誰でもアクセスできてしまいそうな外気取り込み口ですが、実際は金網が張ってあり容易にアクセスできないようになっています。

感想など

データセンターの外側も内側も、当然のことながら非常に機能的によく考えられた設計になっていました。1号棟で得られたフィードバックや知見は、そのまま次に建設された2号棟、そして3号棟へと反映されています。石狩という地の利をうまく活かし、様々な試行錯誤を繰り返しながら、未だに進化を続けている建造物であることを感じることが出来ました。世のクラウドやインターネットサービスは自分たちユーザーには見えませんが、当然裏側にはハードウェアが大量に並んでいるはずです。その裏側を見ることが出来たのはとても貴重な体験でした。

まあ、大きい建物で、なんだか聞いたことがないような装置や、とんでもない単位の電力を使ってたり、さらに超綺麗にキッティングされたラックとか配線を見るとテンション上がりますよね。ええ、実際に私はとってもテンションあげあげでしたし。

まだまだメモやら写真やらは大量にありますので、あと1、2本続きます(多分

脚注

  1. ちなみに北海道組は全部で4名でした
  2. 実際は2度ほど申し込んでいた
  3. データセンターの効率性を示す値。石狩DCは1.11を目指している。`使われる電力/実際にサーバーで使われる電力` という計算式だそう。
  4. 普通に1トンを超える場合があるので
  5. MAGIっぽい
  6. この辺りの距離が伸びると数億単位で差がでるとか

AWS Cloud Roadshow 2017 福岡