انتخاب سردبیر گفت‌وگو با مهندسان مراکز داده معرفی مراکز داده

مرکزدادهٔ فیس‌بوک در پراین‌ویل اورگان

مرکز داده فیس‌بوک در پراین‌ویل، اورگان
مرکزدادهٔ فیس‌بوک در پراین‌ویل، اورگان

معرفی مرکزدادهٔ فیس‌بوک در پراین‌ویل [1]

 آنچه می‌خوانید

مرکزداده فیس‌بوک در پراین‌ویل اورگان از مراکزداده پیشرو است که طراحی ویژه‌ای دارد: در سیستم برق، مرحلهٔ تبدیل کاهندهٔ ولتاژ را حذف کرده‌اند. رک و سرورها، بدون رنگ و لوگو و برچسب و بدون پانل جلویی هستند که مواد کمتری در آن‌ها به‌کاررفته و سبک‌ترند. سرمایش آن تبخیری است که بدون چیلر و برج خنک‌کننده کار می‌کند. برق‌رسانی برای روشنایی در آن از طریق اترنت انجام می‌شود. این تاسیسات گواهی‌نامهٔ LEED زرین دارد. مرکزدادهٔ پراین‌ویل جزء پروژهٔ Open Compute فیس‌بوک است و مشخصات آن را به‌شکل عمومی منتشر کرده است.

آشنایی با مرکزدادهٔ فیس‌بوک

مرکز داده فیس‌بوک در پراین‌ویل، اورگان
مرکزدادهٔ فیس‌بوک در پراین‌ویل، اورگان

تصویر: مرکزدادهٔ فیس‌بوک در پراین‌ویل اورگان

تصور کنید می‌باید اولین مرکزدادهٔ هدفمند شرکت خود را بسازید که هم قرار است فعالیت آنلاین میلیون‌ها کاربر یکی از پرطرفدارترین وب‌سایت‌های جهان را پشتیبانی کند و هم انتظار می‌رود الگوی سایر طراحان مرکزداده در سراسر دنیا باشد.

این چالشی بود که در سال ۱۳۸۸ طراحان مرکزدادهٔ فیس‌بوک در پراین‌ویل در شهر اورگان با آن روبه‌رو بودند. غول شبکهٔ اجتماعی، پیش‌تر برای به‌دست‌آوردن راه‌حل برای افزایش سریع ظرفیت، در مراکزدادهٔ عمومی کالیفرنیا و ویرجینیا فضا اجاره کرده بود تا از ویژگی‌های این مراکز اشتراک مکانی استفاده کند. اما این مرکزداده فرق می‌کند.

فیس‌بوک بسیاری از اجزای تاسیسات این مرکزداده را با طراحی ویژهٔ خودش ساخته است. مثلا برای توزیع برق، از سیستم خاصی استفاده کرده که به‌جای پیکربندی سنتی ۲۰۸ ولتی، از نوع ۲۷۷ ولتی بهره می‌گیرد و با این کار مرحلهٔ تبدیل کاهندهٔ ولتاژ را حذف کرده است. همچنین از سخت‌افزارهای ساده و مخصوص به خودش بهره برده است. ارتفاع سرورهای فیس‌بوک کمی بیشتر از سرورهای 1.5U یعنی ۶٫۷ سانتی‌متری است و هیچ جلوهٔ ظاهری ندارند؛ با این کار از وزن و مواد به‌کاررفته در آن‌ها کاسته‌اند. از پانل جلویی هم خبری نیست و هیچ رنگ و لوگو یا برچسبی ندارد. مواد به‌کاررفته در این سرورها ۲۲ درصد کمتر از سرورهای معمولی 1U است. دلیل بزرگ‌تر بودن ابعادشان نسبت به سرورهای معمولی، سازگارشدن با فن‌ها و رادیاتور‌های بزرگ‌تر و کارآمدتر است.

طراحی مکانیکی این مرکزداده نیز به همین ترتیب ساده است. این مرکزداده برای سرمایش، چیلر یا برج خنک‌کننده ندارد. هوای بیرون، از طریق پنجره‌های کرکره‌ای قابل تنظیم، وارد فضای بسته‌ای در بالای مرکزداده می‌شود که به آن «پنت‌هاوس» می‌گویند. سپس به داخل اتاق دیگری می‌رود که در آنجا درصورت لزوم با هوای گرم بازگشته از سرورها ترکیب می‌شود. در ادامه از چند فیلتر عبور می‌کند و به اتاق سرمایش تبخیری می‌رود که در آن سیستم رطوبت‌زا کمی مرطوبش می‌کند. سپس هوا را چند فن از نم‌گیر عبور می‌دهند تا قطرات آبی را که احتمالا در هوا حل نشده‌اند بگیرد. سرانجام این هوا از ورودی دالان‌های هوای سرد به سالن سرور می‌رود.

فیس‌بوک علاوه بر به‌کاربردن چنین فناوری‌هایی در زیرساخت، با پنهان‌نکردن ویژگی‌های مرکزدادهٔ خود، رویکردی متفاوت در پیش گرفته است. این شرکت جزئیات فنی مرکزدادهٔ پراین‌ویل خود را اختصاصی و محرمانه در نظر نگرفته و مشخصات سرورها و رک‌ها و نیز مشخصات الکتریکی و مکانیکی مرکزدادهٔ خود را با پروژه Open Compute برای دیگران منتشر کرده است.

اکنون صحبت‌های جی پارک (Jay Park) مدیر طراحی، ساخت و عملیات تاسیسات مرکزدادهٔ شرکت فیس‌بوک را دربارهٔ چگونگی طراحی این تاسیسات می‌خوانید.

مشخصات تاسیسات: نشان فیس‌بوک

  • نام سازمان: فیس‌بوک
  • مکان: آمریکا، ایالت اورگان، شهر پراین‌ویل (Prineville)
  • شروع‌به‌کار: اردیبهشت ۱۳۹۰ (۲۰۱۱)
  • ویژگی‌های چشمگیر: توزیع برق ۲۷۷ ولت، سیستم سرمایش تبخیری، نورپردازی با استفاده از لامپ‌های LED و برق‌رسانی به آن‌ها از طریق اترنت (PoE)، سرورهای سفارشی، دارای گواهینامه LEED زرین
  • مدت زمان طراحی و ساخت: ۱۵ ماه برای فاز اول (مساحت ۱۳٬۶۵۶٫۷ متر مربع)
  • مساحت: جمعا ۲۸٬۵۲۱٫۲ متر مربع؛ شامل حدود ۲۴٬۲۴۷٫۷ متر مربع سالن سرور و ۴٬۲۷۳٫۵ متر مربع فضای اتاق برق، سیستم‌های مکانیکی محصور در روی بام (غیر از مجموع مساحت بالا)
  • ظرفیت برق قابل استفاده فاوا: ۳۰ مگاوات
  • رتبه‌بندی: کلاس سه (Tier III)
  • تعداد رک‌ها: نامعلوم
  • زیرساخت: برق و سیستم سرمایش و کابل‌کشی همگی به‌صورت سقفی
  • بار سازه‌ای: ۱٬۲۲۰٫۶ کیلوگرم بر متر مربع
  • سیستم اطفای حریق: لولهٔ خشک پیش‌عملگر با سیستم نظارتی VESDAـ [2] 
گواهی‌نامهٔ LEED

«مدیریت انرژی و طراحی زیست محیطی» (Leadership in Energy and Environmental Design) یا به‌اختصار LEED سیستم رتبه‌دهی به طراحی و ساخت و عملکرد ساختمان‌های سبز است که از سال ۱۳۷۷ ش. آغاز شده است. مالکین ساختمان‌ها می‌توانند داوطلبانه در این رتبه‌دهی شرکت کنند. LEED معیارهای مشخصی در سنجش دارد که مطابق آن هر ساختمان با گرفتن حداقل امتیاز ۴۰ و حداکثر امتیاز ۱۱۰ یکی از چهار رتبهٔ «تایید شده»، «نقره»، «زرین» و «پلاتین» را بر اساس سنجش در ۶ موضوع زیر دریافت می‌کند:

نشان گواهی‌نامه LEED

  1. سازهٔ سازگار با محیط زیست
  2. بهره‌وری آب
  3. بهره‌وری از انرژی و سازگاری با جو زمین
  4. مواد و مصالح و منابع
  5. کیفیت محیط داخلی ساختمان
  6. نوآوری و طراحی

این سیستم رتبه‌دهی هم‌اکنون در بیش از ۱۳۵ کشور جهان اجرا می‌شود.

متن مصاحبه

الگر: شما مشخصات فنی مرکزدادهٔ اورگان خود را در پروژهٔ Open Compute منتشر کردید و با این کار شهرت یافتید. در چه مرحله‌ای از پروژه تصمیم گرفتید که جزئیات طراحی مرکزدادهٔ خود را با جهان به اشتراک بگذارید؟

پارک: ما طراحی را در اواخر سال ۱۳۸۷ شروع کردیم و تا اواخر ۱۳۸۸ توسعه‌اش دادیم. این فکر از مارک زاکربرگ رئیس بی‌باک ما بود که گفت: «شغل اصلی ما طراحی مرکزداده نیست؛ اگر دانسته‌های‌مان را در اختیار همگان بگذاریم، بقیه هم می‌توانند در مصرف انرژی صرفه‌جویی بیشتری بکنند.» او چنین دیدگاهی را داشت و مایل بود اطلاعات را آشکار کند.

مسئلهٔ دیگر هم ابتکار ساختن منبع تغذیهٔ جدید ۲۷۷ ولتی و تعبیهٔ سیستم دست‌ساز UPS برق DC بود. منبع تغذیه واقعا از ضروریات است و اگر افراد بیشتری آن را بخرند، طبعا قیمتش کاهش می‌یابد.

بدین ترتیب می‌توان گفت همین دو موضوعی که گفتم، محرک اصلی شرکت در اتخاذ چنین رویکردی بوده‌اند.

الگر: دانستن اینکه قرار است مشخصات فنی مرکزدادهٔ شما را همگان بدانند، بر طراحی‌تان تاثیری نگذاشت؟ در حقیقت شما می‌خواستید هم مرکزدادهٔ کارآمدی برای فیس‌بوک بسازید و هم تلاش می‌کردید طرحی عرضه کنید که برای سایر طراحان مرکزداده الگو بشود.

پارک: درست است. چندین سال هست که می‌دانیم اگر ولتاژ برق ورودی را افزایش بدهیم، بهره‌وری این منبع تغذیه‌ها بیشتر خواهد شد. اما عموما در صنعت کسی نمی‌خواست منبع تغذیهٔ جدید ۲۷۷ ولتی بسازد که نیروی خود را از پست ۴۸۰ ولتی بگیرد. هنوز از سیستم ۲۰۸ ولتی استفاده می‌کنند که نیازمند تبدیل اضافی از ۴۸۰ ولت است. بدین ترتیب کاملا حق با شما است.

سرورهای سفارشی مرکز داده فیس‌بوک، بدون رنگ و لوگو و برچسب، بدون پانل جلویی
سرورهای سفارشی مرکزدادهٔ فیس‌بوک

تصویر: سرورهای سفارشی فیس‌بوک، بدون رنگ و لوگو و برچسب و بدون پانل جلویی که مواد کمتری در آن‌ها به‌کاررفته و سبک‌ترند. 

الگر: بیاید دربارهٔ سیستم توزیع برق صحبت کنیم. کسانی که به‌دنبال پیروی از رویکردی هستند که فیس‌بوک دارد، یعنی استفاده از برق ۲۷۷ ولتی، سرورهای سفارشی شما را ندارند که با منبع تغذیهٔ ۲۷۷ ولتی کار می‌کنند. پس برای به‌کاربردن این فناوری چه‌کار باید بکنند؟ آیا راهی برای حل این مشکل وجود دارد؟

پارک: سوال خوبی پرسیدید. امروزه و پس از راه‌اندازی پروژه Open Compute، شرکت‌های زیادی منبع تغذیهٔ ۲۷۷ ولتی برای سرورها تولید می‌کنند. هم‌اکنون شرکت‌های HP و Dell این محصول را به بازار داده‌اند. ما حالا داریم با سامسونگ و فروشندگان دیگری هم کار می‌کنیم که تولید‌کنندهٔ منبع تغذیه هستند و همه‌شان معتقدند که این کار شدنی است. آن‌ها خیلی مشتاق‌اند و دارند روی این محصول کار می‌کنند. به‌نظرم در کل، الان دیگر می‌توان این محصول را به‌راحتی در بازار پیدا کرد.

همهٔ این تولید‌کنندگان می‌دانستند که اتلاف انرژی با استفاده از برق ۲۷۷ ولت و حذف‌کردن تبدیل کم می‌شود. گمانم همه با این موضوع موافق‌اند.

الگر: معمولا UPS و رک باتری را در کنار رک سرور نمی‌گذارند. چه‌چیز باعث شد به‌جای UPS سنتی، UPS را با چنین ترکیبی استفاده کنید؟

پارک: البته من ترجیح می‌دهم به آن سیستم UPS نگویم. قبلا به آن سیستم UPS می‌گفتم چون منبع برق اضطراری [3] است؛ اما اگر دقت کنید می‌بینید که برق ۴۸ ولت DC تامین می‌کند. من دو مزیت در اینجا می‌بینم. اول اینکه هرچه سیستم UPS به منبع تغذیه نزدیک‌تر باشد، پایایی (Availability) کل سیستم بیشتر می‌شود. من برای پایایی محاسباتی کردم. حقیقت این است که اگر تابلوی برق را در نزدیک‌ترین جا به محل مصرف بگذارید، این احتمال را که هر نوع خرابی از یک واحد به کل مجموعه سرایت کند و همهٔ سیستم را از کار بیندازد، به صفر خواهید رساند. پس با این کار پایایی را افزایش می‌دهید.

موضوع دوم این است که این سیستم UPS که ما طراحی کرده‌ایم، شبیه سیستم آنلاین نیست و همهٔ قطعات را ندارد؛ یعنی ماژول‌های آنلاین یکسوکنندهٔ برق، اینورتور، سوئیچ بای‌پس استاتیک، سوئیچ بای‌پس دستی را ندارد. اساس طراحی آن، بانک باتری ۴۸ ولتی DC است که به‌طور موازی با یک باس مشترک به کار رفته است. همان طور که گفتم من آن را به این علت سیستم UPS نامیدم که منبع برق اضطراری است؛ اما مانند سیستم UPS  آنلاین همهٔ تجهیزات متداول را ندارد. [مطالعهٔ بیشتر دربارهٔ انواع UPS]

همچنین به این نکته توجه کنید که این سیستم آفلاین است و در هنگام عملیات عادی، سیستم UPS برق DC در حالت آماده‌به‌کار (Standby) قرار دارد.

الگر: طراحی فضای مکانیکی محصور در بالای فضای فاوا چگونه بود؟

پارک: در حقیقت ما می‌خواستیم روی بام، واحدهای سقفی نصب کنیم. اما وقتی چیدن آن‌ها را شروع کردیم، متوجه شدیم فضای زیادی از پشت‌بام اشغال می‌شود و جا کم می‌آوریم. همچنین در روزهای سرد زمستان، تعمیر و نگهداری تجهیزات روی بام کار سختی است.

بدین ترتیب به‌جای خریدن واحد‌های سقفی، گرداگرد این فضا را دیوار پنت‌هاوس ساختیم و همهٔ تجهیزات داخلی را در آن گذاشتیم. این جایی نیست که کسی در آن رفت‌وآمد بکند و در واقع می‌توان آن را واحد بزرگ سقفی نامید.

اتاق ترکیب در مرکز داده فیس‌بوک
اتاق ترکیب در مرکزدادهٔ فیس‌بوک

تصویر: در «اتاق ترکیب» هرگاه نیاز شود، هوای گرم خروجی با هوای سرد ترکیب می‌شود.

الگر: ظرفیت کلی برق این مرکزداده چقدر است؟

پارک: در هر فاز ۱۵ مگاوات داریم. یعنی وقتی ساختن آن کامل بشود و با تمام ظرفیت شروع‌به‌کار بکند، ۳۰ مگاوات ظرفیت برق دارد. PUE این مرکز ۱٫۰۷۷ است [دربارهٔ PUE]. تجهیزات مکانیکی آن خیلی‌خیلی کم است.

در این تاسیسات چیلر و برج سرمایش نداریم. چیزی که هست، یک ردیف فن و یک سیستم رطوبت‌زا است که فقط از پمپ‌های خیلی سادهٔ پرفشار تشکیل شده است؛ واقعا کوچک که قدرت آن حدود ۲٫۵ اسب بخار است. سیستم مکانیکی بزرگی نداریم. کارآمدی فن‌ها اعجاب‌آور است و مصرف برق‌شان اصلا زیاد نیست. بدین ترتیب مقدار کلی PUE مرکزدادهٔ ما عدد ۱٫۰۷۷ است که مقدار به‌دست آمده از سنجش لحظه‌ای نیست.

الگر: از سیستم رطوبت‌زا گفتید. ممکن است نحوهٔ استفاده از آن و چگونگی عملکرد سیستم سرمایش تبخیری را توضیح بدهید؟

پارک: از آب شهری شروع می‌کنیم: آب را پس از پاک‌سازی باکتری‌ها و تصفیهٔ همهٔ ناخالصی‌ها، به موتورخانه پمپ می‌کنیم. موتورخانه به جریان آب فشار لازم را می‌دهد؛ سپس افشانک (Nozzle) به‌شکل غبار آب را پخش می‌کند. این همان سیستم رطوبت‌زای ما است. در ادامهٔ این فرایند، فن‌ها هوا را از بیرون به داخل می‌کشند. این سیستم، افقی و هم‌راستای با جریان هوا است؛ هوا را خنک می‌کند و سپس به داخل مرکزداده می‌فرستد.

سیستم رطوبت‌زای مرکز داده فیس‌بوک، دارای نم‌گیر برای گرفتن قطرات آب در هوا
سیستم رطوبت‌زای مرکزدادهٔ فیس‌بوک

تصویر: اگر هوای بیرون برای استفاده در سرمایش مرکزداده خیلی خشک باشد، با سیستم رطوبت‌زا مرطوب می‌شود. همچنین نم‌گیر نمی‌گذارد ذرات آب تبخیر نشده وارد مرکزداده شود.

موتورخانه با سیستم افزونگی 2N طراحی شده بود؛ قبلا برای آن دو پمپ با دو کلکتور در نظر گرفته بودیم. اما بعد فکر کردیم که با استفاده از یک کلکتور معمولی و انشعابات چندگانه و بدون افزونگی هم می‌توانیم همین بهره‌وری را داشته باشیم؛ چون نواحی رطوبت‌زای زیادی داریم. احتمالا در عکس می‌توانید سیستم رطوبت‌زا و تعدادی خط لولهٔ شبیه تار‌عنکبوت ببینید. هر یکی یا هر دو تا از این خط لوله‌ها، یک ناحیهٔ رطوبت‌زا شمرده می‌شود. بدین ترتیب اگر نیاز نباشد کل سیستم رطوبت‌زا را روشن کنیم، مثلا از ناحیه ۱ تا ۷ فقط روشن‌بودن ناحیه ۱ کافی باشد؛ آنگاه فقط همان ناحیه ۱ را روشن می‌کنیم و نواحی ۲ تا ۷ و تجهیزاتی که در این قسمت‌ها هستند خاموش می‌ماند. پمپ‌های آن هم دور متغیر هستند. 

الگر: شما هر دو سیستم سرمایش تبخیری و سرمایش طبیعی هوامحور را دارید. پیش‌بینی می‌کنید چند روز در سال بتوانید از هوای بیرون برای سرمایش استفاده کنید؟

پارک: در تمام طول سال می‌توانیم از هوای بیرون استفاده کنیم. بله! برای سرمایش فقط از هوای بیرون استفاده می‌کنیم؛ آن را با سیستم رطوبت‌زا خنک می‌کنیم و به مرکزداده می‌فرستیم.

در زمستان هم چون دمای هوای بیرون برای سرورها زیادی سرد است، هوای بیرون را با هوای گرم بازگشته از سرورها ترکیب می‌کنیم تا دما را در حد قابل قبولی افزایش بدهیم؛ سپس در سیستم سرمایش به‌گردش می‌اندازیم. به همین دلیل کرکره‌های تنظیم میزان ورود هوای بیرون، در زمستان نیمه‌باز است و دما را با ترکیب هوای سرد و گرم تا میزان مناسب بالا می‌برد.

الگر: برای کار مرکزتان از چه دمایی استفاده می‌کنید؟

پارک: دمای ورودی حداکثر ۲۷ درجه سانتی‌گراد و رطوبت نسبی (RH) ـ[4] حداکثر ۶۵ درصد است که مطابق استاندارد TC9.9 «انجمن مهندسان گرمایش، سرمایش و تهویهٔ مطبوع امریکا» (ASHARE) ـ[5] است.

الگر: گمان می‌کنم آب‌وهوا از عوامل مهم در انتخاب محل این مرکزداده بوده که به شما امکان داده است از فناوری‌های مشخصی که بهره‌وری انرژی مطلوبی دارند استفاده کنید. غیر از این، چه عوامل دیگری باعث شد تا فیس‌بوک این مرکزداده را در شهر پراین‌ویل ایالت اورگان بنا کند؟

پارک: اولین دلیل این بود که می‌توانستیم به‌آسانی هزینه‌های عملیاتی را کاهش بدهیم. همچنین در آنجا هزینهٔ برق هم کمتر بود؛ چون به خطوط اصلی انتقال نزدیک‌تر بودیم.

الگر: طراحی و ساخت فاز اول این مرکزداده چقدر طول کشید؟

پارک: یک سال طول کشید؛ البته کمی بیشتر. در واقع کار طراحی را کمی جلوتر از شروع کار پروژه پیش برده بودیم. سابقا در فکر ایجاد مرکز تحقیق و توسعه بودیم و به طراحی آن فکر می‌کردیم. برای این مرکزداده توانستیم تا حد زیادی از آن طرح‌ها استفاده کنیم. به‌نظرم از طراحی تا تکمیل این پروژه، حدود ۱۵ ماه طول کشید.

الگر: با توجه به بزرگی این تاسیسات و فناوری‌های نوآورانهٔ بسیاری که در آن به‌کاررفته است و اینکه طراحی سرورهای سفارشی نیز بخشی از کار این پروژه بود که خودتان انجام داده‌اید، اجرای ۱۵ ماههٔ این پروژه خیلی سریع بوده است. همان طور که در اول این مصاحبه گفتید، مرکزداده کسب‌وکار اصلی شما نیست. با تمام این حرف‌ها به نظر می‌رسد در ساخت این مرکز بسیار موفق عمل کرده‌اید.

پارک: البته من زمانی که صرف خرید و تملک سایت و کارهایی از این دست شد را حساب نکردم؛ فقط از مدت طراحی و ساخت صحبت می‌کنم که می‌گویم احتمالا حدود ۱۵ ماه طول کشید. پیش از آن ما مشغول کار بر روی سایت مرکز تحقیق و توسعه بودیم. به همین دلیل حجم زیادی از کارهای مهندسی را پیشاپیش انجام داده بودیم که تا حد زیادی در ساخت این مرکزداده از آن‌ها استفاده کردیم.

می‌شود گفت که اگر بخواهید مرکزداده بسازید، در حالتی که همهٔ اطلاعات لازم را در اختیارتان گذاشته باشند، شما هم می‌توانید ساخت آن را در ۱۵ یا ۱۶ ماه تکمیل کنید.

الگر: غیر از جزئیات فنی موجود در مستندات پروژهٔ Open Compute، آیا اصول طراحی خاصی هست که در این پروژه دنبال کرده‌اید؟

پارک: دو سال و نیم پیش که به این گروه پیوستم، فقط خودم بودم؛ هیچ‌کس برای کار طراحی نبود. من از صنعت طراحی مرکزداده و صنعت ساخت‌وساز آمدم و به گروه پیوستم؛ جذب افراد مجرب پس از آن آغاز شد. ما دقیقا می‌دانستیم که داریم چه‌کار می‌کنیم؛ این طوری نبود که اتفاقی و شانسی راه‌های جدید را امتحان کنیم. شرایط ما این‌گونه نبود.

الگر: قطعا همین طور است که می‌گویید. آیا به‌طور کلی توصیه‌ای برای کسانی که می‌خواهند پروژهٔ مرکزداده آغاز کنند دارید؟

پارک: تنها توصیه‌ای که برای افراد مشغول در این صنعت دارم این است که هرچه را تولیدکنندگان سرورها می‌گویند باور نکنند. واضح است داده‌هایی که آن‌ها بر اساس نام و برند دربارهٔ سرورها می‌دهند، از چیزی که واقعا هست خیلی محتاطانه‌تر است. از دیدگاه کاربری، به‌نظر من کسانی که به‌دنبال ساختن مرکزداده هستند، حتما باید دربارهٔ سرورها بیشتر تحقیق کنند و محدودهٔ پارامترهای عملیاتی سرور را بشناسند. بعد هم نترسند از اینکه از آن محدوده‌هایی که تولیدکننده می‌گوید فراتر بروند. به‌نظر من کلیدِ داشتن پروژهٔ موفقیت‌آمیز این است.

هرچه تولیدکنندگان سرورها می‌گویند باور نکنید. درباره سرورها بیشتر تحقیق کنید و پارامترهای عملیاتی سرور را بشناسید. بعد هم نترسید از اینکه از آن محدوده‌هایی که تولیدکننده می‌گوید فراتر بروید.

 الگر: در طول انجام این پروژه آیا مسئلهٔ غافلگیرکننده‌ای رخ داد؟

پارک: همان طور که قبلا گفتم، من از صنعت ساخت‌وساز و طراحی مرکزداده به این پروژه پیوستم. بنابراین می‌دانستیم چطور مرکزداده بسازیم؛ اما هیچ تجربه‌ای دربارهٔ ساختن سرور نداشتیم. وقتی کار ساخت سرورها شروع شد، متوجه شدم که سرور قابلیت تحمل محیط‌های با شرایط بسیار سخت‌تر را هم دارد. یعنی می‌توانید رطوبت را به ۹۰ درصد برسانید و خواهید دید که سرورها بدون اینکه هیچ اشکالی پیش بیاید کار می‌کنند. دربارهٔ مسئلهٔ کم‌بودن رطوبت محیط، از مشکل تخلیهٔ الکتریسیتهٔ ساکن صحبت می‌شود و اینکه چنین مسئله‌ای به تراشه‌های حافظه و CPU و مانند آن آسیب می‌زند. اما حقیقت این است که رک‌ها اتصال‌به‌زمین دارند؛ پس با روش درست و با هم‌پتانسیل‌سازیِ بدن کاربر با رک، می‌توان به آن‌ها دست زد؛ بدون آنکه تخلیهٔ الکتریسیتهٔ ساکن رخ بدهد. این روش برای دست‌زدن و جابه‌جاکردن سرورها، فرایند ساده و اصلی است.

این‌ها همه کارهای عملی هستند که می‌توانید بکنید و واقعا هم لازم نیست نگران کمی رطوبت باشید. خیلی کارها می‌توانید بکنید؛ این آن چیزهایی است که من متوجه شده‌ام. به‌نظر من همه در این صنعت بیش از حد احتیاط می‌کنند.

راستش من واقعا از اینکه تا چه‌حد می‌توان از محدودیت‌های شرایط استفاده از سرور فراتر رفت، غافل‌گیر شده‌ام. در فاز اول زیاد درگیر این کار نشدیم؛ اما در فاز بعدی و در پروژهٔ بعدی، حتما از این محدودیت‌ها پا را فراتر خواهیم گذاشت.

الگر: مرکزدادهٔ شما تازه راه‌اندازی شده؛ ولی اگر فرصت داشتید که به عقب برگردید و دوباره طراحی‌اش بکنید، چه‌چیزی را تغییر می‌دادید؟

پارک: شاید اینجا را چندمرحله‌ای می‌ساختیم و از روز اول این‌همه هزینه به خودمان تحمیل نمی‌کردیم. می‌توانستیم ساخت کل مرکزداده را به چند مرحله تقسیم کنیم و به‌مرور و همگام با رشد کسب‌وکارمان ساخت آن را تکمیل کنیم. اگر به عقب برمی‌گشتیم، حتما دراین‌باره فکر می‌کردیم. می‌دانید که شرکت فیس‌بوک هر روز در حال رشد است و ما باید درخواست‌های روزافزون را برآورده کنیم.

از نظر بهره‌وری انرژی، کاملا به هدف‌مان رسیده‌ایم. شاید هم اگر خیلی سعی کنیم، حتی بتوانیم بازده هزینه‌ای هم داشته باشیم. اما الان روی برآوردن درخواست‌ها تمرکز کرده‌ایم.

الگر: دربارهٔ سیستم نورپردازی شما خواندم که با لامپ‌های LED است و برق آن از طریق اترنت تامین می‌شود. چه‌چیزی باعث شد از این راهکار خاص استفاده کنید؟

پارک: دلیل اول این بود که همان طور که می‌دانید تجهیزات لامپ‌های LED دوام خیلی زیادی دارد. دیگر اینکه ما در دالان‌های بستهٔ هوای گرم‌مان، درهای بسیار زیادی داریم. حالا فرض کنید کسی یکی از این درها را باز کند و درست نبندد. در این صورت کل هوای گرم با هوای سرد ترکیب می‌شود و ما هیچ خبردار نمی‌شویم. می‌توانستیم از «فک در» (Door Contact) استفاده کنیم و کنترل آن را به سیستم مدیریت ساختمان بسپاریم. اما در این صورت هم تعیین جای آن دری که بسته نشده کار مشکلی است. بنابراین از سیستم روشنایی با لامپ‌های LED و تلفیق آن با سیستم فک در استفاده کردیم. حالا اگر کسی دری را باز بگذارد، لامپ‌ها شروع به چشمک‌زدن می‌کنند.

بدین ترتیب این سیستم امکانات کنترلی هم در اختیارمان می‌گذارد. این ویژگی‌ها را وقتی مشغول ساخت بودیم دیده‌ایم. به‌علاوه از این کار صرفه‌جویی انرژی خوبی به دست می‌آید و مصرف برق آن نیز بسیار کم است. با این‌همه راستش برای‌مان بازگشت سرمایه نداشته؛ چون این سیستم گران‌قیمت است. در عوض لازم نیست هر دو سه سال یک‌بار تجهیزاتش را عوض بکنیم؛ تقریبا ۱۵ سال دوام می‌آورد.

ولی اگر چراغ‌ها در تمام مدت روشن باشند، این مسئلهٔ دیگری است. در تاسیسات‌مان یک جایی داریم که به آن «محیط خاموش» می‌گوییم؛ اگر کسی در آنجا نباشد، چراغ‌هایش را خاموش می‌کنیم. ما محاسباتی با در نظر گرفتن خاموش‌شدن چراغ‌ها کردیم و دیدیم بازگشت سرمایه نخواهیم داشت. در هر حال این سیستم کنترلِ بسیار جالب‌توجهی است که از آن برای نظارت بر درها استفاده می‌کنیم.

الگر: شما برای اطفای حریق از سیستم نظارتی VESDA و آب‌فشان‌های پیش‌عملگر استفاده می‌کنید. آیا این سیستم لوله‌خشک است؟

پارک: بله. سیستم لوله‌خشک است. همان طور که می‌دانید، اگر از سیستم اطفای حریق استفاده نشود و لوله‌هایش برای مدت زیادی خالی بماند، در آن میعان رخ می‌دهد. در این حالت اگر لوله‌ها شیب درستی داشته باشند و شما امکان تخلیهٔ آبی را که در آن جمع‌شده داشته باشید، مشکلی پیش نخواهد آمد. البته من مطمئنم هرگز این لوله‌ها را با شیب مناسب نصب نمی‌کنند. در نتیجه داخل لوله‌ها میعان رخ می‌دهد و آب در جاهایی که پایین‌تر است جمع می‌شود. نتیجهٔ چنین وضعیتی این است که قسمت‌هایی از لوله کم‌کم شروع به زنگ‌زدن می‌کند، سوراخ‌های ریزی در آن به‌وجود می‌آید، آنگاه آب شروع می‌کند به چکه‌کردن.

در مرکزدادهٔ قبلی و با کارفرمای سابقم این مشکل را داشتم. تعویض این لوله‌ها در مرکزداده‌ای که بدون توقف کار می‌کند، چالش بزرگی بود. کاری که برای اینجا کردیم این بود که هم از خشک‌بودن لوله‌ها مطمئن شدیم و هم درون لوله‌ها را به‌جای هوای فشرده، با گاز نیتروژن پر کردیم. با این کار دیگر اکسیژنی در کار نیست و معلوم است که بدین ترتیب لوله‌ها هم زنگ نخواهند زد. اگر سری به وب‌سایت انجمن ملی حفاظت در برابر حریق یا NFPA‌ ـ[6] بزنید، خواهید دید که از مشکل پوسیدگی و زنگ‌زدگی لوله‌ها زیاد حرف می‌زنند و در آنجا هم دقیقا برای مقابله با آن همین راه‌حل را توصیه می‌کنند.

برق و کابل‌کشی ساخت‌یافته و سیستم سرمایش مرکز داده فیس‌بوک، همگی در سقف
برق و سرمایش مرکزدادهٔ فیس‌بوک در سقف

تصویر: در مرکزدادهٔ فیس‌بوک، برق و کابل‌کشی ساخت‌یافته و سیستم سرمایش همه در سقف هستند.

الگر: در محافل مرکزداده بحث است که آیا از کف کاذب باید استفاده کرد یا نه. آیا دلیل خاصی وجود داشت که شما در مرکزدادهٔ خودتان از کف کاذب استفاده نکردید؟

پارک: به‌نظر من کف کاذب در مقایسهٔ با دال بتنی (Concrete Slab) خیلی گران است. همچنین وقتی دالان بسته دارید، دیگر نیازی به کف کاذب نیست؛ چون وقتی هوای گرم خروجی را در دالان بسته محصور می‌کنید می‌توانید با آن هر کاری بکنید. مثلا آن را به بیرون از مرکزداده بفرستید یا دوباره به گردش درآورید. بعد هم به‌نظرم مدیریت کابل‌ها در سقف خیلی آسان‌تر از زیر کف کاذب است؛ هم دسترسی آسان‌تر است، هم نصبش سریع‌تر است. به‌علاوه دیگر نگران فشار وزن تجهیزات بر روی کف کاذب نیستید. از سویی اگر مرکزداده در منطقهٔ زلزله‌خیز باشد که البته پراین‌ویل نیست، ملزم به رعایت محدودیت‌هایی در عمق کف کاذب خواهید شد؛ مگر اینکه در ساختمان از مهاربندهای محکمی استفاده کرده باشید. پس می‌بینید که استفاده از کف کاذب معایب زیادی دارد. بدین ترتیب من هم موافق استفاده از طراحی کف کاذب نیستم.

تصویر راست: هوای سرد پایین می‌آید و به داخل دالان‌های هوای سرد مرکزدادهٔ فیس‌بوک جاری می‌شود.

تصویر چپ: هوای بیرون، پیش از واردشدن به مرکزدادهٔ فیس‌بوک، از چندین فیلتر عبور می‌کند.

فیلترهای سر راه ورود هوای بیرون در مرکز داده فیس‌بوک
فیلترهای ورود هوای بیرون به مرکزدادهٔ فیس‌بوک
هوای سرد پایین می‌آید و در دالان‌های هوای سرد مرکز داده فیس‌بوک جاری می‌شود
هوای سرد پایین می‌آید و در دالان‌های هوای سرد مرکزدادهٔ فیس‌بوک جاری می‌شود

تصویر پایین راست: فن‌های اتاق ترکیب هوای گرم و سرد

تصویر پایین چپ: هوا از نم‌گیر می‌گذرد (دیوار سمت چپ) و با استفاده از فن‌های دور متغیر به طرف مرکزداده رانده می‌شود (دیوار سمت راست).

عبور هوای بیرون از نم‌گیر (سمت چپ)، فن‌های دور متغیر برای دمیدن به مرکزداده (سمت راست)، در مرکز داده فیس‌بوک
چپ: عبور هوا از نم‌گیر، راست: فن‌های دمنده به مرکزداده
فن‌های اتاق ترکیب هوای گرم و سرد در مرکز داده فیس‌بوک
فن‌های اتاق ترکیب هوای گرم و سرد در مرکزدادهٔ فیس‌بوک

 

 

 

 

پانویس

[1] این مطلب بخش دهم از کتاب «گردشی در مراکزدادهٔ نامدار جهان»، عنوان به‌زبان اصلی «The Art of the Data Center» است. گفت‌وگوکننده داگلاس الگر (Douglas Alger)، مترجم پرواز خیر، ویراستار پرهام غدیری‌پور، به‌کوشش دکتر بابک نیکفام، تهیه‌شده در باشگاه مراکزداده

[2] کوته‌نوشت Very Early Smoke Detection Apparatus: دستگاه بسیار حساس و سریع تشخیص دود

[3] Uninterruptable Power Supply

[4] Relative Humidity

[5] انجمن مهندسان گرمایش، سرمایش و تهویهٔ مطبوع امریکا (American Society of Heating, Refrigerating, and Air Conditioning Engineers): این انجمن در سال ۱۸۹۴ بنیان گذاشته شد و امروز بیش از ۵۰ هزار عضو دارد که استانداردهای مختلفی را برای گرمایش و تهویه مشخص می‌نماید.

[6] National Fire Protection Association

درج دیدگاه

برای درج دیدگاه کلیک کنید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

سوال امنیتی *