Süni intellekt Məlumat Mərkəzi nədir? [Video və Viktorina]

Qısa cavab: Süni intellekt məlumat mərkəzi, əlavə GPU-ları olan server otağı deyil, enerji, soyutma, parça və saxlamanın təlim və xidmət modelləri ətrafında cəmləşdiyi yüksək sıxlıqlı bir yerdir. Çiplər şöhrət qazanır; bina onların işləyib-işləməməsinə qərar verir. Təsvirlər çıxa bilmirsə, kiçik bir hücrəni yenidən təchiz edin; əksər komandalar icarəyə götürməlidir.

Əsas nəticələr:

Çiplər və bina: Sürətləndiricilərin işləyib-işləmədiyini enerji, soyutma, parça və saxlama müəyyən edir.

Saraylar deyil: Məlumatlar çıxa bilmədikdə iki rəfi yenidən qurun; kampus almayın.

Orta və median: Səkkiz qaçışda median yenidən başlayır; 18 saatlıq orta qiymətdən istifadə edin.

Sui-istifadəyə qarşı müqavimət: Qarışıq salonda iki rəf üçün PUE təklif etməyin.

Təsviredici nəticələr: Səkkiz qaçış 50% məhsuldarlıq qənaəti deyil, kiçik bir xəritədir.

Bundan sonra oxumaq istəyə biləcəyiniz məqalələr:

🔗 Süni intellekt etibarlıdırmı? Video və viktorina
Maraqlı video və interaktiv viktorina vasitəsilə süni intellekt etibarlılığını araşdırın.

🔗 Gündəlik həyatda süni intellektdən necə istifadə etməli
Süni intellektdən gündəlik tapşırıqları və rutinləri sadələşdirməyin praktik yollarını kəşf edin.

🔗 İş yerində süni intellektdən necə istifadə etməli
Daha ağıllı iş yerində məhsuldarlıq üçün süni intellektdən istifadənin praktik yollarını öyrənin.

🔗 Süni intellekt özü üçün düşünə bilirmi?
Süni intellektin həqiqətən müstəqil düşünə və ya mühakimə yürüdə biləcəyini anlayın.

"Normal" məlumat mərkəzindən necə fərqlənir

Ənənəvi zallar qarışıq iş yükü və çoxlu sayda kiçik xidmətlər arasında iş vaxtı üçün optimallaşdırılır. Əlbəttə ki, artıqlığa və PUE-yə bir konsepsiya kimi əhəmiyyət verirsiniz - binanın bir vatt hesablama gücü yaratmaq üçün yandırdığı əlavə enerji. Adətən, hər dəhlizi portativ qızdırıcı ferması kimi davranan bir rəfin ətrafında dizayn etmirsiniz.

Süni intellekt saytları nisbətləri dəyişir. Sıxlıq artır. Şəbəkə təlim işinin onsuz hərəkət edə bilməyəcəyi bir parça halına gəlir. Yaddaş yoxlama məntəqələrini hərəkətdə saxlamalı, əks halda sürətləndiricilər tıxacdakı yarış atları kimi boş dayanmalıdır.

Mədəni fərq də var. Müəssisə əməliyyatçıları biletlər və dəyişiklik pəncərələri haqqında düşünürlər. Süni intellekt əməliyyatçıları iş növbələri və uzun müddətdə bir qovşağın gec sıradan çıxması zamanı yaranan xoşagəlməz hisslər haqqında düşünürlər. Düşünürəm ki, hər ikisini "məlumat mərkəzləri" adlandırmaq olar, çünki onlar belədir. Etiket sadəcə santexnika xətlərini gizlədir.

Mənəvi reytinq deyil. Fərqli maşınlar, eyni ailə adı.

GPU-lar, sürətləndiricilər və enerjini yeyən dayaq

Ənənəvi qaldırılmış döşəmədə gəzəndə rəflər demək olar ki, nəzakətli görünür. Süni intellekt sırasında gəzəndə isə sanki binanı udmaq istəyirlər.

Ən diqqət çəkən aparat ağıllı bir CPU deyil. Bu, sürətləndirici qabdır: GPU-lar və ya digər süni intellekt çipləri serverlərə, sonra raflara, daha sonra isə yüksək bant genişliyi olan bir parçanı paylaşan sətirlərə yığılır. GPU, tikiş çiplərini nəhəng bir sürətləndirici kimi görünə biləcək bir şeyə birləşdirir; klaster parçası da eyni hiyləni sətir miqyasında edir. Paralel təlim yalnız bu əlaqələr qalın və proqnozlaşdırıla bilən qaldıqda işləyir. Bunu itirsəniz, "klasteriniz" poçt indeksini paylaşan bahalı iş stansiyaları yığınına çevrilir.

Güc çipləri izləyir. Böyük ofis PDU deyil. Zal dolduqdan sonra meqavatt İT yükü - mən rəqəm uydurmayacağam. Hər rəfə düşən sıxlıq süjetin dönüşümündədir. Daha az rəf. Hər biri kiçik bir sobadır. Məhdudlaşdırıcı amil çox vaxt GPU-ların istək siyahısı deyil, yarımstansiyadır. Necə olduğunu bilirsiniz: təchizat daha çox sürətləndirici istəyir; kommunal xidmət uzun bir söhbət və çox böyük bir çek istəyir.

Bir az axmaqcasına metaforadan imtina edə bilmirəm: rəf ac heyvandır. Daha sürətli birini yetişdirə bilərsiniz. Yenə də onu yemləməlisən və yenə də istiliyi azaltmalısan. Hər ikisini atlasan, çox bahalı kağız çəkiyə çevrilir.

Enerji, istilik və soyutma problemi

Elektrik enerjisi daxildədir. İstilik çıxır. Bütün din budur.

Yüksək sıxlıqlı rəflər istiliyi havanın heç vaxt idarə olunmasını istəmədiyi şəkildə yayır. Havanı daha sərt şəkildə itələyə bilərsiniz - arxa qapı istilik dəyişdiriciləri, daha isti dəhlizlər, ağıllı saxlama - və bu, müəyyən dərəcədə işləyir. Sonra maye peyda olur:

• Birbaşa çipə soyutma

• Zavod otağını kimyəvi zavod kimi göstərən soyuducu ilgəklər

• Su və xidmətçilərin eyni cümləni paylaşmamalı olduğunu düşünən insanları hələ də təəccübləndirən bir neçə dizayna dalmaq

Bunların heç biri cazibədar deyil. Hamısı məhsuldur, çünki qazı azaldan qaz pedalı artıq pul ödəmisiniz və tam istifadə edə bilmədiyiniz qaz pedalıdır.

PUE hələ də vacibdir. Bu, bir nisbətdir, bir şəxsiyyət deyil. Operatorlar bunu təqib edirlər, çünki ventilyatorlara və nasoslara xərclənən hər vatt GPU-ya sərf olunmayan bir vattdır. Mən "tipik" bir rəqəm sitat gətirməyəcəyəm; iqlim və sərhədi necə çəkdiyiniz onu dəyişir və saxta dəqiqlik heç bir şeydən daha pisdir. Hekayədə su da var. Bəzi bitkilər qurtumlayır. Bəziləri isə udumlayır. Buxarlanma soyutması çay və ya quraqlıq onu siyasiləşdirənə qədər səmərəlidir.

Şəbəkələşmə: niyə parça parçalar qədər vacibdir

İnsanlar GPU-ların şəklini çəkirlər. Onlar kommutatorların şəklini çəkməlidirlər.

Təlim söhbətdir. Minlərlə akselerator modelin qradiyentlərini, parametrlərini, parçalarını sıx sinxronizasiya şəklində mübadilə edir. Parça titrəyirsə, bütün iş ən yavaş atlamada gözləyir. Buna görə də süni intellekt salonları yüksək bant genişliyi şəbəkəsinə, aşağı gecikməyə və əlaqə kəsildikdə yarıya qatlanmayan topologiyalara diqqət yetirir. InfiniBand kimi parçalar, eyni rolda Ethernet, qutunun içərisində GPU bir-biri ilə əlaqələndirilir, ilk dəfə düzgün olmalı olan kabellər.

Nəticə çıxarmaq fərqli bir söhbətdir. Model xidməti quyruq gecikməsinə - orta cavaba deyil, yavaş cavaba əhəmiyyət verir. Toplu və real vaxt şəxsiyyəti bölür. Təlim qrupu qalın, kollektiv, hamıya uyğun hərəkət. Xidmət edən donanma yük balanslaşdırıcısında tıxac olmadan daha çox kiçik sorğu və təcrid istəyir.

Mən burada olduğum müddətdə insanlar şəbəkəyə santexnika, nasazlıqlara isə restoran kimi yanaşırlar. Bu binada santexnika restorandır. Bunu qaçırsanız, çatdırılma qəbul edə bilməyən bir mətbəx alırsınız.

Təlim və nəticə çıxarma: bəzən sözün əsl mənasında iki bina

Təlim bir kampaniyadır. Bir dəstə toplayır, ona məlumat verir, dindarcasına yoxlama nöqtəsi qoyur, saatlarla və ya həftələrlə qaçır və parçanın problemsiz qalması üçün dua edirsiniz. Partiya ilə dolu, bant genişliyinə ac, sakitcə səbirli - ta ki uğursuz bir qovşaq qaçışdan bir dişləməni alana qədər. Sıx birləşdirilmiş işdə bir ölü sürətləndirici bütün xoru dayandıra bilər.

Nəticə çıxarma prosesi vitrina kimidir. Artıq təlim keçmiş modellər indi sualları cavablandırır, şəkilləri təsnif edir, mətn yaradırlar. Gecikmə vacibdir. Müştərinin yaxınlığındakı bir az köhnə akselerator, bir qitə uzaqlığındakı cazibədar akseleratoru üstələyə bilər.

Beləliklə, siz bölünmə əldə edirsiniz. Təlim kampusları güc, torpaq və sıxlığın ardınca gedir. Nəticə çıxarma mərkəzləri gecikmə və mövcudluğun ardınca gedir. Hibrid zallar da mövcuddur, çünki kapital sonsuz deyil. Həmişə iki bina olmur. Bəzən məxmər ip və iki soyutma döngəsi olan bir zal olur.

Burada həmçinin kolokasiya, hipermiqyaslı kampuslar və yerli çəngəl də mövcuddur. Hipermiqyaslılar elə miqyaslarda qurulur ki, sanki qalanlarımız mebelləri düzürük. Kololar sıxlığı rəfə satır. Məlumatlar çıxa bilmədikdə də yerli miqyaslar hələ də baş verir.

Saxlama qabiliyyəti, yoxlama məntəqələri və ac çiplər

Heç kim paralel fayl sistemini broşürün üz qabığına yerləşdirmir.

Təlim məlumatları GPU-ların ayaqlarına toxunmaması üçün kifayət qədər tez çatmalıdır. Yoxlama məntəqələri işə düşməlidir ki, qəza bir həftəni unuda bilməsin. Servis replikası işə düşməzdən əvvəl model çəkiləri yüklənməlidir. Sabit maneə təkcə tutum deyil, həm də yaddaş tutumudur. Sürətləndiricilərə çox pul xərcləyib virtual maşınlar üçün hazırlanmış nəzakətli bir massivlə onları boşalda bilərsiniz.

Nümunə tanışdır: parlaq bir qrup, iş növbəsi və kobud bir faktura kimi geri baxan giriş/çıxış gözləməsi. Məlumat yolunu qruplaşdırmadan hesablamanı qruplaşdırmaq çox bahalı boş vaxt əldə etməyin yoludur. Çipləri qidalandırın və ya heykəl aldığınızı etiraf edin.

Proqram təminatı, orkestrləşdirmə və qeyri-adi əməliyyat təbəqəsi

Avadanlıq məşhurdur. Planlayıcılar işi görürlər.

Əgər işlər qrafik prosessorları tapa bilmirsə, iki komanda yumruq davası olmadan bir klasteri paylaşa bilmirsə, uğursuz bir rütbə əvəz edilə bilmirsə, proqram təminatı yavaş hərəkətdə sıradan çıxana qədər sürüşürsə, süni intellekt məlumat mərkəzi faydasızdır. Orkestrləşdirmə, müşahidə qabiliyyəti, güc məhdudiyyəti - bunun vacibliyini bildiyiniz qeyri-adi əməliyyat təbəqəsi.

Bu təbəqə mənim üçün zəif bir cəhətdir. Həmçinin səhv konfiqurasiya edilmiş NIC-nin bütün günortadan sonra soyutma problemini təqlid etməsi... bunu çətin yolla tapa bilərsiniz.

Bir qovşaq işin ortasında öldükdə

Bir qovşaq ölür. Dəyişdirmə pəncərələri hələ də təqviminizə əhəmiyyət verməyən təlim qaçışları ilə toqquşur. Böyük işləri qruplaşdırırsınız, nəticə hovuzlarını hasarlayırsınız, "iş yavaşdır" kimi görünən uğursuzluqlar üçün "iş ölüdür" kimi görünənə qədər çalışma kitabları yazırsınız. Artıqlıq hələ də vacibdir - enerji, soyutma, yollar, yaddaş - lakin uğursuzluq rejimi köhnə doqquz işləmə vaxtı slaydından daha az səliqəlidir. Nəticə: replika, xəstə qovşağı boşalt, cavab verməyə davam et. Təlim nikbinlik yoxlama nöqtələri istəyir, yoxlama nöqtələri yox.

Yer, su, şəbəkə və qonşular

Mənzərə üçün bunlardan birini kottecin yanına qoymursunuz.

Şəbəkəyə qoşulma çox vaxt əsl sahə seçimi prosesidir. Torpaq, digər müştəriləri olan yarımstansiya və kommunal xidmətlərlə müqayisədə asandır. Soyutma üçün istifadə etdiyiniz su, yağış yağan kimi qonşu probleminə çevrilir. Səs-küy. Vizual həcm. Sərhəd hasarında istilik. Planlaşdırma komitələri "bulud" haqqında fikirlərini tarla və çaya ehtiyac duyduğu anda aşkar edirlər.

Gecikmə əks istiqamətdədir. Nəticə çıxarmaq istifadəçilərin və qarşılıqlı əlaqələrin yaxınlığında olmağı xoşlayır. Təlim daha ucuz enerji bazarlarında və daha sərin iqlimlərdə gizlənə bilər. Sənaye sanki bir mükəmməl sayt varmış kimi danışır. O yoxdur. Mətbuat açıqlaması ilə bağlı güzəşt var.

Artıq qalan istilik və dəvətsiz soba

Broşürlər bunu çox sevir. Tullantı istiliyini evlərə, hovuzlara, istixanalara tökün; bu, gözəl bir cümlədir. Bəzən rayon dövrəsi səmimi olur. Bəzən kampus səhv yerdə olur və istilik hələ də havaya qalxır. Broşürün versiyasına şübhə ilə yanaşıram; fizikaya şübhə ilə yanaşmıram.

Kimə lazımdır (və kim əvəzinə icarəyə götürməlidir)

Əksər insanların bu zallardan birinə sahib olmasına ehtiyac yoxdur.

Qısa siyahı:

• Hiperscalerlər, çünki məhsul donanmadır

• Laboratoriyalar, növbə vaxtı maneə olduqda və ya məlumatlar çıxa bilmədikdə

• Gizli məlumat dəstinə - yerli və ya özəl kolonimik qəfəsə - sahib olan bank, xəstəxana qrupu, hökumət və ya istehsalçı, hətta bu, axmaq olsa belə, rasional ola bilər

Başqaları kirayə götürməlidir. Süni intellektlə işləyən sıxlıqlı kolokasiya. Bulud rezervasiyası. İdarə olunan klaster. Elektrik stansiyası operatoru olmadan da sürətləndiriciləri əldə edirsiniz. Səhər saat 3-də soyuducu dövrəsində kimin növbətçi olduğunu soruşan kiminsə ilk dəfə romantik münasibətləri soyuyur.

Etiraf edim ki, burada bir qürur məsələsi var. Klasterə sahib olmaq proqnozlaşdırma vasitələrinə sahib olmaq kimidir. Sonra elektrik fakturası gəlir və qürur çökür.

Bina nə üçündür

Beləliklə, Süni İntellekt Məlumat Mərkəzi nədir? Sürətləndiricilərin, enerjinin, soyutmanın, parçaların və saxlamanın təlim və xidmət modelləri ətrafında təşkil edildiyi ixtisaslaşmış, yüksək sıxlıqlı bir kampus - küncündə qrafik prosessoru olan ümumi təyinatlı İT deyil. Anbara bənzəyir. Riyaziyyatla məşğul olan elektrik stansiyası kimi davranır.

Başqa heç nəyi xatırlamırsınızsa: çiplər şöhrət qazanır; yarımstansiya, soyuducu və şəbəkə həmin çiplərin yaxşı bir fikir olub-olmadığına qərar verir. Təlim və nəticə çıxarma bir damı paylaşa bilər; onlar yenə də fərqli davranışlar istəyirlər. Əksər təşkilatlar icarəyə götürməlidir. Bir neçəsi tikməlidir. Qonşular hər ikisini də görəcəklər.

Buludun həmişə bir binası olub. Bu günlərdə binanın fikirləri var.

Real həyat nümunəsi: Təsvirlərin çıxa bilmədiyi iki rəfli təlim kamerası

Ssenari

Tomos, Qərbi Midlenddə 400 nəfərlik istehsalçı olan Kestrel Precision şirkətinin infrastruktur rəhbəridir. Onların artıq kiçik bir daxili zalı var: ERP, fayl paylaşımları, virtual maşınlar, bu məqalə ilə başlayan qarışıq məhəllə. Hava soyutma. Adi Ethernet. Ofis diskləri üçün mükəmməl nəzakətli SAN.

Maşın görmə komandası zavod şəkilləri üzərində yoxlama modelini öyrətməlidir. Şəkillər saytdan çıxa bilməz. Onlar şirkətin bulud diskinə, hətta özəl diskə belə yerləşdirməyəcəyi prosesi göstərirlər. Təchizat şirkətinin həlli dörd ikili sürətləndirici server və "bizim süni intellekt məlumat mərkəzimiz" adlı slayddır. Serverlər iki mövcud rəfə yerləşdirilir, çünki yer var və yer məhdudiyyət kimi hiss olunurdu.

Elə deyil. İki həftə ərzində GPU-lar işlək səslənir və sonra sakitcə qaz basır. Yoxlama məntəqəsi SAN-a dəyəndə işlər sürətlə gedir. Saat on birdə bir qovşaq sıradan çıxır və proses sadəcə... yoxa çıxır. Tomos çip almaqda uğursuz olmayıb. O, poçt indeksini paylaşaraq bir yığın bahalı iş stansiyası alıb. Bina hələ də müəssisə zalı idi.

Onlara kampus, yeni yarımstansiya və ya çay lazım deyil. Onlara miniatür süni intellekt məlumat mərkəzi kimi davranan kiçik bir hücrə lazımdır: rəflərin saxlaya biləcəyi enerji, çipləri bişirmədən çıxan istilik, təlim işinin danışa biləcəyi parça, yoxlama nöqtəsini götürə bilən saxlama yeri və qovşaq öldükdə istifadə üçün təlimat kitabçası. Təsvirlər çıxa bilmədiyi üçün qırx dəqiqəlik məsafədə bir kolo qəfəs icarəyə götürmək həll yolu deyil. İki rəfin yenidən qurulması isə həll yoludur.

Hüceyrənin nəyə ehtiyacı var

• Həmin sətirdə ölçülmüş güc büdcəsi, GPU istək siyahısından deyil, PDU-lardan götürülmüşdür. Ehtiyat tutum təlim yükündə dörd serveri təmin edə bilmirsə, söhbət orada dayanır və onlar möcüzə deyil, daha sıx rəngə baxırlar

• Havanın soyudulması heç vaxt bu sıxlıqda idarə olunmaq üçün tələb olunmayıb: əgər dəhliz onları qəbul edə bilirsə, arxa qapı istilik dəyişdiriciləri və ya bunun əvəzinə kiçik bir maye dövrəsi. Əgər heç biri qəbul edə bilmirsə, serverlər içəri girmir

• Ofis Ethernet deyil, dörd qovşaq arasında xüsusi yüksək bant genişliyi parçası. Əgər satıcının kataloqda yalnız 10 Gb kommutatoru varsa, bu klaster deyil

• VM SAN deyil, yoxlama məntəqələri və təlim parçaları üçün yerli sürətli saxlama

• Planlayıcı, yoxlama nöqtəsi intervalı və yazılı yenidən başlatma yolu. Avadanlıq məşhurdur. Bu təbəqə işdir

• Zavod xətti üçün təlim söhbətlərindən ayrı, hasarlanmış nəticə qutusu, çünki xidmət kollektiv deyil, quyruq gecikməsi və təcrid tələb edir

• Güc, GPU saatları, qaz hadisələri və iş divar saatını qeyd etmək icazəsi. Əgər bunları yoxlaya bilməsələr, GPU-ların şəklini çəkəcək və açarları qaçıracaqlar

Nümunə təlimat

Tomos bunu qısaca olaraq, adi dildə belə ifadə edir:

Buna süni intellekt kampusu deməyin. Mövcud zalda dörd ikili sürətləndirici server üçün iki rəfli təlim hücrəsi tikin. Zavod şəkilləri yerində qalır. Uğur budur: dörd qovşaq istilik qazı olmadan 12 dövrlük yoxlama-təlim reseptini tamamlayır, onlarla dəqiqə deyil, dəqiqələrlə yoxlama nöqtəsi yazır və qəsdən bir rütbəni öldürdüyümüz zaman həmin yoxlama nöqtəsindən davam edir. Soyutma GPU-ları təlim saatlarında saxlamalıdır. Şəbəkə, ofis yığınından keçən bir yol deyil, dörd qutunun paylaşdığı bir parça olmalıdır. Saxlama çipləri qidalandırmalıdır. Arxa qapı istilik dəyişdiriciləri uyğun gəlmirsə, deyin və dayandırın. Qarışıq zalda iki rəf üçün PUE təklif etməyin. Bu rəqəm teatr olardı.

Sonra o, bunu təlim işinə qoyur:

Hər 30 dəqiqədən bir yerli sürətli hovuza keçid məntəqəsindən keçin. Rütbə ölərsə, sonuncu tam keçid məntəqəsindən yenidən başladın. SAN-da gözləməyin. Saatlar işə düşənə qədər məşqə davam etməyin. Qeydiyyatdan keçin və dayanın ki, dayanacağı görə bilək.

Yaxşı bir saat belə görünür: səkkiz GPU-nun hamısı məşq saatlarında, yoxlama nöqtəsi faylı işə düşüb, iş hələ də kiliddədir. Pis bir saat belə görünür: fanatlar tam qışqırır, saatlar bağlıdır, yoxlama nöqtəsi on dəqiqədən sonra 2% yazılıb və ofisdə kimsə "klaster işləyir" deyir. Yaxşı məşq demək deyil.

Bunu necə sınaqdan keçirmək olar

Testi modernləşdirmədən əvvəl yazırlar ki, bu da demo versiyasına etibar etməməyin əsas məqsədidir.

• Eyni 12 dövr resepti, eyni 120.000 yoxlama şəkli, səkkiz seriya

• İşin göndərilməsindən 12-ci dövrünün son yoxlama nöqtəsinə qədər ölçülən hər hansı bir yenidən başlatma da daxil olmaqla, hazır reseptə qədər vaxt divar saatıdır

• İstilikdən keçid: GPU saatları qaçış üçün təlim hədəfində qalır. İş nəhayət başa çatsa belə, qaz hadisəsi uğursuzluqdur

• Yaddaş üçün keçid: iş jurnalından yoxlama məntəqəsinin yazma müddəti, median və ən pisi

• Parça üzərində keçid: rütbə sağlam olduğu müddətdə iş kollektiv gözləmədə dayanmır. Əgər onlar bu gözləməni görə bilmirlərsə, deməli, alətlər hazır deyil

• Səkkiz qaçışdan ikisi, yenidən başlatma yolunu sınamaq üçün qəsdən sabit bir addımda öldürülən bir rütbə alır

• Nəticə çıxarma, zavod xəttindən hasarlanmış servis qutusuna qədər ayrıca 200 şəkillik bir testdir. Təlimin uğuru servis uğuru kimi sayılmır

• Onlar PDU-lardan 15 dəqiqəlik nümunələrdə dayaq gücünü qeyd edirlər, buna görə də heç kimin meqavat icad etməsinə ehtiyac yoxdur

Hüceyrənin "Süni intellekt hazır" adlandırılmasının qəbul edilməsi: 8 reseptdən 8-i tamamlandı; 8-dən 0-ı termal qazı göstərir; hər iki öldürülmüş qaçış davam edir; yoxlama nöqtələri dəqiqələr ərzində qalır. Bunu qaçırsalar da, yenə də dəbdəbəli qrafik kartları olan server otağına sahib olacaqlar.

Nəticə

Nəşr olunmuş Kestrel rəqəmi deyil, uydurma səkkiz qaçışlı testdən illüstrativ nəticə.

Fərziyyələr: iki rəfdə dörd ikili sürətləndirici server; bir yoxlama modeli; 120.000 kadr; sabit 12 dövrlük reseptin səkkiz dəfə işə salınması; divar saatı resept bitənə qədər yenidən başlatmaları əhatə edir; qaz təlim saatından qeydə alınmış bir düşmə deməkdir; yoxlama nöqtəsi vaxtı istək deyil, yazıdır; rəf gücü kampus PUE deyil, PDU nümunələridir.

Yeniləmədən əvvəl, ofis Ethernet və VM SAN-dakı adi hava ilə soyudulan rəflərdəki GPU-lar:

• 8 qaçışdan 5-i ilk cəhddə başa çatdı. Bu beş qaçış arasında orta divar saatı: 14 saat

• Təxminən saat 11-də dayanmadan sonra 8-dən 3-ü yenidən başlamalı oldu (ikisi köhnəlmiş yoxlama məntəqəsi ilə qovşaq öldükdən sonra, biri yoxlama məntəqəsi SAN-ı doldurduqdan sonra). Dərhal təkrar cəhd edin, saatda gecələmə yoxdur: 11 saat boşa gedib üstəgəl 14 saatlıq ikinci cəhd və ya bu üç reseptin hazır olmasına 25 saat qalıb

• Səkkiz reseptin hamısında reseptin bitməsinə qədər olan orta vaxt, yenidən başlama da daxil olmaqla: 18 saat. (Saat 14-də beş, 25-də üç. Səkkiz reseptin hamısının medianı hələ də 14-dür, bu da yenidən başlamaları gizlədəcək. Buna görə də orta dəyər burada əsas xəttdir.)

• 8 cəhddən 7-də istilik qazı qeydə alınıb. Azaldılmış saatda orta vaxt: 14 saatlıq cəhddə 3 saat

• Yoxlama məntəqəsində yazı: orta hesabla 22 dəqiqə

• Rütbə-öldürmə onların keçə biləcəyi bir imtahan deyildi. Onların sınaq kitabçası yox idi. İki təsadüfi ölüm tapıntı idi

• Məşq zamanı iki rəfdəki pik İT yükü: təxminən 18 kVt. Sıra vattla işləyirdi. Soyutma və ya parça yox idi

Həmin iki rəfdəki arxa qapı istilik dəyişdiricilərindən, dörd qovşaq arasında xüsusi bir parçadan, yoxlama nöqtələri üçün kiçik bir NVMe hovuzundan, 30 dəqiqəlik yoxlama məntəqəsindən və yenidən başlatma kitabçasından sonra:

• 8-dən 8-i ilk cəhddə başa çatdı. Orta divar saatı: 9 saat

• Termal qaz: 0 / 8

• Yoxlama nöqtəsi yazısı: median 90 saniyə. Setdə ən pis: 3 dəqiqə

• Hər iki qəsdən rütbə ilə öldürmə son 30 dəqiqəlik yoxlama nöqtəsindən davam etdi. Bu iki qaçışda əlavə divar saatı: diaqnoz da daxil olmaqla hər biri təxminən 40 dəqiqə, buna görə də bu ikisi təxminən 9 saat 40 dəqiqə dayandı. 9 saata qədər səkkiz raund davam etdi

• Pik İT yükü hələ də təxminən 18 kVt-dır. Eyni çiplər. Fərqli bina davranışı

Bu nümunədə reseptin hazır olmasına qədər olan orta vaxt səkkiz qaçışda 18 saatdan 9 saata və ya hər biri 9 saata, 72 saata düşdü. İlk dəfə hazırlanan 8-dən 5-i 8-dən 8-ə düşdü. Throttle 8-dən 7-dən 8-ə düşdü. Sonuncu rəqəm sürətləndiricilər və ya kağız çəkilər alıb-almadıqlarını göstərən rəqəmdir. Onlar vaxt dəyişikliyini istehsalda 50% qənaət adlandırmayacaqlar. Səkkiz qaçış kiçik, asan bir dəstdir.

Bu rəqəmlər göstərilən testə, kiçik bir nümunəyə, bir modelə və bir qarışıq zala əsaslanan nümunə qiymətləndirməsidir. Onlar PUE, kampus meqavatı və Kestrelin sahədə təlim sahəsi tikməli olduğuna dair sübut deyil. Qeydlərin nəzərdən keçirilməsi 9 saat ərzində aparılıb; onlar bunu gizlətməyiblər. 18 kVt rəqəmi kommunal xidmət fakturası deyil, yuvarlaqlaşdırılmış PDU göstəricisidir. Onlar 72 saatı xərcə çevirməyiblər, çünki zavodun qarışıq elektrik enerjisi tarifləri saxta biznes iddiası yarada bilərdi.

Servis çeki ayrı və daha kiçik idi: hasarlanmış qutuya 200 sətirlik şəkil, hamısı yerində idi. Bu, təlim deyil, nəticədir. Miniatürdə ikisini qarışdırmaq hibrid-zal səhvi olardı.

Nə səhv gedə bilər

• Satınalma şirkəti dörd serveri "Süni intellekt məlumat mərkəzi" adlandırmağa davam edir. Etiket santexnika xətlərini gizlədir və növbəti alış eyni xəstə dəhlizi üçün daha çox GPU-dur

• Arxa qapı dəyişdiriciləri içəri girir və heç kim su tərəfini işə salmır. Ventilyatorlar hələ də qışqırır. Saatlar hələ də düşür

• Parça ehtiyat yolu olmayan tək bir açardır. Bir sıra xətalı əlaqə və "klaster" yenə dörd iş stansiyasıdır

• NVMe hovuzu "ikinci mərhələ" olduğundan yoxlama nöqtələri SAN-da qalır. İkinci mərhələ növbəti ölü qovşaqdan əvvəl gəlmir

• Qarışıq zalda iki rəf üçün PUE təklif edirlər. İqlim, sərhəd və ERP sırasının qalan hissəsi bu nisbəti uyğunlaşdırır

• Təlim və xidmət parçanı paylaşır. Yoxlama məntəqəsindəki daşqın fabrik növbəsini gözləməyə məcbur edir. Quyruq gecikməsi oradakı məhsuldur, sıxlıq deyil

• Bir qovşaq ölür və kimsə onu yoxlama məntəqəsinin yenidən başlaması əvəzinə iş vaxtı bileti kimi qəbul edir. Müəssisə əməliyyatçıları və süni intellekt əməliyyatçıları günortadan sonra bir-birinin yanından danışırlar

• Onlar qəfəs icarəyə götürə bilərdilər, amma görüntülər çıxa bilmir. Bu məhdudiyyəti unudaraq, dincəlməli olacaqları bulud söhbətinə girirlər

Praktik yemək

Bu formada süni intellekt məlumat mərkəzi nə anbar, nə də GPU fakturasıdır. Sürətləndiricilərin işi bitirməsinə imkan verən hücrədir: saxlaya bildikləri güc, çıxan istilik, parça, yoxlama məntəqəsi və rütbə öldükdə ilişib qalan biri. Kestrel-in kampusa ehtiyacı yox idi. Özlərini təqlid etməyi dayandırmaq üçün iki rəfə ehtiyacları var idi. Əksər komandalar bu davranışı icarəyə götürməlidirlər. Gizli məlumat dəsti və istiliyi qəbul edə bilən bir zalı olan bir neçəsi hücrə qurmalı və sürüşməni rədd etməlidir.

Tez-tez verilən suallar

Süni intellekt Məlumat Mərkəzi nədir?

Enerji, soyutma, şəbəkə və saxlama sistemlərinin ümumi təyinatlı serverlərin səliqəli sıraları deyil, paralel təlim və model xidməti ətrafında cəmləşdiyi yüksək sıxlıqlı hesablama mərkəzi. Bu, çox sayda sürətləndiricinin ərimədən, şəbəkədə dayanmadan və ya diskdə gözləmədən modelləri öyrədə və xidmət edə biləcəyi şəkildə hazırlanmışdır. Adi müəssisə zalı qarışıq məhəllədir. Süni intellekt zalı, dəyər vahidi sürətləndirici olan monomədəniyyətdir, məsələn, GPU və ya TPU tipli çiplər. Anbara bənzəyir və riyaziyyatla məşğul olan elektrik stansiyası kimi davranır.

Süni intellekt məlumat mərkəzi adi məlumat mərkəzindən nə ilə fərqlənir?

Ənənəvi zallar qarışıq iş yükü və çoxlu sayda kiçik xidmətlər üzrə iş vaxtı üçün optimallaşdırılır. Süni intellekt saytları nisbətləri dəyişir: sıxlıq artır, şəbəkə təlim işinin onsuz işləyə bilməyəcəyi bir parça halına gəlir və yaddaş yoxlama məntəqələrini hərəkətdə saxlamalı və ya sürətləndiriciləri boş dayanmalıdır. Müəssisə əməliyyatçıları biletlər və pəncərələrin dəyişdirilməsi barədə düşünürlər. Süni intellekt əməliyyatçıları iş növbələrini və uzun müddətdə bir qovşaq gec sıradan çıxdıqda yaranan xoşagəlməz hissləri düşünürlər. Yenə də hər iki məlumat mərkəzinə zəng edə bilərsiniz. Etiket sadəcə santexnika işlərini gizlədir.

Süni intellekt məlumat mərkəzləri niyə bu qədər çox enerji istifadə edir?

Əsas aparat ağıllı bir CPU deyil. Bu, sürətləndirici qabdır: GPU-lar və ya digər süni intellekt çipləri serverlərə, sonra raflara, daha sonra isə yüksək bant genişliyi olan bir parça paylaşan sıralara yığılır. Hər rafa düşən sıxlıq süjetin dəyişməsidir: daha az raf, hər biri kiçik bir sobadır. Zal dolduqdan sonra meqavatt İT yükü ortaya çıxır, baxmayaraq ki, tipik bir rəqəm icad etməyə dəyməz. Məhdudlaşdırıcı amil çox vaxt GPU-ların istək siyahısı deyil, yarımstansiyadır.

Süni intellekt məlumat mərkəzləri necə soyudulur?

Yüksək sıxlıqlı rəflər istiliyi havanın heç vaxt idarə olunmasını istəmədiyi şəkildə yayır. Arxa qapı istilik dəyişdiriciləri, daha isti dəhlizlər və ağıllı saxlama ilə havanı daha güclü şəkildə itələyə bilərsiniz. Sonra maye peyda olur: birbaşa çipə soyutma, soyuducu dövrələri və bir neçə dizaynda batırma. Qazlayan sürətləndirici, artıq pul ödədiyiniz və tam istifadə edə bilmədiyiniz bir sürətləndiricidir. PUE hələ də vacibdir, çünki ventilyatorlara və nasoslara xərclənən hər vatt GPU-ya getməmiş bir vattdır. Su da hekayədə yer alır: bəzi bitkilər qurtumlayır, bəziləri isə udumlayır.

Niyə şəbəkələşmə GPU-lar qədər vacibdir?

Təlim bir söhbətdir: minlərlə akselerator sıx sinxronizasiyada modelin qradiyentlərini, parametrlərini və parçalarını mübadilə edir. Parça titrəyirsə, bütün iş ən yavaş atlamada gözləyir. Buna görə də süni intellekt salonları yüksək bant genişliyi şəbəkəsinə, aşağı gecikməyə, eyni rolda olan InfiniBand kimi parçalara və ya Ethernet-ə və bir əlaqə sıradan çıxdıqda yarıya qatlanmayan topologiyalara diqqət yetirirlər. Nəticə çıxarmaq quyruq gecikməsinə, bir çox kiçik sorğulara və təcridə əhəmiyyət verir. Bu binada santexnika restorandır.

Süni intellekt Məlumat Mərkəzi nə üçün istifadə olunur: təlim və ya nəticə çıxarma?

Təlim bir kampaniyadır: bir klaster toplayın, ona məlumat verin, yoxlama məntəqəsini dinc şəkildə qurun və saatlarla və ya həftələrlə işləyin. Nəticə çıxarma bir vitrinadır: artıq təlim keçmiş, indi cavab verən modellər, vacib olan gecikmə ilə. Təlim kampusları güc, torpaq və sıxlıq təqib edir. Nəticə çıxarma yerləri gecikmə və mövcudluğu təqib edir. Hibrid zallar mövcuddur, çünki kapital sonsuz deyil, bəzən iki soyutma döngəsi olan bir zal. Müştərinin yaxınlığında bir az köhnə sürətləndirici, cazibədar bir sürətləndiricini bir qitə uzaqlıqda məğlub edə bilər.

Süni intellekt məlumat mərkəzində saxlama nə üçün vacibdir?

Təlim məlumatları GPU-ların ayaqlarına toxunmaması üçün kifayət qədər tez çatmalıdır. Yoxlama məntəqələri işə düşməlidir ki, qəza bir həftəni unuda bilməsin. Servis replikası işə düşməzdən əvvəl model çəkiləri yüklənməlidir. Sakit maneə təkcə tutum deyil, yaddaş tutumudur. Sürətləndiricilərə çox pul xərcləyib virtual maşınlar üçün hazırlanmış nəzakətli bir massivlə onları boşalda bilərsiniz.

Bir qovşaq işin ortasında öldükdə nə baş verir?

Sıx bağlı məşq işində bir ölü sürətləndirici bütün xoru dayandıra bilər. Təlim nikbinlik yox, yoxlama nöqtələri istəyir. Nəticə çıxarma xəstə düyünü boşaldır, replikanın cavab verməsini təmin edir və canlı qalır. Dəyişdirmə pəncərələri hələ də təqviminizə əhəmiyyət verməyən məşq qaçışları ilə toqquşur. Ehtiyat hələ də enerji, soyutma, yollar və saxlama üçün vacibdir, lakin uğursuzluq rejimi köhnə doqquz işləmə vaxtı sürüşməsindən daha az səliqəlidir.

Süni intellekt Məlumat Mərkəzinin şəbəkəyə, suya və qonşulara təsiri nədir?

Şəbəkəyə qoşulma çox vaxt əsl sahə seçimi prosesidir. Torpaq yarımstansiyası və digər müştəriləri olan kommunal xidmətlərlə müqayisədə asandır. Soyutma üçün su, istifadə etsəniz, yağışın sərt olması, səs-küy, vizual həcm və sərhəd hasarında istiliklə yanaşı, qonşu probleminə çevrilir. Təlim daha ucuz enerji bazarlarında və daha sərin iqlimlərdə gizlənə bilər. Nəticə çıxarmaq istifadəçilərin yanında olmağı sevir. Mükəmməl bir sahə yoxdur. Mətbuat açıqlaması ilə bağlı güzəşt var.

Süni intellekt məlumat mərkəzinə sahib olmalıyam, yoxsa icarəyə götürməliyəm?

Əksər insanların bu zallardan birinə sahib olmasına ehtiyac yoxdur. Hiperscalerlər məhsulun donanma olduğu üçün qururlar. Laboratoriyalar növbə vaxtı çətin olduqda və ya məlumatların çıxa bilmədiyi zaman qururlar. Gizli məlumat dəstinə malik bank, xəstəxana, hökumət və ya istehsalçı yerli və ya özəl kolokasion qəfəsi rasional edə bilər. Qalan hər kəs icarəyə götürməlidir: süni intellektlə işləyən kolokasiya, bulud rezervasiyası və ya idarə olunan klaster. Elektrik stansiyası operatoru olmadan sürətləndiriciləri əldə edirsiniz.

İstinadlar

1. IEA - www.iea.org

2. LBNL - datacenters.lbl.gov

3. Yaşıl Şəbəkə - www.thegreengrid.org

4. LBNL - datacenters.lbl.gov

5. LBNL - datacenters.lbl.gov

6. Uptime İnstitutu - journal.uptimeinstitute.com

7. NVIDIA - developer.nvidia.com

8. NVIDIA - docs.nvidia.com

9. NVIDIA - docs.nvidia.com

10. NVIDIA - docs.nvidia.com

11. Google Bulud - docs.cloud.google.com

Ən son süni intellekt texnologiyalarını rəsmi süni intellekt köməkçisi mağazasında tapın

Haqqımızda