Kas ir mākslīgā intelekta datu centrs? [Video un viktorīna]

Īsa atbilde: Mākslīgā intelekta datu centrs ir blīvi apbūvēta vieta, kur jauda, ​​dzesēšana, infrastruktūra un datu krātuve ir saistītas ar modeļu apmācību un apkalpošanu, nevis serveru telpu ar papildu grafiskajiem procesoriem. Mikroshēmas iegūst slavu; ēka izlemj , vai tās darbojas. Ja attēlus nevar pārvietot, aprīkojiet ar nelielu šūnu; lielākajai daļai komandu vajadzētu to īrēt.

Galvenie secinājumi:

Mikroshēmas pret veidošanu: Jauda, ​​dzesēšana, audums un krātuve nosaka, vai paātrinātāji darbojas.

Vietas, nevis pilis: uzstādiet divus statīvus vietās, kur dati nevar tikt pārvietoti; nepērciet universitātes pilsētiņu.

Vidējais rādītājs pret mediānu: astoņās reizēs mediāna hid tiek restartēta; izmantojiet 18 stundu vidējo rādītāju.

Izturība pret ļaunprātīgu izmantošanu: Nenorādiet PUE diviem plauktiem jauktā hallē.

Ilustratīvi rezultāti: Astoņi braucieni ir maza karte, nevis 50% ražošanas ietaupījums.

Raksti, kurus jūs varētu vēlēties izlasīt pēc šī raksta:

🔗 Vai mākslīgais intelekts ir uzticams? Video un viktorīna.
Izpētiet mākslīgā intelekta uzticamību, izmantojot saistošu video un interaktīvu viktorīnu.

🔗 Kā izmantot mākslīgo intelektu ikdienas dzīvē
Atklājiet praktiskus veidus, kā mākslīgais intelekts var vienkāršot ikdienas uzdevumus un rutīnu.

🔗 Kā izmantot mākslīgo intelektu darbā
Uzziniet praktiskus veidus, kā izmantot mākslīgo intelektu viedākai darba vietas produktivitātei.

🔗 Vai mākslīgais intelekts spēj domāt patstāvīgi?
Izprotiet, vai mākslīgais intelekts patiesi spēj domāt patstāvīgi vai spriest.

Kā tas atšķiras no "parasta" datu centra

Tradicionālās halles optimizē jauktas darba slodzes un darbības laiku daudzos mazos pakalpojumos. Jums rūp redundanci, protams, un PUE kā koncepcija — papildu enerģija, ko ēka patērē, lai nodrošinātu vienu vatu skaitļošanas jaudu. Parasti jūs neprojektējat katru koridoru ap plauktu, kas darbojas kā pārnēsājama sildītāju ferma.

Mākslīgā intelekta vietnes apgriež proporcijas otrādi. Blīvums palielinās. Tīkls kļūst par audumu, bez kura apmācības darbs nevar klibot. Krātuvei ir jāuztur kontrolpunkti kustībā vai paātrinātāji jāstāv dīkā, tāpat kā sacīkšu zirgi sastrēgumā.

Pastāv arī kultūras atšķirības. Uzņēmumu operatori domā par pieprasījumiem un izmaiņu logiem. Mākslīgā intelekta operatori domā par uzdevumu rindām un nepatīkamo sajūtu, kad mezgls ilgtermiņā pārstāj darboties. Pieņemu, ka abus joprojām varētu saukt par "datu centriem", jo tie tādi ir. Apzīmējums tikai slēpj santehniku.

Nav morāls vērtējums. Dažādas mašīnas, viens un tas pats uzvārds.

Grafiskās kartes, paātrinātāji un plaukts, kas patērē enerģiju

Ejot pa tradicionālu paceltu grīdu, plaukti izskatās gandrīz pieklājīgi. Ejot pa mākslīgā intelekta rindu, tie izskatās tā, it kā gribētu aprīt ēku.

Izcilā aparatūra nav gudrs centrālais procesors. Tā ir paātrinātāja paplāte: GPU vai citas mākslīgā intelekta mikroshēmas, kas ievietotas serveros, tad plauktos, tad rindās, kas koplieto liela joslas platuma struktūru. GPU savieno apvienotās mikroshēmas kaut kādā veidā, kas var izlikties par vienu milzīgu paātrinātāju; klastera struktūra dara to pašu rindu mērogā. Paralēlā apmācība darbojas tikai tad, ja šīs saites paliek resnas un paredzamas. Ja to zaudējat, jūsu "klasteris" ir dārgu darbstaciju kaudze, kas koplieto pasta indeksu.

Jauda seko mikroshēmām. Nevis apjomīgs biroja PDU. IT slodzes megavati, kad zāle ir piepildīta — es neizdomāšu skaitli. Blīvums uz vienu plauktu ir sižeta pavērsiens. Mazāk plauktu. Katrs no tiem ir maza krāsns. Ierobežojošais faktors bieži vien ir apakšstacija, nevis grafikas procesoru vēlmju saraksts. Jūs zināt, kā tas ir: iepirkumu nodaļai vajag vairāk paātrinātāju; komunālo pakalpojumu sniedzējam vajag garu sarunu un ļoti lielu čeku.

Viena mazliet muļķīga metafora, no kuras nevaru atbrīvoties: dīgsts ir izsalcis dzīvnieks. Jūs varat izaudzēt ātrāku. Jums tas joprojām ir jābaro un joprojām ir jātiek vaļā no karstuma. Izlaidiet jebkuru no tiem, un tas kļūst par ļoti dārgu prespapīru.

Enerģijas, siltuma un dzesēšanas problēma

Elektrība ienāk. Siltums ārā. Tā ir visa reliģija.

Augsta blīvuma plaukti izdala siltumu tādā veidā, kā gaisam nekad nav bijis jātiek galā. Gaisu var piespiest spēcīgāk — aizmugurējo durvju siltummaiņi, karstākas ejas, pārdomāta ierobežošana —, un tas darbojas līdz noteiktam brīdim. Tad parādās šķidrums:

• Tieša dzesēšana mikroshēmā

• Dzesēšanas šķidruma cilpas, kas liek rūpnīcas telpai izskatīties pēc ķīmiskās rūpnīcas

• Iegremdēšanās dažos dizainos, kas joprojām pārsteidz cilvēkus, kuri domā, ka ūdenim un serveriem nevajadzētu dalīties teikumā

Nekas no tā nav glaimojošs. Tas viss ir produkts, jo akselerators, kas droseles regulēšanas funkciju izmanto jau iepriekš, un to nevar pilnībā izmantot.

PUE joprojām ir svarīgs. Tas ir rādītājs, nevis personība. Operatori to dzenas pakaļ, jo katrs vats, kas iztērēts ventilatoriem un sūkņiem, ir vats, kas nenonāca pie grafiskā procesora (GPU). Es necitēšu "tipisku" skaitli; klimats un tas, kā jūs novelkat robežu, to maina, un viltus precizitāte ir sliktāka nekā nekāda. Arī ūdens ir iesaistīts stāstā. Daži augi malko. Daži norij. Iztvaikošanas dzesēšana ir efektīva, līdz upe vai sausums to padara politisku.

Tīklošanās: kāpēc audums ir tikpat svarīgs kā mikroshēmas

Cilvēki fotografē grafiskos procesorus. Viņiem vajadzētu fotografēt arī slēdžus.

Apmācība ir saruna. Tūkstošiem paātrinātāju ciešā sinhronizācijā apmainās ar gradientiem, parametriem, modeļa fragmentiem. Ja tīkls raustās, viss darbs gaida uz lēnāko lēcienu. Tāpēc mākslīgā intelekta zāles ir apsēstas ar liela joslas platuma tīkliem, zemu latentumu un topoloģijām, kas nesadalās uz pusēm, ja saite neizdodas. InfiniBand tipa tīkli, Ethernet tajā pašā lomā, GPU savienojumi kastes iekšpusē, kabeļu izvietojums, kam jābūt pareizam jau pirmajā reizē.

Secināšana ir cita saruna. Modeļa apkalpošana rūpējas par astes latentumu — lēno atbildi, nevis vidējo. Partiju un reāllaika sadalījums šķeļ personību. Apmācības klasterim ir nepieciešama liela, kolektīva, aptuveni no visiem uz visiem vērsta kustība. Apkalpojošajai flotei ir nepieciešami daudzi mazāki pieprasījumi un izolācija, bez sastrēguma slodzes līdzsvarotājā.

Kamēr esmu šeit, mans stāsts ir šāds: cilvēki uztver tīklu kā santehniku, bet čipsus kā restorānu. Šajā ēkā santehnika ir restorāns. Ja to nepamanīsiet, jūs nopirksiet virtuvi, kas nevar pieņemt piegādi.

Apmācība pret secinājumiem: divas ēkas, dažreiz burtiski

Apmācība ir kampaņa. Jūs saliekat klasteri, pievadāt tam datus, rūpīgi veicat kontrolpunktus, darbināt stundām vai nedēļām ilgi un lūdzaties, lai tīkls darbotos bez starpgadījumiem. Tas aizņem daudz partiju, prasa daudz joslas platuma, ir kluss un pacietīgs – līdz brīdim, kad kāds mezgls pārtrauc darbību. Viens nedarbojošs paātrinātājs cieši saistītā darbā var apturēt visu procesu.

Secinājumi ir kā skatlogs. Modeļi, kas jau ir apmācīti, tagad atbild uz jautājumiem, klasificē attēlus, ģenerē tekstu. Latentumam ir nozīme. Nedaudz vecāks paātrinātājs klienta tuvumā var pārspēt glaunu akseleratoru kontinenta attālumā.

Tātad rodas dalījums. Apmācību centri dzenas pēc jaudas, zemes un blīvuma. Secinājumu vietnes dzenas pēc latentuma un klātbūtnes. Pastāv arī hibrīdzāles, jo kapitāls nav bezgalīgs. Nu – ne vienmēr divas ēkas. Dažreiz viena zāle ar samta virvi un divām dzesēšanas cilpām.

Šeit notiek arī kolokācija, hiperskalas kampusi un lokālā datu apmaiņa (on-prem). Hiperskalotāji tiek veidoti tādā mērogā, ka pārējie no mums izskatās tā, it kā mēs kārtotu mēbeles. Kolorādo pārdod blīvumu plauktos. Lokālā datu apmaiņa joprojām notiek, ja dati nevar aizplūst.

Krātuves caurlaidspēja, kontrolpunkti un izsalkušas mikroshēmas

Neviens neliek paralēlo failu sistēmu uz brošūras vāka.

Apmācības datiem ir jāpienāk pietiekami ātri, lai grafiskie procesori (GPU) neapgrūtinātu darbību. Kontrolpunktiem ir jānotiek, lai avārijas gadījumā neiztērētu nedēļu. Modeļa svariem ir jāielādējas, pirms tiek aktivizēta apkalpojošā kopija. Krātuves caurlaidspēja — ne tikai ietilpība — ir klusā vājā vieta. Jūs varat tērēt bagātību paātrinātājiem un noniecināt tos ar pieklājīgu masīvu, kas paredzēts virtuālajām mašīnām.

Modelis ir pazīstams: spīdīgs klasteris, uzdevumu rinda un I/O gaidīšana, kas skatās atpakaļ kā rupjš rēķins. Aprēķinu klasterizācija bez datu ceļa klasterizācijas ir veids, kā iegūt ļoti dārgu dīkstāvi. Turiet mikroshēmas barotas vai atzīstiet, ka esat iegādājies skulptūru.

Programmatūra, orķestrēšana un nepievilcīgais operāciju slānis

Aparatūra ir slavenība. Plānotāji veic darbu.

Mākslīgā intelekta datu centrs ir bezjēdzīgs, ja uzdevumi nevar atrast grafikas procesorus, ja divas komandas nevar koplietot klasteri bez dūru cīņas, ja neizdevušos rangu nevar aizstāt, ja programmaparatūra palēninātā režīmā dreifē, līdz tīkls neizdodas. Orķestrēšana, novērojamība, jaudas ierobežošana — nepievilcīgais operāciju slānis, no kura jūs zināt, ka tas ir svarīgs.

Man ir vājība pret šo slāni. Arī tad, ja nepareizi konfigurēta tīkla karte visu pēcpusdienu atdarina dzesēšanas problēmu... to jūs pārliecināsities uz savas ādas.

Kad mezgls nomirst palaišanas laikā

Mezgls atteici. Izmaiņu logi joprojām konfliktē ar apmācības darbiem, kuriem nerūp jūsu kalendārs. Jūs grupveidā plānojat lielus darbus, norobežojat secinājumu kopas, rakstāt izpildes grāmatas kļūmēm, kas izskatās pēc "darba lēnuma", līdz tās izskatās pēc "darba miršanas". Redundance joprojām ir svarīga - jauda, ​​dzesēšana, ceļi, krātuve -, taču kļūmju režīms ir mazāk sakārtots nekā vecais deviņu darbības laika slaids. Secinājums: replika, iztukšojiet slimo mezglu, turpiniet atbildēt. Apmācībai ir nepieciešami kontrolpunkti, nevis optimisms.

Atrašanās vieta, ūdens, elektrotīkls un kaimiņi

Jūs nenometīsiet vienu no šiem blakus mājiņai skata dēļ.

Tīkla pieslēgums bieži vien ir īstais vietas izvēles process. Zeme ir vienkāršāka, salīdzinot ar apakšstaciju un komunālo pakalpojumu sniedzēju, kuram ir citi klienti. Ūdens dzesēšanai, ja to izmanto, kļūst par kaimiņu problēmu, tiklīdz ir spēcīgs lietus. Troksnis. Vizuāla masa. Karstums pie robežžoga. Plānošanas komitejas atklāj viedokļus par "mākoni", tiklīdz tam ir nepieciešams lauks un upe.

Latentums darbojas pretējā virzienā. Secinājumiem patīk atrasties lietotāju un starpsavienojumu tuvumā. Apmācība var paslēpties lētākos enerģijas tirgos un vēsākā klimatā. Nozare runā tā, it kā pastāvētu viena ideāla vieta. Tādas nav. Ir panākts kompromiss ar preses relīzi.

Atlikušais karstums un nelūgtā krāsns

Brošūrām šis fragments ļoti patīk. Pa caurulēm novadīt siltuma pārpalikumu mājās, baseinos, siltumnīcās; tas ir jauks teikums. Dažreiz rajona cilpa ir īsta. Dažreiz universitātes pilsētiņa atrodas nepareizajā vietā, un siltums tik un tā nonāk gaisā. Esmu skeptisks pret brošūras versiju; es neesmu skeptisks pret fiziku.

Kam tāds ir vajadzīgs (un kam tā vietā vajadzētu īrēt)

Lielākajai daļai cilvēku nav nepieciešams piederēt vienai no šīm zālēm.

Neapstrīdams saraksts:

• Hiperskaleri, jo produkts ir flote

• Laboratorijas, kad rindas laiks ir sašaurinājums vai dati nevar tikt nosūtīti

• Banka, slimnīcu grupa, valdība vai ražotājs ar slepenu datu kopu — lokālu vai privātu krātuvi — var būt racionāls, pat ja tas ir apgrūtinājums

Visiem pārējiem vajadzētu īrēt. Kolorādo ar mākslīgajam intelektam gatavu blīvumu. Mākoņa rezervācija. Pārvaldīts klasteris. Jūs saņemat akseleratorus, vienlaikus nekļūstot par elektrostacijas operatoru. Romantika izgaist, kad kāds pirmo reizi jautā, kas ir dežūrā dzesēšanas cilpā pulksten 3:00 naktī.

Jāatzīst, ka pastāv zināma lepnuma lieta. Klastera īpašumtiesības ir līdzīgas prognozēšanas līdzekļu īpašumtiesībām. Tad pienāk elektrības rēķins, un lepnums apsēžas.

Kam paredzēta ēka

Tātad, kas ir mākslīgā intelekta datu centrs? Specializēts, blīvi apbūvēts komplekss, kurā paātrinātāji, barošana, dzesēšana, infrastruktūra un datu krātuve ir organizēti ap apmācības un apkalpošanas modeļiem, nevis vispārējas nozīmes IT centriem ar grafisko procesoru stūrī. Tas izskatās pēc noliktavas. Tas darbojas kā spēkstacija, kas veic matemātiskas darbības.

Ja neatceraties neko citu: mikroshēmas iegūst slavu; apakšstacija, dzesēšanas šķidrums un tīkls izlemj, vai šīs mikroshēmas bija laba ideja. Apmācība un secinājumi var dalīt jumtu; tie joprojām vēlas dažādas manieres. Lielākajai daļai organizāciju vajadzētu īrēt. Dažām vajadzētu būvēt. Kaimiņi pamanīs abus variantus.

Mākonim vienmēr ir bijusi ēka. Mūsdienās ēkai ir arī viedokļi.

Reālās pasaules piemērs: divu plauktu apmācības šūna, kad attēli nevar pamest

Scenārijs

Tomos ir infrastruktūras vadītājs uzņēmumā Kestrel Precision, 400 cilvēku ražotnē Rietummidlendā. Viņiem jau ir neliela lokālā halle: ERP, failu koplietošana, virtuālās mašīnas, jauktā apkārtne, ar kuru sākās šis raksts. Gaisa dzesēšana. Parasts Ethernet tīkls. SAN, kas ir pilnībā piemērots biroja diskiem.

Mašīnredzes komandai ir jāapmāca pārbaudes modelis, izmantojot rūpnīcas fotouzņēmumus. Fotouzņēmumi nevar pamest objektu. Tajos ir parādīts process, ko uzņēmums neievietos mākoņdiskā, pat ne privātā. Iepirkumu nodaļas risinājums ir četri serveri ar diviem paātrinātājiem un slaids ar nosaukumu "mūsu mākslīgā intelekta datu centrs". Serveri tiek ievietoti divos esošajos plauktos, jo ir vieta, un vieta šķita ierobežojums.

Tā nav. Divu nedēļu laikā grafiskie procesori šķiet aizņemti, bet tad klusi sāk darboties. Darbi sāk darboties lēnāk, kad kontrolpunkts sasniedz SAN. Mezgls atteici sasniedz vienpadsmitajā stundā, un darbplūsma vienkārši... ir beigusies. Tomoss nav aizmirsis iegādāties mikroshēmas. Viņš ir iegādājies kaudzi dārgu darbstaciju, kurām ir kopīgs pasta indekss. Ēka joprojām bija uzņēmuma zāle.

Viņiem nav nepieciešama universitātes pilsētiņa, jauna apakšstacija vai upe. Viņiem ir nepieciešama maza šūna, kas darbojas kā miniatūrs mākslīgā intelekta datu centrs: barošana, ko plaukti var uzņemt, siltums, kas aizplūst, neapstrādājot mikroshēmas, tīkls, par kuru var runāt apmācības uzdevums, krātuve, kas var izturēt kontrolpunktu, un izpildes grāmata gadījumam, ja mezgls atteicas. Tā kā attēli nevar aizplūst, kolo būra īre četrdesmit minūšu attālumā nav risinājums. Divu plauktu modernizēšana ir risinājums.

Kas šūnai nepieciešams

• Izmērīts jaudas budžets šajā rindā, no PDU, nevis no GPU vēlmju saraksta. Ja brīvā jauda nevar apgādāt četrus serverus treniņu slodzes laikā, saruna šeit apstājas, un viņi skatās uz blīvāku kolorītu, nevis brīnumu

• Gaisa dzesēšana šādā blīvumā nekad netika prasīta: aizmugurējo durvju siltummaiņi, ja zāle tos var izturēt, vai neliela šķidruma cilpa, ja tā var izturēt to. Ja ne viens, ne otrs, serveri netiek izmantoti

• Starp četriem mezgliem ir paredzēts īpaši izveidots liela joslas platuma tīkls, nevis biroja Ethernet tīkls. Ja pārdevējam katalogā ir tikai 10 Gb komutators, tas nav klasteris

• Lokāla ātra krātuve kontrolpunktiem un apmācības fragmentiem, nevis VM SAN

• Plānotājs, kontrolpunkta intervāls un rakstisks restartēšanas ceļš. Aparatūra ir slavenība. Šis slānis ir uzdevums

• Norobežota secinājumu kaste rūpnīcas līnijai, atdalīta no treniņu pļāpāšanas, jo apkalpošanai ir nepieciešams astes latentums un izolācija, nevis kolektīvs

• Atļauja reģistrēt jaudu, GPU pulksteņus, droseles notikumus un darba sienas pulksteni. Ja viņi nevarēs tos pārbaudīt, viņi fotografēs GPU un nepamanīs slēdžus

Instrukcijas piemērs

Tomoss to formulē īsajā aprakstā vienkāršā valodā:

Nesauciet to par mākslīgā intelekta pilsētiņu. Esošajā zālē uzbūvējiet divu plauktu apmācības šūnu četriem divu paātrinātāju serveriem. Rūpnīcas attēli paliek uz vietas. Panākumi ir šādi: četri mezgli pabeidz 12 epohju pārbaudes un apmācības recepti bez termiskās droseles, uzraksta kontrolpunktu minūtēs, nevis desmitos minūšu, un atsāk no šī kontrolpunkta, kad mēs apzināti iznīcinām rangu. Dzesēšanai ir jāuztur GPU to apmācības pulksteņos. Tīklošanai ir jābūt audumam, ko šīs četras kastes koplieto, nevis ceļam caur biroja steku. Krātuvei ir jāapgādā mikroshēmas. Ja aizmugurējo durvju siltummaiņi nederēs, pasakiet to un apstājieties. Nenorādiet PUE diviem plauktiem jauktā zālē. Šis skaitlis būtu teātra skaitlis.

Tad viņš to ievieto pašā apmācības darbā:

Kontrolpunkts ik pēc 30 minūtēm uz vietējo ātro baseinu. Ja rangs izzūd, atsāciet no pēdējā pabeigtā kontrolpunkta. Negaidiet uz SAN. Neturpiniet treniņu, kamēr pulksteņi ir nokrituši no karstuma. Reģistrējiet to un apstājieties, lai mēs varētu redzēt apstāšanos.

Laba stunda izskatās šādi: visi astoņi GPU treniņa pulksteņos, kontrolpunkta fails nosēdies, uzdevums joprojām darbojas. Slikta stunda izskatās šādi: ventilatori ar pilnu jaudu, pulksteņi nolaisti, kontrolpunkta 2% ieraksts pēc desmit minūtēm, un kāds birojā saka: "klasteris ir aktīvs". Darbība nav apmācība.

Kā to pārbaudīt

Viņi uzraksta testu pirms modernizācijas, kas ir visa jēga neuzticēties demonstrācijas versijai.

• Tā pati 12 ēru recepte, tie paši 120 000 pārbaudes destilācijas kadri, astoņi izmēģinājumi

• Laiks ir kā sienas pulkstenis līdz gatavai receptei, ieskaitot jebkuru restartēšanu, mērīts no uzdevuma iesniegšanas līdz pēdējam kontrolpunktam 12. laikmetā

• Siltuma pāreja: GPU pulksteņi darbojas uz treniņa mērķi. Droseļvārsta notikums ir kļūme pat tad, ja uzdevums galu galā tiek pabeigts

• Pāreja uz krātuvi: kontrolpunkta rakstīšanas laiks, vidējais un sliktākais, no darba žurnāla

• Atļauja darbam: darbs netiek atstāts kolektīvā gaidīšanas režīmā, kamēr pakāpe ir vesela. Ja viņi neredz šo gaidīšanas režīmu, instrumentācija nav pabeigta

• Divi no astoņiem palaišanas posmiem ar nolūku tiek pārtraukti noteiktā solī, lai pārbaudītu restartēšanas ceļu

• Secinājums ir atsevišķs 200 attēlu tests no rūpnīcas līnijas līdz norobežotajai servēšanas kastei. Treniņu panākumi netiek uzskatīti par servēšanas panākumiem

• Viņi reģistrē plauktu jaudu no PDU 15 minūšu paraugos, tāpēc nevienam nav jāizgudro megavats

Šūnas izsaukšanas par “AI-gatavu” pieņemšana: 8 no 8 receptēm tiek pabeigtas; 0 no 8 parāda termisko droseli; abi pārtrauktie palaišanas procesi tiek atsākti; kontrolpunkti paliek dažu minūšu laikā. Ja viņi to nokavē, viņiem joprojām ir serveru telpa ar modernām grafikas kartēm.

Rezultāts

Ilustratīvs rezultāts no izdomāta astoņu reižu testa, nevis publicēts Kestrela attēls.

Pieņēmumi: četri divu paātrinātāju serveri divos plauktos; viens pārbaudes modelis; 120 000 destilācijas uzņēmumu; astoņas fiksētas 12 epohju receptes palaišanas reizes; sienas pulkstenis ietver restartēšanas, līdz recepte ir pabeigta; droseļvārsts nozīmē reģistrētu kritumu no apmācības pulksteņa; kontrolpunkta laiks ir rakstīšanas laiks, nevis vēlēšanās; plaukta jauda ir PDU paraugi, nevis universitātes PUE.

Pirms modernizācijas GPU parastajos gaisa dzesēšanas plauktos biroja Ethernet tīklā un VM SAN:

• 5 no 8 skrējieniem pabeigti ar pirmo mēģinājumu. Vidējais sienas pulksteņa laiks starp šiem pieciem: 14 stundas

• 3 no 8 bija jāsāk no jauna pēc apstāšanās aptuveni 11. stundā (divi pēc tam, kad mezgls atteicās no darbības ar novecojušu kontrolpunktu, viens pēc tam, kad kontrolpunkts aizpildīja SAN). Tūlītējs atkārtots mēģinājums, bez nakts gaidīšanas pulkstenī: 11 izniekotas stundas plus 14 stundu otrais mēģinājums jeb 25 stundas līdz receptes pabeigšanai šajos trijos gadījumos

• Vidējais laiks līdz receptes pabeigšanai visās astoņās versijās, ieskaitot restartēšanu: 18 stundas. (Piecas 14 stundās, trīs 25 stundās. Visu astoņu versiju mediāna joprojām ir 14 stundas, kas slēptu restartēšanu. Tāpēc vidējais rādītājs šeit ir bāzes līnija.)

• Termiskā drosele reģistrēta 7 no 8 mēģinājumiem. Vidējais laiks ar samazinātu pulksteni: 3 stundas 14 stundu mēģinājumā

• Kontrolpunkta ieraksts: vidēji 22 minūtes

• Ranga nogalināšana nebija pārbaudījums, ko viņi varētu nokārtot. Viņiem nebija izpildāmas darbības shēmas. Divas nejaušas nāves bija atklājums

• Maksimālā IT slodze uz abiem plauktiem apmācības laikā: aptuveni 18 kW. Rindai bija vati. Tai nebija dzesēšanas vai auduma

Pēc aizmugurējo durvju siltummaiņiem šajos divos plauktos, īpaša tīkla izveides starp četriem mezgliem, neliela NVMe kopa kontrolpunktiem, 30 minūšu kontrolpunktu izveide un restartēšanas izpildes grāmatas izveide:

• 8 no 8 pabeidza ar pirmo mēģinājumu. Sienas pulksteņa vidējais laiks: 9 stundas

• Termiskā drosele: 0 no 8

• Kontrolpunkta ieraksts: vidēji 90 sekundes. Sliktākais rezultāts komplektā: 3 minūtes

• Abi apzinātie skrējēji tika atsākti no pēdējā 30 minūšu kontrolpunkta. Papildu laiks šajos divos braucienos: aptuveni 40 minūtes katrā, ieskaitot diagnostiku, tātad abi braucieni bija aptuveni 9 stundas un 40 minūtes. Vidējais rādītājs astoņos nekustīgos braucienos ir 9 stundas

• Maksimālā IT slodze joprojām ir aptuveni 18 kW. Tās pašas mikroshēmas. Atšķirīga ēkas uzvedība

Šajā izlasē vidējais laiks līdz receptes pabeigšanai samazinājās no 18 stundām līdz 9 stundām jeb 9 stundām katrā reizē, kopā 72 stundas astoņu reizē. Pabeigšanas pirmajā reizē rādītājs samazinājās no 5 no 8 līdz 8 no 8. Samazināšanas rādītājs samazinājās no 7 no 8 līdz 0 no 8. Pēdējais skaitlis norāda, vai viņi iegādājās paātrinātājus vai prespapīrus. Viņi nesauks laika maiņu par 50% ražošanas ietaupījumu. Astoņi reizē ir neliels un vienkāršs kopums.

Šie skaitļi ir aptuvens aprēķins, kas balstīts uz norādīto testu, nelielu izlasi, vienu modeli un vienu jauktu zāli. Tie nav PUE, nav universitātes pilsētiņas megavats un nav pierādījums tam, ka Kestrel vajadzētu būvēt apmācību vietu laukā. Žurnālu pārskatīšana notika 9 stundu laikā; viņi to neslēpa. 18 kW skaitlis ir noapaļots PDU rādījums, nevis komunālo pakalpojumu rēķins. Viņi nepārvērta 72 stundas izmaksās, jo rūpnīcas jauktā elektroenerģijas tarifa izmantošana būtu radījusi viltus biznesa plānu.

Servēšanas pārbaude bija atsevišķa un mazāka: 200 līniju attēli uz iežogotās zonas, visi uz vietas. Tas ir secinājums, nevis apmācība. Abu sajaukšana būtu bijusi miniatūra hibrīdzāles kļūda.

Kas var noiet greizi

• Iepirkumu nodaļa turpina četrus serverus dēvēt par "mākslīgā intelekta datu centru". Etiķete slēpj santehniku, un nākamais pirkums ir vēl vairāk grafisko procesoru tai pašai slimnīcas ejai

• Aizmugurējo durvju apmainītāji ieiet, un neviens neiedarbina ūdens pusi. Ventilatori joprojām kliedz. Pulksteņi joprojām krīt

• Audums ir viens slēdzis bez rezerves ceļa. Viena kļūmīga saite un "klasteris" atkal sastāv no četrām darbstacijām

• Kontrolpunkti paliek SAN, jo NVMe pūls bija "otrajā fāzē". Otrā fāze nenāk pirms nākamā nedarbojošā mezgla

• Viņi norāda PUE diviem plauktiem jauktā hallē. Klimats, robeža un pārējā ERP rinda padara šo attiecību par kostīmu

• Apmācība un apkalpošana ir kopīgas iezīmes. Kontrolpunktu pārslodze liek rūpnīcas līnijai gaidīt. Astes latentums ir produkts, nevis blīvums

• Mezgls atteicas, un kāds to uztver kā darbības laika pieprasījumu, nevis kontrolpunkta restartēšanu. Uzņēmuma operācijas un mākslīgā intelekta operācijas visu pēcpusdienu sarunājas viena ar otru

• Viņi varēja iznomāt būri, izņemot to, ka attēli nevar aiziet. Aizmirstot šo ierobežojumu, viņi tiek iedzīti mākoņa sarunā, kas viņiem būs jāatrisina

Praktiska līdzņemšana

Šādā formā mākslīgā intelekta datu centrs nav noliktava un nav GPU rēķins. Tā ir šūna, kas ļauj akseleratoriem pabeigt darbību: jauda, ​​ko tie var uzglabāt, siltums, kas izplūst, struktūra, kontrolpunkts un kāds, kas atbild par akseleratoru darbību, kad rangs izzūd. Kestrel nebija vajadzīga universitātes pilsētiņa. Viņiem bija nepieciešamas divas plaukti, lai pārtrauktu izlikties. Lielākajai daļai komandu vajadzētu nomāt šādu uzvedību. Dažām, kurām ir slepens datu kopums un zāle, kas var izturēt karstumu, vajadzētu uzbūvēt šūnu un atteikties no slīdēšanas.

Bieži uzdotie jautājumi

Kas ir mākslīgā intelekta datu centrs?

Augsta blīvuma skaitļošanas vieta, kur jauda, ​​dzesēšana, tīklošana un krātuve ir koncentrēta ap paralēlu apmācību un modeļu apkalpošanu, nevis sakārtotām vispārējas nozīmes serveru rindām. Tā ir izstrādāta tā, lai milzīgs skaits akseleratoru varētu apmācīt un apkalpot modeļus, neradot pārslodzi, neapstājoties tīklā vai negaidot diskā. Parasta uzņēmuma zāle ir jaukta apkaime. Mākslīgā intelekta zāle ir monokultūra, kuras vērtības vienība ir paātrinātājs, piemēram, GPU vai TPU stila mikroshēmas. Tā izskatās pēc noliktavas un uzvedas kā spēkstacija, kas veic matemātiskus aprēķinus.

Kā AI datu centrs atšķiras no parasta datu centra?

Tradicionālās zāles optimizē jauktas darba slodzes un darbības laiku daudzos mazos pakalpojumos. Mākslīgā intelekta vietnes apgriež attiecības otrādi: blīvums palielinās, tīkls kļūst par struktūru, bez kuras apmācības uzdevums nevar klibot, un krātuvei ir jāuztur kontrolpunkti kustībā vai paātrinātāji dīkstāvē. Uzņēmuma operāciju komanda domā par pieprasījumiem un izmaiņu logiem. Mākslīgā intelekta operāciju komanda domā par uzdevumu rindām un nepatīkamo sajūtu, kad mezgls ilgtermiņā pārstāj darboties. Jūs joprojām varētu saukt abus par datu centriem. Apzīmējums tikai slēpj santehniku.

Kāpēc mākslīgā intelekta datu centri patērē tik daudz enerģijas?

Izcilākā aparatūra nav gudrs centrālais procesors. Tā ir paātrinātāja paplāte: grafiskie procesori vai citas mākslīgā intelekta mikroshēmas, kas ievietotas serveros, tad plauktos, tad rindās, kas koplieto liela joslas platuma struktūru. Blīvums uz plauktu ir sižeta pavērsiens: mazāk plauktu, katrs no tiem ir maza krāsns. Megavatu IT slodze parādās, tiklīdz zāle ir piepildīta, lai gan tipiska skaitļa izgudrošana nav tā vērta. Ierobežojošais faktors bieži vien ir apakšstacija, nevis grafisko procesoru vēlmju saraksts.

Kā tiek atdzesēti mākslīgā intelekta datu centri?

Augsta blīvuma plaukti izdala siltumu tādā veidā, kā gaisam nekad īsti nebija jātiek galā. Gaisu var piespiest spēcīgāk, izmantojot aizmugurējo durvju siltummaiņus, karstākas ejas un pārdomātu ierobežošanu. Tad parādās šķidrums: tieša dzesēšana mikroshēmā, dzesēšanas šķidruma cilpas un iegremdēšana dažos dizainos. Akselerators, kas droselējas, ir tāds, par kuru jau esat samaksājis un kuru nevarat pilnībā izmantot. PUE joprojām ir svarīgs, jo katrs vats, kas iztērēts ventilatoriem un sūkņiem, ir vats, kas netika novirzīts grafikas procesoram. Arī ūdens ir iesaistīts stāstā: dažas iekārtas malko, citas rij.

Kāpēc tīklošana ir tikpat svarīga kā GPU?

Apmācība ir saruna: tūkstošiem paātrinātāju, kas ciešā sinhronizācijā apmainās ar gradientiem, parametriem un modeļa fragmentiem. Ja tīkls raustās, viss darbs gaida uz lēnāko lēcienu. Tāpēc mākslīgā intelekta zāles apsēsta ar liela joslas platuma tīkliem, zemu latentumu, InfiniBand tipa tīkliem vai Ethernet vienā un tajā pašā lomā un topoloģijām, kas nesadalās uz pusēm, ja saite neizdodas. Secinājumi rūpējas par astes latentumu, daudziem mazākiem pieprasījumiem un izolāciju. Šajā ēkā santehnika ir restorāns.

Kam tiek izmantots mākslīgā intelekta datu centrs: apmācībai vai secinājumu izdarīšanai?

Apmācība ir kampaņa: izveidojiet klasteri, ievadiet tam datus, rūpīgi pārbaudiet punktus un palaidiet stundām vai nedēļām ilgi. Secināšana ir iepirkšanās centrs: modeļi, kas jau ir apmācīti, tagad atbild uz jautājumiem, ar latentumu, kam ir nozīme. Apmācību centri dzenas pēc jaudas, zemes un blīvuma. Secināšanas vietnes dzenas pēc latentuma un klātbūtnes. Hibrīdzāles pastāv, jo kapitāls nav bezgalīgs – dažreiz viena zāle ar divām dzesēšanas cilpām. Nedaudz vecāks akselerators klienta tuvumā var pārspēt glamonu akseleratoru kontinenta attālumā.

Kāpēc glabāšanai ir nozīme mākslīgā intelekta datu centrā?

Apmācības datiem ir jāpienāk pietiekami ātri, lai grafiskie procesori (GPU) neapgrūtinātu darbību. Kontrolpunktiem ir jānotiek, lai avārija neizniekotu nedēļu. Modeļa svariem ir jāielādējas, pirms tiek aktivizēta apkalpojošā kopija. Klusā vājā vieta ir krātuves caurlaidspēja, ne tikai ietilpība. Jūs varat tērēt bagātību paātrinātājiem un tos badināt ar pieklājīgu masīvu, kas paredzēts virtuālajām mašīnām.

Kas notiek, ja mezgls pārstāj darboties palaišanas laikā?

Viens nedarbojošs paātrinātājs cieši saistītā apmācības uzdevumā var apturēt visu procesu. Apmācībai nepieciešami kontrolpunkti, nevis optimisms. Secinājumi iztukšo slimo mezglu, uztur atbildošo repliku un paliek aktīva. Izmaiņu logi joprojām saduras ar apmācības darbplūsmām, kurām nerūp jūsu kalendārs. Redundance joprojām ir svarīga enerģijas, dzesēšanas, ceļu un krātuves ziņā, taču atteices režīms ir mazāk sakārtots nekā vecais deviņu darbības laika slaids.

Kāda ir mākslīgā intelekta datu centra ietekme uz elektrotīklu, ūdeni un kaimiņiem?

Tīkla pieslēgums bieži vien ir īstais vietas izvēles process. Zeme ir vienkāršāka, salīdzinot ar apakšstaciju un komunālo pakalpojumu sniedzēju, kuram ir citi klienti. Dzesēšanas ūdens, ja to izmantojat, kļūst par kaimiņu problēmu, tiklīdz ir spēcīgs lietus, kā arī troksnis, vizuālais apjoms un karstums pie robežžoga. Apmācība var paslēpties lētākos elektroenerģijas tirgos un vēsākā klimatā. Secinājumiem patīk atrasties lietotāju tuvumā. Nav vienas ideālas vietas. Ir kompromiss ar preses relīzi.

Vai man ir nepieciešams mākslīgā intelekta datu centrs savā īpašumā, vai arī man tas jāīrē?

Lielākajai daļai cilvēku nav nepieciešams, lai viņi piederētu vienai no šīm zālēm. Hiperskalētāji veido, jo produkts ir flote. Laboratorijas veido, kad rindas laiks ir sašaurinājums vai dati nevar aizplūst. Banka, slimnīca, valdība vai ražotājs ar slepenu datu kopu var padarīt racionālu lokālu vai privātu kolokalizāciju. Visiem pārējiem vajadzētu īrēt: mākslīgajam intelektam gatavu kolokalāciju, mākoņa rezervāciju vai pārvaldītu klasteri. Jūs iegūstat akseleratorus, nekļūstot par spēkstacijas operatoru.

Atsauces

1. IEA — www.iea.org

2. LBNL - datacenters.lbl.gov

3. Zaļais tīkls — www.thegreengrid.org

4. LBNL - datacenters.lbl.gov

5. LBNL - datacenters.lbl.gov

6. Uptime institūts — journal.uptimeinstitute.com

7. NVIDIA — izstrādātājs.nvidia.com

8. NVIDIA — docs.nvidia.com

9. NVIDIA — docs.nvidia.com

10. NVIDIA — docs.nvidia.com

11. Google mākonis — docs.cloud.google.com

Atrodiet jaunāko mākslīgo intelektu oficiālajā mākslīgā intelekta palīgu veikalā

Par mums