Mennyi vizet használ a mesterséges intelligencia?

Fogadok, hogy hallottál már mindent a „MI néhány kérdésenként megiszik egy üveg vizet”-től kezdve a „gyakorlatilag csak néhány csepp”-ig. Az igazság árnyaltabb. A MI vízlábnyoma nagyban változik attól függően, hogy hol fut, milyen hosszú a prompt, és hogyan hűti az adatközpont a szervereit. Tehát igen, a fő szám létezik, de számos fenntartás rejti.

Az alábbiakban világos, döntéskész számokat boncolgatok, elmagyarázom, miért térnek el a becslések, és bemutatom, hogyan csökkenthetik az építőipari szakemberek és a mindennapi felhasználók a vízfogyasztást anélkül, hogy fenntarthatósági szerzetesekké válnának.

Cikkek, amiket esetleg ezután érdemes elolvasnod:

🔗 Mi az a mesterséges intelligencia adatkészlet?
Elmagyarázza, hogyan teszik lehetővé az adathalmazok a gépi tanulás betanítását és a modellfejlesztést.

🔗 Hogyan jósolja meg a mesterséges intelligencia a trendeket
Megmutatja, hogyan elemzi a mesterséges intelligencia a mintákat a változások és a jövőbeli eredmények előrejelzése érdekében.

🔗 Hogyan mérjük a mesterséges intelligencia teljesítményét?
Lebontja a pontosság, a sebesség és a megbízhatóság értékeléséhez szükséges alapvető mutatókat.

🔗 Hogyan beszéljünk a mesterséges intelligenciával
Hatékony ösztönzési stratégiákat alkalmaz a világosság, az eredmények és a következetesség javítása érdekében.

Mennyi vizet használ a mesterséges intelligencia? Gyorsan kiszámolt számok, amiket ténylegesen felhasználhatsz 📏

• Promptonként, ma jellemző tartomány: az egyik mainstream rendszeren egy átlagos szöveges prompthoz tartozó milliliter alatti értéktől több tíz milliliterig . Például a Google termelési könyvelése egy átlagos szöveges promptot ~0,26 ml-nek (a teljes kiszolgálási többletköltséggel együtt) [1]. A Mistral életciklus-értékelése egy 400 tokenből álló asszisztens választ ~45 ml-nek (marginális következtetés) [2]. A kontextus és a modell nagyon fontos.

• Egy határeredményű modell betanítása: több millió liternyi víz is felhasználható , főként hűtésből és az áramtermelésbe beépített vízből. Egy széles körben idézett tudományos elemzés becslése szerint egy GPT-osztályú modell betanításához ~5,4 millió literre ~700 000 litert is, és az intelligens ütemezés mellett érvelt a vízigény csökkentése érdekében [3].

• Adatközpontok általában: a nagyobb telephelyek napi több százezer gallon a nagyobb üzemeltetőknél, egyes kampuszon magasabb csúcsértékekkel az éghajlattól és a kialakítástól függően [5].

Legyünk őszinték: ezek a számok elsőre ellentmondásosnak tűnnek. Pedig azok is. És jó okok vannak rá.

Mesterséges intelligencia általi vízhasználati mutatók ✅

„Mennyi vizet használ a mesterséges intelligencia?” kérdésre adott jó válaszhoz érdemes bejelölni néhány négyzetet:

1. Határok egyértelműsége
   a helyszíni hűtővizet foglalja magában , vagy az erőművek az áramtermeléshez telephelyen kívüli vizet a vízkivétel és a vízfogyasztás , és az 1-2-3. hatókörbe sorolja, hasonlóan a szén-dioxid-elszámoláshoz [3].

2. Helyérzékenység
   A kWh-kénti vízmennyiség régiónként és hálózati összetételenként változik, így ugyanaz a kijelzés eltérő hatással lehet a vízre attól függően, hogy hol szolgálják ki – ez a fő oka annak, hogy a szakirodalom az idő- és helytudatos ütemezést [3].

3. Realisztikus munkaterhelés
   A szám tükrözi a medián termelési igényeket , beleértve az alapjárati kapacitást és az adatközpont terhelését, vagy csak a gyorsítóprocesszort csúcsidőszakban? A Google a teljes rendszer (alapjárat, CPU/DRAM és adatközpont terhelése) figyelembevételét hangsúlyozza a következtetésekhez, nem csak a TPU matematikai számításait [1].

4. Hűtési technológia
   A párologtató hűtés, a zárt hurkú folyadékhűtés, a léghűtés és az új, közvetlenül a chipre történő hűtés drámaian megváltoztatja a vízfogyasztást. A Microsoft olyan terveket vezet be, amelyek célja a hűtővíz használatának kiküszöbölése bizonyos következő generációs telephelyeken [4].

5. A napszak és az évszak
   A hő, a páratartalom és a hálózati körülmények a való életben befolyásolják a vízfelhasználás hatékonyságát ; egy befolyásos tanulmány azt javasolja, hogy a nagyobb munkákat akkor és ott ütemezzék be, amikor és ahol alacsonyabb a vízintenzitás [3].

Vízkivétel vs. vízfogyasztás, magyarázattal 💡

• Kivétel = folyókból, tavakból vagy víztartó rétegekből kivett víz (egy része visszavezetett).

• Fogyasztás = a vissza nem juttatott , mert elpárolog, vagy beépül a folyamatokba/termékekbe.

A hűtőtornyok elsősorban fogyasztják a vizet. Az áramtermelés vonhat el (néha akár egy részét is felhasználva), az üzemtől és a hűtési módszertől függően. Egy hiteles mesterséges intelligencia által jelentett vízszám-címke [3].

Hová folyik a víz a mesterséges intelligenciában: a három vödör 🪣

1. 1. hatókör – helyszíni hűtés
   A látható rész: a víz elpárolgása magában az adatközpontban. A tervezési döntések, mint például a párolgás kontra levegő vagy zárt hurkú folyadék határozzák meg az alapvonalat [5].

2. 2. hatókör – villamosenergia-termelés
   Minden kWh rejtett vízcímkét hordozhat; a keverék és a helyszín határozza meg a liter/kWh jelet, amelyet a munkaterhelés örököl [3].

3. 3. hatókör – ellátási lánc
   A chipgyártás ultratiszta vizet használ. Ez nem jelenik meg az „egy adott promptra” vonatkozó mérőszámokban, kivéve, ha a határvonal kifejezetten tartalmazza a megtestesült hatásokat (pl. egy teljes LCA) [2][3].

Szolgáltatók számokban, árnyaltabban 🧮

• A Google Gemini
  teljes körű kiszolgálási módszert javasol (beleértve az alapjáratot és a létesítmény terhelését). A medián szöveg ~0,26 ml vizet és ~0,24 Wh energiát kér; az adatok a termelési forgalmat és az átfogó határokat tükrözik [1].

• Mistral Large 2 életciklus
  Egy ritka független LCA (ADEME/Carbone 4-gyel) ~281 000 m³-t a betanítás + korai használat, és ~45 ml-es következtetési határértéket egy 400 tokenes asszisztens válasz esetében [2].

• A Microsoft nulla vízhűtési törekvése
  A következő generációs adatközpontokat úgy tervezték, hogy nulla vizet használjanak hűtésre , a közvetlenül a chipre történő hűtésre támaszkodva; az adminisztratív felhasználás továbbra is igényel némi vizet [4].

• Általános adatközponti lépték
  A nagyobb üzemeltetők nyilvánosan átlagosan napi több százezer gallon az egyes telephelyeiken; az éghajlat és a kialakítás felfelé vagy lefelé tolja el a számokat [5].

• A korábbi akadémiai alapvonal
  A korszakalkotó „szomjas mesterséges intelligencia” elemzés becslése szerint több millió liternyi folyadék szükséges a GPT-osztályú modellek betanításához, és hogy 10–50 közepes válasz 500 ml-es ​​felel meg – nagymértékben attól függően, hogy mikor/hol futtatják őket [3].

Miért térnek el annyira a becslések 🤷

• Eltérő határok
  Egyes adatok csak a helyszíni hűtést ; mások a villamos energia vízfogyasztását a chipgyártást is beleszámíthatják . Alma, narancs és gyümölcssaláta [2][3].

• Különböző munkaterhelések
  Egy rövid szöveges prompt nem egy hosszú multimodális/kódfuttatás; a kötegelt feldolgozás, a párhuzamos működés és a késleltetési célok megváltoztatják a kihasználtságot [1][2].

• Különböző éghajlatok és hálózatok
  Párolgásos hűtés forró, száraz régióban ≠ levegő/folyadék hűtés hűvös, nedves régióban. A hálózat vízintenzitása széles skálán mozog [3].

• Beszállítói módszertanok
  A Google közzétett egy rendszerszintű kiszolgálási módszert; a Mistral hivatalos LCA-t publikált. Mások ritka módszerekkel kínálnak pontbecsléseket. Egy nagy horderejű „egy tizenötöd teáskanálnyi” termékjellemző adag címlapokra került – de a határok részletezése nélkül nem összehasonlítható [1][3].

• Mozgó célpont
  A hűtés gyorsan fejlődik. A Microsoft vízmentes hűtést ; ezek bevezetése csökkenteni fogja a helyszíni vízfogyasztást, még akkor is, ha a felsőbb ágban lévő elektromos hálózat továbbra is vízjelet hordoz [4].

Mit tehetsz még ma a mesterséges intelligencia vízlábnyomának csökkentése érdekében 🌱

1. A modell megfelelő méretezése A
   kisebb, feladatra hangolt modellek gyakran megegyező pontosságot biztosítanak, miközben kevesebb számítási igényt igényelnek. A Mistral értékelése kiemeli a méret és a lábnyom közötti erős korrelációkat – és marginális következtetési számokat tesz közzé, így a kompromisszumokról lehet gondolkodni [2].

2. Válasszon víztudatos régiókat
   Előnyben részesítse a hűvösebb éghajlatú, hatékony hűtéssel és alacsonyabb kWh-nkénti vízintenzitású hálózatokkal rendelkező régiókat; a „somjas mesterséges intelligenciával” végzett munka azt mutatja, hogy az idő- és helytudatos ütemezés segít [3].

3. Időben eltolt munkaterhelések
   A betanítás/nagy mennyiségű kötegelt számítás ütemezése víztakarékos órákra (hűvösebb éjszakák, kedvező hálózati feltételek) [3].

4. Kérjen átlátható mutatókat a szállítójától
   az azonnali vízigény , a határértékek meghatározása, valamint az, hogy a számok tartalmazzák-e a kihasználatlan kapacitást és a létesítmény általános költségeit. Szakpolitikai csoportok szorgalmazzák a kötelező közzétételt, hogy lehetővé váljon az összehasonlítás [3].

5. A hűtéstechnika számít
   Ha hardvert üzemeltetsz, értékeld a zárt hurkú/közvetlenül a chipre irányuló hűtést ; ha felhőalapú rendszert használsz, előnyben részesítsd azokat a régiókat/szolgáltatókat, amelyek a víztakarékos megoldásokba [4][5].

6. Szürkevíz használata és újrafelhasználási lehetőségek
   Számos egyetem helyettesítheti a nem ivóvízforrásokat, vagy újrahasznosíthatja azokat a körforgáson belül; a nagy üzemeltetők a vízforrások és a hűtési lehetőségek kiegyensúlyozását ismertetik a nettó hatás minimalizálása érdekében [5].

Egy gyors példa a valóságra (nem általános szabály): egy éjszakai betanítási feladat áthelyezése egy forró, száraz régióból nyár közepén egy hűvösebb, párásabb régióba tavasszal – és a csúcsidőn kívüli, hűvösebb órákban történő futtatása – mind a helyszíni vízfelhasználást, mind a helyszínen kívüli (hálózati) vízintenzitást megváltoztathatja. Ez az a fajta gyakorlatias, alacsony drámaiságú, nyereséges ütemezés, amely megnyithatja a helyét [3].

Összehasonlító táblázat: gyors tippek a mesterséges intelligencia vízdíjának csökkentésére 🧰

(Az „ár” eleve szűkös – a telepítések eltérőek.)

Mélymerülés: egyre hangosabb a politikai dobszó 🥁

kötelező közzétételét szorgalmazzák , hogy a vásárlók és a közösségek megítélhessék a költségeket és az előnyöket. Az ajánlások magukban foglalják a hatókör meghatározását, a telephelyszintű jelentéstételt és a telephelyválasztási útmutatót – mivel összehasonlítható, helymeghatározással rendelkező mérőszámok nélkül sötétben vitatkozunk [3].

Mélymerülés: az adatközpontok nem mind ugyanúgy működnek 🚰

Létezik egy makacs tévhit, hogy „a léghűtés nem használ vizet”. Ez nem egészen így van. A levegőben gazdag rendszerek gyakran több villamos energiát , amely sok régióban rejtett vizet a hálózatból; ezzel szemben a vízhűtés csökkentheti az energiafogyasztást és a kibocsátást a helyszíni víz rovására. A nagy üzemeltetők kifejezetten egyensúlyoznak ezeken a kompromisszumokon telephelyenként [1][5].

Mélymerülés: gyors valóságellenőrzés a virális állításokkal kapcsolatban 🧪

Talán láttál már merész kijelentéseket, miszerint egyetlen prompt egyenlő „egy vizespalackkal”, vagy éppen ellenkezőleg, „csak néhány cseppkel”. Jobb testtartás: alázat a matematikával . Manapság a hiteles határértékek ~0,26 ml egy teljes adagolási többletköltséggel járó átlagos termelési prompt esetén [1], és ~45 ml egy 400 tokenből álló asszisztensi válasz esetén (marginális következtetés) [2]. A sokat emlegetett „egy teáskanál tizenötöd része” állításnak nincs nyilvános határa/módszere; tekintsd úgy, mint egy időjárás-előrejelzést a város nélkül [1][3].

Mini GYIK: Mennyi vizet használ a mesterséges intelligencia? Ismét, egyszerű angol nyelven 🗣️

• Szóval, mit mondjak egy megbeszélésen?
  a cseppektől a néhány kortyig terjedhet az adag , modelltől, hosszától és attól függően, hogy hol folyik. Az edzéshez medencék kellenek , nem pocsolyák.” Ezután említsen egy vagy két példát a fentiekből.

• Vajon a mesterséges intelligencia kifejezetten rossz?
  Kivételesen koncentrált : az egymáshoz csomagolt nagy teljesítményű chipek nagy hűtési terhelést okoznak. De az adatközpontokban a legjobb hatékonyságú technológiák is először jelennek meg [1][4].

• Mi lenne, ha mindent léghűtésre állítanánk át?
  Csökkenthetnénk a helyszíni vízfogyasztást, de növelhetnénk külső vízfogyasztást elektromos árammal. A kifinomult üzemeltetők mindkettőt mérlegelik [1][5].

• Mi a helyzet a jövő technológiájával?
  Azok a tervek, amelyek elkerülik a vízhűtést nagy mennyiségben, gyökeresen megváltoztatnák az 1. körzetszámú hálózatok működését. Egyes üzemeltetők ebbe az irányba haladnak; az upstream villamos energia továbbra is vízjelet hordoz, amíg a hálózatok meg nem változnak [4].

Záró gondolatok - Túl hosszú volt, nem olvastam el 🌊

• Promptonként: gondoljon a milliliter alatti értékekre és a több tíz milliliterre is , a modelltől, a prompt hosszától és a futtatás helyétől függően. Az átlagos prompt ~0,26 ml egy fő halmon; ~45 ml egy 400 tokenből álló válasznál egy másikon [1][2].

• Képzés: több millió liternyi határmodell, ami kritikus fontosságúvá teszi az ütemezést, az elhelyezést és a hűtési technológiát [3].

• Mit kell tenni: megfelelő méretű modelleket kell választani, víztakarékos régiókat kell választani, a nehéz munkákat hűvösebb órákra kell áthelyezni, a víztakarékos megoldásokat kínáló beszállítókat kell előnyben részesíteni, és átlátható határokat kell követelni [1][3][4][5].

Kissé hibás metafora a végére: A mesterséges intelligencia egy szomjas zenekar – a dallam számítógépes, de a dobok hűlő vízként hatnak. Hangold a zenekart, és a közönség akkor is hallja a zenét anélkül, hogy megszólalnának a locsolók. 🎻💦

Referenciák

1. Google Cloud Blog - Mennyi energiát fogyaszt a Google mesterséges intelligenciája? Kiszámoltuk (módszertan + ~0,26 ml átlagos energiafelhasználás, teljes adaggal járó többletköltség). Link
   (Műszaki dokumentum PDF: A mesterséges intelligencia Google-szintű megvalósításának környezeti hatásának mérése .) Link

2. Mistral AI - Hozzájárulásunk egy globális környezetvédelmi szabványhoz a mesterséges intelligenciára vonatkozóan (LCA ADEME/Carbone 4-gyel; ~281 000 m³ betanítás + korai használat; ~45 ml 400 tokenes válaszonként , marginális következtetés). Link

3. Li és munkatársai - A mesterséges intelligencia „szomjasságának” csökkentése: A mesterséges intelligencia modellek titkos vízlábnyomának feltárása és kezelése ( több millió liter , idő- és helytudatos ütemezés, kivétel vs. fogyasztás). Link

4. Microsoft – A következő generációs adatközpontok hűtésre nem használnak vizet (a közvetlenül a chipre telepített megoldások bizonyos telephelyeken vízmentes hűtést céloznak). Link

5. Google Adatközpontok – Fenntartható működés (telephelyenkénti hűtési kompromisszumok; jelentéskészítés és újrafelhasználás, beleértve a visszanyert/szürkevizet; tipikus napi telephelyi felhasználás nagyságrendenként). Link

Találd meg a legújabb mesterséges intelligenciát a hivatalos AI Assistant áruházban

Rólunk