Věděli jste, že trénování jednoho AI modelu může vyprodukovat tolik uhlíku jako pět automobilů?

Nedávné studie ukázaly, že uhlíková stopa spojená s výcvikem umělé inteligence (AI) je významná. Jak můžeme snížit její dopad na životní prostředí?

Vědci z University of Massachusetts, Amherst, provedli hodnocení životního cyklu pro výcvik několika běžně používaných velkých AI modelů. Zjistili, že proces může vyemitovat více než 284 000 kg oxidu uhličitého, což je přibližně pětkrát více než celoživotní emise průměrného amerického auta (včetně jeho výroby).
Bylo zjištěno, že uhlíková stopa výcviku AI je významná a souvisí s energií potřebnou k napájení serverů, které se pro výcvik modelů používají. Emise související s výcvikem AI mohou být sníženy používáním obnovitelné energie pro napájení datových center.

Graf ukazuje emise uhlíku způsobené 11 různými modely trénování AI. Zdroj: Univerzita v Massachusetts, Amherst

Efektivní algoritmy snižují emise uhlíku snížením energie potřebné pro výcvik modelů AI, např. Aproximační algoritmy, které poskytují dobrá řešení problémů bez zajištění nejlepšího možného řešení, nebo Datově řízené algoritmy, které jsou trénovány na datech. Níže uvedená tabulka ukazuje výsledky používání dvou optimalizačních algoritmů: Flexible Start, který umožňuje flexibilitu pro AI pracovní zatížení kratších úkolů, a Pause & Resume, který pauzuje a pro delší úkoly pokračuje v práci po překročení určitého prahu.

abulka od Dodge et al. ukazující výsledky dvou různých algoritmůPozastavení AI pracovního zatížení, když jsou regionální emise vysoké, může snížit i celková čísla. Úspory mohou být významné, až 25 % pro velmi dlouhé tasky. Úspory jsou nižší pro kratší úkoly, protože zdvojená doba trvání je stále poměrně krátká. Tabulka také ukazuje, že počet pauz za hodinu se zvyšuje s velikostí modelu. To je způsobeno tím, že větší modely vyžadují více výpočetního výkonu a tudíž jejich výcvik trvá déle.

Pět tipů a inovativních technologií, které pomohou snížit emise uhlíku při výcviku AI

  1. Používejte energeticky účinný hardware, což může zahrnovat GPU.
    1. GPU jsou energeticky účinnější než CPU při srovnání práce na Watt pro určité zatížení. GPU mohou být použity na rychlejší výcvik AI modelů a tak používat méně energie než prostředí využívající pouze CPU.
    2. Chlazení kapalinou může být použito k efektivnějšímu chlazení výpočetního hardware, čímž se snižuje spotřeba energie a emise v datových centrech. Může také snížit hluk až o 50 % a vytvořit komfortnější pracovní prostředí. Údržba je snadnější než v případně chlazení vzduchem a chladiče na kapalinu jsou méně náchylné k poškození.
  2. Optimalizujte datová centra pro energetickou účinnost. Existuje několik způsobů, jak snížit potřebnou energii datových center, například používáním chlazení volným vzduchem, což snižuje PUE.
    1. Efektivnější chlazení: Tradiční vzduchem chlazená datová centra používají významné množství energie na chlazení serverů.
    2. Efektivnější zdroje napájení: Konvenční zdroje napájení mohou být neefektivní, plýtvají až 20 % používané energie. Ujistěte se, že používáte zdroje napájení Titanium nebo Platinum.
    3. Efektivnější servery: Používejte multi-node servery, které mohou sdílet zdroje a tím snížit celkovou energetickou spotřebu na server.
  3. Používejte obnovitelnou energii pro výcvik AI. Datová centra zaměřená na výcvik AI mohou být napájena obnovitelnými zdroji energie: solární nebo větrnou energií.
  4. Zvyšte efektivitu výcviku AI. Inovativní technologie, jako jsou kvantové počítače, neuronové sítě s impulsními neurony, federované učení, transferové učení a vyhledávání architektury neuronových sítí, mohou zvýšit efektivitu výcviku AI a snížit spotřebu energie.
  5. Používejte předtrénované modely. Předtrénované modely již byly učeny na velkém datasetu a nemusí být vyvíjeny od nuly, což znamená značnou úsporu energie.
    Dodržujte tyto tipy, abyste udělali AI o něco udržitelnějším.