Որքա՞ն էներգիա է օգտագործում արհեստական ​​բանականությունը։

Պատասխան՝ Արհեստական ​​բանականությունը կարող է շատ քիչ էլեկտրաէներգիա օգտագործել պարզ տեքստային առաջադրանքի համար, բայց շատ ավելի շատ, երբ հրահանգները երկար են, արդյունքները բազմամոդալ են կամ համակարգերը գործում են մեծ մասշտաբով։ Սովորաբար հիմնական նախնական էներգիայի հարվածը ուսուցումն է, մինչդեռ ամենօրյա եզրակացությունները դառնում են նշանակալի՝ հարցումների կուտակմանը զուգընթաց։

Հիմնական եզրակացություններ՝

Համատեքստ . էներգիայի որևէ գնահատական ​​​​մատուցելուց առաջ սահմանեք խնդիրը, մոդելը, սարքավորումները և մասշտաբը։

Ուսուցում . Բյուջեները պլանավորելիս մոդելի ուսուցումը դիտարկեք որպես հիմնական նախնական էներգետիկ իրադարձություն։

Եզրակացություն . ուշադիր հետևեք կրկնվող եզրակացություններին, քանի որ մեկ հարցման համար փոքր ծախսերը արագ կուտակվում են մասշտաբային առումով։

Ենթակառուցվածքներ . ցանկացած իրատեսական գնահատականում ներառեք սառեցումը, պահեստավորումը, ցանցերը և պարապ հզորությունը։

Արդյունավետություն . էներգիայի սպառումը կրճատելու համար օգտագործեք ավելի փոքր մոդելներ, ավելի կարճ հուշումներ, քեշավորում և խմբաքանակավորում։

Հոդվածներ, որոնք կարող են ձեզ դուր գալ կարդալ սրանից հետո

🔗 Ինչպես է արհեստական ​​բանականությունը ազդում շրջակա միջավայրի վրա
Բացատրում է արհեստական ​​բանականության ածխածնային հետքը, էներգիայի օգտագործումը և կայունության հետ կապված փոխզիջումները։.

🔗 Արհեստական ​​բանականությունը վնասակար է՞ շրջակա միջավայրի համար։
Բացահայտում է արհեստական ​​բանականության մոդելների և տվյալների կենտրոնների թաքնված շրջակա միջավայրի ծախսերը։.

🔗 Արհեստական ​​բանականությունը լավն է, թե վատը։ Առավելություններն ու թերությունները
Արհեստական ​​բանականության օգուտների, ռիսկերի, էթիկայի և իրական ազդեցության հավասարակշռված հայացք։.

🔗 Ի՞նչ է արհեստական ​​բանականությունը։ Պարզ ուղեցույց
Սովորեք արհեստական ​​բանականության հիմունքները, հիմնական տերմինները և առօրյա օրինակները րոպեների ընթացքում։.

Ինչու է այս հարցն ավելի կարևոր, քան մարդիկ կարծում են 🔍

Արհեստական ​​​​ինտելեկտի էներգիայի օգտագործումը միայն շրջակա միջավայրի վերաբերյալ քննարկման թեմա չէ։ Այն շոշափում է մի քանի շատ իրական բաներ

• Էլեկտրաէներգիայի արժեքը ՝ հատկապես արհեստական ​​բանականության բազմաթիվ հարցումներ կատարող բիզնեսների համար

• Ածխածնի ազդեցությունը ՝ կախված սերվերների հետևում գտնվող էներգիայի աղբյուրից

• Սարքավորումների լարվածություն - հզոր չիպերը լուրջ հզորություն են քաշում

• Մասշտաբային որոշումներ . մեկ էժանագին հուշումը կարող է վերածվել միլիոնավոր թանկարժեք հուշումների

• Արտադրանքի դիզայն - արդյունավետությունը հաճախ ավելի լավ հատկանիշ է, քան մարդիկ պատկերացնում են ( Google Cloud , Green AI ):

Շատերը հարցնում են՝ «Որքա՞ն էներգիա է օգտագործում արհեստական ​​բանականությունը», քանի որ ցանկանում են տպավորիչ թիվ ստանալ։ Ինչ-որ հսկայական բան։ Ինչ-որ վերնագրերին հարմար բան։ Բայց ավելի լավ հարցն այն է, թե ինչպիսի՞ արհեստական ​​բանականության օգտագործման մասին է խոսքը։ Որովհետև դա ամեն ինչ փոխում է։ ( ՄԷԳ )

Մեկ ավտոմատ լրացման առաջարկ՞։ Բավականին փոքր։
Սահմանային մոդելի վերապատրաստում հսկայական կլաստերների միջև՞։ Շատ, շատ ավելի մեծ։
Մշտապես գործող ձեռնարկության արհեստական ​​բանականության աշխատանքային հոսք, որը դիպչում է միլիոնավոր օգտատերերի՞։ Այո, դա արագ է կուտակվում... ինչպես մի քանի կոպեկ վարձավճարի վերածվելը։ ( DOE , Google Cloud )

Որքա՞ն էներգիա է օգտագործում արհեստական ​​բանականությունը։ Կարճ պատասխանը ⚡

Ահա գործնական տարբերակը։.

Արհեստական ​​բանականությունը կարող է օգտագործել վատտ-ժամի չնչին մասից մինչև մեծ քանակությամբ էլեկտրաէներգիա՝ լայնածավալ ուսուցման և տեղակայման համար: Այդ միջակայքը ծիծաղելիորեն լայն է թվում, քանի որ այն լայն է: ( Google Cloud , Strubell և այլք ):

Պարզ ասած՝

• Պարզ եզրակացության առաջադրանքներ ՝ հաճախ համեմատաբար համեստ՝ յուրաքանչյուր օգտագործման համար

• Երկար զրույցներ, մեծ ելքային տվյալներ, պատկերի ստեղծում, տեսանյութերի ստեղծում ՝ զգալիորեն ավելի էներգախնայող

• Մեծ մոդելների մարզում - էներգիայի սպառման ծանրքաշային չեմպիոն

• Արհեստական ​​բանականության լայնածավալ աշխատանք ամբողջ օրվա ընթացքում , որտեղ «փոքր գումարը մեկ հարցման համար» վերածվում է «մեծ ընդհանուր հաշվի» ( Google Cloud , DOE ):

Լավ կանոն է սա

• Մարզումը հսկայական նախնական էներգետիկ իրադարձություն է 🏭

• Եզրակացությունը շարունակական կոմունալ վճարն է 💡 ( Ստրուբել և այլք , Google Research )

Այսպիսով, երբ ինչ-որ մեկը հարցնում է. « Որքա՞ն էներգիա է օգտագործում արհեստական ​​բանականությունը» , ուղղակի պատասխանն է՝ «Ոչ թե մեկ քանակություն, այլ բավականաչափ, որպեսզի արդյունավետությունը կարևոր լինի, և բավականաչափ, որպեսզի մասշտաբը փոխի ամբողջ պատմությունը» ( IEA , Կանաչ արհեստական ​​բանականություն ):

Գիտեմ, որ դա այնքան էլ գրավիչ չէ, որքան մարդիկ են ուզում։ Բայց դա ճիշտ է։.

Ի՞նչն է արհեստական ​​ինտելեկտի էներգիայի գնահատման տարբերակը դարձնում լավը։ 🧠

Լավ գնահատականը պարզապես գրաֆիկի վրա նետված դրամատիկ թիվ չէ։ Գործնական գնահատականը ներառում է համատեքստ։ Հակառակ դեպքում դա նման է մառախուղը լոգարանի կշեռքով կշռելուն։ Բավականին մոտ, որպեսզի տպավորիչ հնչի, բայց ոչ այնքան մոտ, որ վստահելի լինի։ ( IEA , Google Cloud )

Արհեստական ​​բանականության էներգիայի պատշաճ գնահատականը պետք է ներառի

• Առաջադրանքի տեսակը ՝ տեքստ, պատկեր, աուդիո, տեսանյութ, ուսուցում, ճշգրտում

• Մոդելի չափը ՝ ավելի մեծ մոդելները սովորաբար ավելի շատ հաշվարկներ են պահանջում

• Օգտագործվող սարքավորումները . ոչ բոլոր չիպերն են հավասարապես արդյունավետ

• Սեսիայի տևողություն - կարճ հուշումները և երկար բազմաքայլ աշխատանքային հոսքերը շատ տարբեր են

• Օգտագործում - անգործուն համակարգերը դեռևս սպառում են էներգիա

• Սառեցում և ենթակառուցվածք . սերվերը ամբողջ հաշիվը չէ

• Տեղակայություն և էներգիայի համադրություն . էլեկտրաէներգիան ամենուրեք հավասարապես մաքուր չէ ( Google Cloud , IEA )

Ահա թե ինչու երկու մարդ կարող են վիճել արհեստական ​​ինտելեկտի էլեկտրաէներգիայի օգտագործման մասին և երկուսն էլ վստահ հնչել՝ խոսելով բոլորովին տարբեր բաների մասին։ Մեկը նկատի ունի չաթբոտի մեկ պատասխան։ Մյուսը նկատի ունի հսկայական մարզումային վազք։ Երկուսն էլ ասում են «արհեստական ​​ինտելեկտ», և հանկարծ զրույցը դուրս է գալիս ռելսերից 😅

Համեմատական ​​աղյուսակ՝ արհեստական ​​ինտելեկտի էներգիայի օգտագործումը գնահատելու լավագույն եղանակները 📊

Ահա մի գործնական աղյուսակ նրանց համար, ովքեր փորձում են պատասխանել հարցին՝ առանց այն բեմական արվեստի վերածելու։.

Գործիք կամ մեթոդ	Լավագույն լսարանը	Գինը	Ինչու է այն աշխատում
Պարզ կանոնի հիման վրա հաշվարկ	Հետաքրքրասեր ընթերցողներ, ուսանողներ	Անվճար	Արագ, հեշտ, մի փոքր անորոշ, բայց բավականաչափ լավ է կոպիտ համեմատությունների համար
Սարքի կողմի վատտաչափ	Միայնակ շինարարներ, սիրողականներ	Ցածր	Չափում է մեքենայի իրական քաշը, որը թարմացնող բետոն է
GPU հեռաչափման վահանակ	Ինժեներներ, մեքենայական ուսուցման թիմեր	Միջին	Ավելի լավ մանրամասներ հաշվողական ծանրաբեռնված առաջադրանքների վերաբերյալ, չնայած կարող է բաց թողնել ավելի մեծ օբյեկտի վրա ծախսվող գումարը
Ամպային հաշվառում + օգտագործման գրանցամատյաններ	Ստարտափներ, օպերացիոն թիմեր	Միջինից մինչև բարձր	Կապում է արհեստական ​​բանականության օգտագործումը իրական ծախսերի հետ՝ կատարյալ չէ, բայց դեռևս բավականին արժեքավոր է
Տվյալների կենտրոնի էներգիայի հաշվետվություն	Ձեռնարկությունների թիմեր	Բարձր	Տալիս է ավելի լայն գործառնական տեսանելիություն, սառեցումը և ենթակառուցվածքները սկսում են երևալ այստեղ
Կյանքի ամբողջական ցիկլի գնահատում	Կայունության թիմեր, խոշոր կազմակերպություններ	Էյֆորիայի նոպաներ, երբեմն ցավոտ	Լավագույնն է լուրջ վերլուծության համար, քանի որ այն չիպից այն կողմ է գնում... բայց դանդաղ է և մի տեսակ «գազան»

Կատարյալ մեթոդ չկա։ Սա մի փոքր հիասթափեցնող մասն է։ Բայց կան արժեքի մակարդակներ։ Եվ սովորաբար, ինչ-որ բան, որը կարելի է օգտագործել, գերազանցում է կատարյալին։ ( Google Cloud )

Ամենակարևոր գործոնը կախարդանքը չէ, այլ հաշվողական տեխնիկան և սարքավորումները 🖥️🔥

Երբ մարդիկ պատկերացնում են արհեստական ​​ինտելեկտի էներգիայի օգտագործումը, նրանք հաճախ պատկերացնում են մոդելն ինքնին որպես էներգիա սպառող։ Սակայն մոդելը ծրագրային տրամաբանություն է, որն աշխատում է սարքավորման վրա։ Սարքավորումն է այն, որտեղ երևում է էլեկտրաէներգիայի վճարը։ ( Strubell et al. , Google Cloud )

Ամենամեծ փոփոխականները սովորաբար ներառում են

• GPU կամ արագացուցիչի տեսակ

• Քանի՞ չիպ է օգտագործվում

• Որքան ժամանակ են նրանք ակտիվ մնում

• Հիշողության բեռնվածություն

• Խմբաքանակի չափը և թողունակությունը

• Արդյո՞ք համակարգը լավ է օպտիմիզացված, թե՞ պարզապես ամեն ինչ կոպիտ կերպով է ենթարկվում ( Google Cloud , քվանտացում, խմբաքանակավորում և սպասարկման ռազմավարություններ LLM էներգիայի օգտագործման մեջ ):

Բարձր օպտիմալացված համակարգը կարող է ավելի շատ աշխատանք կատարել ավելի քիչ էներգիայով: Անփույթ համակարգը կարող է էլեկտրաէներգիա վատնել շունչ կտրող վստահությամբ: Գիտեք, թե ինչպես է դա. որոշ կարգավորումներ մրցարշավային մեքենաներ են, որոշները՝ գնումների սայլակներ՝ հրթիռներով, որոնց վրա ժապավենով են փակցված 🚀🛒

Եվ այո, մոդելի չափը կարևոր է: Ավելի մեծ մոդելները սովորաբար պահանջում են ավելի շատ հիշողություն և ավելի շատ հաշվարկներ, հատկապես երկար ելքային տվյալներ ստեղծելիս կամ բարդ դատողություններ մշակելիս: Սակայն արդյունավետության հնարքները կարող են փոխել պատկերը. ( Կանաչ արհեստական ​​բանականություն , քվանտացման, խմբաքանակավորման և մատուցման ռազմավարություններ LLM էներգիայի օգտագործման մեջ )

• քվանտացում

• ավելի լավ երթուղի

• փոքր մասնագիտացված մոդելներ

• քեշավորում

• խմբաքանակ

• Ավելի խելացի սարքավորումների ժամանակացույց ( քվանտացման, խմբաքանակավորման և մատուցման ռազմավարություններ LLM էներգիայի օգտագործման մեջ )

Այսպիսով, հարցը միայն «որքա՞ն մեծ է մոդելը» չէ, այլ նաև՝ «որքա՞ն խելացիորեն է այն կառավարվում»։

Մարզում ընդդեմ եզրակացության՝ սրանք տարբեր կենդանիներ են 🐘🐇

Սա այն բաժանումն է, որը շփոթեցնում է գրեթե բոլորին։.

Մարզում

Մարզումը այն է, երբ մոդելը սովորում է օրինաչափություններ հսկայական տվյալների հավաքածուներից: Այն կարող է ներառել բազմաթիվ չիպերի երկարատև աշխատանք, որոնք խորտակում են տվյալների հսկայական ծավալներ: Այս փուլը էներգասպառող է: Երբեմն՝ չափազանց շատ: ( Ստրուբել և այլք ):

Մարզման էներգիան կախված է հետևյալից

• մոդելի չափսը

• տվյալների հավաքածուի չափը

• մարզումների քանակը

• անհաջող փորձեր

• փոխանցումների ճշգրտում

• սարքավորումների արդյունավետություն

• վերգետնյա սառեցում ( Strubell et al. , Google Research )

Եվ ահա այն մասը, որը մարդիկ հաճախ բաց են թողնում. հանրությունը հաճախ պատկերացնում է մեկ մեծ մարզում, որը կատարվում է մեկ անգամ, պատմության ավարտը: Գործնականում մշակումը կարող է ներառել կրկնվող մարզումներ, կարգաբերում, վերապատրաստում, գնահատում և հիմնական իրադարձության շուրջ բոլոր պրոզաիկ, բայց թանկարժեք կրկնությունները: ( Strubell et al. , Green AI )

Եզրակացություն

Եզրակացությունը մոդել է, որը պատասխանում է օգտատիրոջ իրական հարցումներին: Մեկ հարցումը կարող է շատ բան չթվալ: Բայց եզրակացությունը կրկնվում է անընդհատ: Միլիոնավոր անգամներ: Երբեմն միլիարդավոր: ( Google Research , DOE )

Եզրակացության էներգիան աճում է հետևյալի հետ՝

• հուշման երկարությունը

• ելքային երկարություն

• օգտատերերի թիվը

• լատենտության պահանջներ

• բազմամոդալ առանձնահատկություններ

• աշխատանքի ժամանակի սպասումներ

• անվտանգության և հետմշակման քայլեր ( Google Cloud , քվանտացում, խմբաքանակավորում և մատուցման ռազմավարություններ LLM էներգիայի օգտագործման մեջ )

Այսպիսով, մարզումը երկրաշարժն է: Եզրակացությունը՝ մակընթացությունը: Մեկը դրամատիկ է, մյուսը՝ կայուն, և երկուսն էլ կարող են մի փոքր վերափոխել ափը: Հնարավոր է՝ սա անսովոր փոխաբերություն է, բայց այն ամուր է... ավելի կամ պակաս:.

Թաքնված էներգիայի ծախսերը, որոնց մասին մարդիկ մոռանում են 😬

Երբ մեկը գնահատում է արհեստական ​​բանականության էներգիայի օգտագործումը՝ նայելով միայն չիպին, նա սովորաբար թերագնահատում է այն։ Ոչ միշտ աղետալի, բայց բավականաչափ կարևոր է։ ( Google Cloud , IEA )

Ահա թաքնված կտորները

Սառեցում ❄️

Սերվերները ջերմություն են արտադրում։ Հզոր արհեստական ​​բանականության սարքավորումները մեծ քանակությամբ ջերմություն են արտադրում։ Սառեցումը պարտադիր չէ։ Հաշվարկների կողմից սպառված յուրաքանչյուր վատտը հակված է ավելի շատ էներգիայի օգտագործման՝ ջերմաստիճանը նորմալ պահելու համար։ ( IEA , Google Cloud )

Տվյալների տեղաշարժ 🌐

Տվյալների տեղափոխումը պահեստավորման, հիշողության և ցանցերի միջև նույնպես էներգիա է պահանջում: Արհեստական ​​բանականությունը պարզապես «մտածողություն» չէ: Այն նաև անընդհատ տեղեկատվություն է խառնում: ( ՄԷԳ )

Պարապուրդի հզորություն 💤

Պիկ պահանջարկի համար կառուցված համակարգերը միշտ չէ, որ աշխատում են պիկ պահանջարկի պայմաններում։ Անգործուն կամ թերօգտագործվող ենթակառուցվածքները դեռևս սպառում են էլեկտրաէներգիա։ ( Google Cloud )

Կրկնակիություն և հուսալիություն 🧱

Պահուստավորումներ, ձախողման համակարգեր, կրկնօրինակ շրջաններ, անվտանգության շերտեր՝ բոլորը արժեքավոր են, բոլորը ավելի լայն էներգետիկ պատկերի մաս են կազմում: ( ՄԷԳ )

Պահեստավորում 📦

Ուսուցման տվյալներ, ներդրված տվյալներ, գրանցամատյաններ, ստուգման կետեր, ստեղծված արդյունքներ՝ այս ամենը ինչ-որ տեղ է պահվում։ Պահեստավորումն, անշուշտ, ավելի էժան է, քան հաշվարկները, բայց էներգիայի առումով անվճար չէ։ ( ՄԷԳ )

Ահա թե ինչու « Որքա՞ն էներգիա է օգտագործում արհեստական ​​բանականությունը» հարցին հնարավոր չէ ճիշտ պատասխանել՝ նայելով մեկ չափանիշային աղյուսակի։ Ամբողջ աղյուսակը կարևոր է։ ( Google Cloud , IEA )

Ինչու՞ մեկ արհեստական ​​բանականության հուշումը կարող է փոքր լինել, իսկ հաջորդը՝ հրեշ 📝➡️🎬

Բոլոր հուշումները չէ, որ ստեղծված են հավասար։ Նախադասության վերաշարադրման կարճ հարցումը համեմատելի չէ երկար վերլուծության, բազմափուլ կոդավորման սեսիայի կամ բարձր թույլտվությամբ պատկերի ստեղծման հարցումների հետ։ ( Google Cloud )

Գործոններ, որոնք հակված են մեծացնել էներգիայի սպառումը մեկ փոխազդեցության համար

• Ավելի երկար համատեքստային պատուհաններ

• Ավելի երկար պատասխաններ

• Գործիքի օգտագործման և վերականգնման քայլեր

• Բազմակի անցումներ դատողության կամ վավերացման համար

• Պատկերի, աուդիոյի կամ տեսանյութի ստեղծում

• Ավելի բարձր զուգահեռություն

• Ավելի ցածր լատենտության թիրախներ ( Google Cloud , քվանտացման, խմբաքանակավորման և սպասարկման ռազմավարություններ LLM էներգիայի օգտագործման մեջ )

Թեթև տեքստային պատասխանը կարող է համեմատաբար էժան լինել: Հսկայական բազմամոդալ աշխատանքային հոսքը կարող է, իհարկե, էժան չլինել: Դա մի փոքր նման է սուրճ պատվիրելուն և հարսանիքի կազմակերպմանը՝ սննդի մատակարարմանը: Երկուսն էլ տեխնիկապես համարվում են «սննդի սպասարկում»: Մեկը մյուսի նման չէ ☕🎉

Սա հատկապես կարևոր է արտադրանքի թիմերի համար: Այն գործառույթը, որը թվում է անվնաս քիչ օգտագործման դեպքում, կարող է մեծ մասշտաբով թանկ դառնալ, եթե օգտատիրոջ յուրաքանչյուր սեսիան դառնա ավելի երկար, ավելի հարուստ և ավելի հաշվողական ծանրաբեռնված: ( DOE , Google Cloud )

Սպառողական արհեստական ​​բանականությունը և ձեռնարկության արհեստական ​​բանականությունը նույնը չեն 🏢📱

Արհեստական ​​բանականությունը պատահականորեն օգտագործող միջին մարդը կարող է ենթադրել, որ իր պատահական հուշումներն են մեծ խնդիրը։ Սովորաբար, էներգիայի հիմնական պատմությունը դա չէ։ ( Google Cloud )

Ձեռնարկությունների օգտագործումը փոխում է մաթեմատիկան

• հազարավոր աշխատակիցներ

• միշտ աշխատող երկրորդ օդաչուներ

• ավտոմատացված փաստաթղթերի մշակում

• զանգերի ամփոփում

• պատկերի վերլուծություն

• կոդի վերանայման գործիքներ

• ֆոնային գործակալները անընդհատ աշխատում են

Ահա թե որտեղ է էներգիայի համախառն օգտագործումը սկսում մեծ նշանակություն ունենալ։ Ոչ թե որովհետև յուրաքանչյուր գործողություն ապոկալիպտիկ է, այլ որովհետև կրկնությունը բազմապատկիչ է։ ( DOE , IEA )

Իմ սեփական փորձարկումների և աշխատանքային հոսքի ակնարկներում մարդիկ զարմանում են հենց այստեղ։ Նրանք կենտրոնանում են մոդելի անվան կամ աչքի ընկնող ցուցադրության վրա և անտեսում ծավալը։ Ծավալը հաճախ իրական շարժիչ ուժն է, կամ փրկարարը՝ կախված նրանից, թե դուք հաշիվ եք կազմում հաճախորդների համար, թե վճարում եք կոմունալ ծառայությունների համար 😅

Սպառողների համար ազդեցությունը կարող է թվալ վերացական։ Գործարարների համար այն շատ արագ դառնում է կոնկրետ։

• ավելի մեծ ենթակառուցվածքային օրինագծեր

• ավելի շատ ճնշում օպտիմալացման համար

• հնարավորության դեպքում ավելի մեծ անհրաժեշտություն կա փոքր մոդելների համար

• ներքին կայունության հաշվետվություն

• ավելի շատ ուշադրություն քեշավորմանը և երթուղայնացմանը ( Google Cloud , Green AI )

Ինչպես կրճատել արհեստական ​​ինտելեկտի էներգիայի օգտագործումը՝ առանց հրաժարվելու արհեստական ​​ինտելեկտից 🌱

Այս մասը կարևոր է, քանի որ նպատակը «արհեստական ​​բանականության օգտագործումը դադարեցնելը» չէ: Սովորաբար դա իրատեսական չէ և նույնիսկ անհրաժեշտ չէ: Ավելի լավ օգտագործումը ավելի խելացի ուղի է:.

Ահա ամենամեծ լծակները

1. Օգտագործեք ամենափոքր մոդելը, որը կկատարի աշխատանքը

Ոչ բոլոր առաջադրանքներն են պահանջում ծանրակշիռ տարբերակ։ Դասակարգման կամ ամփոփման ավելի թեթև մոդելը կարող է արագ կրճատել վատնումները։ ( Կանաչ արհեստական ​​բանականություն , Google Cloud )

2. Կրճատեք հուշումներն ու ելքային տվյալները

Մանրամասն մուտքագրել, մանրամասն դուրս գրել։ Լրացուցիչ տոկենները նշանակում են լրացուցիչ հաշվարկ։ Երբեմն հարցման կրճատումը ամենահեշտ հաղթանակն է։ ( Քվանտացման, խմբաքանակավորման և մատուցման ռազմավարություններ LLM էներգիայի օգտագործման մեջ , Google Cloud )

3. Կրկնվող արդյունքները պահեք քեշում

Եթե ​​նույն հարցումը անընդհատ հայտնվում է, մի՛ վերականգնեք այն ամեն անգամ։ Սա գրեթե ակնհայտ է, բայց այն անտեսվում է։ ( Google Cloud )

4. Հնարավորության դեպքում կատարեք խմբաքանակային աշխատանքներ

Խմբաքանակներով առաջադրանքներ կատարելը կարող է բարելավել օգտագործումը և նվազեցնել թափոնները: ( Քվանտացման, խմբաքանակավորման և մատուցման ռազմավարություններ LLM էներգիայի օգտագործման մեջ ):

5. Խելացիորեն ուղղորդեք առաջադրանքները

Մեծ մոդելները օգտագործեք միայն այն դեպքում, երբ վստահությունը նվազում է կամ առաջադրանքի բարդությունը մեծանում է: ( Կանաչ արհեստական ​​բանականություն , Google Cloud )

6. Օպտիմալացնել ենթակառուցվածքը

Ավելի լավ ժամանակացույց, ավելի լավ սարքավորումներ, ավելի լավ սառեցման ռազմավարություն՝ պարզ բաներ, մեծ շահույթ: ( Google Cloud , DOE )

7. Չափեք նախքան ենթադրելը

Շատ թիմեր կարծում են, որ գիտեն, թե որտեղ է գնում հզորությունը։ Հետո չափում են, և ահա այն՝ թանկ մասը գտնվում է ուրիշ տեղ։ ( Google Cloud )

Արդյունավետ աշխատանքը հմայիչ չէ։ Այն հազվադեպ է ծափահարությունների արժանանում։ Բայց դա արհեստական ​​բանականությունն ավելի մատչելի և պաշտպանելի դարձնելու լավագույն միջոցներից մեկն է մասշտաբային առումով 👍

Արհեստական ​​​​ինտելեկտի էլեկտրաէներգիայի օգտագործման մասին տարածված առասպելներ 🚫

Եկեք մի քանի առասպելներ ցրենք, քանի որ այս թեման արագ խճճվում է։.

Միֆ 1. Արհեստական ​​բանականության յուրաքանչյուր հարցում անիմաստորեն անիմաստ է

Ոչ պարտադիր։ Որոշները համեստ են։ Մասշտաբը և առաջադրանքի տեսակը մեծ նշանակություն ունեն։ ( Google Cloud )

Միֆ 2՝ մարզումն է միակ կարևոր բանը

Ոչ։ Եզրակացությունը կարող է գերիշխել ժամանակի ընթացքում, երբ օգտագործումը մեծ է։ ( Google Research , DOE )

Միֆ 3. Ավելի մեծ մոդելը միշտ նշանակում է ավելի լավ արդյունք

Երբեմն այո, երբեմն՝ բացարձակապես ոչ։ Շատ առաջադրանքներ լավ են կատարվում փոքր համակարգերով։ ( Կանաչ արհեստական ​​բանականություն )

Միֆ 4. Էներգիայի օգտագործումը ավտոմատ կերպով հավասար է ածխածնի ազդեցությանը

Ոչ ճիշտ։ Ածխածինը նույնպես կախված է էներգիայի աղբյուրից։ ( IEA , Strubell et al. )

Միֆ 5 - Դուք կարող եք ստանալ մեկ ունիվերսալ թիվ արհեստական ​​ինտելեկտի էներգիայի օգտագործման համար

Դուք չեք կարող, գոնե ոչ այնպիսի ձևով, որը կմնա իմաստալից։ Կամ կարող եք, բայց այն այնքան միջինացված կլինի, որ կդադարի արժեքավոր լինելուց։ ( ՄԷԳ )

Ահա թե ինչու « Որքա՞ն էներգիա է օգտագործում արհեստական ​​բանականությունը» խելացի է, բայց միայն այն դեպքում, եթե պատրաստ եք շերտավոր պատասխանի, այլ ոչ թե կարգախոսի։

Ուրեմն... իրականում որքա՞ն էներգիա է օգտագործում արհեստական ​​բանականությունը։ 🤔

Ահա հիմնավորված եզրակացությունը։.

Արհեստական ​​բանականությունը օգտագործում է

• մի փոքր , որոշ պարզ առաջադրանքների համար

• շատ ավելին ՝ ծանր մուլտիմոդալ սերնդի համար

• շատ մեծ գումար ՝ մեծածավալ մոդելային ուսուցման համար

• ընդհանուր առմամբ հսկայական քանակությամբ , երբ ժամանակի ընթացքում կուտակվում են միլիոնավոր հարցումներ ( Google Cloud , DOE )

Այդպիսին է դրա ձևը։.

Հիմնականը ամբողջ խնդիրը մեկ վախեցնող թվի կամ մեկ արհամարհական թոթվելը չէ։ Արհեստական ​​բանականության էներգիայի օգտագործումը իրական է։ Այն կարևոր է։ Այն կարող է բարելավվել։ Եվ դրա մասին խոսելու լավագույն միջոցը համատեքստում է, այլ ոչ թե թատերականությամբ։ ( IEA , Կանաչ Արհեստական ​​Բանականություն )

Հանրային զրույցների մեծ մասը տատանվում է ծայրահեղությունների միջև՝ մի կողմից՝ «Արհեստական ​​բանականությունը հիմնականում անվճար է», մյուս կողմից՝ «Արհեստական ​​բանականությունը էլեկտրական ապոկալիպսիս է»։ Իրականությունն ավելի սովորական է, ինչը այն ավելի տեղեկատվական է դարձնում։ Դա համակարգային խնդիր է։ Սարքավորումներ, ծրագրային ապահովում, օգտագործում, մասշտաբ, սառեցում, դիզայնի ընտրություններ։ Մի փոքր պրոզաիկ՞։ Կարևոր՞։ Շատ։ ( IEA , Google Cloud )

Հիմնական եզրակացություններ ⚡🧾

Եթե ​​այստեղ եք եկել՝ հարցնելով, թե որքան էներգիա է օգտագործում արհեստական ​​բանականությունը , ահա թե ինչ եզրակացություն է արվում.

• Բոլորին համապատասխանող մեկ թիվ չկա

• Մարզումները սովորաբար ամենաշատ էներգիան են սպառում սկզբում

• Եզրակացությունը դառնում է մասշտաբային կարևոր գործոն

• Մոդելի չափը, սարքավորումները, աշխատանքային ծանրաբեռնվածությունը և սառեցումը բոլորն էլ կարևոր են

• Փոքր օպտիմալացումները կարող են զարմանալիորեն մեծ տարբերություն ստեղծել

• Ամենախելացի հարցը ոչ միայն «որքա՞ն» է, այլև «որ առաջադրանքի համար, ի՞նչ համակարգում, ի՞նչ մասշտաբով» ( IEA , Google Cloud ):

Այո՛, արհեստական ​​բանականությունը օգտագործում է իրական էներգիա։ Բավականաչափ ուշադրություն արժանանալու համար։ Բավականաչափ ավելի լավ ինժեներական լուծումներ արդարացնելու համար։ Բայց ոչ մուլտֆիլմային, միանշանակ իմաստով։.

Հաճախակի տրվող հարցեր

Որքա՞ն էներգիա է արհեստական ​​բանականությունը օգտագործում մեկ հուշման համար։

Մեկ հարցման համար ունիվերսալ թիվ չկա, քանի որ էներգիայի օգտագործումը կախված է մոդելից, սարքավորումներից, հարցման երկարությունից, ելքային հաղորդագրության երկարությունից և ներգրավված ցանկացած լրացուցիչ գործիքի օգտագործումից: Կարճ տեքստային պատասխանը կարող է համեմատաբար համեստ լինել, մինչդեռ երկար բազմամոդալ առաջադրանքը կարող է զգալիորեն ավելի շատ էներգիա սպառել: Ամենաիմաստալից պատասխանը ոչ թե մեկ վերնագիրն է, այլ առաջադրանքի շուրջ համատեքստը:.

Ինչո՞ւ են արհեստական ​​բանականության հզորության օգտագործման գնահատականները այդքան տարբեր։

Գնահատականները տարբեր են, քանի որ մարդիկ հաճախ համեմատում են շատ տարբեր բաներ՝ արհեստական ​​բանականություն (AI) մեկ անվան տակ։ Մեկ գնահատականը կարող է նկարագրել թեթև չաթբոտի պատասխան, մինչդեռ մյուսը կարող է ընդգրկել պատկերի ստեղծում, տեսանյութ կամ մեծածավալ մոդելի ուսուցում։ Որպեսզի գնահատականը իմաստալից լինի, այն պետք է ունենա համատեքստ, ինչպիսիք են՝ առաջադրանքի տեսակը, մոդելի չափը, սարքավորումները, օգտագործումը, սառեցումը և գտնվելու վայրը։.

Արհեստական ​​բանականության մարզումը, թե՞ ամեն օր արհեստական ​​բանականության կիրառումն է ավելի մեծ էներգիայի ծախս։

Ուսուցումը սովորաբար մեծ նախնական էներգետիկ իրադարձություն է, քանի որ այն կարող է ներառել բազմաթիվ չիպերի երկար ժամանակահատվածներում աշխատել հսկայական տվյալների բազմությունների վրա: Եզրակացությունը շարունակական ծախսն է, որը ի հայտ է գալիս ամեն անգամ, երբ օգտատերերը հարցումներ են ուղարկում, և մասշտաբով այն կարող է նաև շատ մեծ դառնալ: Գործնականում երկուսն էլ կարևոր են, չնայած դրանք կարևոր են տարբեր ձևերով:.

Ի՞նչն է մեկ արհեստական ​​բանականության հարցումը դարձնում շատ ավելի էներգատար, քան մյուսը։

Ավելի երկար համատեքստային պատուհանները, ավելի երկար արդյունքները, կրկնվող դատողությունների անցումները, գործիքների կանչերը, վերականգնման քայլերը և բազմամոդալ գեներացիան՝ բոլորը հակված են մեծացնել մեկ փոխազդեցության համար էներգիայի օգտագործումը: Լատենտության թիրախները նույնպես կարևոր են, քանի որ ավելի արագ արձագանքման պահանջները կարող են նվազեցնել արդյունավետությունը: Փոքր վերաշարադրման հարցումը և երկար կոդավորման կամ պատկերի աշխատանքային հոսքը պարզապես համեմատելի չեն:.

Ի՞նչ թաքնված էներգիայի ծախսեր են մարդիկ անտեսում, երբ հարցնում են, թե որքան էներգիա է օգտագործում արհեստական ​​բանականությունը։

Շատերը կենտրոնանում են միայն չիպի վրա, սակայն դա անտեսում է սառեցումը, տվյալների տեղաշարժը, պահեստավորումը, անգործունակության հզորությունը և հուսալիության համակարգերը, ինչպիսիք են պահուստավորումը կամ ձախողման շրջանները: Այս օժանդակ շերտերը կարող են էապես փոխել ընդհանուր հետքը: Ահա թե ինչու չափանիշն ինքնին հազվադեպ է արտացոլում էներգիայի ամբողջական պատկերը:.

Արդյո՞ք ավելի մեծ արհեստական ​​ինտելեկտի մոդելը միշտ ավելի շատ էներգիա է օգտագործում։

Ավելի մեծ մոդելները սովորաբար պահանջում են ավելի շատ հաշվարկային հզորություն և հիշողություն, հատկապես երկար կամ բարդ արդյունքների համար, ուստի դրանք հաճախ սպառում են ավելի շատ էներգիա: Սակայն ավելի մեծը ավտոմատ կերպով չի նշանակում ավելի լավ յուրաքանչյուր աշխատանքի համար, և օպտիմալացումը կարող է զգալիորեն փոխել պատկերը: Փոքր մասնագիտացված մոդելները, քվանտացումը, խմբաքանակավորումը, քեշավորումը և ավելի խելացի երթուղավորումը կարող են բարելավել արդյունավետությունը:.

Սպառողական արհեստական ​​բանականությունը՞ է էներգիայի հիմնական խնդիրը, թե՞ ձեռնարկությունների արհեստական ​​բանականությունն է ավելի մեծ խնդիրը։

Անկանոն սպառողական օգտագործումը կարող է կուտակվել, բայց ավելի լայն էներգետիկ պատմությունը հաճախ ի հայտ է գալիս ձեռնարկությունների տեղակայման ժամանակ: Մշտապես ակտիվ համաօդաչու համակարգերը, փաստաթղթերի մշակումը, զանգերի ամփոփումը, կոդի վերանայումը և ֆոնային գործակալները ստեղծում են կրկնվող պահանջարկ մեծ օգտատերերի բազաներում: Խնդիրը սովորաբար ավելի քիչ է վերաբերում մեկ դրամատիկ գործողությանը, քան ժամանակի ընթացքում կայուն ծավալին:.

Որքա՞ն էներգիա է օգտագործում արհեստական ​​բանականությունը, երբ ներառում եք տվյալների կենտրոնները և սառեցումը։

Երբ ներառվում է ավելի լայն համակարգը, պատասխանն ավելի իրատեսական է դառնում և սովորաբար ավելի մեծ է, քան ենթադրում են միայն չիպերի վերաբերյալ գնահատականները: Տվյալների կենտրոններին հզորություն է անհրաժեշտ ոչ միայն հաշվարկների, այլև սառեցման, ցանցային միացման, պահեստավորման և ազատ հզորությունը պահպանելու համար: Ահա թե ինչու ենթակառուցվածքների նախագծումը և օբյեկտների արդյունավետությունը գրեթե նույնքան կարևոր են, որքան մոդելի նախագծումը:.

Ո՞րն է արհեստական ​​բանականության էներգիայի օգտագործումը իրական աշխատանքային հոսքում չափելու ամենագործնական եղանակը։

Լավագույն մեթոդը կախված է նրանից, թե ով է չափում և ինչ նպատակով: Արագ համեմատությունների համար կարող է օգնել մոտավոր կանոն, մինչդեռ վատտաչափերը, GPU հեռաչափությունը, ամպային հաշվառման գրանցամատյանները և տվյալների կենտրոնի հաշվետվությունները ապահովում են աստիճանաբար ավելի ուժեղ գործառնական պատկերացում: Կայուն զարգացման լուրջ աշխատանքների համար կյանքի ցիկլի ավելի լիարժեք պատկերացումն ավելի ուժեղ է, չնայած այն ավելի դանդաղ է և ավելի պահանջկոտ:.

Ինչպե՞ս կարող են թիմերը կրճատել արհեստական ​​ինտելեկտի էներգիայի օգտագործումը՝ առանց հրաժարվելու արհեստական ​​ինտելեկտի օգտակար գործառույթներից։

Ամենամեծ օգուտները սովորաբար ստացվում են ամենափոքր մոդելի օգտագործումից, որը դեռևս կատարում է աշխատանքը, կրճատելով հրահանգներն ու արդյունքները, քեշավորելով կրկնվող արդյունքները, խմբաքանակային աշխատանքը և միայն ավելի դժվար առաջադրանքները ուղղորդելով ավելի մեծ մոդելներին: Կարևոր է նաև ենթակառուցվածքների օպտիմալացումը, մասնավորապես՝ ժամանակացույցը և սարքավորումների արդյունավետությունը: Շատ խողովակաշարերում չափումը նախ օգնում է կանխել թիմերի կողմից սխալ բանի օպտիմալացումը:.

Հղումներ

1. Միջազգային էներգետիկ գործակալություն (ՄԷԳ) - Արհեստական ​​բանականությունից էներգիայի պահանջարկ - ie.org

2. ԱՄՆ Էներգետիկայի նախարարություն (DOE) - DOE-ն հրապարակել է էլեկտրաէներգիայի պահանջարկի աճի տվյալների կենտրոնների գնահատման նոր զեկույց - energy.gov

3. Google Cloud - Արհեստական ​​բանականության եզրակացության շրջակա միջավայրի վրա ազդեցության չափում - cloud.google.com

4. Google Research - Լավ նորություններ մեքենայական ուսուցման ուսուցման ածխածնային հետքի մասին - research.google

5. Google Research - Մեքենայական ուսուցման ուսուցման ածխածնային հետքը կհավասարակշռվի, ապա կնվազի - research.google

6. arXiv - Կանաչ արհեստական ​​բանականություն - arxiv.org

7. arXiv - Strubell et al. - arxiv.org

8. arXiv - Քվանտացման, խմբաքանակավորման և մատուցման ռազմավարություններ LLM էներգիայի օգտագործման մեջ - arxiv.org

Գտեք արհեստական ​​բանականության վերջին նորույթները պաշտոնական արհեստական ​​բանականության օգնականների խանութում

Մեր մասին