რამდენ ენერგიას მოიხმარს ხელოვნური ინტელექტი?

პასუხი: ხელოვნურ ინტელექტს შეუძლია ძალიან მცირე რაოდენობის ელექტროენერგიის მოხმარება მარტივი ტექსტური დავალების შესასრულებლად, მაგრამ გაცილებით მეტი, როდესაც მოთხოვნები გრძელია, გამომავალი მონაცემები მულტიმოდალურია ან სისტემები მასშტაბურად მუშაობენ. ტრენინგი, როგორც წესი, ძირითადი საწყისი ენერგიის წყაროა, ხოლო ყოველდღიური დასკვნები მნიშვნელოვანი ხდება მოთხოვნების დაგროვებისას.

ძირითადი დასკვნები:

კონტექსტი : ენერგიის ნებისმიერი შეფასების მითითებამდე განსაზღვრეთ დავალება, მოდელი, აპარატურა და მასშტაბი.

ტრენინგი : ბიუჯეტის დაგეგმვისას მოდელის ტრენინგი მთავარ წინასწარ ენერგეტიკულ მოვლენად განიხილეთ.

დასკვნა : ყურადღებით დააკვირდით განმეორებით დასკვნას, რადგან მცირე ხარჯები მოთხოვნის მიხედვით სწრაფად გროვდება მასშტაბურად.

ინფრასტრუქტურა : ნებისმიერ რეალისტურ შეფასებაში ჩართეთ გაგრილება, შენახვა, ქსელები და უმოქმედო სიმძლავრე.

ეფექტურობა : ენერგიის მოხმარების შესამცირებლად გამოიყენეთ უფრო პატარა მოდელები, უფრო მოკლე მოთხოვნები, ქეშირება და პარტიული შენახვა.

სტატიები, რომელთა წაკითხვაც შეიძლება მოგეწონოთ ამის შემდეგ:

🔗 როგორ მოქმედებს ხელოვნური ინტელექტი გარემოზე
განმარტავს ხელოვნური ინტელექტის ნახშირბადის კვალს, ენერგიის მოხმარებას და მდგრადობასთან დაკავშირებულ კომპრომისებს.

🔗 ხელოვნური ინტელექტი გარემოსთვის საზიანოა?
ავლენს ხელოვნური ინტელექტის მოდელებისა და მონაცემთა ცენტრების ფარულ გარემოსდაცვით ხარჯებს.

🔗 ხელოვნური ინტელექტი კარგია თუ ცუდი? დადებითი და უარყოფითი მხარეები
ხელოვნური ინტელექტის სარგებლის, რისკების, ეთიკისა და რეალური ზემოქმედების დაბალანსებული ხედვა.

🔗 რა არის ხელოვნური ინტელექტი? მარტივი სახელმძღვანელო
რამდენიმე წუთში შეისწავლეთ ხელოვნური ინტელექტის საფუძვლები, ძირითადი ტერმინები და ყოველდღიური მაგალითები.

რატომ არის ეს კითხვა უფრო მნიშვნელოვანი, ვიდრე ხალხს ჰგონია 🔍

ხელოვნური ინტელექტით ენერგიის გამოყენება მხოლოდ გარემოსდაცვითი განხილვის საგანი არ არის. ის რამდენიმე ძალიან რეალურ საკითხს ეხება:

• ელექტროენერგიის ღირებულება - განსაკუთრებით იმ ბიზნესებისთვის, რომლებიც ხელოვნური ინტელექტის უამრავ მოთხოვნას ახორციელებენ

• ნახშირბადის ზემოქმედება - სერვერების უკან არსებული ენერგიის წყაროდან გამომდინარე

• აპარატურის დაძაბულობა - მძლავრი ჩიპები სერიოზულ სიმძლავრეს გამოიმუშავებენ

• მასშტაბირებადი გადაწყვეტილებები - ერთი იაფფასიანი მოთხოვნა შეიძლება მილიონობით ძვირადღირებულ მოთხოვნად იქცეს

• პროდუქტის დიზაინი - ეფექტურობა ხშირად უკეთესი მახასიათებელია, ვიდრე ხალხს წარმოუდგენია ( Google Cloud , მწვანე ხელოვნური ინტელექტი )

ბევრი ადამიანი კითხულობს „რამდენ ენერგიას იყენებს ხელოვნური ინტელექტი?“, რადგან მათ სურთ დრამატული რიცხვი. რაღაც უზარმაზარი. რაღაც სათაურებისთვის შესაფერისი. თუმცა, უკეთესი კითხვა ასეთია: ხელოვნური ინტელექტის რომელ გამოყენებაზე ვსაუბრობთ? რადგან ეს ყველაფერს ცვლის. ( IEA )

ერთი ავტომატური დასრულების წინადადება? საკმაოდ პატარა.
მასშტაბური კლასტერების მეშვეობით სასაზღვრო მოდელის სწავლება? ბევრად, ბევრად უფრო დიდი.
მუდმივად ჩართული საწარმოს ხელოვნური ინტელექტის სამუშაო პროცესი, რომელიც მილიონობით მომხმარებელს ეხება? დიახ, ეს სწრაფად გროვდება... როგორც პენსიები, რომლებიც ქირის გადახდად გარდაიქმნება. ( ენერგეტიკის დეპარტამენტი , Google Cloud )

რამდენ ენერგიას მოიხმარს ხელოვნური ინტელექტი? მოკლე პასუხი ⚡

აქ არის პრაქტიკული ვერსია.

ხელოვნურ ინტელექტს შეუძლია გამოიყენოს ნებისმიერი ადგილი, ვატ-საათის მცირე ნაწილიდან მსუბუქი დავალების შესასრულებლად, ელექტროენერგიის უზარმაზარი რაოდენობით ფართომასშტაბიანი ტრენინგებისა და განლაგებისთვის. ეს დიაპაზონი სასაცილოდ ფართოდ ჟღერს, რადგან ის ძალიან ფართოა. ( Google Cloud , Strubell და სხვ. )

მარტივად რომ ვთქვათ:

• მარტივი დასკვნითი ამოცანები - ხშირად შედარებით მოკრძალებული თითოეული გამოყენების მიხედვით

• ხანგრძლივი საუბრები, დიდი გამომავალი სიმძლავრე, სურათების გენერირება, ვიდეოების გენერირება - შესამჩნევად მეტი ენერგომოხმარება

• დიდი მოდელების წვრთნა - ენერგომოხმარების მძიმეწონოსანი ჩემპიონი

• ხელოვნური ინტელექტის მასშტაბური გამოყენება მთელი დღის განმავლობაში - სადაც „მცირე მოთხოვნის შემთხვევაში“ „დიდ ჯამურ ხარჯად“ იქცევა ( Google Cloud , DOE )

კარგი წესი ასეთია:

• ტრენინგი გიგანტური წინასწარი ენერგეტიკული მოვლენაა 🏭

• დასკვნა მიმდინარე კომუნალური გადასახადია 💡 ( სტრუბელი და სხვ. , Google Research )

ასე რომ, როდესაც ვინმე იკითხავს, ​​რამდენ ენერგიას იყენებს ხელოვნური ინტელექტი?, პირდაპირი პასუხია: „არა ერთი რაოდენობა - არამედ საკმარისი იმისათვის, რომ ეფექტურობას მნიშვნელობა ჰქონდეს და საკმარისი იმისათვის, რომ მასშტაბმა შეცვალოს მთელი ისტორია“. ( IEA , მწვანე ხელოვნური ინტელექტი )

ვიცი, რომ ეს ისეთი მიმზიდველი არ არის, როგორც ხალხს სურს. მაგრამ სიმართლეა.

რა ხდის ხელოვნური ინტელექტის ენერგიის შეფასების ვერსიას კარგს? 🧠

კარგი შეფასება არ არის მხოლოდ გრაფიკზე დრამატული რიცხვი. პრაქტიკული შეფასება მოიცავს კონტექსტს. წინააღმდეგ შემთხვევაში, ეს ჰგავს ნისლის აწონვას აბაზანის სასწორით. საკმარისად ახლოს, რომ შთამბეჭდავად ჟღერდეს, მაგრამ არა საკმარისად ახლოს, რომ სანდო იყოს. ( IEA , Google Cloud )

ხელოვნური ინტელექტის ენერგიის ღირსეული შეფასება უნდა მოიცავდეს:

• დავალების ტიპი - ტექსტი, სურათი, აუდიო, ვიდეო, ტრენინგი, დახვეწა

• მოდელის ზომა - უფრო დიდ მოდელებს, როგორც წესი, მეტი გამოთვლა სჭირდებათ

• გამოყენებული აპარატურა - ყველა ჩიპი ერთნაირად ეფექტური არ არის

• სესიის ხანგრძლივობა - მოკლე მოთხოვნები და გრძელი მრავალსაფეხურიანი სამუშაო პროცესები ძალიან განსხვავდება ერთმანეთისგან

• გამოყენება - უმოქმედო სისტემები კვლავ მოიხმარენ ენერგიას

• გაგრილება და ინფრასტრუქტურა - სერვერი მთელი ხარჯი არ არის

• მდებარეობა და ენერგეტიკული ნაზავი - ელექტროენერგია ყველგან თანაბრად სუფთა არ არის ( Google Cloud , IEA )

სწორედ ამიტომ შეიძლება ორ ადამიანს ხელოვნური ინტელექტის ელექტროენერგიის გამოყენებაზე კამათი და ორივე თავდაჯერებულად ჟღერდეს, როდესაც სრულიად განსხვავებულ საკითხებზე საუბრობს. ერთი ადამიანი ერთ ჩატბოტის პასუხს გულისხმობს, მეორე კი - გიგანტურ სავარჯიშო სირბილს. ორივე ამბობს „ხელოვნური ინტელექტი“ და უცებ საუბარი ლიანდაგიდან გადადის 😅

შედარების ცხრილი - ხელოვნური ინტელექტის მიერ ენერგიის მოხმარების შეფასების საუკეთესო გზები 📊

აქ მოცემულია პრაქტიკული ცხრილი ყველასთვის, ვინც ცდილობს უპასუხოს კითხვას მისი პერფორმანსულ ხელოვნებად გადაქცევის გარეშე.

ინსტრუმენტი ან მეთოდი	საუკეთესო აუდიტორია	ფასი	რატომ მუშაობს
მარტივი, ზოგადი შეფასების წესი	ცნობისმოყვარე მკითხველები, სტუდენტები	უფასო	სწრაფი, მარტივი, ცოტა ბუნდოვანი - მაგრამ საკმარისად კარგია უხეში შედარებებისთვის
მოწყობილობის მხარეს არსებული ვატმეტრი	მარტოხელა მშენებლები, ჰობისტები	დაბალი	ზომავს მანქანის მიერ მოხმარებულ სითხეს, რომელიც გამაგრილებლად ბეტონისაა
GPU ტელემეტრიის დაფა	ინჟინრები, მანქანური სწავლების გუნდები	საშუალო	გამოთვლითი სამუშაოების უფრო დეტალური აღწერა, თუმცა შესაძლოა გამოტოვოთ უფრო დიდი ობიექტის ხარჯები
ღრუბლოვანი ანგარიშსწორება + გამოყენების ჟურნალები	სტარტაპები, ოპერაციული გუნდები	საშუალოდან მაღალამდე	აკავშირებს ხელოვნური ინტელექტის გამოყენებას რეალურ ხარჯებთან - არასრულყოფილი, მაგრამ მაინც საკმაოდ ღირებული
მონაცემთა ცენტრის ენერგიის ანგარიშგება	საწარმოს გუნდები	მაღალი	უფრო ფართო ოპერაციულ ხილვადობას იძლევა, გაგრილება და ინფრასტრუქტურა აქ იწყებს გამოჩენას
სრული სასიცოცხლო ციკლის შეფასება	მდგრადი განვითარების გუნდები, დიდი ორგანიზაციები	ეიფორიული, ზოგჯერ მტკივნეული	სერიოზული ანალიზისთვის საუკეთესოა, რადგან ის თავად ჩიპს სცდება... თუმცა ნელი და ერთგვარი „მხეცია“

იდეალური მეთოდი არ არსებობს. ეს არის გარკვეულწილად იმედგაცრუების მომგვრელი ნაწილი. თუმცა, არსებობს ღირებულების დონეები. და როგორც წესი, რაღაც გამოსადეგი ჯობნის სრულყოფილებას. ( Google Cloud )

ყველაზე მნიშვნელოვანი მაგია არ არის - ეს გამოთვლები და აპარატურაა 🖥️🔥

როდესაც ადამიანები ხელოვნური ინტელექტით ენერგიის მოხმარებას წარმოიდგენენ, ისინი ხშირად თავად მოდელს წარმოიდგენენ, როგორც ენერგიის მომხმარებელს. თუმცა, მოდელი აპარატურაზე მომუშავე პროგრამული ლოგიკაა. ელექტროენერგიის გადასახადი აპარატურაზე ჩანს. ( Strubell et al. , Google Cloud )

ყველაზე დიდი ცვლადები, როგორც წესი, მოიცავს:

• GPU ან ამაჩქარებლის ტიპი

• რამდენი ჩიპი გამოიყენება

• რამდენ ხანს რჩებიან აქტიურები

• მეხსიერების დატვირთვა

• პარტიის ზომა და გამტარუნარიანობა

• კარგად არის თუ არა სისტემა ოპტიმიზირებული, თუ უბრალოდ ყველაფერი უხეში ძალით არის დამუშავებული ( Google Cloud , კვანტიზაცია, პარტირება და სერვინგის სტრატეგიები LLM ენერგიის გამოყენებაში )

მაღალოპტიმიზირებულ სისტემას შეუძლია მეტი სამუშაოს შესრულება ნაკლები ენერგიით. დაუდევარი სისტემა კი შეიძლება განსაცვიფრებელი თავდაჯერებულობით ხარჯავდეს ელექტროენერგიას. იცით, როგორია ეს - ზოგიერთი სისტემა სარბოლო მანქანებია, ზოგი კი სავაჭრო ურიკები, რომლებზეც რაკეტებია დამაგრებული 🚀🛒

და დიახ, მოდელის ზომას მნიშვნელობა აქვს. უფრო დიდი მოდელები, როგორც წესი, მეტ მეხსიერებას და მეტ გამოთვლას საჭიროებენ, განსაკუთრებით გრძელი გამომავალი მონაცემების გენერირების ან რთული მსჯელობის დამუშავებისას. თუმცა, ეფექტურობის ხრიკებს შეუძლიათ სურათის შეცვლა: ( მწვანე ხელოვნური ინტელექტი , კვანტიზაციის, პარტიული და სერვირების სტრატეგიები LLM ენერგიის გამოყენებაში )

• კვანტიზაცია

• უკეთესი მარშრუტიზაცია

• მცირე სპეციალიზებული მოდელები

• ქეშირება

• პარტიებად დაყოფა

• უფრო ჭკვიანი აპარატურის დაგეგმვა ( კვანტიზაციის, პარტირებისა და მომსახურების სტრატეგიები LLM ენერგიის გამოყენებაში )

ასე რომ, კითხვა მხოლოდ „რამდენად დიდია მოდელი“ არ არის, არამედ „რამდენად ინტელექტუალურად იმართება ის?“

ვარჯიში vs ინფერენცია - ესენი სხვადასხვა არსებები არიან 🐘🐇

ეს არის განხეთქილება, რომელიც თითქმის ყველას აბნევს.

ტრენინგი

ტრენინგი არის ის, როდესაც მოდელი სწავლობს ნიმუშებს უზარმაზარი მონაცემთა ნაკრებებიდან. ეს შეიძლება მოიცავდეს მრავალი ჩიპის მუშაობას ხანგრძლივი პერიოდის განმავლობაში, რომლებიც ამუშავებენ მონაცემების გიგანტურ მოცულობებს. ეს ეტაპი ენერგიის მომთხოვნია. ზოგჯერ კი ძალიან. ( სტრუბელი და სხვ. )

ვარჯიშის ენერგია დამოკიდებულია:

• მოდელის ზომა

• მონაცემთა ნაკრების ზომა

• სავარჯიშო გარბენის რაოდენობა

• წარუმატებელი ექსპერიმენტები

• საშვების დახვეწა

• აპარატურის ეფექტურობა

• გაგრილების სისტემა ( Strubell et al. , Google Research )

და აი, ის ნაწილი, რომელსაც ადამიანები ხშირად გამოტოვებენ - საზოგადოება ხშირად წარმოიდგენს ერთ დიდ სავარჯიშო რბოლას, რომელიც ერთხელ კეთდება, როგორც ამბის დასასრული. პრაქტიკაში, განვითარება შეიძლება მოიცავდეს განმეორებით რბოლებს, დახვეწას, გადამზადებას, შეფასებას და ყველა პროზაულ, მაგრამ ძვირადღირებულ იტერაციას მთავარი მოვლენის გარშემო. ( Strubell et al. , Green AI )

დასკვნა

დასკვნა არის მოდელი, რომელიც პასუხობს მომხმარებლის რეალურ მოთხოვნებს. ერთი მოთხოვნა შეიძლება დიდად არ გამოიყურებოდეს. თუმცა, დასკვნა მეორდება და მეორდება. მილიონჯერ. ზოგჯერ მილიარდჯერ. ( Google Research , DOE )

ინფერენციის ენერგია იზრდება:

• მოკლე ტექსტური ხანგრძლივობა

• გამომავალი სიგრძე

• მომხმარებელთა რაოდენობა

• შეყოვნების მოთხოვნები

• მულტიმოდალური მახასიათებლები

• უწყვეტი მუშაობის მოლოდინები

• უსაფრთხოებისა და შემდგომი დამუშავების ეტაპები ( Google Cloud , კვანტიზაცია, პარტირება და სერვირების სტრატეგიები LLM ენერგიის გამოყენებაში )

ასე რომ, ვარჯიში მიწისძვრაა. დასკვნა კი მოქცევა. ერთი დრამატულია, მეორე - მუდმივი და ორივეს შეუძლია სანაპიროს ოდნავ შეცვლა. შესაძლოა, ეს უჩვეულო მეტაფორაა, მაგრამ ის ერთიანდება... მეტ-ნაკლებად.

ფარული ენერგიის ხარჯები, რომლებიც ხალხს ავიწყდება 😬

როდესაც ვინმე ხელოვნური ინტელექტის მიერ ენერგიის მოხმარებას მხოლოდ ჩიპის მიხედვით აფასებს, ის, როგორც წესი, არასაკმარისად აფასებს. ყოველთვის არა კატასტროფულად, მაგრამ საკმარისად მნიშვნელოვანი. ( Google Cloud , IEA )

აქ არის დამალული ნაწილები:

გაგრილება ❄️

სერვერები წარმოქმნიან სითბოს. ძლიერი ხელოვნური ინტელექტის აპარატურა მის დიდ ნაწილს წარმოქმნის. გაგრილება არჩევითი არ არის. გამოთვლების მიერ მოხმარებული ყოველი ვატი, როგორც წესი, უფრო მეტ ენერგიას მოითხოვს ტემპერატურის ნორმალური დონის შესანარჩუნებლად. ( IEA , Google Cloud )

მონაცემთა მოძრაობა 🌐

მონაცემთა გადატანა საცავში, მეხსიერებასა და ქსელებში ასევე ენერგიას მოითხოვს. ხელოვნური ინტელექტი მხოლოდ „აზროვნება“ არ არის. ის ასევე მუდმივად ამუშავებს ინფორმაციას. ( IEA )

უმოქმედო ტევადობა 💤

პიკური მოთხოვნისთვის შექმნილი სისტემები ყოველთვის პიკური მოთხოვნის პირობებში არ მუშაობენ. უმოქმედო ან არასაკმარისად გამოყენებული ინფრასტრუქტურა მაინც მოიხმარს ელექტროენერგიას. ( Google Cloud )

რედუნდუნტურობა და საიმედოობა 🧱

სარეზერვო ასლები, გადართვის სისტემები, დუბლირებული რეგიონები, უსაფრთხოების ფენები - ყველაფერი ღირებულია, ყველაფერი უფრო დიდი ენერგეტიკული სურათის ნაწილია. ( IEA )

შენახვა 📦

ტრენინგის მონაცემები, ჩაშენებები, ჟურნალები, საკონტროლო წერტილები, გენერირებული გამომავალი - ეს ყველაფერი სადღაც ინახება. შენახვა, რა თქმა უნდა, გამოთვლაზე იაფია, მაგრამ ენერგიის თვალსაზრისით უფასო არ არის. ( IEA )

სწორედ ამიტომ, კითხვაზე „ რამდენ ენერგიას მოიხმარს ხელოვნური ინტელექტი?“ პასუხის გაცემა ერთი საორიენტაციო დიაგრამის დათვალიერებით შეუძლებელია. მნიშვნელოვანია მთელი დიაგრამა. ( Google Cloud , IEA )

რატომ შეიძლება ხელოვნური ინტელექტის ერთი მოთხოვნა პაწაწინა იყოს - მეორე კი - ურჩხული 📝➡️🎬

ყველა მოთხოვნა ერთნაირი არ არის. წინადადების გადაწერის მოკლე მოთხოვნა არ შეიძლება შედარდეს ხანგრძლივი ანალიზის, მრავალსაფეხურიანი კოდირების სესიის ან მაღალი გარჩევადობის გამოსახულების გენერირების მოთხოვნასთან. ( Google Cloud )

ფაქტორები, რომლებიც ზრდის ენერგიის მოხმარებას ურთიერთქმედებაზე:

• უფრო გრძელი კონტექსტური ფანჯრები

• უფრო გრძელი პასუხები

• ხელსაწყოს გამოყენებისა და ამოღების ეტაპები

• მსჯელობის ან დადასტურების მრავალი გავლა

• სურათის, აუდიოს ან ვიდეოს გენერირება

• უფრო მაღალი პარალელური

• დაბალი შეყოვნების სამიზნეები ( Google Cloud , კვანტიზაცია, პარტირება და სერვინგის სტრატეგიები LLM ენერგიის გამოყენებაში )

მსუბუქი ტექსტური პასუხი შეიძლება შედარებით იაფი იყოს. გიგანტური მულტიმოდალური სამუშაო პროცესი შეიძლება, უფრო სწორად, იაფი არ იყოს. ეს ცოტათი ჰგავს ყავის შეკვეთას ქორწილის კეტერინგს. ტექნიკურად, ორივე „კვების სერვისად“ ითვლება. ერთი მეორეს არ ჰგავს ☕🎉

ეს განსაკუთრებით მნიშვნელოვანია პროდუქტის გუნდებისთვის. ფუნქცია, რომელიც მცირე გამოყენების შემთხვევაში უვნებლად გამოიყურება, შეიძლება მასშტაბურად ძვირი გახდეს, თუ მომხმარებლის თითოეული სესია უფრო ხანგრძლივი, მდიდარი და გამოთვლითი სამუშაო გახდება. ( ენერგეტიკის დეპარტამენტი , Google Cloud )

მომხმარებლის ხელოვნური ინტელექტი და საწარმოს ხელოვნური ინტელექტი ერთი და იგივე არ არის 🏢📱

ხელოვნური ინტელექტის შემთხვევით გამოყენებისას, საშუალო ადამიანი შეიძლება ჩათვალოს, რომ მათი შემთხვევითი მინიშნებები დიდ პრობლემას წარმოადგენს. როგორც წესი, ენერგიის მთავარი ამბავი სწორედ ეს არ არის. ( Google Cloud )

საწარმოს გამოყენება ცვლის მათემატიკურ მაჩვენებლებს:

• ათასობით თანამშრომელი

• მუდმივად მომუშავე თანაპილოტები

• დოკუმენტების ავტომატიზირებული დამუშავება

• ზარის შეჯამება

• სურათის ანალიზი

• კოდის განხილვის ინსტრუმენტები

• მუდმივად მომუშავე ფონური აგენტები

სწორედ აქ იწყებს ენერგიის საერთო მოხმარების დიდი მნიშვნელობა. არა იმიტომ, რომ თითოეული ქმედება აპოკალიფსურია, არამედ იმიტომ, რომ გამეორება მამრავლებელია. ( ენერგეტიკის დეპარტამენტი , IEA )

ჩემს მიერ ტესტირებისა და სამუშაო პროცესის მიმოხილვებში, სწორედ აქ აკვირვებენ ადამიანები. ისინი ყურადღებას ამახვილებენ მოდელის სახელზე ან თვალშისაცემი დემო ვერსიაზე და უგულებელყოფენ ხმის მოცულობას. ხმის მოცულობა ხშირად ნამდვილი მამოძრავებელი ძალაა - ან ხსნის წყარო, იმისდა მიხედვით, უხდით თუ არა მომხმარებლებს გადასახადს თუ კომუნალურ გადასახადს 😅

მომხმარებლებისთვის, გავლენა შეიძლება აბსტრაქტულად გამოიყურებოდეს. ბიზნესებისთვის კი ის ძალიან სწრაფად ხდება კონკრეტული:

• უფრო დიდი ინფრასტრუქტურული გადასახადები

• ოპტიმიზაციისთვის მეტი ზეწოლა

• შესაძლებლობის შემთხვევაში, უფრო დიდი მოთხოვნილებაა უფრო მცირე ზომის მოდელების გამოყენება

• შიდა მდგრადი განვითარების ანგარიშგება

• მეტი ყურადღება ქეშირებასა და მარშრუტიზაციას ( Google Cloud , Green AI )

როგორ შევამციროთ ხელოვნური ინტელექტის ენერგიის მოხმარება ხელოვნურ ინტელექტზე უარის თქმის გარეშე 🌱

ეს ნაწილი მნიშვნელოვანია, რადგან მიზანი არ არის „ხელოვნური ინტელექტის გამოყენების შეწყვეტა“. როგორც წესი, ეს არარეალურია და არც კი არის აუცილებელი. უკეთესი გამოყენება უფრო გონივრული გზაა.

აქ არის ყველაზე დიდი ბერკეტები:

1. გამოიყენეთ ყველაზე პატარა მოდელი, რომელიც სამუშაოს ასრულებს

ყველა დავალებას არ სჭირდება მძიმეწონიანი ვარიანტი. კლასიფიკაციის ან შეჯამების უფრო მსუბუქი მოდელი სწრაფად შეამცირებს დანაკარგებს. ( მწვანე ხელოვნური ინტელექტი , Google Cloud )

2. შეამოკლეთ მოთხოვნები და გამომავალი მონაცემები

დეტალური ინფორმაცია შეიყვანე, დეტალური ინფორმაცია გამოიყვანე. დამატებითი ტოკენები დამატებით გამოთვლას ნიშნავს. ზოგჯერ მოთხოვნის შემცირება ყველაზე მარტივი გამარჯვებაა. ( კვანტიზაციის, პარტირებისა და სერვინგის სტრატეგიები LLM ენერგიის გამოყენებაში , Google Cloud )

3. განმეორებითი შედეგების ქეშირება

თუ ერთი და იგივე მოთხოვნა გამუდმებით ჩნდება, ნუ აღადგენთ მას ყოველ ჯერზე. ეს თითქმის აშკარაა, მაგრამ მაინც ვერ ხერხდება. ( Google Cloud )

4. შეძლებისდაგვარად, შეასრულეთ ჯგუფური სამუშაოები

დავალებების პარტიებად შესრულებამ შეიძლება გააუმჯობესოს გამოყენება და შეამციროს ნარჩენები. ( კვანტიზაციის, პარტიებად დაყოფისა და სერვირების სტრატეგიები LLM ენერგიის გამოყენებაში )

5. დავალებების ინტელექტუალურად მარშრუტიზაცია

დიდი მოდელები გამოიყენეთ მხოლოდ მაშინ, როდესაც თავდაჯერებულობა მცირდება ან დავალების სირთულე იზრდება. ( მწვანე ხელოვნური ინტელექტი , Google Cloud )

6. ინფრასტრუქტურის ოპტიმიზაცია

უკეთესი გრაფიკი, უკეთესი აპარატურა, უკეთესი გაგრილების სტრატეგია - პროზაული რამ, უზარმაზარი სარგებელი. ( Google Cloud , DOE )

7. გაზომეთ დაშვებამდე

ბევრი გუნდი ფიქრობს, რომ იცის, სად მიდის ენერგია. შემდეგ ზომავს და აი, რა ხდება - ძვირადღირებული ნაწილი სხვაგან დევს. ( Google Cloud )

ეფექტურობისკენ მიმართული მუშაობა არ არის მომხიბვლელი. იშვიათად იმსახურებს აპლოდისმენტებს. თუმცა, ეს ერთ-ერთი საუკეთესო გზაა, რომ ხელოვნური ინტელექტი უფრო ხელმისაწვდომი და უფრო დაცული გახდეს მასშტაბურად 👍

ხელოვნური ინტელექტის მიერ ელექტროენერგიის გამოყენების შესახებ გავრცელებული მითები 🚫

მოდით, რამდენიმე მითი გავფანტოთ, რადგან ეს თემა სწრაფად იხლართება.

მითი 1 - ხელოვნური ინტელექტის ყველა მოთხოვნა უზომოდ უსარგებლოა

არა აუცილებლად. ზოგიერთი მათგანი მოკრძალებულია. მასშტაბს და დავალების ტიპს დიდი მნიშვნელობა აქვს. ( Google Cloud )

მითი 2 - ვარჯიში ერთადერთია, რაც მნიშვნელოვანია

არა. როდესაც გამოყენება დიდია, დასკვნას შეუძლია დროთა განმავლობაში დომინირება მოახდინოს. ( Google Research , DOE )

მითი 3 - უფრო დიდი მოდელი ყოველთვის უკეთეს შედეგს ნიშნავს

ზოგჯერ კი, ზოგჯერ კი - არა. ბევრი დავალება კარგად სრულდება პატარა სისტემებთანაც. ( მწვანე ხელოვნური ინტელექტი )

მითი 4 - ენერგიის მოხმარება ავტომატურად ნახშირბადის ზემოქმედებას უტოლდება

არა ზუსტად. ნახშირბადიც დამოკიდებულია ენერგიის წყაროზე. ( IEA , სტრუბელი და სხვ. )

მითი 5 - ხელოვნური ინტელექტის ენერგიის გამოყენებისთვის შეგიძლიათ მიიღოთ ერთი უნივერსალური რიცხვი

არ შეგიძლია, სულ მცირე, არა ისეთი ფორმით, რომელიც მნიშვნელობას შეინარჩუნებს. ან შეგიძლია, მაგრამ ეს იმდენად საშუალო იქნება, რომ ღირებულებას დაკარგავს. ( IEA )

სწორედ ამიტომ, ჭკვიანურია კითხვა „ რამდენ ენერგიას იყენებს ხელოვნური ინტელექტი?“ - მაგრამ მხოლოდ იმ შემთხვევაში, თუ მზად ხართ სლოგანის ნაცვლად მრავალშრიანი პასუხის მისაღებად.

მაშ ასე... სინამდვილეში რამდენ ენერგიას მოიხმარს ხელოვნური ინტელექტი? 🤔

აი, დასაბუთებული დასკვნა.

ხელოვნური ინტელექტი იყენებს:

• ცოტა , რამდენიმე მარტივი ამოცანისთვის

• ბევრად მეტი , მძიმე მულტიმოდალური გენერაციისთვის

• ძალიან დიდი თანხა , მასშტაბური მოდელების ტრენინგისთვის

• ჯამში უზარმაზარი რაოდენობა , როდესაც დროთა განმავლობაში მილიონობით მოთხოვნა გროვდება ( Google Cloud , DOE )

სწორედ ასეთი ფორმა აქვს.

მთავარია, მთელი საკითხი ერთ საშიშ რიცხვად ან მხრების აჩეჩვად არ დავიყვანოთ. ხელოვნური ინტელექტით ენერგიის მოხმარება რეალურია. ის მნიშვნელოვანია. მისი გაუმჯობესება შესაძლებელია. და ამაზე საუბრის საუკეთესო გზა კონტექსტია და არა თეატრალურობა. ( IEA , მწვანე ხელოვნური ინტელექტი )

საჯარო დისკუსიების დიდი ნაწილი უკიდურესობებს შორის მერყეობს - ერთი მხრივ, „ხელოვნური ინტელექტი ძირითადად თავისუფალია“, მეორე მხრივ კი, „ხელოვნური ინტელექტი ელექტრო აპოკალიფსია“. რეალობა უფრო ჩვეულებრივია, რაც მას უფრო ინფორმაციულს ხდის. ეს სისტემური პრობლემაა. აპარატურა, პროგრამული უზრუნველყოფა, გამოყენება, მასშტაბირება, გაგრილება, დიზაინის არჩევანი. პროზაული? ცოტათი. მნიშვნელოვანი? ძალიან. ( IEA , Google Cloud )

ძირითადი რჩევები ⚡🧾

თუ აქ იმის კითხვით მოხვედით, თუ რამდენ ენერგიას მოიხმარს ხელოვნური ინტელექტი , აი, დასკვნა:

• არ არსებობს ერთიანი ნომერი, რომელიც ყველას მოერგება

• ვარჯიში, როგორც წესი, ყველაზე მეტ ენერგიას თავიდანვე ხარჯავს

• დასკვნა მასშტაბურად მთავარი ფაქტორი ხდება

• მოდელის ზომა, აპარატურა, სამუშაო დატვირთვა და გაგრილება - ყველაფერი მნიშვნელოვანია

• მცირე ოპტიმიზაციას შეუძლია გასაკვირი დიდი განსხვავება შექმნას

• ყველაზე ჭკვიანური კითხვაა არა მხოლოდ „რამდენი“, არამედ „რომელი ამოცანისთვის, რა სისტემაზე, რა მასშტაბით?“ ( IEA , Google Cloud )

ასე რომ, დიახ, ხელოვნური ინტელექტი რეალურ ენერგიას იყენებს. საკმარისად, რომ ყურადღება დაიმსახუროს. საკმარისად, რომ უკეთესი ინჟინერია გაამართლოს. მაგრამ არა მულტფილმისებური, ერთი რიცხვის გაგებით.

ხშირად დასმული კითხვები

რამდენ ენერგიას ხარჯავს ხელოვნური ინტელექტი ერთი შეთავაზებისთვის?

ერთი მოთხოვნისთვის უნივერსალური რიცხვი არ არსებობს, რადგან ენერგიის მოხმარება დამოკიდებულია მოდელზე, აპარატურაზე, მოთხოვნის სიგრძეზე, გამომავალი ტექსტის სიგრძეზე და ნებისმიერ დამატებით ხელსაწყოზე. მოკლე ტექსტური პასუხი შეიძლება შედარებით მოკრძალებული იყოს, ხოლო გრძელი მულტიმოდალური დავალება შეიძლება მნიშვნელოვნად მეტ ენერგიას მოიხმარდეს. ყველაზე მნიშვნელოვანი პასუხი არ არის სათაურის ერთი ციფრი, არამედ დავალების გარშემო არსებული კონტექსტი.

რატომ განსხვავდება ხელოვნური ინტელექტის სიმძლავრის გამოყენების შეფასებები ასე ძალიან?

შეფასებები განსხვავდება, რადგან ადამიანები ხშირად ძალიან განსხვავებულ ნივთებს ადარებენ ერთიანი ხელოვნური ინტელექტის ქვეშ. ერთი შეფასება შეიძლება აღწერდეს ჩატბოტის მიერ გაკეთებულ მსუბუქ პასუხს, ხოლო მეორე შეიძლება მოიცავდეს სურათების გენერირებას, ვიდეოს ან მასშტაბური მოდელის ტრენინგს. იმისათვის, რომ შეფასებას ჰქონდეს აზრი, მას სჭირდება კონტექსტი, როგორიცაა დავალების ტიპი, მოდელის ზომა, აპარატურა, გამოყენება, გაგრილება და მდებარეობა.

ხელოვნური ინტელექტის ვარჯიში თუ ხელოვნური ინტელექტის ყოველდღიური გამოყენება უფრო დიდი ენერგიის ხარჯია?

ტრენინგი, როგორც წესი, დიდი წინასწარი ენერგეტიკული მოვლენაა, რადგან მასში შეიძლება ჩართული იყოს მრავალი ჩიპის ხანგრძლივი მუშაობა უზარმაზარ მონაცემთა ნაკრებებში. დასკვნა არის მიმდინარე ხარჯი, რომელიც ჩნდება ყოველ ჯერზე, როდესაც მომხმარებლები აგზავნიან მოთხოვნებს და მასშტაბურად ის ასევე შეიძლება ძალიან დიდი გახდეს. პრაქტიკაში, ორივე მნიშვნელოვანია, თუმცა ისინი სხვადასხვა გზით არიან მნიშვნელოვანი.

რა ხდის ერთი ხელოვნური ინტელექტის მოთხოვნას გაცილებით ენერგომოხმარების უნარს, ვიდრე მეორე?

უფრო გრძელი კონტექსტური ფანჯრები, უფრო გრძელი გამომავალი მონაცემები, განმეორებითი მსჯელობის გავლა, ინსტრუმენტების გამოძახება, აღდგენის ნაბიჯები და მულტიმოდალური გენერაცია - ყველაფერი ეს ზრდის ენერგიის მოხმარებას ურთიერთქმედებაზე. შეყოვნების მიზნებსაც აქვს მნიშვნელობა, რადგან უფრო სწრაფი რეაგირების მოთხოვნებმა შეიძლება შეამციროს ეფექტურობა. მცირე ზომის გადაწერის მოთხოვნა და გრძელი კოდირების ან გამოსახულების სამუშაო პროცესი უბრალოდ შეუდარებელია.

რა ფარული ენერგიის ხარჯები გამორჩათ ადამიანებს, როდესაც ეკითხებიან, რამდენ ენერგიას იყენებს ხელოვნური ინტელექტი?

ბევრი ადამიანი მხოლოდ ჩიპზე ამახვილებს ყურადღებას, თუმცა ეს ყურადღებას არ აქცევს გაგრილებას, მონაცემთა გადაადგილებას, შენახვას, უმოქმედო სიმძლავრეს და საიმედოობის სისტემებს, როგორიცაა სარეზერვო ასლები ან გადართვის რეგიონები. ამ დამხმარე ფენებს შეუძლიათ მნიშვნელოვნად შეცვალონ მთლიანი დატვირთვა. სწორედ ამიტომ, თავისთავად, საორიენტაციო მაჩვენებელი იშვიათად ასახავს ენერგიის სრულ სურათს.

უფრო დიდი ხელოვნური ინტელექტის მოდელი ყოველთვის მეტ ენერგიას მოიხმარს?

უფრო დიდი მოდელები, როგორც წესი, მეტ გამოთვლით ძალასა და მეხსიერებას საჭიროებენ, განსაკუთრებით გრძელი ან რთული გამომავალი მონაცემების შემთხვევაში, ამიტომ ისინი ხშირად მეტ ენერგიას მოიხმარენ. თუმცა, უფრო დიდი ზომა ავტომატურად არ ნიშნავს უკეთესს ყველა სამუშაოსთვის და ოპტიმიზაციამ შეიძლება მნიშვნელოვნად შეცვალოს სურათი. მცირე სპეციალიზებული მოდელები, კვანტიზაცია, პარტიული შენახვა, ქეშირება და უფრო ჭკვიანი მარშრუტიზაცია - ყველაფერი ეს აუმჯობესებს ეფექტურობას.

მომხმარებლის ხელოვნური ინტელექტი ენერგიის მოხმარების მთავარი პრობლემაა თუ საწარმოს ხელოვნური ინტელექტი უფრო დიდი პრობლემაა?

მომხმარებლის მიერ შემთხვევითი გამოყენება შეიძლება დაგროვდეს, მაგრამ უფრო ფართო ენერგიის ისტორია ხშირად საწარმოო განლაგებებში ჩნდება. მუდმივად ჩართული თანაპილოტები, დოკუმენტების დამუშავება, ზარების შეჯამება, კოდის მიმოხილვა და ფონური აგენტები დიდ მომხმარებელთა ბაზებში განმეორებით მოთხოვნას ქმნიან. პრობლემა, როგორც წესი, ნაკლებად ეხება ერთ დრამატულ მოქმედებას და უფრო მეტად ეხება დროთა განმავლობაში შენარჩუნებულ მოცულობას.

რამდენ ენერგიას მოიხმარს ხელოვნური ინტელექტი, როდესაც მონაცემთა ცენტრებსა და გაგრილებას ჩართავთ?

უფრო ფართო სისტემის ჩართვის შემდეგ, პასუხი უფრო რეალისტური ხდება და, როგორც წესი, უფრო ფართოა, ვიდრე მხოლოდ ჩიპებზე დაფუძნებული შეფასებები გვთავაზობს. მონაცემთა ცენტრებს ენერგია სჭირდებათ არა მხოლოდ გამოთვლებისთვის, არამედ გაგრილებისთვის, ქსელური მუშაობისთვის, შენახვისა და თავისუფალი სიმძლავრის შესანარჩუნებლადაც. სწორედ ამიტომ, ინფრასტრუქტურის დიზაინი და ობიექტის ეფექტურობა თითქმის ისეთივე მნიშვნელოვანია, როგორც მოდელის დიზაინი.

რა არის ხელოვნური ინტელექტის ენერგიის მოხმარების გაზომვის ყველაზე პრაქტიკული გზა რეალურ სამუშაო პროცესში?

საუკეთესო მეთოდი დამოკიდებულია იმაზე, თუ ვინ და რა მიზნით ახორციელებს გაზომვებს. სწრაფი შედარებისთვის, უხეში წესი დაგეხმარებათ, ხოლო ვატმეტრი, GPU ტელემეტრია, ღრუბლოვანი გადახდის ჟურნალები და მონაცემთა ცენტრის ანგარიშგება ოპერაციულ ხედვას თანდათანობით უფრო ძლიერს ხდის. სერიოზული მდგრადი განვითარების სამუშაოებისთვის, სასიცოცხლო ციკლის უფრო სრული ხედვა კიდევ უფრო ძლიერია, თუმცა ის უფრო ნელი და მომთხოვნია.

როგორ შეუძლიათ გუნდებს შეამცირონ ხელოვნური ინტელექტის ენერგიის მოხმარება სასარგებლო ხელოვნური ინტელექტის ფუნქციების დათმობის გარეშე?

ყველაზე დიდი მოგება, როგორც წესი, მოდის ყველაზე პატარა მოდელის გამოყენებით, რომელიც მაინც ასრულებს თავის ფუნქციას, მოთხოვნებისა და გამომავალი მონაცემების შემოკლებით, განმეორებითი შედეგების ქეშირებით, სამუშაოს პარტიებად დაყოფით და მხოლოდ უფრო რთული ამოცანების უფრო დიდ მოდელებზე გადამისამართებით. ინფრასტრუქტურის ოპტიმიზაციაც მნიშვნელოვანია, განსაკუთრებით დაგეგმვისა და აპარატურის ეფექტურობის თვალსაზრისით. ბევრ მილსადენში, პირველ რიგში გაზომვა ხელს უშლის გუნდებს არასწორი ოპტიმიზაციისგან.

ცნობები

1. საერთაშორისო ენერგეტიკული სააგენტო (IEA) - ენერგიაზე მოთხოვნა ხელოვნური ინტელექტიდან - ie.org

2. აშშ-ის ენერგეტიკის დეპარტამენტი (DOE) - DOE აქვეყნებს ახალ ანგარიშს, რომელიც აფასებს ელექტროენერგიის მოთხოვნის ზრდას მონაცემთა ცენტრებში - energy.gov

3. Google Cloud - ხელოვნური ინტელექტის მიერ დასკვნის გარემოზე ზემოქმედების გაზომვა - cloud.google.com

4. Google Research - კარგი ამბავი მანქანური სწავლების ტრენინგის ნახშირბადის კვალის შესახებ - research.google

5. Google Research - მანქანური სწავლების ტრენინგის ნახშირბადის კვალი კვლავ შემცირდება და შემდეგ შემცირდება - research.google

6. arXiv - მწვანე ხელოვნური ინტელექტი - arxiv.org

7. arXiv - სტრუბელი და სხვ. - arxiv.org

8. arXiv - კვანტიზაციის, პარტირებისა და სერვირების სტრატეგიები LLM ენერგიის გამოყენებაში - arxiv.org

იპოვეთ უახლესი ხელოვნური ინტელექტი ოფიციალურ ხელოვნური ინტელექტის ასისტენტების მაღაზიაში

ჩვენს შესახებ