რა არის ხელოვნური ინტელექტის მონაცემთა ცენტრი?

რა არის ხელოვნური ინტელექტის მონაცემთა ცენტრი? [ვიდეო და ვიქტორინა]

მოკლე პასუხი: ხელოვნური ინტელექტის მონაცემთა ცენტრი არის მაღალი სიმკვრივის მქონე ადგილი, სადაც ენერგომომარაგება, გაგრილება, ქსოვილი და შენახვა ორიენტირებულია მოდელების ტრენინგსა და მომსახურებაზე და არა სერვერულ ოთახზე დამატებითი გრაფიკული პროცესორებით. ჩიპები იძენენ პოპულარობას; შენობა წყვეტს , იმუშავებენ თუ არა ისინი. თუ გამოსახულებები ვერ გადიან, განაახლეთ პატარა უჯრედი; გუნდების უმეტესობამ უნდა იქირაოს.

ძირითადი დასკვნები:

ჩიპები აწყობის წინააღმდეგ: სიმძლავრე, გაგრილება, ქსოვილი და შენახვა განსაზღვრავს, იმუშავებს თუ არა ამაჩქარებლები.

ადგილები და არა სასახლეები: როდესაც მონაცემების გატანა შეუძლებელია, ორი თარო განაახლეთ; ​​ნუ იყიდით კამპუსს.

საშუალო vs მედიანა: რვა გაშვებაზე მედიანა თავიდან იწყება; გამოიყენეთ 18-საათიანი საშუალო.

ბოროტად გამოყენების წინააღმდეგობა: არ მიუთითოთ PUE-ს ფასი შერეულ დარბაზში ორი თაროსთვის.

საილუსტრაციო შედეგები: რვა გარბენი პატარა რუკაა და არა წარმოების 50%-იანი დაზოგვა.

სტატიები, რომელთა წაკითხვაც შეიძლება მოგეწონოთ ამის შემდეგ:

🔗 სანდოა თუ არა ხელოვნური ინტელექტი? ვიდეო და ვიქტორინა.
გაეცანით ხელოვნური ინტელექტის სანდოობას საინტერესო ვიდეოსა და ინტერაქტიული ვიქტორინის საშუალებით.

🔗 როგორ გამოვიყენოთ ხელოვნური ინტელექტი ყოველდღიურ ცხოვრებაში?
აღმოაჩინეთ პრაქტიკული გზები, თუ როგორ შეუძლია ხელოვნურ ინტელექტს ყოველდღიური ამოცანებისა და რუტინის გამარტივება.

🔗 როგორ გამოვიყენოთ ხელოვნური ინტელექტი სამსახურში.
გაიგეთ, თუ როგორ გამოიყენოთ ხელოვნური ინტელექტი სამუშაო ადგილზე უფრო ჭკვიანი პროდუქტიულობისთვის.

🔗 შეუძლია თუ არა ხელოვნურ ინტელექტს დამოუკიდებლად აზროვნება?
გაიგეთ, შეუძლია თუ არა ხელოვნურ ინტელექტს ნამდვილად დამოუკიდებლად აზროვნება ან მსჯელობა.

რით განსხვავდება ის „ჩვეულებრივი“ მონაცემთა ცენტრისგან

ტრადიციული დარბაზები ოპტიმიზებულია შერეული სამუშაო დატვირთვებისა და მრავალი მცირე სერვისის უწყვეტი მუშაობისთვის. რა თქმა უნდა, თქვენ ზრუნავთ სარეზერვო სისტემაზე და PUE-ზე, როგორც კონცეფციაზე - დამატებით ენერგიაზე, რომელსაც შენობა ხარჯავს ერთი ვატი გამოთვლითი სიმძლავრის მისაღებად. როგორც წესი, ყველა დერეფანს არ აპროექტებთ თაროს გარშემო, რომელიც პორტატული გამათბობლების ფერმასავით იქცევა.

ხელოვნური ინტელექტის საიტები ცვლის თანაფარდობას. სიმჭიდროვე იზრდება. ქსელი ისეთ ქსოვილად იქცევა, რომლის გარეშეც ტრენინგის სამუშაოს შესრულება შეუძლებელია. შენახვამ უნდა შეინარჩუნოს საკონტროლო პუნქტების მოძრაობა, თორემ ამაჩქარებლები უმოქმედოდ დარჩებიან, როგორც საცობში დოღის ცხენები.

ასევე არსებობს კულტურული განსხვავება. საწარმოს ოპერატორები ფიქრობენ ბილეთებსა და ცვლილებების ფანჯრებზე. ხელოვნური ინტელექტის ოპერატორები ფიქრობენ სამუშაო რიგებსა და იმ ავადმყოფურ განცდაზე, როდესაც კვანძი გვიან კვდება გრძელვადიან პერსპექტივაში. ვფიქრობ, ორივეს მაინც შეიძლება „მონაცემთა ცენტრი“ ვუწოდოთ, რადგან ისინი ასეთები არიან. ეტიკეტი უბრალოდ მალავს „სანტექნიკას“.

ტიპი რისთვის არის აგებული გამორჩეული აპარატურა სიმძლავრე / გაგრილების ხასიათი ვის უხდება? რატომ არსებობს ის
ტრადიციული საწარმოს მონაცემთა ცენტრი შერეული IT: მონაცემთა ბაზები, ვირტუალური მაქანები, ელ. ფოსტა, ფაილები პროცესორები, ჩვეულებრივი სერვერები, ნაცნობი საცავი ჰაერით მართვადი; ზომიერი სიმჭიდროვე; PUE, როგორც სასაუბრო თემა კომპანიები, რომლებიც ყოველდღიურ სისტემებს ამუშავებენ განაგრძეთ ბიზნეს აპლიკაციების გააქტიურება
ხელოვნური ინტელექტის ტრენინგის კლასტერი ხანგრძლივი, მჭიდროდ დაკავშირებული სასწავლო სამუშაოები მკვრივი ამაჩქარებლის თაროები; GPU-ს ურთიერთდაკავშირებები მაღალი სიმკვრივის; თხევადი გაგრილების ან [უკანა კარის სითბოს გადამცვლელები] (https://datacenters.lbl.gov/sites/default/files/rdhx-doe-femp.pdf) ლაბორატორიები და მოდელების შემქმნელები სამუშაო რიგში ცხოვრობენ დაასრულეთ სირბილი ჩიფსების შიმშილის გარეშე
ხელოვნური ინტელექტის დასკვნების ობიექტი მოდელის მომსახურება; რეალურ დროში და პაკეტური პასუხები ამაჩქარებლები; მნიშვნელოვანი დატვირთვის დამაბალანსებლები ისევ ცხელია, უბრალოდ... ნაკლებად თეატრალური; ლატენტობა უხეში სიმკვრივის წინააღმდეგ პროდუქტები, რომლებსაც ახლავე უნდა უპასუხონ მოდელი მომხმარებლის მახლობლად მოათავსეთ
ჰიბრიდული ხელოვნური ინტელექტის დარბაზი წვრთნა და მსახურება ერთი სახურავის ქვეშ; ერთგვარად შერეული თაროები; შემოღობილი აუზები; საერთო ქსოვილი ორი მაგარი პიროვნება ერთ მცენარეულ ოთახში; უხერხული ხდება გუნდები, რომლებსაც ორი კამპუსის განთავსება არ შეუძლიათ კაპიტალი სასრულია; ცხოვრება მოუწესრიგებელია

მორალური რეიტინგი არ არის. სხვადასხვა მანქანები, ერთი და იგივე გვარი.

გრაფიკული პროცესორები, ამაჩქარებლები და ენერგიის მჭამელი თარო

ტრადიციულ ამაღლებულ სართულზე გავლისას, თაროები თითქმის თავაზიანად გამოიყურება. ხელოვნური ინტელექტის მქონე რიგის გავლისას, ისინი ისეთი შთაბეჭდილებას ტოვებენ, თითქოს შენობის გადაყლაპვა სურთ.

გამორჩეული აპარატურა არ არის ჭკვიანი პროცესორი. ეს არის ამაჩქარებლის უჯრა: გრაფიკული პროცესორები ან სხვა ხელოვნური ინტელექტის ჩიპები, რომლებიც განთავსებულია სერვერებში, შემდეგ თაროებზე, შემდეგ რიგებში, რომლებიც იყენებენ მაღალი გამტარუნარიანობის ქსოვილს. გრაფიკული პროცესორი აკავშირებს ჩიპებს ისეთ რამედ, რაც შეიძლება წარმოაჩინოს, რომ არის ერთი გიგანტური ამაჩქარებელი; კლასტერული ქსოვილი იგივე ხრიკს აკეთებს რიგის მასშტაბით. პარალელური ტრენინგი მხოლოდ იმ შემთხვევაში მუშაობს, თუ ეს ბმულები მყარი და პროგნოზირებადი დარჩება. თუ ამას დაკარგავთ, თქვენი „კლასტერი“ გახდება ძვირადღირებული სამუშაო სადგურების გროვა, რომლებიც იყენებენ ერთ საფოსტო ინდექსს.

სიმძლავრე ჩიპებს მიჰყვება. ეს არ არის დიდი ოფისის PDU. მეგავატიანი IT დატვირთვა დარბაზის შევსებისას - მე არ გამოვიგონებ რიცხვს. სიუჟეტური შემობრუნებაა თაროზე სიმჭიდროვე. ნაკლები თარო. თითოეული პატარა ღუმელია. შემზღუდველი ფაქტორი ხშირად ქვესადგურია და არა გრაფიკული პროცესორების სურვილების სია. თქვენ იცით, როგორ არის საქმე: შესყიდვებს მეტი ამაჩქარებელი სჭირდება; კომუნალურ კომპანიას კი გრძელი საუბარი და ძალიან დიდი ჩეკი.

ერთი ოდნავ სულელური მეტაფორა, რომლისგანაც ვერ ვიშორებ: ჯოხი მშიერი ცხოველია. შეგიძლია უფრო სწრაფი ცხოველიც გაამრავლო. მაინც უნდა გამოკვებო და მაინც უნდა გაათბო სიცხე. ორივეს გამოტოვების შემთხვევაში ის ძალიან ძვირადღირებულ საწერ ქაღალდ-საწონად იქცევა.

ელექტროენერგიის, სითბოს და გაგრილების პრობლემა

ელექტროენერგია შემოდის. სითბო გამოდის. ეს არის მთელი რელიგია.

მაღალი სიმკვრივის თაროები სითბოს ისე გამოყოფენ, რომ ჰაერს არასდროს მოუთხოვია მისი დამუშავება. შეგიძლიათ ჰაერი უფრო მეტად დააწვეთოთ - უკანა კარის თბოგამცვლელები, უფრო ცხელი დერეფნები, ჭკვიანური შეკავება - და ეს გარკვეულ ნიშნულამდე მუშაობს. შემდეგ სითხე ჩნდება:

  • პირდაპირი ჩიპზე გაგრილება

  • გამაგრილებლის მარყუჟები, რომლებიც მცენარის ოთახს ქიმიურ ქარხანას ჰგავს

  • რამდენიმე დიზაინში ჩაღრმავება, რაც დღემდე აოცებს იმ ადამიანებს, რომლებიც ფიქრობენ, რომ წყალი და მიმტანები ერთ წინადადებაში არ უნდა იყვნენ ჩართულნი

ეს ყველაფერი მომხიბვლელია. ეს ყველაფერი პროდუქტია, რადგან ამაჩქარებელი, რომელიც აჩქარებს, უკვე გადაიხადეთ და სრულად ვერ გამოიყენებთ.

PUE მაინც მნიშვნელოვანია. ეს თანაფარდობაა და არა პიროვნება. ოპერატორები მას მისდევენ, რადგან ვენტილატორებსა და ტუმბოებზე დახარჯული ყოველი ვატი არის ვატი, რომელიც გრაფიკულ პროცესორში არ წავიდა. მე არ მოვიყვან „ტიპიურ“ ციფრს; კლიმატი და საზღვრის გავლების წესი ცვლის მას და ყალბი სიზუსტე უარესია, ვიდრე არარსებობა. წყალიც რჩება ამ ამბავში. ზოგიერთი მცენარე წრუპავს. ზოგი კი ყლუპს. აორთქლებით გაგრილება ეფექტურია მანამ, სანამ მდინარე ან გვალვა მას პოლიტიკურს არ გახდის.

ქსელური მუშაობა: რატომ არის ქსოვილი ისეთივე მნიშვნელოვანი, როგორც ჩიპები

ხალხი გრაფიკულ პროცესორებს უღებს ფოტოებს. მათ კი კომუტატორები უნდა გადაიღონ.

ტრენინგი საუბარია. ათასობით ამაჩქარებელი მჭიდრო სინქრონიზაციაში ცვლის გრადიენტებს, პარამეტრებს, მოდელის ნამსხვრევებს. თუ ქსოვილი ირყევა, მთელი სამუშაო ყველაზე ნელ ნახტომში მთავრდება. სწორედ ამიტომ, ხელოვნური ინტელექტის დარბაზები შეპყრობილნი არიან მაღალი გამტარუნარიანობის ქსელებით, დაბალი შეყოვნებით და ტოპოლოგიებით, რომლებიც კავშირის გაწყვეტის შემთხვევაში შუაზე არ იკეცება. InfiniBand-ის მსგავსი ქსოვილები, Ethernet იმავე როლში, GPU-ს ურთიერთდაკავშირება ყუთში, კაბელები, რომლებიც პირველივე ცდაზე სწორად უნდა იყოს გაყვანილი.

დასკვნა სულ სხვა სასაუბრო თემაა. მოდელის მომსახურება ზრუნავს კუდის შეყოვნებაზე - ნელ პასუხზე და არა საშუალოზე. პარტიული და რეალური დროის რეჟიმი პიროვნებას ყოფს. სავარჯიშო კლასტერს სურს ვრცელი, კოლექტიური, ყოვლისმომცველი მოძრაობა. მომსახურების ფლოტს სურს ბევრი მცირე მოთხოვნა და იზოლაცია, დატვირთვის დაბალანსებისას საცობის გარეშე.

სანამ აქ ვარ, ერთი გამოტოვება: ხალხი ქსელს სანტექნიკად აღიქვამს, ჩიფსებს კი - რესტორნად. ამ შენობაში სანტექნიკა რესტორანია. თუ ამას გამოტოვებ, სამზარეულოს იყიდი, რომელსაც მიტანის სერვისი არ შეუძლია.

ტრენინგი დასკვნების წინააღმდეგ: ორი შენობა, ზოგჯერ სიტყვასიტყვით

ტრენინგი კამპანიაა. თქვენ აწყობთ კლასტერს, აწვდით მას მონაცემებს, რეგულარულად ამოწმებთ, ამუშავებთ საათების ან კვირების განმავლობაში და ლოცულობთ, რომ ქსოვილი უპრობლემოდ დარჩეს. დიდი რაოდენობით, დიდი გამტარუნარიანობით, მშვიდად მომთმენი - სანამ ჩავარდნილი კვანძი არ გაძლებს. მჭიდროდ დაკავშირებულ სამუშაოში ერთი მკვდარი ამაჩქარებელი შეიძლება მთელი გუნდის შეჩერებას იწვევდეს.

დასკვნა ვიტრინას ჰგავს. მოდელები უკვე გაწვრთნილები არიან და ახლა კითხვებს პასუხობენ, ახარისხებენ სურათებს, ქმნიან ტექსტს. შეყოვნებას მნიშვნელობა აქვს. მომხმარებლის მახლობლად ოდნავ ძველი ამაჩქარებელი შეიძლება აჯობოს მომხიბვლელ ამაჩქარებელს, რომელიც კონტინენტის მოშორებით მდებარეობს.

ამგვარად, თქვენ გაყოფილხართ. სასწავლო კამპუსები ძალაუფლებას, მიწას და სიმჭიდროვეს ეძებენ. ინფერენციის ადგილები კი ლატენტობასა და ყოფნას ეძებენ. ჰიბრიდული დარბაზებიც არსებობს, რადგან კაპიტალი უსასრულო არ არის. კარგი - ყოველთვის არა ორი შენობა. ზოგჯერ ერთი დარბაზი ხავერდის თოკით და ორი გამაგრილებელი მარყუჟით.

სწორედ აქ ხდება კოლოკაცია, ჰიპერმასშტაბიანი კამპუსები და ადგილობრივი ფორკი. ჰიპერმასშტაბირებადი შენობები ისეთი მასშტაბით იქმნება, რომ დანარჩენებს ისეთ შთაბეჭდილებას ტოვებს, თითქოს ავეჯს ვაწყობთ. კოლოები სიმჭიდროვეს თაროებზე ყიდიან. ადგილობრივი მონტაჟი კვლავ მაშინ ხდება, როდესაც მონაცემები ვერ გადის.

შენახვის გამტარუნარიანობა, საკონტროლო პუნქტები და მშიერი ჩიპები

ბროშურის გარეკანზე პარალელური ფაილური სისტემა არავინ ათავსებს.

სავარჯიშო მონაცემები საკმარისად სწრაფად უნდა მოდიოდეს, რომ გრაფიკული პროცესორები არ აჩქარდნენ. საკონტროლო პუნქტები უნდა დამონტაჟდეს, რათა ავარიამ კვირა არ დაკარგოს. მოდელის წონა უნდა ჩაიტვირთოს, სანამ მომსახურე რეპლიკა ჩატვირთული იქნება. მეხსიერების გამტარუნარიანობა - არა მხოლოდ მოცულობა - მშვიდი შეფერხებაა. შეგიძლიათ ამაჩქარებლებზე დიდი თანხა დახარჯოთ და ვირტუალური მანქანებისთვის შექმნილი თავაზიანი მასივით გამორთოთ ისინი.

სქემა ნაცნობია: მბზინავი კლასტერი, დავალებების რიგი და შეყვანა/გამოყვანის ლოდინი, რომელიც უხეშ ინვოისს ჰგავს. მონაცემთა გზის კლასტერიზაციის გარეშე გამოთვლების კლასტერიზაცია არის ის, თუ როგორ მიიღებთ ძალიან ძვირადღირებულ უმოქმედო რეჟიმს. შეინარჩუნეთ ჩიპების დატვირთვა ან აღიარეთ, რომ ქანდაკება იყიდეთ.

პროგრამული უზრუნველყოფა, ორკესტრაცია და არამომხიბვლელი ოპერაციების ფენა

აპარატურა ყველაზე პოპულარულია. სამუშაოს შემდგენელები ასრულებენ.

ხელოვნური ინტელექტის მონაცემთა ცენტრი უსარგებლოა, თუ სამუშაო ადგილები ვერ პოულობს გრაფიკულ პროცესორებს, თუ ორ გუნდს არ შეუძლია კლასტერის გაზიარება ჩხუბის გარეშე, თუ წარუმატებელი რანგის შეცვლა შეუძლებელია, თუ პროგრამული უზრუნველყოფა იცვლება მანამ, სანამ სტრუქტურა შენელებულ კადრში არ გაფუჭდება. ორკესტრირება, დაკვირვებადობა, სიმძლავრის შეზღუდვა - არამომხიბვლელი ოპერაციების ფენა, რომელიც არის ის, თუ როგორ იცით, რომ მნიშვნელოვანია.

ამ ფენას სუსტი წერტილი აქვს. ასევე, თუ არასწორად კონფიგურირებული ქსელის ინტერფეისი მთელი დღის განმავლობაში გაგრილების პრობლემას წარმოადგენს... ამას რთული გზით აღმოაჩენთ.

როდესაც კვანძი შუაში კვდება

კვანძი კვდება. ცვლილებების ფანჯრები კვლავ ეჯახება ტრენინგის გაშვებებს, რომლებსაც თქვენი კალენდარი არ აინტერესებთ. თქვენ ჯგუფურად გეგმავთ დიდ დავალებებს, ზღუდავთ ინფერენციის პულებს, წერთ საკონტროლო წიგნებს ისეთი ჩავარდნებისთვის, რომლებიც „სამუშაო ნელა მიმდინარეობს“-ს ჰგავს მანამ, სანამ ისინი „სამუშაო მკვდარია“-ს არ ჰგავს. ზედმეტობას მაინც აქვს მნიშვნელობა - კვება, გაგრილება, ბილიკები, მეხსიერება - მაგრამ ჩავარდნის რეჟიმი ნაკლებად მოწესრიგებულია, ვიდრე ძველი „ცხრა უწყვეტი მუშაობის“ სლაიდი. ინფერენცია: რეპლიკა, ავადმყოფი კვანძის დაცლა, პასუხის გაცემა. ტრენინგს საკონტროლო წერტილები სჭირდება და არა ოპტიმიზმი.

მდებარეობა, წყალი, ქსელი და მეზობლები

ხედით ამათგანს კოტეჯის გვერდით არ დააგდებ.

ქსელთან მიერთება ხშირად ადგილმდებარეობის შერჩევის რეალური პროცესია. მიწის ნაკვეთი მარტივია ქვესადგურთან და სხვა მომხმარებლების მქონე კომუნალურ კომპანიასთან შედარებით. წყალი გაგრილებისთვის, თუ მას იყენებთ, მეზობლებისთვის პრობლემად იქცევა, როგორც კი ნალექი უხეში იქნება. ხმაური. ​​ვიზუალური მასა. გათბობა სასაზღვრო ღობეზე. დაგეგმარების კომიტეტები „ღრუბლის“ შესახებ მოსაზრებებს მაშინვე იგებენ, როდესაც მას მინდორი და მდინარე სჭირდება.

ლატენტურობა საპირისპიროს ირჩევს. Inference-ს მოსწონს მომხმარებლებთან და ურთიერთდაკავშირებულ სისტემებთან ახლოს ყოფნა. ტრენინგი შეიძლება დამალული იყოს უფრო იაფ ენერგობაზრებსა და გრილ კლიმატში. ინდუსტრია ისე საუბრობს, თითქოს არსებობს ერთი იდეალური ადგილი. სინამდვილეში ეს ასე არ არის. პრესრელიზით კომპრომისზე მისვლა შესაძლებელია.

ნარჩენი სიცხე და დაუპატიჟებელი ღუმელი

ბროშურებს ეს ნაწილი ძალიან მოსწონთ. ნარჩენი სითბო სახლებში, აუზებში, სათბურებში გადაიტანეთ; ეს სასიამოვნო წინადადებაა. ზოგჯერ რაიონული წრე ნამდვილია. ზოგჯერ კამპუსი არასწორ ადგილასაა და სითბო მაინც ჰაერში გადის. ბროშურის ვერსიის მიმართ სკეპტიკურად ვარ განწყობილი; ფიზიკის მიმართ კი არა.

ვის სჭირდება (და ვის უნდა იქირაოს)

ადამიანების უმეტესობას არ სჭირდება ამ დარბაზებიდან ერთ-ერთის ფლობა.

უხეშ სიაში:

  • ჰიპერსკალერები, რადგან პროდუქტი ფლოტია

  • ლაბორატორიები, როდესაც რიგის დრო შეფერხების ზოლია ან მონაცემები ვერ გადის

  • ბანკი, საავადმყოფოს ჯგუფი, მთავრობა ან მწარმოებელი, რომელსაც აქვს საიდუმლო მონაცემთა ნაკრები - ადგილზე ან კერძო კოლოფი, შეიძლება რაციონალური იყოს, თუნდაც ეს რთული იყოს

ყველა დანარჩენმა უნდა იქირაოს. კოლოკაცია ხელოვნური ინტელექტით აღჭურვილი სიმჭიდროვით. ღრუბლოვანი რეზერვაცია. მართული კლასტერი. თქვენ მიიღებთ ამაჩქარებლებს ელექტროსადგურის ოპერატორის სტატუსის გარეშე. რომანტიკა ქრება, როგორც კი ვინმე პირველად ეკითხება, ვინ არის მორიგე გამაგრილებლის წრეზე დილის 3 საათზე.

ვაღიარებ, რომ არსებობს სიამაყის გრძნობა. კლასტერის ფლობა პროგნოზირების საშუალებების ფლობას ჰგავს. შემდეგ ელექტროენერგიის ინვოისი მოდის და სიამაყე ჩერდება.

რისთვის არის შენობა

მაშ ასე, რა არის ხელოვნური ინტელექტის მონაცემთა ცენტრი? სპეციალიზებული, მაღალი სიმკვრივის კამპუსი, სადაც ამაჩქარებლები, ენერგომომარაგება, გაგრილება, ქსოვილი და შენახვა ორგანიზებულია ტრენინგისა და მომსახურების მოდელების გარშემო - და არა ზოგადი დანიშნულების IT სისტემა კუთხეში გრაფიკული პროცესორით. ის საწყობს ჰგავს. ის იქცევა როგორც ელექტროსადგური, რომელიც მათემატიკურ გამოთვლებს აკეთებს.

თუ სხვა არაფერი გახსოვთ: ჩიპები იძენენ დიდებას; ქვესადგური, გამაგრილებელი და ქსელი წყვეტს, კარგი იდეა იყო თუ არა ეს ჩიპები. ტრენინგსა და ინფერენციას შეიძლება საერთო სახურავი ჰქონდეთ; მათ მაინც განსხვავებული მანერები სურთ. ორგანიზაციების უმეტესობამ უნდა იქირაოს. ზოგიერთმა კი უნდა ააშენოს. მეზობლები ორივე შემთხვევაში შეამჩნევენ.

ღრუბელს ყოველთვის ჰქონდა შენობა. დღესდღეობით შენობას მოსაზრებები აქვს.

რეალური სამყაროს მაგალითი: ორთაღიანი სავარჯიშო უჯრედი, როდესაც გამოსახულებები ვერ შორდება

სცენარი

ტომოსი დასავლეთ მიდლენდსში მდებარე 400-კაციანი მწარმოებელი კომპანიის, Kestrel Precision-ის ინფრასტრუქტურის ხელმძღვანელია. მათ უკვე აქვთ პატარა, ადგილზე განთავსებული დარბაზი: ERP, ფაილების გაზიარება, ვირტუალური მანქანები და შერეული სამეზობლო, რომლითაც ეს სტატია დაიწყო. ჰაერის გაგრილება. ჩვეულებრივი Ethernet. SAN, რომელიც იდეალურად არის ადაპტირებული ოფისის დისკებისთვის.

მანქანური ხედვის გუნდს ქარხნულ ფოტოაპარატებზე ინსპექტირების მოდელის მომზადება სჭირდება. ფოტოაპარატები ობიექტიდან ვერ გაიტანენ. ისინი აჩვენებენ პროცესს, რომელსაც კომპანია ღრუბლოვან დისკზე არ განათავსებს, თუნდაც კერძო დისკზე. შესყიდვების კომპანიის გადაწყვეტაა ოთხი ორმაგი ამაჩქარებელი სერვერი და სლაიდი სახელწოდებით „ჩვენი ხელოვნური ინტელექტის მონაცემთა ცენტრი“. სერვერები ორ არსებულ თაროზეა განთავსებული, რადგან ადგილია და სივრცე შეზღუდვად აღიქმებოდა.

ასე არ არის. ორ კვირაში გრაფიკული პროცესორები დატვირთული ხმით იწყებენ მუშაობას და შემდეგ ჩუმად იწყებენ მუშაობას. სამუშაოები იბლოკება, როდესაც საკონტროლო პუნქტი SAN-ს ხვდება. კვანძი ითიშება მეთერთმეტე საათზე და გაშვება უბრალოდ... გაქრება. ტომოსს ჩიპების ყიდვა არ დაუკარგავს. მან იყიდა ძვირადღირებული სამუშაო სადგურების გროვა, რომლებიც საფოსტო ინდექსს იზიარებდნენ. შენობა ჯერ კიდევ საწარმოს დარბაზი იყო.

მათ არ სჭირდებათ კამპუსი, ახალი ქვესადგური ან მდინარე. მათ სჭირდებათ პატარა უჯრედი, რომელიც იქცევა მინიატურულ ხელოვნური ინტელექტის მონაცემთა ცენტრად: ენერგია, რომლის დატევაც თაროებს შეუძლიათ, სითბო, რომელიც ჩიპების დაწვის გარეშე გადის, ქსოვილი, რომელზეც სასწავლო სამუშაოს შეუძლია საუბარი, საცავი, რომელიც საკონტროლო პუნქტს დაიტევს და საკონტროლო წიგნი კვანძის გათიშვის შემთხვევაში. რადგან გამოსახულებები ვერ გადის, ორმოცი წუთის სავალზე მდებარე კოლო-გალიის დაქირავება გამოსავალი არ არის. ორი თაროს რეტრომონტაჟი გამოსავალია.

რა სჭირდება უჯრედს

  • ამ რიგში გაზომილი სიმძლავრის ბიუჯეტი, PDU-ებიდან და არა GPU-ს სურვილების სიიდან. თუ თავისუფალი სიმძლავრე ვერ უზრუნველყოფს ოთხი სერვერის კვებას სასწავლო დატვირთვის დროს, საუბარი აქ წყდება და ისინი უფრო მკვრივ ფერს ხედავენ, არა სასწაულს

  • ამ სიმკვრივის შემთხვევაში ჰაერის გაგრილება არასდროს ყოფილა მოთხოვნილი: უკანა კარის თბოგამცვლელები, თუ დარბაზს მათი გატარება შეუძლია, ან პატარა სითხის ციკლი, თუ ამის გატარება შეუძლია. თუ არც ერთი და არც მეორე არ არის, სერვერები არ შედის

  • ოთხ კვანძს შორის განკუთვნილი მაღალი გამტარუნარიანობის ქსელი და არა ოფისის Ethernet. თუ გამყიდველს კატალოგში მხოლოდ 10 გბ კომუტატორი აქვს, ეს კლასტერი არ არის

  • საკონტროლო პუნქტებისა და სასწავლო შარდებისთვის ლოკალური სწრაფი საცავი და არა VM SAN

  • დამგეგმავი, საკონტროლო წერტილის ინტერვალი და ჩაწერილი გადატვირთვის გზა. აპარატურა არის ცნობილი ადამიანი. ეს ფენა არის სამუშაო

  • ქარხნის ხაზისთვის შემოღობილი დასკვნების ყუთი, სავარჯიშო საუბრებისგან გამოყოფილი, რადგან მომსახურებას კუდის შეყოვნება და იზოლაცია სჭირდება და არა კოლექტიური

  • ნებართვა, რომ შეინახოს სიმძლავრე, GPU-ს საათები, დროის შენელების მოვლენები და სამუშაო კედლის საათი. თუ მათ არ შეუძლიათ მათი შემოწმება, ისინი გადაიღებენ GPU-ებს და გამოტოვებენ გადამრთველებს

მაგალითი ინსტრუქცია

ტომოსი ამას დაწესებულებების ინსტრუქციაში, ჩვეულებრივი ენით ამბობს:

ნუ უწოდებთ ამას ხელოვნური ინტელექტის კამპუსს. არსებულ დარბაზში ააშენეთ ორთაღიანი სასწავლო უჯრედი ოთხი ორმაგი ამაჩქარებელი სერვერისთვის. ქარხნული გამოსახულებები ადგილზე რჩება. წარმატება ისაა, რომ ოთხი კვანძი ასრულებს 12-ეპიზოდიან შემოწმების-საწვრთნელ რეცეპტს თერმული დროსელის გარეშე, წერს საკონტროლო წერტილს წუთებში და არა ათეულ წუთებში და განაახლებს მუშაობას ამ საკონტროლო წერტილიდან, როდესაც შეგნებულად ვკლავთ რანგს. გაგრილებამ უნდა შეინარჩუნოს გრაფიკული პროცესორების სასწავლო საათები. ქსელური კავშირი უნდა იყოს ის, რასაც ეს ოთხი ყუთი იზიარებს და არა ოფისის სტეკის გავლით. შენახვამ უნდა მიაწოდოს ჩიპები. თუ უკანა კარის სითბოს გადამცვლელები არ მოერგება, თქვით ასე და შეწყვიტეთ. ნუ შესთავაზებთ PUE-ს ორ თაროზე შერეულ დარბაზში. ეს რიცხვი თეატრის ტოლი იქნება.

შემდეგ ის ამას თავად სასწავლო დავალებაში ათავსებს:

ყოველ 30 წუთში ერთხელ შეამოწმეთ ადგილობრივი სწრაფი პულისკენ. თუ რანგის მოთამაშე დაიღუპება, დაიწყეთ ბოლო დასრულებული საკონტროლო წერტილიდან. არ დაელოდოთ SAN-ს. არ გააგრძელოთ ვარჯიში, სანამ საათები გახურებული იქნება. ჩაიწერეთ ეს და გაჩერდით, რომ დავინახოთ გაჩერება.

კარგი საათი ასე გამოიყურება: რვავე გრაფიკული პროცესორი სავარჯიშო დროზეა, საკონტროლო წერტილის ფაილი დაშვებულია, დავალება კვლავ ფიქსირებულ მდგომარეობაშია. ცუდი საათი ასე გამოიყურება: ვენტილატორები სრულ შეძახილზე არიან, საათი დაღმავალია, საკონტროლო წერტილი 2%-ით ათი წუთის შემდეგ ჩაიწერა და ოფისში ვიღაც ამბობს, რომ „კლასტერი გააქტიურებულია“. აწევა ვარჯიში არ არის.

როგორ გამოვცადოთ ის

ისინი ტესტს რეტროფიტამდე წერენ, რაც დემო ვერსიის არ ნდობის მთელი აზრია.

  • იგივე 12-ეპოქიანი რეცეპტი, იგივე 120,000 საინსპექციო ფოტო, რვა გაშვება

  • დასრულებული რეცეპტის დრო კედლის საათის მიხედვით იზომება, ნებისმიერი გადატვირთვის ჩათვლით, რომელიც იზომება დავალების წარდგენიდან მე-12 ეპოქის ბოლო საკონტროლო წერტილამდე

  • გაშვება სიცხეზე: GPU-ს ტაქტები ვარჯიშის სამიზნეზე რჩება გაშვების განმავლობაში. გათიშვის მოვლენა წარუმატებლობად ითვლება მაშინაც კი, თუ დავალება საბოლოოდ დასრულდება

  • შენახვის გადასასვლელი: საკონტროლო წერტილის ჩაწერის დრო, მედიანა და უარესი, სამუშაო ჟურნალიდან

  • ქსოვილზე გადასვლა: სამუშაო კოლექტიურ ლოდინის რეჟიმში არ რჩება, სანამ წოდება ჯანსაღია. თუ ისინი ამ ლოდინს ვერ ხედავენ, ინსტრუმენტაცია არ დასრულებულა

  • რვა გარბენიდან ორი ფიქსირებულ საფეხურზე რანგით იღუპება, განზრახ, რათა გამოსცადონ გადატვირთვის გზა

  • დასკვნა არის ცალკე 200 სურათიანი ტესტი ქარხნული ხაზიდან შემოღობილი სერვირების ყუთამდე. ვარჯიშის წარმატება არ ითვლება სერვირების წარმატებად

  • ისინი PDU-ებიდან თაროს სიმძლავრეს 15-წუთიან ნიმუშებში იწერენ, ამიტომ არავის სჭირდება მეგავატის გამოგონება

უჯრედისთვის „ხელოვნურად მზა“ მოხსენიების დაშვება: 8 რეცეპტიდან 8 დასრულდა; 8-დან 0 აჩვენებს თერმულ დროსელს; ორივე დასრულებული გაშვება განახლდა; საკონტროლო პუნქტები წუთებში რჩება. თუ ეს გამორჩათ, მათ მაინც ექნებათ სერვერის ოთახი ლამაზი გრაფიკული ბარათებით.

შედეგი

საილუსტრაციო შედეგი, რვაჯერ შეთხზული ტესტიდან მიღებული და არა კირკიტის გამოქვეყნებული ფიგურა.

დაშვებები: ოთხი ორმაგი ამაჩქარებლის სერვერი ორ თაროზე; ერთი ინსპექტირების მოდელი; 120,000 ფოტო; ფიქსირებული 12-ეპოპური რეცეპტის რვა გაშვება; კედლის საათი მოიცავს გადატვირთვებს რეცეპტის დასრულებამდე; დროსელი ნიშნავს სავარჯიშო საათის რეგისტრირებულ შემცირებას; საკონტროლო წერტილის დრო არის ჩაწერის დრო და არა სურვილი; თაროს სიმძლავრე არის PDU ნიმუშები და არა კამპუსის PUE.

რეტროფიტამდე, ოფისის Ethernet-სა და VM SAN-ზე ჩვეულებრივ ჰაერით გაგრილებად თაროებზე განთავსებული გრაფიკული პროცესორები:

  • 8-დან 5 პირველივე ცდაზე დასრულდა. ამ ხუთეულში კედლის საათის საშუალო მაჩვენებელი: 14 საათი

  • 8-დან 3-ს დაახლოებით მე-11 საათზე შეფერხების შემდეგ ხელახლა ჩართვა მოუწია (ორი კვანძის გაფუჭების შემდეგ, როდესაც საკონტროლო პუნქტი ძველი იყო, ერთი კი SAN-ის შევსების შემდეგ). დაუყოვნებლივი ხელახალი ცდა, საათის განმავლობაში ლოდინის გარეშე: 11 საათი ფუჭად დაიკარგა პლუს 14-საათიანი მეორე ცდა, ან 25 საათი ამ სამზე დასრულებული რეცეპტის დასრულებამდე

  • რეცეპტის დასრულების საშუალო დრო რვავე შემთხვევაში, ხელახალი დაწყებიდან გამომდინარე: 18 საათი. (ხუთი - 14 საათზე, სამი - 25 საათზე. რვავე დაწყებიდან მედიანა კვლავ 14 საათია, რაც ხელახალი დაწყებიდან გამომდინარე შედეგებს დამალავს. სწორედ ამიტომ, საშუალო აქ საბაზისო მნიშვნელობაა.)

  • თერმული დროსელი 8-დან 7 ცდაზე დაფიქსირდა. საშუალო დრო შემცირებული სიჩქარით: 3 საათი 14-საათიანი ცდიდან

  • საკონტროლო პუნქტის ჩაწერის დრო: საშუალოდ 22 წუთი

  • წოდებრივი მკვლელობა არ იყო ტესტი, რომლის ჩაბარებაც მათ შეეძლოთ. მათ არ ჰქონდათ რანბუქის წიგნი. ორი შემთხვევითი სიკვდილი იყო დასკვნა

  • ვარჯიშის დროს ორ თაროზე პიკური IT დატვირთვა: დაახლოებით 18 კვტ. რიგს ჰქონდა ვატები. მას არ ჰქონდა გაგრილება ან ქსოვილი

ამ ორ თაროზე უკანა კარის თბოგამცვლელების, ოთხ კვანძს შორის გამოყოფილი ქსოვილის, საკონტროლო პუნქტებისთვის განკუთვნილი პატარა NVMe პულის, 30-წუთიანი საკონტროლო პუნქტის და გადატვირთვის წიგნის შემდეგ:

  • 8-დან 8-მა პირველივე ცდაზე დაასრულა. კედლის საათის საშუალო დრო: 9 საათი

  • თერმული დროსელი: 0 8-დან

  • საკონტროლო პუნქტის დაწერის დრო: საშუალოდ 90 წამი. სეტში ყველაზე ცუდი შედეგი: 3 წუთი

  • ორივე განზრახ მკვლელობა ბოლო 30-წუთიანი საკონტროლო პუნქტიდან განახლდა. ამ ორ გაშვებაზე დამატებითი დრო იყო საჭირო: თითოეულზე დაახლოებით 40 წუთი, დიაგნოზის გათვალისწინებით, ამიტომ ორივე გაშვება დაახლოებით 9 საათსა და 40 წუთს გაგრძელდა. საშუალოდ, რვა უძრავ რაუნდში 9 საათი იყო

  • პიკური IT დატვირთვა კვლავ დაახლოებით 18 კვტ. იგივე ჩიპები. შენობის განსხვავებული ქცევა

ამ ნიმუშში რეცეპტის დასრულების საშუალო დრო 18 საათიდან 9 საათამდე, ანუ თითოეულში 9 საათამდე, რვა გაშვებაზე 72 საათამდე შემცირდა. პირველი გაშვების შემთხვევაში, 8-დან 5-დან 8-მდე გაიზარდა. დროსელის შემთხვევაში კი 8-დან 7-დან 8-მდე. ეს უკანასკნელი რიცხვი მიუთითებს, შეიძინეს თუ არა ამაჩქარებლები თუ ქაღალდის დასაჭერები. ისინი დროის ცვლილებას წარმოების 50%-იან დაზოგვას არ უწოდებენ. რვა გაშვება მცირე და მარტივი რაოდენობაა.

ეს ციფრები წარმოადგენს შეფასების სამაგალითო მაგალითს, რომელიც დაფუძნებულია მითითებულ ტესტზე, მცირე ნიმუშზე, ერთ მოდელსა და ერთ შერეულ დარბაზზე. ისინი არ წარმოადგენენ PUE-ს, არც კამპუსის მეგავატს და არც იმის დასტურს, რომ Kestrel-მა უნდა ააშენოს სასწავლო ადგილი მინდორში. ჟურნალების განხილვა 9 საათის ფარგლებში მოხდა; მათ ეს არ დამალეს. 18 კვტ ციფრი არის PDU-ს დამრგვალებული მაჩვენებელი და არა კომუნალური ინვოისი. მათ 72 საათი ხარჯად არ გადააქციეს, რადგან ქარხნის შერეული ელექტროენერგიის ტარიფი ყალბ ბიზნეს არგუმენტს შექმნიდა.

სერვირების შემოწმება ცალკე და უფრო პატარა იყო: შემოღობილ ყუთზე 200 ხაზოვანი გამოსახულება, ყველა ადგილზე. ეს დასკვნაა და არა ვარჯიში. ორის შერევა მინიატურულ ჰიბრიდულ ჰოლში დაშვებული შეცდომა იქნებოდა.

რა შეიძლება არასწორად წავიდეს

  • შესყიდვები ოთხ სერვერს გამუდმებით „ხელოვნური ინტელექტის მონაცემთა ცენტრს“ უწოდებს. ეტიკეტი სანტექნიკას მალავს და შემდეგი შენაძენი იმავე „ავადმყოფი“ განყოფილებისთვის მეტი გრაფიკული პროცესორის შეძენაა

  • უკანა კარის გადამცვლელები ირთვება და წყლის მხარეს არავინ რთავს. ვენტილატორები ისევ ყვირიან. საათები ისევ ჩამოდის

  • ფაბრიკა წარმოადგენს ერთ კომუტატორს სათადარიგო გზის გარეშე. ერთი ჩავარდნილი ბმული და „კლასტერი“ კვლავ ოთხი სამუშაო სადგურია

  • საკონტროლო პუნქტები SAN-ზე რჩება, რადგან NVMe აუზი „მეორე ფაზას“ წარმოადგენდა. მეორე ფაზა შემდეგ მკვდარ კვანძამდე არ ჩამოდის

  • ისინი შერეულ დარბაზში ორი თაროსთვის PUE-ს ასახელებენ. კლიმატი, საზღვარი და ERP რიგის დანარჩენი ნაწილი ამ თანაფარდობას კოსტუმად აქცევს

  • ტრენინგი და მომსახურება ქსოვილს იზიარებენ. საკონტროლო პუნქტის დატბორვა ქარხნის რიგს ლოდინს აიძულებს. კუდის შეყოვნება იქ პროდუქტია და არა სიმკვრივე

  • კვანძი იღუპება და ვიღაც მას უწყვეტი მუშაობის ბილეთად აღიქვამს და არა საკონტროლო წერტილის გადატვირთვად. საწარმოს ოპერაციები და ხელოვნური ინტელექტის ოპერაციები მთელი დღის განმავლობაში ერთმანეთს ესაუბრებიან

  • მათ შეეძლოთ გალიის დაქირავება, თუმცა სურათებს გასვლა არ შეუძლიათ. ამ შეზღუდვის დავიწყება მათ ღრუბლოვან საუბარში აგზავნის, სადაც მათ მოდუნება მოუწევთ

პრაქტიკული რჩევები

ამ ფორმით, ხელოვნური ინტელექტის მონაცემთა ცენტრი არც საწყობია და არც გრაფიკული პროცესორის ინვოისი. ეს არის უჯრედი, რომელიც ამაჩქარებლებს საშუალებას აძლევს დაასრულონ გაშვება: მათ შეუძლიათ შეინარჩუნონ ენერგია, გამომავალი სითბო, ქსოვილი, საკონტროლო წერტილი და ვინმე, ვინც კაუჭზე დგას, როდესაც რანგის წევრი კვდება. Kestrel-ს არ სჭირდებოდა კამპუსი. მათ ორი თარო სჭირდებოდათ, რომ შეეწყვიტათ თავის მოჩვენება. გუნდების უმეტესობამ უნდა დაიქირაოს ეს ქცევა. რამდენიმემ, რომელსაც აქვს საიდუმლო მონაცემთა ნაკრები და დარბაზი, რომელსაც შეუძლია სითბოს ატანა, უნდა ააშენოს უჯრედი და უარი თქვას სლაიდზე.

ხშირად დასმული კითხვები

რა არის ხელოვნური ინტელექტის მონაცემთა ცენტრი?

მაღალი სიმკვრივის გამოთვლითი სადგური, სადაც ენერგომომარაგება, გაგრილება, ქსელური მუშაობა და შენახვა ორიენტირებულია პარალელურ ტრენინგსა და მოდელების მომსახურებაზე და არა ზოგადი დანიშნულების სერვერების მოწესრიგებულ რიგებზე. ის შექმნილია ისე, რომ ამაჩქარებლების დიდ რაოდენობას შეეძლოს მოდელების მომზადება და მომსახურება დნობის, ქსელში შეფერხების ან დისკზე ლოდინის გარეშე. ჩვეულებრივი საწარმო დარბაზი შერეული სამეზობლოა. ხელოვნური ინტელექტის დარბაზი მონოკულტურაა, რომლის ღირებულების ერთეულია ამაჩქარებელი, როგორიცაა გრაფიკული პროცესორები ან TPU სტილის ჩიპები. ის საწყობს ჰგავს და იქცევა როგორც ელექტროსადგური, რომელიც მათემატიკურ გამოთვლებს აკეთებს.

რით განსხვავდება ხელოვნური ინტელექტის მონაცემთა ცენტრი ჩვეულებრივი მონაცემთა ცენტრისგან?

ტრადიციული დარბაზები ოპტიმიზირებულია შერეული სამუშაო დატვირთვებისა და მრავალი მცირე სერვისის უწყვეტი მუშაობისთვის. ხელოვნური ინტელექტის საიტები ცვლის თანაფარდობებს: სიმჭიდროვე იზრდება, ქსელი ხდება ისეთი ქსოვილი, რომლის გარეშეც სასწავლო სამუშაო ვერ გაძლებს და შენახვას უწევს საკონტროლო პუნქტების მოძრაობაში შენარჩუნება, ან ამაჩქარებლები უმოქმედოდ რჩებიან. საწარმოს ოპერაციები ფიქრობენ ბილეთებსა და ფანჯრების შეცვლაზე. ხელოვნური ინტელექტის ოპერაციები ფიქრობენ სამუშაო რიგებსა და იმ ავადმყოფობის შეგრძნებაზე, როდესაც კვანძი გვიან კვდება. თქვენ მაინც შეგიძლიათ დარეკოთ ორივე მონაცემთა ცენტრში. ეტიკეტი უბრალოდ მალავს სანტექნიკას.

რატომ მოიხმარენ ხელოვნური ინტელექტის მონაცემთა ცენტრები ამდენ ენერგიას?

გამორჩეული აპარატურა არ არის ჭკვიანი პროცესორი. ეს არის ამაჩქარებლის უჯრა: გრაფიკული პროცესორები ან სხვა ხელოვნური ინტელექტის ჩიპები, რომლებიც განთავსებულია სერვერებში, შემდეგ თაროებზე, შემდეგ რიგებში, რომლებიც იზიარებენ მაღალი გამტარუნარიანობის ქსოვილს. სიუჟეტური შემობრუნება თაროზე სიმჭიდროვეა: ნაკლები თაროები, თითოეული პატარა ღუმელი. მეგავატიანი IT დატვირთვა ჩნდება დარბაზის შევსების შემდეგ, თუმცა ტიპიური ციფრის გამოგონება არ ღირს. შემზღუდველი ფაქტორი ხშირად ქვესადგურია და არა გრაფიკული პროცესორების სურვილების სია.

როგორ ხდება ხელოვნური ინტელექტის მონაცემთა ცენტრების გაგრილება?

მაღალი სიმკვრივის თაროები სითბოს ისე გამოყოფენ, რომ ჰაერს არასდროს მოუთხოვია მისი დამუშავება. უკანა კარის თბოგამცვლელების, უფრო ცხელი დერეფნების და ჭკვიანური შეკავების საშუალებით შეგიძლიათ ჰაერი უფრო მეტად დააწვეთოთ. შემდეგ სითხე ჩნდება: პირდაპირი ჩიპზე გაგრილება, გამაგრილებლის მარყუჟები და რამდენიმე დიზაინში ჩაძირვა. ამაჩქარებელი, რომელიც ამაჩქარებელს აჩერებს, უკვე გადაიხადეთ და სრულად ვერ გამოიყენებთ. PUE მაინც მნიშვნელოვანია, რადგან ვენტილატორებსა და ტუმბოებზე დახარჯული ყოველი ვატი არის ვატი, რომელიც გრაფიკულ პროცესორში არ წავიდა. წყალიც ამ ამბავში რჩება: ზოგი მცენარე წრუპავს, ზოგი კი ყლუპს.

რატომ არის ქსელური კავშირი ისეთივე მნიშვნელოვანი, როგორც გრაფიკული პროცესორები?

ტრენინგი საუბარია: ათასობით ამაჩქარებელი მჭიდრო სინქრონიზაციაში ცვლის გრადიენტებს, პარამეტრებს და მოდელის ნამსხვრევებს. თუ ქსოვილი ირყევა, მთელი სამუშაო ყველაზე ნელ ნახტომში დგება. სწორედ ამიტომ, ხელოვნური ინტელექტის დარბაზები გატაცებულნი არიან მაღალი გამტარუნარიანობის ქსელებით, დაბალი შეყოვნებით, InfiniBand-ის მსგავსი ქსოვილებით ან Ethernet-ით იმავე როლში და ტოპოლოგიებით, რომლებიც არ იკეცება შუაზე, როდესაც კავშირი წყდება. Inference ზრუნავს კუდის შეყოვნებაზე, ბევრ მცირე მოთხოვნაზე და იზოლაციაზე. ამ შენობაში სანტექნიკა რესტორანს წარმოადგენს.

რისთვის გამოიყენება ხელოვნური ინტელექტის მონაცემთა ცენტრი: ტრენინგისთვის თუ დასკვნების გასაკეთებლად?

ტრენინგი კამპანიაა: შეკრიბეთ კლასტერი, მიაწოდეთ მონაცემები, რელიგიურად შეამოწმეთ და იმუშავეთ საათების ან კვირების განმავლობაში. ინფერენცია არის ვიტრინა: უკვე გაწვრთნილი მოდელები, ახლა პასუხობენ, მნიშვნელოვანი შეყოვნებით. სასწავლო კამპუსები ძალაუფლებას, მიწას და სიმჭიდროვეს ეძებენ. ინფერენციის ადგილები შეყოვნებას და ყოფნას ეძებენ. ჰიბრიდული დარბაზები არსებობს, რადგან კაპიტალი უსასრულო არ არის, ზოგჯერ ერთი დარბაზი ორი გაგრილების მარყუჟით. მომხმარებლის მახლობლად ოდნავ ძველი ამაჩქარებელი შეიძლება აჯობოს მომხიბვლელ ამაჩქარებელს, რომელიც კონტინენტის მოშორებით მდებარეობს.

რატომ არის მნიშვნელოვანი შენახვა ხელოვნური ინტელექტის მონაცემთა ცენტრში?

სავარჯიშო მონაცემები საკმარისად სწრაფად უნდა მოდიოდეს, რომ გრაფიკული პროცესორები არ აჩქარდნენ. საკონტროლო პუნქტები უნდა დამონტაჟდეს, რათა ავარიამ კვირა არ დაკარგოს. მოდელის წონა უნდა ჩაიტვირთოს, სანამ მომსახურე რეპლიკა ჩატვირთული იქნება. მეხსიერების გამტარუნარიანობა, და არა მხოლოდ მოცულობა, არის ჩუმი შეფერხების ველი. შეგიძლიათ ამაჩქარებლებზე დიდი თანხა დახარჯოთ და ვირტუალური მანქანებისთვის შექმნილი თავაზიანი მასივით გამორთოთ ისინი.

რა ხდება, როდესაც კვანძი შუაში კვდება?

მჭიდროდ დაკავშირებულ სასწავლო სამუშაოში ერთი გამორთული ამაჩქარებელი შეიძლება მთელი გუნდის შეჩერებას იწვევდეს. ტრენინგს საკონტროლო წერტილები სჭირდება და არა ოპტიმიზმი. ინფერენცია ცარიელებს „დაავადებულ“ კვანძს, ინარჩუნებს რეპლიკას რეაგირების უნარს და აქტიურ მდგომარეობაში რჩება. ცვლილებების ფანჯრები კვლავ ეჯახება სასწავლო გაშვებებს, რომლებსაც თქვენი კალენდარი არ აინტერესებთ. სარეზერვო ფუნქცია კვლავ მნიშვნელოვანია ენერგიის, გაგრილებისთვის, ბილიკებისთვის და შენახვისთვის, მაგრამ გაუმართაობის რეჟიმი ნაკლებად მოწესრიგებულია, ვიდრე ძველი „ცხრა წუთების უწყვეტი მუშაობის“ სლაიდი.

რა გავლენას ახდენს ხელოვნური ინტელექტის მონაცემთა ცენტრი ელექტრო ქსელზე, წყალსა და მეზობლებზე?

ქსელთან მიერთება ხშირად ადგილმდებარეობის შერჩევის რეალური პროცესია. მიწის ნაკვეთი მარტივია ქვესადგურთან და კომუნალურ კომპანიასთან შედარებით, რომელსაც სხვა მომხმარებლები ჰყავს. გაგრილებისთვის წყალი, თუ მას იყენებთ, მეზობლებთან პრობლემად იქცევა, როგორც კი ნალექი უხეშია, ხმაურთან, ვიზუალურ მასასთან და სასაზღვრო ღობესთან სითბოსთან ერთად. ტრენინგი შეიძლება დამალული იყოს უფრო იაფ ელექტროენერგიის ბაზრებსა და გრილ კლიმატში. ინფერენსს მოსწონს მომხმარებლებთან ახლოს ყოფნა. არ არსებობს ერთი იდეალური ადგილი. არსებობს კომპრომისი პრესრელიზით.

მჭირდება ხელოვნური ინტელექტის მონაცემთა ცენტრის ფლობა თუ მისი დაქირავება?

ადამიანების უმეტესობას არ სჭირდება ამ დარბაზებიდან ერთ-ერთის ფლობა. ჰიპერსკალერები აშენებენ, რადგან პროდუქტი ავტოპარკია. ლაბორატორიები აშენებენ მაშინ, როდესაც რიგის დრო შეფერხების ზონაა ან მონაცემები ვერ გადის. ბანკს, საავადმყოფოს, მთავრობას ან მწარმოებელს, რომელსაც აქვს საიდუმლო მონაცემთა ნაკრები, შეუძლია რაციონალურად გამოიყენოს ადგილობრივი ან კერძო კოლოკაცია. ყველა დანარჩენმა უნდა იქირაოს: ხელოვნური ინტელექტით აღჭურვილი კოლოკაცია, ღრუბლოვანი რეზერვაცია ან მართული კლასტერი. თქვენ მიიღებთ ამაჩქარებლებს ელექტროსადგურის ოპერატორის სტატუსის გარეშე.

ცნობები

  1. IEA - www.iea.org

  2. LBNL - datacenters.lbl.gov

  3. მწვანე ბადე - www.thegreengrid.org

  4. LBNL - datacenters.lbl.gov

  5. LBNL - datacenters.lbl.gov

  6. Uptime Institute - journal.uptimeinstitute.com

  7. NVIDIA - developer.nvidia.com

  8. NVIDIA - docs.nvidia.com

  9. NVIDIA - docs.nvidia.com

  10. NVIDIA - docs.nvidia.com

  11. Google Cloud - docs.cloud.google.com

იპოვეთ უახლესი ხელოვნური ინტელექტი ოფიციალურ ხელოვნური ინტელექტის ასისტენტების მაღაზიაში

ჩვენს შესახებ

ვიქტორინა
1. სტატიის მიხედვით, რა არის ხელოვნური ინტელექტის მონაცემთა ცენტრი?

2. „ადგილების და არა სასახლეების“ ვერსიაში, რა უნდა გააკეთოს „კესტრელის“ მსგავსმა გუნდმა, როდესაც ქარხნის სურათები ობიექტიდან ვერ გაიტანება?

3. რატომ არის სტატიაში გამოყენებული 18-საათიანი საშუალო და არა 14-საათიანი მედიანა, როგორც რეტროფიტამდელი საბაზისო მნიშვნელობა?

4. რა შეიცვალა რვა გარბენის საილუსტრაციო ტესტში ორთაღიანი რეტროფიტის შემდეგ?

5. რას ამბობს სტატია ამ ორთაროიანი უჯრედისთვის PUE-ს ციტირების შესახებ?


ბლოგზე დაბრუნება