OpenAI უსაფრთხოების პრობლემების გამო, ხელოვნური ინტელექტის მოდელ Astra-ზე მუშაობას შეაჩერებს ↗
OpenAI აჩერებს Astra-ზე შიდა მუშაობას, რომელიც არ აკმაყოფილებს უსაფრთხოების უფრო მკაცრ მოთხოვნებს, მას შემდეგ, რაც შეფასებებმა აჩვენა, რომ მის კიბერშესაძლებლობებმა შესაძლოა „კრიტიკული“ ზღვარი გადალახა. როგორც ამბობენ, აგენტს შეუძლია დაუცველობების აღმოჩენა და გამოყენება ადამიანის ჩარევის გარეშე, ან შეტევების განხორციელება მაღალი დონის მიზნიდან. დიახ... ეს საკმაოდ სერიოზული ზღვარია გადასალახავი.
კომპანია ამკაცრებს იზოლირებულ ტესტირებას, ქსელსა და ინსტრუმენტებზე წვდომას, მოდელის წონის დაცვას, დაშიფვრასა და მონიტორინგს. Astra არ მონაწილეობდა OpenAI-ის Hugging Face-ის ადრეულ ინციდენტში, მაგრამ სულ უფრო ავტონომიური აგენტების უფრო ფართო სპექტრი შეკავებას გაცილებით დიდ შეშფოთებას უქმნის. (წყარო: The Guardian)
Apple-ის თქმით, ჩინეთში Mac-ის მომხმარებლებს Alibaba-ს Qwen AI სერვისთან დაკავშირება შეეძლებათ ↗
ჩინეთის მატერიკულ ნაწილში მცხოვრებ Mac-ის მომხმარებლებს ახლა შეუძლიათ Alibaba-ს Qwen-ის Siri-სთან და Apple-ის Writing Tools-თან დაკავშირება. ეს ნიშნავს უფრო დეტალურ პასუხებს, დოკუმენტებისა და სურათების ანალიზს, აღწერილობებიდან ტექსტისა და სურათების გენერირებასთან ერთად.
გულწრფელად რომ ვთქვათ, საინტერესო შეხამებაა - Apple-ი ადგილობრივად თავსებად გზას იკავებს უფრო ძლიერი ხელოვნური ინტელექტის ფუნქციებისკენ სასტიკად კონკურენტულ კომპიუტერულ ბაზარზე, მაშინ როცა Alibaba Qwen-ს სხვის ეკოსისტემაში გაცილებით ღრმად ნერგავს. Apple-ის თქმით, გაფართოების მეშვეობით გაგზავნილი მასალის გამოყენება Alibaba-ს არ შეუძლია მისი მოდელების წვრთნისთვის. (წყარო: Reuters)
Google DeepMind ახალ ერაში შედის, რადგან თანადამფუძნებელი დემის ჰასაბისი ხელოვნური ინტელექტის სფეროში როლს იცვლის ↗
დემის ჰასაბისი DeepMind-ის ყოველდღიურ ხელმძღვანელობას ტოვებს და თავმჯდომარე ხდება, ამავდროულად Alphabet-ში მთავარი მეცნიერის თანამდებობას იკავებს. მისი დიდი ხნის კოლეგა კორაი კავუკჩუოღლუ ოპერაციული კონტროლის ფუნქციას უფროსი ვიცე-პრეზიდენტის თანამდებობას იკავებს და არა აღმასრულებელი დირექტორის თანამდებობას - ეს არის დახვეწილი ცვლილება, რომელიც საკმაოდ ბევრ რამეზე მეტყველებს.
ცვლილებები სხვა მსხვილი მკვლევრების წასვლებს და კითხვებს აჩენს იმის შესახებ, ხდება თუ არა DeepMind ნაკლებად დამოუკიდებელი და უფრო მჭიდროდ არის თუ არა ინტეგრირებული Google-ის კომერციულ ხელოვნურ ინტელექტთან. Google უარყოფს, რომ ცვლილება დაკავშირებულია Gemini-ს კონკურენტულ შესრულებასთან. (წყარო: The Guardian)
დიდ ბრიტანეთში სულ უფრო მეტი ბავშვი აცხადებს, რომ საკუთარი თავის აშკარა „დიფფეიკებს“ ხედავს ↗
დიდი ბრიტანეთის ბავშვებისგან მიღებული შეტყობინებები საკუთარი თავის ყალბი ან მანიპულირებული სურათების შესახებ მკვეთრად გაიზარდა. Report Remove-მა სულ რაღაც ექვს თვეში 420 შეტყობინება მიიღო, რაც უკვე აღემატება წინა წლიურ მაჩვენებელს - 397-ს. ხელოვნური ინტელექტით მართული „შიშვლის“ ხელსაწყოები პრობლემის მასშტაბირებას საშინლად აადვილებს.
ინტერნეტ მეთვალყურეობის ფონდი აცხადებს, რომ მანიპულირებული სურათების უმეტესობა იმდენად სერიოზული იყო, რომ ბავშვზე სექსუალური ძალადობის შემცველ მასალად ჩაითვალა. ზოგიერთი მსხვერპლი ასევე გახდა სექსუალური ძალადობის სამიზნე, რაც ხელოვნური ინტელექტის მიერ გენერირებულ სურათს ძალიან ხელშესახებ იარაღად აქცევდა. (წყარო: The Guardian)
კვლევის თანახმად, ხელოვნური ინტელექტის ფუნქციები ბიზნეს ღირებულებას უსწრებს ↗
საწარმო პროგრამული უზრუნველყოფის კომპანიები ხელოვნური ინტელექტის ფუნქციებს ნერგავენ, თუმცა მომხმარებლები მათ აუცილებლად არ იყენებენ. 260-ზე მეტი ვერტიკალური პროგრამული უზრუნველყოფის ბიზნესის გამოკითხვის თანახმად, გამოკითხულთა 51%-მა განაცხადა, რომ მათი მომხმარებლების ერთ მეოთხედზე ნაკლები იყენებდა მათ მიერ შექმნილ ხელოვნურ ინტელექტს. ამდენი მიწოდების შემდეგ, ეს ცოტა უხერხულია...
ეს „შეფერხების ზონა“ ნაკლებად ჰგავს ხელოვნური ინტელექტის შესაძლებლობებს და უფრო მეტად ინტეგრაციას, უსაფრთხოებას, კონფიდენციალურობას, სამუშაო პროცესის ცვლილებებს და კონკრეტული ბიზნეს ღირებულების დამტკიცებას. ერთ-ერთი განსაკუთრებით თავისებური ფენომენია „ტოკენმაქსინგი“ - ხელოვნური ინტელექტის დიდი რაოდენობით მოხმარება, რომელიც შთამბეჭდავად გამოიყურება დაფაზე მკაფიო მტკიცებულების გარეშე, რომ ის უკეთეს შედეგებს იძლევა. (წყარო: Forbes)
ხელოვნური ინტელექტი სამუშაოს უფრო სწრაფად ცვლის, ვიდრე მონაცემებს შეუძლიათ თვალყური ადევნონ ↗
ხელოვნური ინტელექტისა და სამუშაო ადგილების არგუმენტი სულ უფრო ჩახლართული და არა უფრო მკაფიო ხდება. კვლევამ, რომელიც 21 000-ზე მეტ ამერიკულ კომპანიას მოიცავდა, აჩვენა, რომ ხელოვნური ინტელექტის ყველაზე აქტიურად გამოყენებაში მონაწილე კომპანიებმა თანამშრომლების საერთო რაოდენობა 10%-ით, ხოლო საწყისი დონის დასაქმებაში მონაწილე კომპანიებმა - 12%-ით გაზარდეს, მაშინ როცა ნაკლებად ინტენსიურად გამოყენებაში მონაწილე კომპანიებმა თანამშრომლების რაოდენობის ზრდა არ დააფიქსირეს.
თუმცა, სხვა კვლევებმა აჩვენა, რომ ხელოვნური ინტელექტის ზემოქმედების ქვეშ მყოფ პოზიციებზე დასაქმების პრობლემა ახალგაზრდა მუშაკებს შორის არსებობს და ეკონომისტები აფრთხილებენ, რომ მზარდ კომპანიებს კვლავ შეუძლიათ თანამშრომლების დაქირავება, მაშინ როცა ხელოვნური ინტელექტი ცვლის პროფესიებს მთელ ეკონომიკაში. ამრიგად, ხელოვნური ინტელექტი კლავს სამუშაო ადგილებს და ქმნის მათ... ყოველ შემთხვევაში, წინააღმდეგობრივი მონაცემები ასე გვაფიქრებინებს. (წყარო: Fortune)
ხშირად დასმული კითხვები
რა არის ამჟამად ხელოვნური ინტელექტის სფეროში ყველაზე მნიშვნელოვანი სიახლეები?
ხელოვნური ინტელექტის შესახებ ბოლოდროინდელი სიახლეები რამდენიმე გადამკვეთ თემაზე მიუთითებს: უფრო ძლიერი ავტონომიური შესაძლებლობები, უსაფრთხოების უფრო მკაცრი კონტროლი, პლატფორმის უფრო ღრმა ინტეგრაცია, ხელმძღვანელობის ცვლილებები, ონლაინ უსაფრთხოების რისკები და ბიზნეს ღირებულების გაურკვეველი პერსპექტივა. OpenAI ამკაცრებს დაცვის ზომებს Astra-ს გარშემო, Apple აკავშირებს Qwen-ს Mac-ებთან ჩინეთში, ხოლო DeepMind ცვლის ხელმძღვანელობას. ამავდროულად, იზრდება შეშფოთება ღრმა ფეიქების, საწარმოებში დანერგვის და ხელოვნური ინტელექტის დასაქმებაზე გავლენის შესახებ.
რატომ შეაჩერა OpenAI-მა Astra-ზე მუშაობა?
როგორც იტყობინებიან, OpenAI-მ შეაჩერა Astra-ს შიდა მუშაობა, რომელიც არ აკმაყოფილებდა უსაფრთხოების უფრო მკაცრ მოთხოვნებს მას შემდეგ, რაც შეფასებებმა აჩვენა, რომ მოდელის კიბერშესაძლებლობები შესაძლოა კრიტიკულ დონეს მიღწეულიყო. არსებობს შეშფოთება, რომ მოწინავე აგენტს შეუძლია პოტენციურად აღმოაჩინოს და გამოიყენოს დაუცველობები შეზღუდული ან საერთოდ არ ჩარევით ადამიანის ჩარევის შემთხვევაში. საპასუხოდ, OpenAI აძლიერებს იზოლირებულ ტესტირებას, წვდომის კონტროლს, დაშიფვრას, მონიტორინგს და დაცვას მოდელის წონის მიხედვით.
როგორ იმუშავებს Alibaba Qwen Apple Mac-ებთან ჩინეთში?
ჩინეთის მატერიკულ ნაწილში მცხოვრებ Mac-ის მომხმარებლებს შეუძლიათ Alibaba-ს Qwen სერვისი Siri-სა და Apple-ის Writing Tools-თან დააკავშირონ. ინტეგრაციას შეუძლია უფრო დეტალური პასუხების, დოკუმენტებისა და სურათების ანალიზის, ასევე აღწერილობებიდან ტექსტის ან სურათების გენერირების მხარდაჭერა. Apple-ისთვის ეს შეთანხმება უზრუნველყოფს ადგილობრივად თავსებად გზას უფრო ძლიერი ხელოვნური ინტელექტის ფუნქციონირებისკენ, ხოლო Alibaba Apple-ის ეკოსისტემაზე უფრო ღრმა წვდომას იძენს. Apple-ის თქმით, წარდგენილი მასალა არ შეიძლება გამოყენებულ იქნას Alibaba-ს მოდელების წვრთნისთვის.
რას ნიშნავს DeepMind-ის ხელმძღვანელობის ცვლილება Google-ის ხელოვნური ინტელექტისთვის?
დემის ჰასაბისი DeepMind-ის ყოველდღიური ხელმძღვანელობიდან მიდის და თავმჯდომარე ხდება და Alphabet-ში მთავარი მეცნიერის თანამდებობას იკავებს. კორაი კავუკჩუოღლუ ოპერაციულ კონტროლს უფროსი ვიცე-პრეზიდენტის თანამდებობაზე დაიკავებს. ცვლილებამ კითხვები გააჩინა იმასთან დაკავშირებით, უფრო მჭიდროდ ინტეგრირდება თუ არა DeepMind Google-ის უფრო ფართო კომერციულ ხელოვნური ინტელექტის ოპერაციებთან, თუმცა Google უარყოფს ვარაუდებს, რომ ცვლილებები Gemini-ის კონკურენტულ შედეგებს უკავშირდება.
რატომ ხდება ხელოვნური ინტელექტით შექმნილი ღრმა ფეიქები ბავშვთა უსაფრთხოების უფრო დიდ პრობლემად?
ხელოვნური ინტელექტით მართული გამოსახულების მანიპულირების ხელსაწყოები აადვილებს რეალისტური, ექსპლიციტური, ყალბი სურათების მასშტაბურ შექმნას. დიდ ბრიტანეთში ბავშვები სულ უფრო ხშირად აფიქსირებენ საკუთარი თავის მანიპულირებული ან შეთხზული სურათების შესახებ და ზოგიერთი შემთხვევა იმდენად სერიოზული იყო, რომ ბავშვზე სექსუალური ძალადობის შემცველი მასალის ზღვარს აკმაყოფილებდა. ეს სურათები ასევე შეიძლება გამოყენებულ იქნას სექს-ტორტინგისთვის, რაც იმას ნიშნავს, რომ შეთხზულ სურათს მაინც შეუძლია მნიშვნელოვანი რეპუტაციის, ემოციური და ფინანსური ზიანი მიაყენოს.
იღებენ თუ არა ბიზნესები და მუშები უკვე სარგებელს ხელოვნური ინტელექტით?
ხელოვნური ინტელექტის შესახებ უახლესი ამბები იმაზე მიუთითებს, რომ პასუხი ორაზროვანია. პროგრამული უზრუნველყოფის მრავალი კომპანია ხელოვნური ინტელექტის ფუნქციებს უფრო სწრაფად ამატებს, ვიდრე მომხმარებლები მათ დანერგვას ახდენენ, ინტეგრაცია, კონფიდენციალურობა, უსაფრთხოება და გაზომვადი ბიზნეს ღირებულება კი მთავარ ბარიერებად რჩება. დასაქმების მონაცემებიც ანალოგიურად რთულია: ზოგიერთი კომპანია, რომელიც აქტიურად იყენებს ხელოვნურ ინტელექტს, აფართოებს დასაქმებას, ხოლო სხვა კვლევები მიუთითებს ახალგაზრდა მუშაკებზე ზეწოლაზე ხელოვნურ ინტელექტთან დაკავშირებულ პოზიციებზე. საერთო გავლენა მნიშვნელოვნად არის დამოკიდებული ინდუსტრიაზე, სამუშაო პროცესზე და იმაზე, თუ როგორ არის ხელოვნური ინტელექტი დანერგილი.