🛡️ დიდი ბრიტანეთის მარეგულირებლები ანთროპული ხელოვნური ინტელექტის უახლესი მოდელის რისკების შეფასებას ჩქარობენ, იუწყება FT ↗
როგორც ამბობენ, ბრიტანეთის ფინანსური ზედამხედველობის ორგანოები სწრაფად მუშაობენ Anthropic-ის ახალ Mythos მოდელზე, რადგან არსებობს შეშფოთება, რომ მან შეიძლება გამოავლინოს სერიოზული სისუსტეები კრიტიკულ სისტემებში. მოლაპარაკებებში მონაწილეობენ ინგლისის ბანკი, ფინანსური ანგარიშგების სამსახური, ხაზინა და ეროვნული კიბერუსაფრთხოების ცენტრი - რაც ერთი მოდელის წინასწარი შემოწმებისთვის შესანიშნავ შემადგენლობას წარმოადგენს.
შეშფოთება იმაში მდგომარეობს, რომ Mythos უჩვეულოდ ოსტატურად ახერხებს პროგრამული უზრუნველყოფის დაუცველობების აღმოჩენას, მიუხედავად იმისა, რომ Anthropic-ის თქმით, დანერგვა მკაცრად შეზღუდულია და თავდაცვითი უსაფრთხოების სამუშაოებზეა ორიენტირებული. ბანკებისგან, სადაზღვევო კომპანიებისგან და ბირჟებისგან მოსალოდნელია ინსტრუქტაჟი, ამიტომ ეს ახლა ნაკლებად ჰგავს ლაბორატორიულ ჭორებს და უფრო ინფრასტრუქტურულ პოლიტიკას.
🤖 HumanX კონფერენციაზე ყველა კლოდზე საუბრობდა ↗
როგორც ჩანს, Anthropic-მა განსაზღვრა HumanX-ის ტონი - ეს იყო სიუჟეტი. პანელებში, გამყიდველებთან საუბრებსა და დერეფნის საუბრებში, კლოდი გამუდმებით ჩნდებოდა, როგორც მოდელი, რომელსაც ადამიანები ყველაზე მეტად ეძებდნენ ბიზნესისა და კოდირების სამუშაო პროცესებისთვის.
განსაკუთრებით გამოირჩეოდა ChatGPT-ის გარშემო არსებული შედარებითი სიჩუმე. სტატიაში ნათქვამია, რომ OpenAI-ს ჯერ კიდევ აქვს მასშტაბები და ფული, თუმცა კონფერენციის განწყობა კლოდისკენ იხრებოდა, როგორც ამ ეტაპზე უფრო მკვეთრი საწარმოო მიმზიდველობის მქონე ინსტრუმენტისკენ - ყოველ შემთხვევაში, ასე ჩანს.
📄 Anthropic-ის Claude for Word კიდევ ერთი გამოწვევაა Microsoft-ის პროგრამული უზრუნველყოფის იმპერიისთვის ↗
Anthropic-მა გამოუშვა Claude for Word-ის ბეტა ვერსია, რომელიც დეველოპერის ინსტრუმენტად ყოფნის ნაცვლად, ყოველდღიურ საოფისე პროგრამულ უზრუნველყოფაში უფრო ღრმად შედის. მას შეუძლია დოკუმენტის შესახებ კითხვებზე პასუხის გაცემა დაწკაპუნებადი ციტირებით, არჩეული ტექსტის რედაქტირება ფორმატირების დარღვევის გარეშე და თვალყურის დევნებადი ცვლილებების დამუშავება.
სამიზნე აუდიტორია საკმაოდ ნათელია: დოკუმენტებზე ორიენტირებული გუნდები, განსაკუთრებით იურიდიული და ფინანსური. ეს უბრალოდ დამატებითი ფუნქციის დამატებაზე მეტს ხდის - ეს Microsoft-ის საშინაო ტერიტორიაზე პირდაპირი ბიძგია და საკმაოდ თამამი ნაბიჯია.
🌐 ხელოვნური ინტელექტის ბოტები ინტერნეტს „მოპოვებით“ იყენებენ და Anthropic ლიდერობს ↗
Cloudflare-ის მონაცემების ახალი ანალიზი ადასტურებს, რომ ხელოვნური ინტელექტის კომპანიები ვებს გაცილებით მეტს იღებენ, ვიდრე აბრუნებენ. მთავარი სტატისტიკა არის crawl-to-referring თანაფარდობა - რამდენად ხშირად ამოწმებენ ბოტები გვერდებს და რამდენად ხშირად აბრუნებენ ისინი მომხმარებლებს უკან - და Anthropic განსაკუთრებით ცუდად ფასობს.
Anthropic-ის თანაფარდობა 8800-დან 1-მდეა, OpenAI-იც მაღალია, მაგრამ გაცილებით დაბალი. უფრო ზოგადი აზრი რთულდება: ძველი ვებ-გარიგება იყო ჩვენი სკანირება, შემდეგ კი ტრაფიკის გაგზავნა. ხელოვნური ინტელექტის ძრავები პირველ ნაწილს ინარჩუნებენ და მეორეს ნისლად უშვებენ.
⚔️ ხელოვნური ინტელექტის გამოყენებით შეიარაღების მზარდი გლობალური რბოლის მიმოხილვა, როდესაც აშშ, ჩინეთი, რუსეთი და სხვები ხელოვნური ინტელექტით მხარდაჭერილი ავტონომიური იარაღისა და თავდაცვის სისტემების შექმნას ცდილობენ ↗
სამხედრო ხელოვნური ინტელექტის უახლესი გაშუქება ნაკლებად ეხება თვალშისაცემი დემონსტრაციებს და უფრო მეტად სტრატეგიულ აჩქარებას. წამყვანი ძალები ერთდროულად ავითარებენ ავტონომიურ და ხელოვნური ინტელექტით დაფუძნებულ თავდაცვის სისტემებს, რაც მთელ ამბავს ესტაფეტას ჰგავს, სადაც ყველამ ხელკეტი აიღო და მუხრუჭები დაივიწყა.
ეს ჩვეულებრივ კითხვებს ბადებს - კონტროლს, ესკალაციას, ანგარიშვალდებულებას - თუმცა ახლა უფრო აქტუალურად. როგორც კი ხელოვნური ინტელექტი უფრო ღრმად ჩაერთვება დამიზნების, თვალთვალისა და ბრძოლის ველზე გადაწყვეტილების მიღების პროცესში, „ექსპერიმენტული“ უკვე მოძრავ რაღაცაზე ქაღალდის ეტიკეტს დაემსგავსება.
🏭 იაპონურმა SoftBank-მა საკუთარი ხელოვნური ინტელექტის შესაქმნელად ახალი განყოფილება გახსნა ↗
SoftBank-მა Sony-სთან, Honda-სთან და სხვა იაპონურ კომპანიებთან ერთად შექმნა ხელოვნური ინტელექტის ახალი საწარმო, რომელიც ორიენტირებულია „ფიზიკურ ხელოვნურ ინტელექტზე“ - მოდელებზე, რომლებიც განკუთვნილია მანქანებისა და რობოტების სამართავად და არა მხოლოდ ტექსტური შეტყობინებებით პასუხის გასაცემად. ეს განსხვავებული მიმართულებაა ჩვეულებრივი ჩატბოტების კონკურსისგან და შესაძლოა უფრო საინტერესოც.
ამბიცია უზარმაზარია, როგორც ამბობენ, ძალისხმევა მიმართულია ძალიან დიდი საძირკვლის მოდელისა და სამრეწველო გამოყენებისკენ მიმართული გრძელი ასაფრენი ბილიკისკენ. ეს ნაწილობრივ ეროვნული ტექნოლოგიური სტრატეგიაა, ნაწილობრივ მთვარის პერსპექტივა, ნაწილობრივ მექანიკური ანიმე საბჭოს შეხვედრებით.
ხშირად დასმული კითხვები
რატომ აკვირდებიან დიდი ბრიტანეთის მარეგულირებლები ყურადღებით Anthropic-ის Mythos მოდელს?
ანგარიშების თანახმად, დიდი ბრიტანეთის ხელისუფლება Mythos-ს პოტენციურ რისკად მიიჩნევს, რადგან ის შესაძლოა უჩვეულოდ ოსტატური იყოს პროგრამული უზრუნველყოფის დაუცველობების აღმოჩენაში. როგორც ამბობენ, დისკუსიებში მონაწილეობენ ინგლისის ბანკი, FCA, ხაზინა და ეროვნული კიბერუსაფრთხოების ცენტრი. ინსტიტუტების ეს კომბინაცია შეშფოთებას გამოხატავს კრიტიკულ სისტემებზე, განსაკუთრებით ფინანსებსა და ინფრასტრუქტურაში, შესაძლო ზემოქმედების შესახებ.
რით განსხვავდება Anthropic Mythos მოდელი ჩვეულებრივი ხელოვნური ინტელექტის ვერსიისგან?
შეშფოთება მხოლოდ იმაში არ მდგომარეობს, რომ ეს ახალი მოდელია, არამედ იმაში, რომ ის განსაკუთრებით ეფექტური ჩანს თავდაცვითი უსაფრთხოების სამუშაოებში, რომლებიც დაკავშირებულია პროგრამული უზრუნველყოფის სისუსტეების აღმოჩენასთან. Anthropic-ის ცნობით, წვდომა მკაცრად შეზღუდულია, რაც იმაზე მიუთითებს, რომ გავრცელება უფრო ფრთხილად მიმდინარეობს, ვიდრე ფართო მომხმარებლისთვის გაშვება. პრაქტიკაში, ეს მას უფრო კონტროლირებად უსაფრთხოების შესაძლებლობასთან უფრო ახლოს აყენებს, ვიდრე სტანდარტულ ჩატბოტის განახლებას.
რატომ იქცა კლოდი ამდენ ყურადღებას HumanX კონფერენციაზე?
სტატიის თანახმად, კლოდი არაერთხელ გამოჩნდა პანელებზე, მომწოდებლებთან საუბრებსა და არაფორმალურ დისკუსიებში, როგორც ბიზნესისა და კოდირების სამუშაო პროცესების ძლიერი ვარიანტი. სტატიაში წარმოდგენილია Anthropic, როგორც მნიშვნელოვანი იმპულსი საწარმო მომხმარებლებში ამ ღონისძიებაზე. ასევე, ის მიუთითებს, რომ HumanX-ის გარშემო განწყობა ChatGPT-ზე უფრო მშვიდი იყო, მიუხედავად იმისა, რომ OpenAI-ს კვლავ აქვს მნიშვნელოვანი მასშტაბები და რესურსები.
რას აკეთებს სინამდვილეში Claude for Word პროგრამა დოკუმენტებზე დატვირთული გუნდებისთვის?
აქ აღწერილი ბეტა ვერსია შექმნილია დოკუმენტებში სამუშაოდ და არა უბრალოდ დამოუკიდებელი ტექსტის გენერირებისთვის. მას შეუძლია უპასუხოს დოკუმენტთან დაკავშირებულ კითხვებს სექციების ციტირებით, შეცვალოს არჩეული პასაჟები ფორმატირების დარღვევის გარეშე და დაამუშაოს თვალყურადევნებული ცვლილებები. ეს მას განსაკუთრებით აქტუალურს ხდის იურიდიული, ფინანსური და სხვა გუნდებისთვის, რომლებსაც სჭირდებათ ფრთხილად განხილვა და არა უხეში ნახაზის შექმნა.
რას ამბობს crawl-to-referring თანაფარდობა ხელოვნური ინტელექტის ბოტებსა და ვებს შესახებ?
სტატიაში წარმოდგენილია ეს თანაფარდობა, როგორც შედარების საშუალება ხელოვნური ინტელექტის კომპანიების მიერ ვებსაიტების სკანირების სიხშირესა და უკან დაბრუნების სიხშირეზე. ამ კონტექსტში, ძალიან მაღალი თანაფარდობა მიუთითებს მცირე დაბრუნებული ტრაფიკით მოპოვებაზე. ამ საზომით Anthropic განსაკუთრებით ცუდად მუშაობს, რაც ამძაფრებს ფართო კრიტიკას იმის შესახებ, რომ ხელოვნური ინტელექტის პასუხების სისტემებმა შეიძლება შეასუსტონ ინდექსირების ძველი ვებ გაცვლა რეფერალების სანაცვლოდ.
რატომ აკავშირებენ ადამიანები ხელოვნური ინტელექტის პროგრესს როგორც ავტონომიურ იარაღთან, ასევე ფიზიკურ ხელოვნურ ინტელექტთან?
სტატიაში ორი ურთიერთდაკავშირებული ტენდენციაა მითითებული: მთავრობების მიერ ხელოვნური ინტელექტით მხარდაჭერილი თავდაცვის სისტემების დაჩქარება და ისეთი კომპანიების მიერ, როგორიცაა SoftBank, მანქანებისა და რობოტების სამართავად შექმნილი მოდელების მხარდაჭერა. ერთად, ისინი აჩვენებენ, რომ ხელოვნური ინტელექტი სცილდება ჩატისა და ძიების პროცესს ფიზიკურ სისტემებში, რომლებსაც შეუძლიათ აღქმა, გადაწყვეტილების მიღება და მოქმედება. ეს უფრო დიდ კითხვებს ბადებს კონტროლის, ანგარიშვალდებულების, სამრეწველო გამოყენების და იმის შესახებ, თუ რამდენად სწრაფად გადადის ეს სისტემები ექსპერიმენტულიდან ოპერაციულზე.