⚖️ Anthropic-მა პენტაგონის ხელოვნური ინტელექტის გამოყენების შეზღუდვების გამო შავ სიაში შეყვანის დაბლოკვის მიზნით სარჩელი შეიტანა ↗
Anthropic-მა პენტაგონთან დავა სასამართლოში გადაიტანა მას შემდეგ, რაც მიწოდების ჯაჭვის რისკად მიიჩნიეს. კომპანია აცხადებს, რომ ეს ნაბიჯი უკანონო შურისძიება იყო ავტონომიური იარაღისა და შიდა მეთვალყურეობის ირგვლივ დამცავი ბარიერების შემსუბუქებაზე უარის თქმის გამო - რაც ამ დავას ამჟამად ხელოვნური ინტელექტის პოლიტიკის ერთ-ერთ ყველაზე მწვავე საკითხად აქცევს. ( როიტერი )
მთავრობა „ნებისმიერი კანონიერი გამოყენებისთვის“ მოქნილობას ითხოვს, ხოლო Anthropic ამტკიცებს, რომ კერძო ლაბორატორიებს მაინც უნდა მიეცეთ მკაცრი უსაფრთხოების საზღვრების გავლების უფლება. ეს გახდა ერთ-ერთი ყველაზე ნათელი ტესტი იმისა, შეუძლია თუ არა ხელოვნური ინტელექტის კომპანიას სამხედრო პირობებზე უარის თქმა დაბრკოლებების გარეშე. ( როიტერი )
🧑💻 OpenAI-ისა და Google-ის თანამშრომლები მხარს უჭერენ Anthropic-ის სარჩელს პენტაგონის წინააღმდეგ ↗
ამ სარჩელმა სწრაფად მოიპოვა მხარდაჭერა კონკურენტი ლაბორატორიების შიგნითაც. OpenAI-სა და Google-ის თითქმის 40-მა თანამშრომელმა მხარი დაუჭირა Anthropic-ს amicus curia-ში და ამტკიცებდა, რომ ხელოვნური ინტელექტის უსაფრთხოების წითელი ხაზების გამო ფირმების წინააღმდეგ შურისძიება ეწინააღმდეგება საზოგადოებრივ ინტერესებს. ( The Verge )
ასე რომ, დიახ, კონკურენტები მოულოდნელად ერთ მხარეს აღმოჩნდნენ - სულ მცირე, ამ საკითხში. მოკლე მიმოხილვა ფოკუსირებულია მასობრივ თვალთვალსა და არასანდო ავტონომიურ იარაღზე, რაც მთელ ამბავს ნაკლებად ჰგავს სილიკონის ველის სტანდარტულ სნაიპერულ იერიშს და უფრო ქვიშაში... ან შესაძლოა ტალახში ნამდვილ ინდუსტრიულ ხაზს ჰგავს. ( The Verge )
🛡️ OpenAI-მა ხელოვნური ინტელექტის აგენტების უზრუნველსაყოფად Promptfoo შეიძინა ↗
OpenAI-მ განაცხადა, რომ ყიდულობს Promptfoo-ს, სტარტაპს, რომელიც ორიენტირებულია დიდი ენობრივი მოდელების დაცვაზე მოწინააღმდეგეობრივი თავდასხმებისგან. გეგმაა მისი ტექნოლოგიების ინტეგრირება OpenAI Frontier-ში, კომპანიის საწარმო პლატფორმაში ხელოვნური ინტელექტის აგენტებისთვის. ( TechCrunch )
ეს მნიშვნელოვანი ნაბიჯია. ყველას სურს, რომ აგენტულმა ხელოვნურმა ინტელექტმა ყველგან მეტი, უფრო სწრაფად გააკეთოს - მაგრამ უსაფრთხოების მხარე ჩამორჩა, მცირედით თუ დიდით. ეს შეთანხმება იმაზე მიუთითებს, რომ OpenAI ფიქრობს, რომ შემდეგი მნიშვნელოვანი რბოლა არა მხოლოდ უფრო ჭკვიანი აგენტებისთვის, არამედ უფრო უსაფრთხოებისთვისაცაა. ( TechCrunch )
🧪 Anthropic-მა ხელოვნური ინტელექტის მიერ გენერირებული კოდის ნაკადის შესამოწმებლად კოდის მიმოხილვის ინსტრუმენტი გამოუშვა ↗
Anthropic-მა Claude Code-ის ფარგლებში Code Review გამოუშვა, რომელიც მიზნად ისახავს გუნდებს, რომლებიც ხელოვნური ინტელექტის კოდირების ინსტრუმენტებით შექმნილ pull request-ებში იძირებიან. ის პარალელურად იყენებს რამდენიმე აგენტს კოდის სკანირებისთვის, ლოგიკური პრობლემების მონიშვნისთვის, სიმძიმის რანჟირებისთვის და GitHub-ში კომენტარების პირდაპირ დასატოვებლად. ( TechCrunch )
იდეა საკმაოდ მარტივია - ხელოვნური ინტელექტი კოდს უფრო სწრაფად წარმოქმნის, ვიდრე ადამიანებს შეუძლიათ მისი გონივრულად გადახედვა, ამიტომ ახლა ხელოვნურმა ინტელექტმა თავად უნდა გადახედოს მას. ოდნავ გველის კუდის მჭამელი, მაგრამ პრაქტიკული სქემა. Anthropic ამბობს, რომ ის ორიენტირებულია საწარმო მომხმარებლებზე, რომლებიც უკვე ხედავენ Claude Code-ის მასიურ კოდის გამომუშავებას. ( TechCrunch )
💰 Nvidia-ს მიერ მხარდაჭერილი Nscale ახალი დაფინანსების რაუნდში 14.6 მილიარდ დოლარად შეფასდა ↗
ბრიტანულმა ხელოვნური ინტელექტის ინფრასტრუქტურის კომპანია Nscale-მა C სერიის რაუნდში 2 მილიარდი დოლარი მოიზიდა და 14.6 მილიარდი დოლარის ღირებულების ინვესტიცია განახორციელა. მხარდამჭერებს შორის იყვნენ Aker, 8090 Industries, Nvidia, Citadel, Dell და Jane Street - რაც საკმაოდ მნიშვნელოვან ნდობის ვოტუმს წარმოადგენს. ( Reuters )
ეს მნიშვნელოვანია, რადგან ეს არ არის კიდევ ერთი მოდელის გამოშვება ან ჩატბოტის შეცვლა. ეს არის ბუმის „გადამწყვეტი“ მხარე - გამოთვლითი ტექნოლოგიები, ინფრასტრუქტურა, სიმძლავრე, ფარდის მიღმა არსებული ყველა მძიმე ტექნიკა. შესაძლოა, არც ისე მომხიბვლელი იყოს, მაგრამ სწორედ აქ იფანტება ახლა ფულის დიდი ნაწილი. ( როიტერი )
🧠 იან ლეკუნის AMI Labs-მა მსოფლიო მოდელების ასაშენებლად 1.03 მილიარდი დოლარი მოიზიდა ↗
იან ლეკუნის ახალმა საწარმომ, AMI Labs-მა, 3.5 მილიარდი დოლარის წინასწარი შეფასებით 1.03 მილიარდი დოლარი მოიზიდა. კომპანია „მსოფლიო მოდელებს“ მისდევს - ხელოვნური ინტელექტის სისტემებს, რომლებიც შექმნილია თავად რეალობიდან სწავლისთვის და არა ძირითადად ენიდან. ( TechCrunch )
ეს პირდაპირი ფილოსოფიური დარტყმაა ამჟამინდელი LLM-ზე ორიენტირებული კონსენსუსის წინააღმდეგ და ასევე საკმაოდ უხეში. ლეკუნი წლების განმავლობაში ამტკიცებდა, რომ დღევანდელი ენობრივი მოდელები ადამიანის დონის ინტელექტამდე ვერ მიგვიყვანს, ამიტომ ამ არგუმენტის წამოწევა ძალიან ძვირადღირებულ ექსპერიმენტად აქცევს. ( TechCrunch )
🇨🇳 ჩინური ტექნოლოგიური ჰაბები უსაფრთხოების გაფრთხილებების მიუხედავად, OpenClaw-ის ხელოვნური ინტელექტის აგენტს უწყობენ ხელს ↗
ჩინეთის რამდენიმე ადგილობრივი მთავრობა მხარს უჭერს OpenClaw-ს, ხელოვნური ინტელექტის აგენტს, რომელიც სწრაფად ვრცელდება პერსონალურ მონაცემებზე წვდომასთან დაკავშირებული უსაფრთხოების შეშფოთების მიუხედავად. ასე რომ, ოფიციალური განწყობა, როგორც ჩანს, ასეთია: დიახ, რისკები არსებობს - და დიახ, მოდით, მაინც გავაფართოვოთ ის. ( როიტერი )
ეს განხეთქილებაა მთავარი. ადგილობრივი ჰაბები ეკონომიკური ზრდისა და ეკოსისტემის იმპულსისკენ ისწრაფვიან, მაშინ როცა მარეგულირებლები მონაცემთა ზემოქმედების შესახებ აფრთხილებენ. ეს უკვე ნაცნობი ხელოვნური ინტელექტის ნიმუშია - ჯერ სპრინტი, შემდეგ დამცავი ღობეების მოწესრიგება, ყოველ შემთხვევაში, ასე ჩანს. ( როიტერი )
ხშირად დასმული კითხვები
რატომ უჩივის Anthropic პენტაგონს ხელოვნური ინტელექტის გამოყენების შეზღუდვებთან დაკავშირებით?
Anthropic-ის თქმით, პენტაგონმა ეს საკითხი მიწოდების ჯაჭვის რისკად შეაფასა მას შემდეგ, რაც კომპანიამ უარი თქვა უფრო ფართო პირობებზე, რომლებიც შეიძლება გავრცელდეს ავტონომიურ იარაღსა და შიდა მეთვალყურეობაზე. ეს სარჩელს მხოლოდ მომწოდებლის სტატუსზე მეტს ხდის. ის ამოწმებს, შეუძლია თუ არა ხელოვნური ინტელექტის ლაბორატორიას მკაცრი უსაფრთხოების ლიმიტების დაცვა და ამავდროულად, კონკურენცია გაუწიოს სამთავრობო სამუშაოებისთვის დასჯის გარეშე.
რატომ უჭერენ მხარს OpenAI-ისა და Google-ის თანამშრომლები Anthropic-ს ხელოვნური ინტელექტის უსაფრთხოების ამ დავაში?
amicus-ის მოკლე მიმოხილვა იმაზე მიუთითებს, რომ კონკურენტი ლაბორატორიების ბევრი თანამშრომელი ამას პრეცედენტის შემქმნელ ხელოვნური ინტელექტის უსაფრთხოების საკითხად მიიჩნევს და არა უბრალოდ ერთ კომპანიასა და ერთ სააგენტოს შორის დაპირისპირებად. მათი შეშფოთება იმაში მდგომარეობს, რომ მომწოდებლის დასჯამ წითელი ხაზების შენარჩუნებისთვის შესაძლოა ზეწოლა მოახდინოს ფართო ბაზარზე, რათა შეასუსტოს დაცვის მექანიზმები. პრაქტიკაში, ამან შეიძლება გავლენა მოახდინოს იმაზე, თუ როგორ მოხდება თავდაცვისა და საჯარო სექტორის ხელოვნური ინტელექტის მომავალი კონტრაქტების მოლაპარაკება.
რა შეიძლება შეცვალოს ანთროპო-პენტაგონის შემთხვევამ ხელოვნური ინტელექტის პოლიტიკისა და თავდაცვის კონტრაქტებისთვის?
თუ Anthropic გაიმარჯვებს, ხელოვნური ინტელექტის კომპანიებს შესაძლოა უფრო ძლიერი საფუძველი ჰქონდეთ მიუღებელი გამოყენების განსაზღვრისთვის, მაშინაც კი, როდესაც ისინი გაყიდვებს სამთავრობო მგრძნობიარე გარემოში ახორციელებენ. თუ ისინი წააგებენ, სააგენტოებს შეუძლიათ მოიპოვონ ბერკეტები, რათა მომწოდებლებისგან მოითხოვონ უფრო ფართო „კანონიერი გამოყენების“ პირობები. ნებისმიერ შემთხვევაში, ეს დავა, სავარაუდოდ, გავლენას მოახდენს შესყიდვების ენაზე, რისკების მიმოხილვასა და თავდაცვის გარიგებებში უსაფრთხოების დამცავი ბარიერების ასახვის წესზე.
რატომ შეიძინა OpenAI-მ Promptfoo ხელოვნური ინტელექტის აგენტებისთვის?
Promptfoo ცნობილია დიდი ენობრივი მოდელების ტესტირებით მოწინააღმდეგეობრივი მოთხოვნებისა და სხვა უსაფრთხოების სისუსტეების წინააღმდეგ. ამ ტიპის ინსტრუმენტების OpenAI-ის საწარმო აგენტის პლატფორმაში ინტეგრირება იმაზე მიუთითებს, რომ კომპანია უფრო უსაფრთხო განლაგებას კონკურენტულ უპირატესობად და არა გვერდით ამოცანად მიიჩნევს. რადგან ხელოვნური ინტელექტის აგენტები უფრო მნიშვნელოვან სამუშაოს ასრულებენ, მდგრადობისა და ბოროტად გამოყენების ტესტირების იგნორირება გაცილებით რთული ხდება.
როგორ შეუძლიათ გუნდებს ხელოვნური ინტელექტის მიერ გენერირებული კოდის ნაკადის უფრო უსაფრთხოდ მართვა?
Anthropic-ის ახალი კოდის მიმოხილვის ფუნქცია Claude Code-ში განკუთვნილია გუნდებისთვის, რომლებიც გადატვირთულნი არიან ხელოვნური ინტელექტის კოდირების ინსტრუმენტების მიერ გენერირებული pull requests-ით. ის პარალელურად იყენებს მრავალ აგენტს ლოგიკური პრობლემების აღმოსაჩენად, სიმძიმის რანჟირებისთვის და GitHub-ში კომენტარების დასატოვებლად. როგორც წესი, ასეთი ინსტრუმენტები ხელს უწყობს მოცულობის დახარისხებას, მაგრამ ადამიანი მიმომხილველები მაინც მნიშვნელოვან როლს თამაშობენ არქიტექტურის, კონტექსტისა და საბოლოო დამტკიცებისთვის.
რატომ იხარჯება ხელოვნური ინტელექტის ინფრასტრუქტურაში ამდენი ინვესტიცია ახლავე?
Nscale-ის ბოლო დაფინანსების რაუნდი ხაზს უსვამს, რომ ხელოვნური ინტელექტის ინდუსტრია კვლავ უზარმაზარ კაპიტალს დებს გამოთვლით ტექნოლოგიებში, ინფრასტრუქტურასა და სიმძლავრეებში. ეს ხარჯები შეიძლება ნაკლებად შესამჩნევი იყოს, ვიდრე თვალშისაცემი მოდელის გაშვება, მაგრამ ის ყველაფერს სხვას უდევს საფუძვლად. როდესაც ტრენინგებსა და განლაგებაზე მოთხოვნა მუდმივად იზრდება, კომპანიები, რომლებიც წეროებსა და ნიჩბებს ყიდიან, ხშირად ყველაზე დიდ გამარჯვებულებად იქცევიან.
რა არის მსოფლიო მოდელები და რატომ დებს იან ლეკუნი მათზე ფსონს?
მსოფლიოს მოდელები ხელოვნური ინტელექტის სისტემებია, რომლებიც შექმნილია იმისთვის, რომ ისწავლონ სამყაროს ქცევიდან და არა ძირითადად ენობრივ მონაცემებზე დაყრდნობით. ეს მნიშვნელოვანია, რადგან იან ლეკუნი დიდი ხანია ამტკიცებს, რომ ენობრივი მოდელები თავისთავად ნაკლებად სავარაუდოა, რომ მიაღწიონ ადამიანის დონის ინტელექტს. AMI Labs ამ შეხედულებას ხელოვნური ინტელექტის მოწინავე კვლევისთვის განსხვავებულ გზაზე დადებული მსხვილ კომერციულ ფსონად აქცევს.
რატომ უჭერენ მხარს ჩინური ტექნოლოგიური ჰაბები OpenClaw-ს უსაფრთხოების გაფრთხილებების მიუხედავად?
OpenClaw-ის ისტორია სწრაფად მოძრავ ტექნოლოგიურ ბაზრებზე ნაცნობ განხეთქილებას აჩვენებს: ადგილობრივი მთავრობები ზრდას, სუბსიდიებსა და ეკოსისტემის იმპულსს ითხოვენ, ხოლო მარეგულირებლები მონაცემთა ხელმისაწვდომობასა და უსაფრთხოებაზე ღელავენ. გაფრთხილებების მიუხედავად, აგენტის მხარდაჭერა იმაზე მიუთითებს, რომ ზოგიერთ ადგილას ეკონომიკური სტიმულები ჭარბობს. დამკვირვებლებისთვის ეს კიდევ ერთი შეხსენებაა, რომ დანერგვა ხშირად ზედამხედველობაზე სწრაფად ხდება.