🦞 OpenClaw-ს დამფუძნებელი შტაინბერგერი OpenAI-ს შეუერთდა, ღია კოდის ბოტი ფონდად იქცა ↗
პიტერ შტაინბერგერი OpenAI-ში მიდის „პერსონალური აგენტების“ გასავრცელებლად, ხოლო თავად OpenClaw ფონდშია განთავსებული, რათა ღია კოდის (და მხარდაჭერის) მქონედ დარჩეს. ეს გაყოფა... საკმაოდ ჭკვიანურია - დაიქირავეთ შემქმნელი, პროექტი კი საჯაროდ შეინახეთ.
OpenClaw-ის წინადადება საკმაოდ პრაქტიკულია: ელექტრონული ფოსტის კლასიფიკაცია, დაზღვევის დოკუმენტაცია, ფრენის რეგისტრაცია, შემაწუხებელი ცხოვრებისეული ადმინისტრირების ამოცანები. ის ასევე გაზვიადებულია GitHub-ზე და ამ პოპულარობამ უსაფრთხოების შეშფოთება გამოიწვია, განსაკუთრებით თუ ადამიანები მას დაუდევრად იყენებენ.
🪖 პენტაგონი „მობეზრდა“ სამხედროების მიერ კლოდის ხელოვნური ინტელექტის მოდელის გამოყენებასთან დაკავშირებით ანთროპოგენული კრიტიკით და შესაძლოა, კავშირები გაწყვიტოს, ნათქვამია ანგარიშში ↗
ძირითადი დავა: პენტაგონს ფართო, „ყველა კანონიერი მიზნით“ წვდომა სურს, ხოლო Anthropic კვლავ ცდილობს მკაცრი შეზღუდვების შენარჩუნებას სრულად ავტონომიური იარაღისა და მასობრივი თვალთვალის კუთხით. ეს ისეთი უთანხმოებაა, რომელიც ფილოსოფიურად ჟღერს მანამ, სანამ ვინმე არ იტყვის: „შეიძლება ჩვენ შეგცვალოთ“
ერთი დაუფასებელი ნაკლი - ოფიციალურ პირებს არ სურთ, რომ მოდელმა მოულოდნელად შუაში დაბლოკოს სამუშაო პროცესები და არ სურთ, რომ უსასრულოდ განიხილონ უმნიშვნელო შემთხვევები (სამართლიანია... მაგრამ ასევე უი). აქ არის რეალური დაძაბულობა „ვის უჭირავს გასაღები“ და ეს არ არის შეუმჩნეველი.
🧠 სტარტაპის შენობის მოდელი ადამიანის ქცევის პროგნოზირებისთვის ↗
სიმილმა 100 მილიონი დოლარის ინვესტიცია ჩადო „შეზღუდული სწავლების“ მოდელის შესაქმნელად, რომელიც მიზნად ისახავდა ადამიანების შესაძლო ქმედებების პროგნოზირებას - მათ შორის, ძალიან კონკრეტულად, სავარაუდო კითხვების წინასწარ განსაზღვრას ისეთ საკითხებში, როგორიცაა შემოსავლების შესახებ ზარები. ვიწრო მიზანი, დიდი ამბიცია, ოდნავ უცნაური კომბინაცია.
მიდგომა ეყრდნობა რეალურ ადამიანებთან ინტერვიუებსა და ქცევითი კვლევის მონაცემებს, შემდეგ კი ატარებს სიმულაციებს ხელოვნური ინტელექტის აგენტებთან, რომლებიც რეალური პრეფერენციების ასახვაზეა ორიენტირებული. ეს ჰგავს ადამიანის გადაწყვეტილებებისთვის ამინდის მოდელის შექმნას... რაც შეუძლებლად ჟღერს მანამ, სანამ ეს ასე არ მოხდება.
🧑⚖️ თეთრი სახლი იუტას კანონმდებელს ხელოვნური ინტელექტის გამჭვირვალობის შესახებ კანონპროექტის გაუქმებისკენ მოუწოდებს ↗
იუტაში ხელოვნური ინტელექტის გამჭვირვალობის საკითხზე შტატის დონეზე წამოწყებული ინიციატივა თეთრი სახლის მხრიდან პირდაპირ კრიტიკის ქარცეცხლში მოექცა, ოფიციალური პირები კი კანონპროექტის ავტორს მოუწოდებენ, არ დაამტკიცოს მისი მიღება. კანონპროექტის ფორმატი მთლიანად გამჭვირვალობასა და ბავშვთა უსაფრთხოებას ეხება, რასაც წმინდა ოპტიკით ძნელია კამათი.
თუმცა, უფრო დიდი დავა იურისდიქციას ეხება: ვის შეუძლია წესების დადგენა, შტატების თუ ფედერალური მთავრობის. და დიახ, ეს ღრიალია - თითქოს ორი ადამიანი ერთსა და იმავე საჭეს ეჭიდება და ამტკიცებს, რომ ისინი არიან მშვიდი.
🎬 ByteDance-ი Disney-ის საფრთხის შემდეგ პირობას დებს, რომ ხელოვნური ინტელექტის ვიდეო ინსტრუმენტზე IP-ის არაავტორიზებული გამოყენებას არ დაუშვებს ↗
Disney-მ ByteDance-ის ხელოვნური ინტელექტის ვიდეო გენერატორთან დაკავშირებით შეწყვეტის შესახებ განცხადება გაავრცელა და ByteDance აცხადებს, რომ ის აძლიერებს დაცვის ზომებს ინტელექტუალური საკუთრებისა და მსგავსების არაავტორიზებული გამოყენების თავიდან ასაცილებლად. სავარაუდოდ, პრეტენზია იმაში მდგომარეობს, რომ ინსტრუმენტს შეუძლია ნაცნობი ფრენჩაიზის პერსონაჟები ისე წარმოაჩინოს, თითქოს ისინი უბრალოდ... საჯარო დომენის სტიკერები იყვნენ.
ეს არის შეჯახება, რომლის მოახლოებაც ყველამ იწინასწარმეტყველა: ვირუსული ხელოვნური ინტელექტის ვიდეო ინსტრუმენტები სწრაფად ვითარდება, სტუდიები სასამართლოში გადადიან და „ჩვენ დავამატებთ დამცავ ზომებს“ ბოდიშის მოხდის ნაგულისხმევ ენად იქცევა. ერთი სიტყვით, ტექნოლოგია ჯადოსნურს ჰგავს - ხოლო იურიდიული მხარე - სერიოზულობას.
ხშირად დასმული კითხვები
რას ნიშნავს, რომ OpenClaw-ის დამფუძნებელი OpenAI-ს შეუერთდა, ხოლო OpenClaw ფონდში გადავიდა?
ეს „პირადი აგენტების“ შემქმნელ პირსა და საჯაროდ მართულ პროექტს შორის განხეთქილების სიგნალია. შტაინბერგერი OpenAI-ში გაწევრიანება იმაზე მიუთითებს, რომ ის იქ აგენტის სტილის პროდუქტების განვითარებაზე გაამახვილებს ყურადღებას. OpenClaw-ის ფონდში განთავსება მისი ღია კოდის და მდგრადი მხარდაჭერის შენარჩუნებას ისახავს მიზნად. პრაქტიკაში, ეს ნაბიჯი საზოგადოების ნდობის შენარჩუნებას ისახავს მიზნად, ხოლო შემქმნელი იქ მიდის, სადაც რესურსებია.
რატომ არიან OpenClaw-ის სტილის ხელოვნური ინტელექტის აგენტები ორიენტირებულნი ისეთ საოჯახო საქმეებზე, როგორიცაა ელექტრონული ფოსტა და დოკუმენტაცია?
რადგან „ცხოვრებისეული ადმინისტრირების“ სამუშაო განმეორებადი, წესებზე დაფუძნებული და დროის მომთხოვნია, რაც მას ავტომატიზაციის პრაქტიკულ სამიზნედ აქცევს. აქ მოყვანილი მაგალითები - ელექტრონული ფოსტის კლასიფიკაცია, დაზღვევის დოკუმენტაცია და ფრენის რეგისტრაცია - ვიწრო ამოცანებია წარმატების მკაფიო კრიტერიუმებით. ამ ფოკუსირებამ შეიძლება აგენტებს უფრო სწრაფად აგრძნობინოს თავი ღირებულად, ვიდრე უფრო ღია ვადის მქონე ასისტენტებს. ეს ასევე ხაზს უსვამს, თუ რატომ არის მნიშვნელოვანი წვდომის ფრთხილად კონტროლი, როდესაც აგენტები პირად ანგარიშებს ეხებიან.
როგორ შეგიძლიათ განათავსოთ ღია კოდის ხელოვნური ინტელექტის აგენტი, როგორიცაა OpenClaw, უსაფრთხოების პრობლემების შექმნის გარეშე?
მოეპყარით მას როგორც პროგრამულ უზრუნველყოფას, რომელსაც შეუძლია მგრძნობიარე მონაცემების ნახვა და არა როგორც სათამაშო სკრიპტს. გავრცელებული მიდგომაა ავტორიზაციის მონაცემების დაბლოკვა, ნებართვების შეზღუდვა საჭირო მინიმუმამდე და ჟურნალებისა და აუდიტის კვალის შენახვა. გაუშვით ის შეზღუდულ გარემოში და გამოყავით მაღალი ღირებულების მქონე სისტემებისგან. უსაფრთხოების მრავალი შეშფოთება გამოწვეულია დაუდევარი განლაგებით, განსაკუთრებით მაშინ, როდესაც ადამიანები ავლენენ საბოლოო წერტილებს ან ტოკენებს ძლიერი დაცვის გარეშე.
რატომ არის პენტაგონი უკმაყოფილო Anthropic-ის მიერ კლოდის სამხედრო მიზნებისთვის გამოყენებაზე დაწესებული შეზღუდვებით?
დავა მასშტაბებსა და კონტროლზეა ორიენტირებული: პენტაგონი „ყველა კანონიერი მიზნისთვის“ ფართო წვდომას ითხოვს, ხოლო Anthropic აღწერილია, როგორც სრულად ავტონომიური იარაღისა და მასობრივი თვალთვალის მკაცრი შეზღუდვების მქონე მოდელი. ოფიციალურ პირებს ასევე არ სურთ, რომ მოდელები სამუშაო პროცესებს შუაში ბლოკავდნენ ან დაუსრულებელ, ზედმიწევნით მოლაპარაკებებს მოითხოვდნენ. ეს დაძაბულობა ნაკლებად აბსტრაქტულია, ვიდრე ერთი შეხედვით ჩანს - საქმე ეხება იმას, თუ ვინ წყვეტს, რა შეუძლია მოდელს რეალურ ოპერაციებში.
როგორ ცდილობენ სტარტაპები ადამიანის ქცევის პროგნოზირებას ხელოვნური ინტელექტის გამოყენებით და რატომ არის ეს საკამათო?
აქ მოყვანილი მაგალითი, სიმილე, „შეზღუდული სწავლის“ მოდელს იყენებს, რომელიც მიზნად ისახავს ადამიანების შესაძლო ქმედებების პროგნოზირებას, მათ შორის სავარაუდო კითხვების წინასწარ განსაზღვრას ისეთ კონტექსტში, როგორიცაა შემოსავლების შესახებ ზარები. აღწერილი მიდგომა ინტერვიუებს აერთიანებს ქცევითი კვლევის მონაცემებთან და სიმულაციებთან, რომლებიც იყენებენ ხელოვნური ინტელექტის აგენტებს, რომლებიც რეალური პრეფერენციების ასახვაზეა ორიენტირებული. ეს უცნაურად ჟღერს, რადგან ის ხელოვნურ ინტელექტს ადამიანებზე რეაგირებიდან მათ პროგნოზირებაზე გადაჰყავს. გამოწვევაა პრეტენზიების შეზღუდვა და ზედმეტი თავდაჯერებულობის თავიდან აცილება.
რა ხდება, როდესაც ხელოვნური ინტელექტის ვიდეო ინსტრუმენტები საავტორო უფლებებით დაცულ პერსონაჟებს წარმოქმნიან, როგორც ეს ByteDance-Disney-ს დაპირისპირებაში მოხდა?
აღნიშნული სქემა ნაცნობია: სტუდია აცხადებს შეწყვეტისა და შეწყვეტის შესახებ ბრძანებას, პლატფორმა კი პასუხობს დაცვის ზომების გაძლიერებით, რათა თავიდან აიცილოს IP ან მსგავსების არაავტორიზებული გამოყენება. ბევრ ინსტრუმენტში დაცვის ზომები გულისხმობს კონტენტის უფრო მკაცრ ფილტრაციას, ამოსაცნობი პერსონაჟების უკეთ ამოცნობას და მომხმარებლის პოლიტიკის უფრო მკაფიო აღსრულებას. ძირითადი კონფლიქტი სიჩქარესა და პასუხისმგებლობას შორისაა - ვირუსების გენერაცია სწრაფად ვრცელდება და უფლებების აღსრულება გრავიტაციის მსგავსად მოქმედებს. ვიდეო გენერატორების გავრცელებასთან ერთად, მსგავსი შეჯახებები კიდევ უფრო მეტი იქნება.