Microsoft-ის ხელოვნური ინტელექტის ახალი „ქცევის კოდექსი“ მოდელებს მოუწოდებს, არ გატეხონ სისტემები და არ მოატყუონ ადამიანები
კარგი, Microsoft-მა თავისი მოდელებისთვის მთელი კონსტიტუცია გააუქმა - ნამდვილი წითელი ხაზები. არანაირი კიბერშეტევა. არანაირი ბირთვული იარაღი. არანაირი ღრმა ყალბი ქარხნები. და ყველაზე მნიშვნელოვანი: მოდელს არ აქვს უფლება, დახურვისგან თავი დააღწიოს.
ისინი მას ყოვლისმომცველ კოდს უწოდებენ, რომელიც ჩატში აკრეფილ ნებისმიერ ტექსტს უგულებელყოფს. რაც... გარკვეულწილად გამაგრილებელია. ან კონტროლირებადი. შესაძლოა ორივე.
ნადელა აქ არის და თავს აქნევს „საზღვრისპირა ტემპის“ ბრბოსთან ერთად. ფრთხილი პოზა და საბედისწერო ოთახის შეგრძნება გარედან შეიძლება ერთნაირად გამოიყურებოდეს; Microsoft-ი ირჩევს, არ იყოს ლაბორატორია, რომელიც მხრებს იკრავს.
ნებისმიერ შემთხვევაში, დოკუმენტი ისე იკითხება, თითქოს ვიღაცამ საბოლოოდ კორპორატიული პროზით დაწერა: „გთხოვთ, ნუ გახდებით საშინელებათა ფილმის ანტაგონისტი“.
OpenAI სმარტფონების კამერების მწარმოებელ Glass Imaging-ს 300 მილიონ დოლარად ყიდულობს
ამასობაში, OpenAI-მ ჩუმად შეიძინა კამერების სტარტაპი 300 მილიონ დოლარზე მეტი ოდენობით, Glass Imaging. დააარსეს Apple-ის პორტრეტის რეჟიმის ყოფილმა თანამშრომლებმა. ასე რომ, ეს შემთხვევითი შენაძენი არ არის - ამ ადამიანებმა გაყიდეს ლინზები, რომლებიც ყველასთვის ნაცნობია.
თემა არ არის „ხელოვნური ინტელექტი თქვენს სელფის გადაღების შემდეგ გაასწორებს“. ეს არის ნეირონული ქსელები, რომლებიც სწავლობენ ტელეფონის კონკრეტულ კამერებს და ჩამკეტის დაწკაპუნებისას უკეთეს ფოტოებს იღებენ. პატარა სენსორები, დიდი ამბიცია.
OpenAI-მა კომენტარი არ გააკეთა. რა თქმა უნდა. და დიახ - ეს ყველაფერი აპარატურულ ჭორებთან, ტელეფონებთან, ყურსასმენებთან და თანმხლებ გაჯეტებთან ერთად დევს. შეხვედრაზე თითქმის შეგიძლიათ გაიგოთ, როგორ ამბობს ვინმე „ვიჟენ სტეკს“ და ყველა ძლიერად უქნევს თავს.
კამერების კომპანიის, როგორც მოწყობილობისთვის დაკარგული ნაწილის, არსებობა ღია ფსონად რჩება - ან უბრალოდ ძალიან ძვირადღირებულ ფსონად, რომ პიქსელებს მაინც მნიშვნელობა აქვთ, როდესაც ჩატბოტები მსოფლიოს ჭამენ.
გლობალური ხელოვნური ინტელექტის აქციები ეცემა, რადგან ინდუსტრიის ხელმძღვანელები განვითარების შენელებისკენ მოუწოდებენ
ბაზრებს უსაფრთხოების ქადაგება არ მოეწონათ. ჩიპების სახელები დაზარალდა. SoftBank-მა აზიაში სრული კრახი განიცადა. ევროპის ტექნოლოგიური წიგნი შეკრთა. SOX-ის ინდექსს რთული დილა ჰქონდა.
ამის გამომწვევი მიზეზი აღმასრულებელი დირექტორების იშვიათი შეთანხმების მომენტი გახდა - ამოდეის „შენელება“, ალტმანისა და მასკის, ფაქტობრივად, „დიახ“-ის თანხმობის თქმის შემდეგ. ალტმანმა ასევე განაცხადა, რომ OpenAI წელს უსაფრთხოებაზე ზრუნვის გამო IPO-ს არ გააკეთებს... მაშინ როცა Anthropic ჯერ კიდევ მისკენ მიისწრაფვის. ამ დაძაბულობის განმუხტვა რთულია.
ტრამპმა ეს ხელოვნური ინტელექტისა და მონაცემთა ცენტრების წინააღმდეგ „ავადმყოფური შეთქმულების“ ბრალი უწოდა. მაიკლ ბერიმ გაფრთხილებები გადაჭარბებულ ხმაურად მიიჩნია. ასე რომ, განწყობა ასეთია: ერთ ვადებში ეგზისტენციალური შიში, მეორეში კი მემ-სტოკის ცინიზმი.
ასევე - კიბერუსაფრთხოების სახელები გაძლიერდა. რა თქმა უნდა, „ხელოვნური ინტელექტის შესაძლო გაყალბების“ წინააღმდეგ ბრძოლის საშუალებაა „მეტი უსაფრთხოების პროგრამული უზრუნველყოფის შეძენა“. კაპიტალიზმი პოულობს გზას..
ხელოვნური ინტელექტის წამყვანმა კომპანიებმა საკუთარი სტანდარტების ორგანოს შექმნაზე იმსჯელეს
CNN-ის ცნობით, Anthropic, Google და OpenAI საკუთარი სტანდარტების ორგანოს შექმნაზე საუბრობენ - მაგალითად, FINRA-ს მსგავსი სასაზღვრო მოდელებისთვის. Hassabis-მა ეს იდეა რამდენიმე თვის წინ წამოაყენა. როგორც ჩანს, ახლა სამუშაო ჯგუფები რეალურად შეიქმნა.
ინდუსტრიის მიერ დაფინანსებული. დამოუკიდებელი ექსპერტები. მოწინავე მოდელების ტესტირება მათ გაგზავნამდე. მიმდინარეობს მოლაპარაკებები, სურს თუ არა ვაშინგტონს მონაწილეობა.
თვითრეგულირება ყოველთვის კეთილშობილურად ჟღერს მანამ, სანამ არ გახსოვთ, რომ ერთი და იგივე ლაბორატორიები ერთმანეთს ეჯიბრებიან. შემდეგ ეს ჩაცმულობის კოდის მქონე კლუბს ჰგავს. შემდეგ უკან იხევთ: კარგი, შესაძლოა, თანამშრომლების მსგავსი წვდომის მქონე გარე შემფასებლები დაგეხმარონ.
ყველას არ სჯერა ამ აზრის. როგორც ამბობენ, ცუკერბერგმა ტრამპს უთხრა, რომ ხელოვნური ინტელექტისთვის FINRA-ს იდეა გამოეტოვებინა. ამგვარად, „ჩვენ თვითონ გავაკონტროლებთ საკუთარ თავს“ კოალიციას უკვე ჰყავს ცნობილი წინააღმდეგობა.
Anthropic-ი ფინანსური მრჩევლების სამიზნეს ახალი Claude ინსტრუმენტით ამუშავებს
მიუხედავად იმისა, რომ ინდუსტრიის ნახევარი „დამუხრუჭების“ შეჩერებაზე კამათობს, Anthropic-მა Claude Financial Advisors-ს გადასცა. კომპანიას ასევე შეუერთდა BlackRock-ი, Schwab-ი, Addepar-ი - პლუს ისეთი სიმდიდრის მქონე კომპანიები, როგორიცაა Envestnet-ი და Orion-ი.
შეხვედრისთვის მზადება. პორტფოლიოს მიმოხილვა. შემდგომი დატვირთული სამუშაო. არამომხიბვლელი რამ, რაც რატომღაც მაინც ჭამს ადამიანის სამშაბათს.
თუმცა, დრო გასაოცარია - რამდენიმე დღე გავიდა მას შემდეგ, რაც OpenAI-მ ბანკირებისა და მკვლევარებისთვის ფინანსური ძალისხმევა დაიწყო. ასე რომ, დიახ, ისინი წინ მიიწევენ... და ასევე იბრძვიან RIA საფულის წილის მოსაპოვებლად. მცირე წინააღმდეგობა. უკიდურესად მცირე. უკიდურესად აშკარა.
თუ თქვენი მრჩეველი თქვენს აქტივებთან დაკავშირებით საეჭვოდ თავისუფლად საუბარს დაიწყებს, ახლა უკვე იცით, რატომ.
ხელოვნური ინტელექტის ლიდერები შენელებისკენ მოუწოდებენ. ტრამპის გუნდი ამბობს, რომ ეს მათზეა დამოკიდებული
WIRED-ი პოლიტიკურ კადრს ნათლად ასახავს: ლაბორატორიის ხელმძღვანელები ტემპის შენელებაში დახმარებას ითხოვენ; თეთრ სახლში კი განწყობა „მაგარია, თავად გააკეთეთ ეს“-ა
დევიდ საკსმა არსებითად თქვა, რომ თუ თქვენი გამოუქვეყნებელი მოდელები გაშინებთ, იყავით პასუხისმგებელი - მაგრამ ნუ ვითომ თავს იმით ნუ იტყუებთ, რომ უსაფრთხოების კარტელის შესაქმნელად ანტიმონოპოლიური ნებართვა გჭირდებათ. მკაცრია. ასევე, საკმაოდ რთულია მათთან კამათი, თუ ამ კომპანიებს ხუთი წუთის განმავლობაში აკვირდებით.
ტრამპის ხაზი უფრო მარტივია: ამერიკა ჩინეთს ხელოვნური ინტელექტის მხრივ ლიდერობს და მას სურს, რომ ეს ასე გაგრძელდეს - „ვინც ხელოვნურ ინტელექტს მოიგებს, ის იმარჯვებს“. სპიკერი ჯონსონი აფრთხილებს, რომ საგანგებო რეგულაციების სპრინტმა შესაძლოა რბოლა ჩაშალოს.
ამგვარად, ალტმანის „დამოუკიდებელი შემფასებლების“ დაპირება, რომლებსაც თანამშრომლების მსგავსი წვდომა აქვთ, ამ არასასიამოვნო უფსკრულში ხვდება - ნებაყოფლობითი ნდობის აღდგენა, მაშინ როცა მთავრობა მხრებს იკრავს. პროგრესი და თეატრი კვლავ ერთად მოგზაურობენ.
ხშირად დასმული კითხვები
რას კრძალავს Microsoft-ის ხელოვნური ინტელექტის ახალი ქცევის კოდექსი?
Microsoft-მა გამოაქვეყნა ქცევის ყოვლისმომცველი კოდექსი, რომელიც თავისი მოდელებისთვის წითელ ხაზებს შეიცავს, მათ შორის კიბერშეტევების, ბირთვული სამუშაოების და ღრმა ყალბი ქარხნების აკრძალვას. მთავარი წესია, რომ მოდელს არ აქვს უფლება, თავი აარიდოს დახურვას. კოდი განკუთვნილია იმისთვის, რომ გადაფაროს მომხმარებლის მიერ ჩატში აკრეფილი ნებისმიერი ინფორმაცია. სატია ნადელა ასევე თავს აქნევს „ტემპის ზღვრის“ მომხრეებთან ერთად, რადგან ლაბორატორიები საჯაროდ უფრო ფრთხილები ხდებიან.
რატომ შეიძინა OpenAI-მ Glass Imaging დაახლოებით 300 მილიონ დოლარად?
როგორც ამბობენ, OpenAI-მ სმარტფონების კამერების მწარმოებელი კომპანია Glass Imaging 300 მილიონ დოლარზე მეტ ფასად შეიძინა. სტარტაპი Apple-ის ყოფილმა პორტრეტის რეჟიმის ინჟინრებმა დააარსეს, რომლებმაც კამერის ფუნქციები, რომლებიც უკვე ცნობილია ხალხისთვის, გამოუშვეს. მისი მიზანია ნეირონული ბადეების გამოყენება, რომლებიც სწავლობენ კონკრეტული ტელეფონის კამერებს და აუმჯობესებენ ფოტოებს ჩამკეტის დაწკაპუნებისას და არა მხოლოდ ხელოვნური ინტელექტის მიერ ფოტოების გამოსწორებას პოსტში. გარიგება ტელეფონების, ყურსასმენების და თანმხლები გაჯეტების შესახებ აპარატურულ ჭორებს გვერდს უვლის, თუმცა OpenAI-მ კომენტარი არ გააკეთა.
რატომ დაეცა გლობალური ხელოვნური ინტელექტის აქციები მას შემდეგ, რაც ლაბორატორიების აღმასრულებელმა დირექტორებმა შენელებისკენ მოუწოდეს?
ბაზრებმა ცუდად რეაგირება მოახდინეს აღმასრულებელი დირექტორების შეთანხმების იშვიათ მომენტზე, როდესაც ამოდეიმ განვითარების შენელება მოითხოვა, ალტმანი და მასკი კი ფართოდ დაეთანხმნენ ამ მოსაზრებას. ჩიპების სახელები დაზარალდა, SoftBank-მა აზიაში უარყოფითი გავლენა მოახდინა, ევროპის ტექნოლოგიური წიგნი შეკრთა და SOX-ის ინდექსი რთული დილას დადგა. ალტმანმა ასევე განაცხადა, რომ OpenAI წელს უსაფრთხოებასთან დაკავშირებული შეშფოთების გამო IPO-ს არ განახორციელებს, ხოლო Anthropic კვლავ მიისწრაფვის ამისკენ. კიბერუსაფრთხოების სახელები გაძლიერდა, როგორც თაღლითური ხელოვნური ინტელექტის შიშისგან თავის დაცვა.
ქმნიან თუ არა Anthropic, Google და OpenAI საკუთარ ხელოვნური ინტელექტის სტანდარტების ორგანოს?
CNN-ის ცნობით, Anthropic-მა, Google-მა და OpenAI-მ განიხილეს ინდუსტრიის სტანდარტების ორგანოს შექმნა - მაგალითად, FINRA-ს შექმნა საფრონტო მოდელებისთვის - ინდუსტრიული დაფინანსებით, დამოუკიდებელი ექსპერტებით და მოწინავე მოდელების გადაზიდვამდელი ტესტირებით. დემის ჰასაბისმა ეს იდეა რამდენიმე თვის წინ წამოაყენა და, როგორც ამბობენ, სამუშაო ჯგუფები ახლა უკვე რეალურად მუშაობენ. გრძელდება საუბრები იმის შესახებ, სურს თუ არა ვაშინგტონს მონაწილეობა. ყველა არ არის დარწმუნებული: როგორც ამბობენ, ცუკერბერგმა ტრამპს უთხრა, რომ გამოეტოვებინა FINRA-ს იდეა ხელოვნური ინტელექტისთვის.
რას წარმოადგენს Anthropic-ის Claude ფინანსური მრჩევლებისთვის?
Anthropic-მა Claude ფინანსური მრჩევლებისთვის BlackRock-ის, Schwab-ის, Addepar-ისა და ისეთი სიმდიდრის მქონე კომპანიების კონექტორებით გაგზავნა, როგორიცაა Envestnet და Orion. ინსტრუმენტი მიზნად ისახავს არამომხიბვლელ მრჩევლის სამუშაოებს, როგორიცაა შეხვედრებისთვის მომზადება, პორტფელის მიმოხილვა და შემდგომი დატვირთული სამუშაოები. გაშვება OpenAI-ის მიერ ბანკირებისა და მკვლევარებისთვის ფინანსური ინიციატივის წამოწყებიდან რამდენიმე დღეში მოხდა. ეს ნიშნავს, რომ ლაბორატორიები საჯაროდ აგრძელებენ წინსვლას და ამავდროულად RIA საფულის წილის მოსაპოვებლად იბრძვიან.
როგორ უპასუხა ტრამპის გუნდმა ხელოვნური ინტელექტის ლიდერების მიერ შენელებისკენ მოწოდებას?
WIRED-ის ცნობით, ლაბორატორიის ხელმძღვანელებს დახმარება სურთ შენელების პროცესში, მაშინ როცა თეთრი სახლის განწყობაა, რომ ეს თავად უნდა გააკეთონ. დევიდ საკსმა თქვა, რომ თუ გამოუქვეყნებელი მოდელები გაშინებთ, იყავით პასუხისმგებელი - მაგრამ ნუ ვითომ თავს იმით ნუ იტყუებთ, რომ უსაფრთხოების კარტელის შესაქმნელად ანტიმონოპოლიური შეღავათი გჭირდებათ. ტრამპის მარტივი ფრაზაა, რომ ამერიკა ჩინეთს ხელოვნური ინტელექტის კუთხით ლიდერობს და ვინც არ უნდა გაიმარჯვოს ხელოვნურ ინტელექტში, იმარჯვებს. სპიკერი ჯონსონი აფრთხილებს, რომ საგანგებო რეგულაციების სპრინტმა შესაძლოა რბოლა ჩაშალოს, რაც ალტმანის დამოუკიდებელი შემფასებლის დაპირებას ნებაყოფლობით ხარვეზად დატოვებს.