🏫 ზოგიერთ სკოლაში ჩატბოტები მოსწავლეებს მათი სამუშაოს შესახებ კითხავენ. თუმცა, ხელოვნური ინტელექტის რევოლუციამ მასწავლებლები შეშფოთების მიზეზი გახადა ↗
ავსტრალიის ზოგიერთი სკოლა უფრო მკვეთრ ვერსიას ცდის „აჩვენე შენი ნამუშევარი“-ს - მოსწავლეები ასრულებენ დავალებას, შემდეგ კი ხელოვნური ინტელექტის მქონე ჩატბოტი მათ ურთიერთგამომრიცხავ ტესტებს უტარებს, რათა შეამოწმოს, გაიგეს თუ არა წარდგენილი დავალება. ეს ძირითადად ზეპირი კომუნიკაციაა, მაგრამ აპარატით გეკითხებით „რას გულისხმობ ამაში?“ მანამ, სანამ არ დაიწყებ შეკრთობას.
უფრო დიდი შეშფოთება არათანაბარი დანერგვაა: ინდუსტრიის ნაშრომი აფრთხილებს, რომ სწრაფად ადაპტირებულმა კომპანიებმა შეიძლება წინ გაიარონ, ზოგი კი ჩამორჩება, რაც ორსიჩქარიან საგანმანათლებლო სისტემას შექმნის. მასწავლებლები ასევე ამახვილებენ ყურადღებას ნაცნობ - და კვლავ სერიოზულ - შეშფოთებაზე: კონფიდენციალურობა, კეთილდღეობა და ის, თუ როგორ შევაჩეროთ „ხელოვნური ინტელექტის დახმარებით“ გადაქცევა „ხელოვნურმა ინტელექტმა გააკეთა ეს“-ში.
👮 მეტროპოლიტენის პოლიცია იყენებს Palantir-ის მიერ მოწოდებულ ხელოვნური ინტელექტის ინსტრუმენტებს ოფიცრის მიერ გადაცდომის აღსანიშნავად ↗
ლონდონის მეტროპოლიტენის ინსტიტუტი Palantir-ის მიერ მოწოდებულ ხელოვნურ ინტელექტს იყენებს შიდა სამუშაო ძალის ნიმუშების გასაანალიზებლად - ავადმყოფობა, არყოფნა, ზეგანაკვეთური სამუშაო - და ეძებს სიგნალებს, რომლებიც შეიძლება კორელაციაში იყოს პროფესიული სტანდარტების საკითხებთან. ის წარმოდგენილია, როგორც დროში შეზღუდული პილოტური პროექტი და, რაც მთავარია, მეტროპოლიტენის ინსტიტუტი აცხადებს, რომ ადამიანები კვლავ იღებენ რეალურ გადაწყვეტილებებს... თუმცა ეს „ჯერ კიდევ“ ბევრ საქმეს აკეთებს.
პოლიციის ფედერაცია აღფრთოვანებული არ არის, ამას „ავტომატურ ეჭვს“ უწოდებს და აფრთხილებს გაუმჭვირვალე ინსტრუმენტების შესახებ, რომლებიც სტრესს და სამუშაო დატვირთვას დანაშაულად აღიქვამენ. ეს ერთ-ერთი იმ მომენტთაგანია, როდესაც ტექნოლოგია სლაიდზე კარგად ჟღერს, შემდეგ კი წარმოგიდგენიათ, როგორია ის მიწაზე და ის მკვეთრად ეკლიანი ხდება.
🛡️ გაერთიანებული სამეფოს კონფიდენციალურობის დამცველი ორგანო ერთობლივ განცხადებაში ხელოვნური ინტელექტის მიერ გენერირებული სურათების შესახებ აფრთხილებს ↗
დიდი ბრიტანეთის ICO შეუერთდა სხვა მარეგულირებლებს ხელოვნური ინტელექტის მიერ გენერირებული სურათების შესახებ ერთობლივ გაფრთხილებაში, რომლებიც თანხმობის გარეშე გამოსახავენ იდენტიფიცირებად ადამიანებს - ძირითადად: ნუ მიიღებ „ეს სინთეტიკურია“ ჯადოსნურ საბაბად. გზავნილი არის ადრეულ ეტაპზევე შეიქმნას დამცავი მექანიზმები და ჩაერთონ მარეგულირებლებში, კლასიკური ტექნოლოგიური ნაბიჯის გადადგმის ნაცვლად, კერძოდ, ჯერ მიწოდება და შემდეგ ბოდიშის მოხდა.
ისინი ასევე ხაზს უსვამენ ბავშვებისთვის მომატებულ რისკებს, რაც გასაგებია, რადგან როგორც კი ეს ნივთიერება გავრცელდება, ეს იგივეა, რაც ბრჭყვიალა ნივთიერების ქილაში ჩაყრა. მთავარი აზრი ის არის, რომ კონფიდენციალურობა და ღირსება მოდის ციკლის გადარჩენისთვისაა განკუთვნილი, ყოველ შემთხვევაში, ასე ჩანს.
🪖 აშშ-ის თავდაცვის მდივანი ჰეგსეთი Anthropic-ის აღმასრულებელ დირექტორს კლოდის სამხედრო გამოყენებასთან დაკავშირებით მკაცრი მოლაპარაკებებისთვის იბარებს, იუწყება Axios ↗
„როიტერის“ ცნობით, აშშ-ის თავდაცვის მდივანი „ანთროპიკის“ აღმასრულებელ დირექტორს შეხვდება, რათა „კლოდის“ სამხედრო გამოყენებასთან დაკავშირებით უფრო კონფრონტაციული საუბარი გამართოს. როგორც იტყობინებიან, პენტაგონი ხელოვნური ინტელექტის მსხვილ პროვაიდერებს სურს, რომ მოდელები კლასიფიცირებულ ქსელებში ნაკლები შეზღუდვებით იყოს ხელმისაწვდომი - და „ანთროპიკი“ დაცვის ზომების შემსუბუქებას ეწინააღმდეგება.
ქვეტექსტი კლასიკური დილემის მსგავსია: „იმოქმედეთ სწრაფად, მაგრამ... რაკეტების გათვალისწინებით“. თუ მხარეები ვერ შეთანხმდებიან დამცავ ღობეებზე, ურთიერთობა შეიძლება დაიძაბოს ან თუნდაც გაფუჭდეს - თუმცა, Anthropic ასევე მიანიშნებს, რომ მთავრობასთან მოლაპარაკებები კონსტრუქციული რჩება, ამიტომ ეს დაძაბული, მაგრამ სრული დაშორების ტექსტები არ არის (ჯერჯერობით).
🧠 ChatGPT - გამოშვების შენიშვნები ↗
OpenAI-ის გამოშვების შენიშვნები მიუთითებს „ფიქრის“ რეჟიმის გაფართოებულ კონტექსტურ ფანჯარაზე, რაც იმას ნიშნავს, რომ შეგიძლიათ მოდელს მეტი ტექსტი შესთავაზოთ და გრძელი ძაფები თანმიმდევრული შეინარჩუნოთ ადრინდელი დეტალების დაკარგვის გარეშე. თუ ოდესმე გინახავთ, რომ მოდელს „დაავიწყდა“ ის, რაც სიტყვასიტყვით ახლახან თქვით (ტკივილი), ეს ვერსია სწორედ ამას ემსახურება.
ეს ძალიან ფანტასტიკური განახლებაა, რომელიც ჩუმად ცვლის პრაქტიკულს: უფრო ხანგრძლივ დოკუმენტაციას, უფრო ჩახლართულ პროექტებს, უფრო გაშლილ კვლევით სესიებს. არა მომხიბვლელი, მაგრამ ეს ისეთი ცვლილებაა სანტექნიკაში, რომელიც მთელ სახლს მოულოდნელად უფრო დიდს ხდის.
ხშირად დასმული კითხვები
რას ნიშნავს, როდესაც სკოლები ჩატბოტებს იყენებენ მოსწავლეების დავალებების შესახებ „დასაკითხად“?
ავსტრალიის ზოგიერთ სკოლაში მოსწავლეები ასრულებენ დავალებას, შემდეგ კი ურთიერთობენ ხელოვნური ინტელექტის მქონე ჩატბოტთან, რომელიც მათ მსჯელობას იკვლევს. ის ზეპირი ჩატის მსგავსად მუშაობს და მოსწავლეებს აიძულებს ახსნან, თუ რა დაწერეს და რატომ. მიზანი გაგების და არა მხოლოდ გამომავალი მასალის გადამოწმებაა. მას ასევე შეუძლია გამოავლინოს ხარვეზები, როდესაც მოსწავლეს არ შეუძლია ძირითადი არგუმენტების დაცვა.
როგორ შეუძლიათ სკოლებში ხელოვნური ინტელექტის მქონე ჩატბოტებს „ორსიჩქარიანი“ საგანმანათლებლო სისტემის შექმნა?
ინდუსტრიის ერთ-ერთი ნაშრომი აფრთხილებს, რომ სწრაფად ადაპტირებადი სკოლები შესაძლოა წინ წავიდნენ, ხოლო ნელა მომუშავე სკოლები კიდევ უფრო უკან დაიხიონ. თუ ზოგიერთი სკოლა ხელოვნური ინტელექტის ინსტრუმენტებს გამოიყენებს გაგების შესაფასებლად, სწავლის მხარდასაჭერად ან არასწორი გამოყენების თავიდან ასაცილებლად, მათ შეიძლება შედეგები უფრო სწრაფად გააუმჯობესონ. სხვებს შეიძლება არ ჰქონდეთ ბიუჯეტი, პერსონალის შესაძლებლობები ან პოლიტიკის სიცხადე მსგავსი სისტემების დასანერგად. ამ არათანაბარმა გამოყენებამ შეიძლება გააფართოვოს რესურსებისა და მიღწევების არსებული ხარვეზები.
როგორ ცდილობენ მასწავლებლები „ხელოვნური ინტელექტის დახმარებით“ „ხელოვნურ ინტელექტთან ერთად ყველაფერი გააკეთა“-დ გადაქცევას?
გავრცელებული მიდგომაა შეფასების პროცესზე და ახსნაზე გადატანა და არა მხოლოდ საბოლოო პროდუქტზე. ჩატბოტის სტილის კითხვები, მონახაზები, რეფლექსიები ან ზეპირი შემოწმება შეიძლება გაართულოს თქვენთვის გაუგებარი ნაშრომის წარდგენა. მასწავლებლებმა ასევე შეიძლება დააწესონ უფრო მკაცრი საზღვრები მისაღებ დახმარებასთან დაკავშირებით, როგორიცაა იდეების გენერირება სრული გადაწერის წინააღმდეგ. აქცენტი რჩება გაგების დემონსტრირებაზე და არა ყველა ინსტრუმენტის კონტროლირებაზე.
რა კონფიდენციალურობისა და კეთილდღეობის პრობლემები წარმოიქმნება, როდესაც ხელოვნური ინტელექტი გამოიყენება საკლასო ოთახებში?
მასწავლებლები გამუდმებით გამოთქვამენ შეშფოთებას იმის შესახებ, თუ რა ტიპის მოსწავლეთა მონაცემები გროვდება, სად ინახება ისინი და ვის შეუძლია მათზე წვდომა. ასევე არსებობს შეშფოთება მოსწავლეების კეთილდღეობასთან დაკავშირებით, თუ მათ მუდმივად აკვირდებიან ან ზეწოლას განიცდიან ავტომატური კითხვების შედეგად. ბავშვები განსაკუთრებული რისკის ჯგუფს წარმოადგენენ, რადგან მგრძნობიარე ინფორმაცია შეიძლება სისტემებში მოულოდნელი გზებით გავრცელდეს ან შენარჩუნდეს. ბევრი სკოლა ცდილობს ადრეულ ეტაპზევე დანერგოს დამცავი ზომები, იმის ნაცვლად, რომ მოგვიანებით სცადოს მათი განახლება.
როგორ იყენებს მეტროპოლიტენის პოლიცია Palantir-ის მიერ მოწოდებულ ხელოვნურ ინტელექტს ოფიცრის პოტენციური გადაცდომის აღსანიშნავად?
ლონდონის მეტროპოლიტენის ინსტიტუტი Palantir-ის მიერ მოწოდებულ ხელოვნურ ინტელექტს იყენებს სამუშაო ძალის ისეთი ნიმუშების გასაანალიზებლად, როგორიცაა ავადმყოფობა, არყოფნა და ზეგანაკვეთური სამუშაო. მიზანია იმ სიგნალების აღმოჩენა, რომლებიც შეიძლება კორელაციაში იყოს პროფესიული სტანდარტების საკითხებთან. ის აღწერილია, როგორც დროში შეზღუდული პილოტური პროექტი და მეტროპოლიტენის ინსტიტუტი აცხადებს, რომ გადაწყვეტილებებს ადამიანები მაინც იღებენ. კრიტიკოსები ამტკიცებენ, რომ ინსტრუმენტი შეიძლება „ავტომატიზირებულ ეჭვად“ აღიქვას, თუ ის სტრესს დანაშაულად აღიქვამს.
რატომ აშფოთებთ პოლიციის პროფკავშირებს ხელოვნური ინტელექტის ზედამხედველობის ინსტრუმენტებიდან „ავტომატური ეჭვი“?
პოლიციის ფედერაციის შეშფოთებას იწვევს ის ფაქტი, რომ გაუმჭვირვალე მოდელებმა შესაძლოა ისეთი ნიმუშებიდან დასკვნა გამოიტანონ, რომლებსაც კეთილთვისებიანი ახსნა აქვთ. სამუშაო დატვირთვის მკვეთრმა ზრდამ, ჯანმრთელობის პრობლემებმა და სტრესმა შეიძლება შეცვალოს დასწრება ან ზეგანაკვეთური სამუშაო საათები დანაშაულის ჩადენის ნიშნის გარეშე. თუ ინსტრუმენტის ლოგიკა გამჭვირვალე არ არის, ოფიცრებისთვის დროშების გამოწვევა ან მენეჯერებისთვის სამართლიანი ზღვრების დაკალიბრება უფრო რთული ხდება. ადამიანური გადაწყვეტილებების მიღების შემთხვევაშიც კი, ავტომატიზირებულ სიგნალებს მაინც შეუძლიათ შედეგების ჩამოყალიბება.
რას აფრთხილებს დიდი ბრიტანეთის ICO ხელოვნური ინტელექტის მიერ გენერირებული იდენტიფიცირებადი ადამიანების სურათების შესახებ?
დიდი ბრიტანეთის კონფიდენციალურობის მარეგულირებელი ორგანო შეუერთდა სხვა მარეგულირებლებს და გააფრთხილა, რომ „სინთეზური“ არ ნიშნავს შედეგების გარეშე ყოფნას. თუ ხელოვნური ინტელექტის მიერ გენერირებულ სურათზე გამოსახულია იდენტიფიცირებადი პირი თანხმობის გარეშე, კონფიდენციალურობისა და ღირსების რისკები კვლავ არსებობს. მარეგულირებლები ხაზს უსვამენ უსაფრთხოების ზომების ადრეულ ეტაპზე დაწესებას და ზედამხედველობის ჩართულობას, ვიდრე პირველ რიგში მიწოდებას. ისინი ასევე აღნიშნავენ ბავშვებისთვის მომატებულ რისკებს, სადაც ზიანი შეიძლება სწრაფად გაიზარდოს კონტენტის გავრცელების შემდეგ.
რა იმალება პენტაგონის მიერ ანთროპიკზე კლოდის სამხედრო გამოყენებასთან დაკავშირებით ზეწოლის შესახებ გავრცელებული ინფორმაციით?
„როიტერის“ ცნობით, აშშ-ის თავდაცვის მდივანი „ანთროპიკის“ აღმასრულებელ დირექტორს შეხვდება, რათა „კლოდის“ სამხედრო გამოყენებასთან დაკავშირებით უფრო მკაცრი მოლაპარაკებები გამართოს. როგორც ამბობენ, პენტაგონი ხელოვნური ინტელექტის მსხვილ პროვაიდერებს სურს, რომ მოდელები კლასიფიცირებულ ქსელებში ნაკლები შეზღუდვებით იყოს ხელმისაწვდომი. „ანთროპიკი“ უფრო შესუსტებულ დაცვის ზომებს ეწინააღმდეგება და დამცავ ბარიერებთან დაკავშირებულ დაპირისპირებაზე მიუთითებს. ურთიერთობა დაძაბულად ჟღერს, თუმცა ორივე მხარე ადასტურებს, რომ მოლაპარაკებები კონსტრუქციული რჩება.
რა შეიცვალა ChatGPT-ის გამოშვების შენიშვნებში „ფიქრის“ რეჟიმის კონტექსტის სიგრძის შესახებ?
OpenAI-ის გამოშვების შენიშვნები მიუთითებს „ფიქრის“ რეჟიმის გაფართოებულ კონტექსტურ ფანჯარაზე, რაც საშუალებას იძლევა ერთ თემაში მეტი ტექსტი განთავსდეს. პრაქტიკაში, ეს შეიძლება დაეხმაროს გრძელ დოკუმენტებს, რთულ პროექტებს და მრავალსაფეხურიან კვლევას, სადაც ადრეული დეტალები მნიშვნელოვანია. ეს არის სანტექნიკის სტილის განახლება და არა თვალისმომჭრელი ფუნქცია. მთავარი უპირატესობა ის არის, რომ უფრო ნაკლები დეტალი იკარგება უფრო ხანგრძლივი სესიების დროს.