რატომ იგონებს ხელოვნური ინტელექტი ზოგჯერ რაღაცეებს ​​[ვიდეო და ვიქტორინა]

მოკლე პასუხი: ხელოვნური ინტელექტი ზოგჯერ რაღაცეებს ​​იგონებს, რადგან ის პროგნოზირებს შემდეგ სავარაუდო სიტყვებსდა არა დადასტურებულ ფაქტებს - თავისუფლად საუბარი არ არის მტკიცებულება. როდესაც თემა ნიშურია, მაღალი ფსონებით ან მოითხოვს ზუსტ სახელებსა და ციფრებს, ხარვეზები ივსება თავდაჯერებული ვარაუდებით, თუ პასუხს არ დაასაბუთებთ და არ შეამოწმებთ ზუსტ მტკიცებებს.

სტატიები, რომელთა წაკითხვაც შეიძლება მოგეწონოთ ამის შემდეგ:

🔗 შეწყვიტეთ ხელოვნური ინტელექტის Google-ის მსგავსად მოპყრობა.
გაიგეთ, რატომ მოითხოვს ხელოვნური ინტელექტის უკეთეს შედეგებს განსხვავებული მიდგომა.

🔗 თქვენი პირველი სათანადო ხელოვნური ინტელექტის გამოყენებით შექმნილი მოთხოვნა.
შექმენით მკაფიო და ეფექტური მოთხოვნა მარტივი სტრუქტურის გამოყენებით.

🔗 შესანიშნავი ხელოვნური ინტელექტის შეთავაზების 4 ნაწილი
აღმოაჩინეთ ოთხი აუცილებელი ელემენტი, რომელიც აუმჯობესებს ხელოვნური ინტელექტის შეთავაზების ხარისხს.

🔗 რა არის სინამდვილეში ხელოვნური ინტელექტი?
გაიგეთ ხელოვნური ინტელექტი მარტივი, პრაქტიკული და ყოველდღიური ტერმინებით.

ძირითადი დასკვნები:

პროგნოზირება უცოდინრობის შესახებ: თავისუფლად მეტყველებას ნიმუშის დასრულებად მიიჩნევთ და არასდროს - ფიცის დადების მტკიცებულებად.

თავდაჯერებულობის ხაფანგი: თავდაჯერებული ტონი სტილია; სიზუსტეს ჩატის გარეთ ცალკე შემოწმება სჭირდება.

ყალბი შეფუთვა: სანამ მოწესრიგებულ ცნობარების სიებს ენდობით, თავად მოძებნეთ ციტირების სათაურები და ციტატები.

პასუხის დასაბუთება: ჩასვით წყაროს შენიშვნები და დაბლოკეთ გამოგონილი URL-ები, კვლევები ან სტატისტიკა.

ადამიანური აუდიტი: პირველ რიგში, შემთხვევით შეამოწმეთ ყველაზე სარისკო პრეტენზია, განსაკუთრებით ჯანმრთელობის, სამართლის ან ფინანსების საკითხებში.

პროგნოზირება არ არის იგივე, რაც ცოდნა

აი, პირდაპირი ვერსია: ჩატის მოდელების უმეტესობა შაბლონური მანქანებია. თქვენ სვამთ კითხვას. ისინი გენერირებენ პასუხს, რომელიც შეესაბამება კარგი პასუხის ფორმას. ეს ფორმა მოიცავს ფაქტებს, ტონს, სტრუქტურას - მთელ კოსტუმს. ზოგჯერ კოსტუმი რეალურ ცოდნას ფარავს. ზოგჯერ კი თავდაჯერებულ ვარაუდს, რომელმაც შეავსო ხარვეზი.

ალბათ, ერთი თავისუფალი მეტაფორა გამოგადგებათ, შემდეგ კი ცოტა უკან დავბრუნდები. წარმოიდგინეთ ჯაზ-პიანისტი, რომელსაც მილიონი სიმღერა აქვს მოსმენილი. სთხოვეთ, დაუკრას „ის, რაც ლურჯ ჩემოდანზეა“ და შეიძლება ისეთი ლამაზი მელოდია მოიგონოს, რომელიც არასდროს არსებობდა - რადგან თხოვნა ისე ჟღერდა, როგორც უნდა ყოფილიყო. მოიცადეთ - ეს არტისტობას გადაჭარბებს. ეს უფრო სტეროიდებზე ავტომატურ დასრულებას ჰგავს. მოდელი დამაჯერებელი აბზაცის შევსებას გულისხმობს და არა „ჭეშმარიტება“-ს წარწერით საქაღალდეების კარადის გახსნას.

ასე რომ, როდესაც ადამიანები კითხულობენ, თუ რატომ იგონებს ზოგჯერ ხელოვნური ინტელექტი რაღაცებს, მოკლე პასუხი ასეთია: ხარვეზები ივსება იმით, რაც სტატისტიკურად სწორად ჟღერს. ციტირების გამოტოვება მოდელს აიძულებს გამოიგონოს ისეთი ციფრი, რომელიც აკადემიურად გამოიყურება. რიცხვის არარსებობის შემთხვევაში, ის საკმაოდ მოწესრიგებულ ციფრს გვთავაზობს. ადამიანის შუა სახელის გარეშე, ის ქმნის ისეთ ციფრს, რომელიც შეესაბამება ეპოქასა და კულტურას. თავიდან ცოტა გასაკვირია. როგორც კი კანონზომიერებას დაინახავთ, არც ისე ბევრი. 

• თავისუფლად გადმოცემული ტექსტი თაობის მიზანია და არა გადამოწმებული ჭეშმარიტება.
• ცარიელი ცოდნის ხარვეზები მაინც ივსება სიტყვებით.
• მოდელის რეიტინგში „სწორად ჟღერს“-ის ალბათობამ შეიძლება აჯობოს „სწორია“-ს.

თავდაჯერებულობა სიზუსტის წინააღმდეგ - უხერხული უფსკრული

ადამიანები, როდესაც არ არიან დარწმუნებული, თავს იკავებენ. ჩვენ ვამბობთ „ვფიქრობ“, „შესაძლოა“, „შემოწმება დამჭირდება“. მოდელებსაც შეუძლიათ თავის დაცვა - თუ მათ სთხოვთ - მაგრამ ნაგულისხმევი შედეგები ხშირად თავდაჯერებულ ბრიფინგს. ეს დახვეწა დახმარებისთვის ტრენინგის მახასიათებელია და არა იმის სიგნალი, რომ ყველა პრეტენზია დასაბუთებული იყო.

თავდაჯერებულობა და სიზუსტე სხვადასხვა მაჩვენებელია. ერთი შეიძლება მაღლა აწიოთ, მეორე კი ნულთან ახლოს იყოს. თქვენც გიგრძვნიათ ეს ადამიანებთან: კოლეგასთან, რომელიც არასწორ პროცესს სრული დარწმუნებით განმარტავს. ხელოვნურ ინტელექტს შეუძლია იგივე ცეკვის შესრულება, გარდა იმისა, რომ უფრო სწრაფად და უფრო ლამაზი ფორმატირებით.

პრაქტიკული დასკვნა: ასერტული ფრაზირება სტილია და არა მტკიცებულება. თუ პასუხს არ აქვს გადამოწმებადი წყაროები, არ აღიარებს გაურკვევლობას და აქვს კონკრეტული სახელების ან ციფრების გროვა - შეანელეთ ტემპი. დასაბუთების გარეშე სპეციფიკურობა კლასიკური მაჩვენებელია. 

• თავდაჯერებული ტონი ≠ დადასტურებული შინაარსი.
• სთხოვეთ მოდელს განზრახ მონიშნოს გაურკვევლობა.
• ჰერმეტულ, ყალბ ტრუსს უპირატესობა მიანიჭეთ ფრაზას „აი, რაშიც არ ვარ დარწმუნებული“.

შეთხზული ციტატები და დეტალები, რომლებიც რეალურად გამოიყურება

ეს ნამუშევარი ძალიან მტკივნეულია, რადგან ძალიან პროფესიონალურად გამოიყურება. ყალბი ნაშრომების სათაურები. ყალბი ჟურნალების სახელები. ყალბი URL-ები, რომლებზეც თითქმის დაწკაპუნებაა შესაძლებელი. ცნობილ ადამიანებს მიკუთვნებული ყალბი ციტატები. ფორმატირება ხშირად იდეალურია - დახრილი შრიფტი, წლის ფორმის ჩანაცვლებითი ველები, რომლებიც აქ განზრახ არ არის გამოყენებული, ავტორის მსგავსი სახელები - და შეფუთვა სკიმერებს ატყუებს.

ეს ხდება გამჭვირვალე მიზეზის გამო. ციტირების ფორმა სასწავლო ტექსტში ხშირია. როდესაც თქვენ ითხოვთ „წყაროებს“, მოდელმა შეიძლება წარმოადგინოს ფორმა რეალური ჩანაწერის მოძიების გარეშე. ეს ჰგავს იმას, რომ ვინმეს სთხოვოთ მეხსიერებიდან ქვითრის ამოღება. თქვენ მიიღებთ რაღაცას, რაც ქვითარს ჰგავს. მაღაზია შეიძლება არასდროს არსებობდეს.

ერთხელ ვუყურე, როგორ გამოიგონა ერთ-ერთმა პროექტმა დისტანციური მუშაობის პროდუქტიულობის შესახებ კვლევა, რომელიც იდეალურად გამოიყურებოდა ავტორების სიით. რეცენზირებულად ჟღერდა. არაფერი იყო. სწორედ ეს არის საფრთხე: თქვენი ტვინი მოდუნდება, როდესაც შეფუთვა ძვირი გამოიყურება. ნუ მოდუნდებით. 

• მოითხოვეთ სათაურები, რომელთა ძებნაც თავად შეგიძლიათ - შემდეგ კი სერიოზულად მოძებნეთ ისინი.
• ეჭვის თვალით უყურეთ ციტირებისა და ატრიბუციის ისეთ მოწესრიგებულ პაკეტებს, რომლებიც არასდროს მოგითხოვიათ.
• თუ „წყაროს“ სწრაფად პოვნა შეუძლებელია, მტკიცება დაუსაბუთებლად ჩათვალეთ.

როდესაც გამოგონების რისკი ყველაზე მაღალია

ყველა ჩატი ერთნაირად საშიში არ არის. ყავაზე ლექსს თავისუფლად შეუძლია მეტაფორების გამოგონება - ეს არის მთავარი. მედიკამენტის დოზა, კანონიერი ვადა, კონკურენტის ფასების პოლიტიკა ან გამოქვეყნებული სტატიის ისტორიული მტკიცება სხვა პლანეტაზე ცხოვრობს.

რისკი იზრდება, როდესაც თემა ნიშურია, ბოლოდროინდელი ან ძალიან სპეციფიკური. ის ასევე იზრდება, როდესაც ზუსტ ციფრებს, დასახელებულ დოკუმენტებს, კერძო კომპანიის შიდა მონაცემებს ან „ათი რეცენზირებული კვლევის ჩამონათვალს“ ითხოვთ. რაც უფრო ზუსტია მოთხოვნა, მით უფრო მეტი ცდუნება აქვს მოდელს, შეავსოს ცარიელი ადგილები დამაჯერებელი შემავსებლით.

გრძელი, შთამბეჭდავი პასუხები შეიძლება უფრო სარისკო იყოს, ვიდრე მოკლე, ფრთხილი პასუხები. სიგრძე ძალისხმევას ჰგავს. ძალისხმევა ზრუნვას ჰგავს. ზრუნვა კი სიმართლეს ჰგავს. შთაბეჭდილებების ეს გველისებური ჯაჭვი არის ის, თუ როგორ ილექება ცუდი ფაქტები სლაიდებში. 

• მაღალი რისკი: ჯანმრთელობა, კანონი, ფინანსები, შესაბამისობა, უსაფრთხოება, დასახელებული პირები, ზუსტი სტატისტიკა.
• საშუალო რისკი: ნიშური ინდუსტრიის პროცესები, ინსტრუმენტების პარამეტრები, „საუკეთესო პრაქტიკის“ სიები.
• დაბალი რისკი: იდეების გენერირება, მონახაზების შექმნა, საკუთარი ვერსიის გადაწერა, ტონის რედაქტირება.

სანდო vs. არასტაბილური შედეგები - მოკლე შედარება

მაგიდა კიდევ ერთ გამხნევებელ საუბარს ჯობია. მცირე უცნაურობებიც შედის, რადგან ჩვეულებრივი საუბრები უცნაურობაა.

გონებრივად ახლოს გქონდეთ ეს ქულების ცხრილი. შეამჩნევთ არასტაბილურ სურათებს ისევე, როგორც ფოტოზე ოდნავ უცნაურ ღიმილს - რაღაც პოზირებულია.

როგორ ამოვიცნოთ გამოგონილი პასუხები პარანოიკის გარეშე

ყველა ზედსართავი სახელის გადამოწმება საჭირო არ არის. მნიშვნელოვანი მტკიცებებისთვის იაფი გადამოწმების ჩვევა გჭირდებათ. შეამოწმეთ ყველაზე მკვეთრი მხარე: ნომერი, სახელი, პოლიტიკა, ციტატა. თუ ეს მხარე ვერ მოხერხდა, პასუხის დანარჩენი ნაწილი პირობითი ცდაა.

კიდევ ერთი მინიშნება: შინაგანი წინააღმდეგობა. მოდელი ამბობს, რომ ინსტრუმენტი „ყოველთვის“ ასრულებს X-ს, შემდეგ კი აღწერს გამონაკლისს, თითქოს ის სტანდარტული იყოს. ან ის იგონებს ფუნქციას და შემდეგ განმარტავს, თუ როგორ გამორთოს იგი - როგორც სიზმარი, რომელიც გამუდმებით იგონებს კარებს. დასვით შემდგომი შენიშვნები, რომლებიც სუსტ წერტილებს ეხება. გამოგონილი სამყაროები, როგორც წესი, რყევას განიცდიან ზეწოლის ქვეშ.

ასევე, ყურადღება მიაქციეთ „ზედმეტად იდეალურ“ შეფუთვას. ყველა აბზაცი თანაბრად დახვეწილია. ყველა რეკომენდაცია თანაბრად დამაჯერებელია. ნამდვილ ექსპერტიზას, როგორც წესი, აქვს ტექსტურა - გაფრთხილებები, კომპრომისები, „დამოკიდებულია“. ბრტყელი სრულყოფილება დამატებით შემოწმებას იმსახურებს. 

• ჯერ გადაამოწმეთ ყველაზე სარისკო მტკიცება და არა მთელი ესე.
• იკითხეთ „რაში ხართ ყველაზე ნაკლებად დარწმუნებული?“ და ნახეთ, ნიღაბი ხომ არ მოგიხსნებათ.
• ჩატის გარეთ გადაამოწმეთ სახელები, წოდებები და ნომრები.
• უპირატესობა მიანიჭეთ თქვენს მიერ ჩასმულ ტექსტთან დაკავშირებულ პასუხებს თავისუფლად მოძრავი ფაქტების ნაცვლად.

სწრაფი ჩვევები, რომლებიც ამცირებენ გამოგონებას

ჰალუცინაციების აღმოფხვრა ჯადოსნური წინადადებით შეუძლებელია - ბოდიში - მაგრამ აფეთქების რადიუსი შეიძლება შემცირდეს. კარგი მინიშნებები თამაშს ზღუდავს, ცუდი მინიშნებები კი იმპროვიზაციას იწვევს

სცადეთ ასეთი ჩვევები. ისინი უინტერესოდ ჟღერს. ისინი უფრო ხშირად მუშაობენ, ვიდრე ჭკვიანური ხრიკები.

• ცოდნის გაანალიზება: „გამოიყენეთ მხოლოდ ჩემს მიერ ჩასმული ჩანაწერები. თუ არ იცით, თქვით, რომ არ იცით“.
• აკრძალეთ ყალბი წყაროები: „არ მოიგონოთ ციტატები, ციტატები ან URL-ები“.
• ძალის გაურკვევლობის ეტიკეტები: „მონიშნეთ თითოეული პუნქტი: ცნობილი / დასკვნითი / გამოცნობილი“.
• იკითხეთ ალტერნატივების შესახებ: „მიუთითეთ ორი ვარიანტი და რატომ შეიძლება იყოს თითოეული მათგანი არასწორი“.
• მოითხოვეთ ეჭვის დაშვების უფლება: „ჩამოთვალეთ თქვენს მიერ გაკეთებული ვარაუდები“.
• ატმოსფეროზე მეტად სტრუქტურა მიანიჭეთ უპირატესობას: ცხრილები, საკონტროლო სიები და მტკიცების/მტკიცებულების სვეტები.

გასაკვირია, რომ მოდელისთვის იმის თქმა, რომ „ არ ვიცი “-ს თქმა დასაშვებია, ამცირებს სოციალურ ზეწოლას, შეასრულოს დარწმუნებით. მოდელები ასახავს დავალებას. თუ დავალება ნებისმიერ ფასად აჯილდოებს სისრულეს, ფორმატირებით მიიღებთ ფიქციას. თუ დავალება აჯილდოებს ხარვეზებზე მკაფიო საუბარს, ნაკლებ ბრწყინვალე ტყუილს მიიღებთ.

და კი - შემდგომი ქმედებები მნიშვნელოვანია. პირველი პასუხები მონახაზებია. „ეს ციტატა ყალბად გამოიყურება - წაშალეთ ყველაფერი, რისი დადასტურებაც არ შეგიძლიათ“ სრულიად ნორმალური მეორე შეტყობინებაა. ჩატს რედაქტირებად მოეპყარით და არა როგორც სავაჭრო აპარატს, რომელიც პირველივე მონეტაზე სიმართლეს გიხდით.

დამიწება, შემდგომი ქმედებები და ცხოვრება გაურკვევლობაში

დამიწება ნიშნავს პასუხის მოდელის იმპროვიზაციის მიღმა არსებულ რამესთან მიბმას: თქვენს მიერ ჩასმულ პოლიტიკის დოკუმენტს, თქვენს ცხრილს, თქვენი შეხვედრის ჩანაწერებს, ცნობილ საჯარო გვერდს, რომელსაც თავად შეამოწმებთ. როდესაც პასუხი ამ ღობის ფარგლებში უნდა დარჩეს, გამოგონებას ნაკლები ადგილი რჩება გასაშვებად.

შემდგომი დასკვნები მეორე ღობეა. „საიდან გაჩნდა ეს რიცხვი?“ „რომელი ნაწილია დასკვნა?“ „გადაწერეთ ყოველგვარი დასახელებული კვლევის გარეშე.“ თითოეული კითხვა მცირე აუდიტია. ვფიქრობ, ეს არის ამ ინსტრუმენტების გამოყენების ზრდასრული გზა - არა თაყვანისცემა, არა პანიკა, უბრალოდ აუდიტები.

გაურკვევლობა თქვენი სამუშაო პროცესის შეცდომა არ არის. ეს ამინდია. ზოგჯერ მოდელი თქვენივე ტექსტის შეჯამებას ზუსტად ასახავს. ზოგჯერ კი ქვეკომიტეტს იგონებს, რომელიც არასდროს შეკრებილა. თქვენი საქმეა გადაწყვიტოთ, რომელ შედეგებს სჭირდება საწვიმარი. 

• როდესაც სიზუსტე მნიშვნელოვანია, ჩასვით წყაროს მასალა.
• მოითხოვეთ პრეტენზიის დონის სანდოობის თეგები.
• მაღალი რისკის შემცველი გადაწყვეტილებების შესახებ ადამიანს საქმის კურსში აყენეთ
• „შემოქმედებითი თავისუფლება“ შემოქმედებითი ამოცანებისთვის შეინახეთ და არა მორჩილებისთვის.

რა უნდა გააკეთოთ, როდესაც ჰალუცინაციას შუაში განიცდით

სპირალურად ნუ შემოხვალთ. სამუდამოდ ნუ დაიფიცებთ ხელსაწყოს, თითქოს პირადად გიღალატათ - თუმცა სურვილი შეიძლება მძაფრი იყოს. გაასწორეთ ძაფი და განაგრძეთ.

მარტივი აღდგენის ციკლი:

• ასე წარმოთქვით: „როგორც ჩანს, ეს წყარო გამოგონილია. წაშალეთ დაუსაბუთებელი მტკიცებები“.
• ხელახლა დამაგრება: ჩასვით რეალური დოკუმენტი, ციტატა ან მონაცემები.
• ვიწროდ გადააკეთეთ: მოითხოვეთ შესწორებული ნაწილი და არა სრულიად ახალი, ცარიელი ესე.
• ხელახლა შეამოწმეთ ბასრი კიდეები: სახელები, რიცხვები, პროცესის ეტაპები.
• განსაზღვრეთ ნდობის დონე: იდეების გენერირების პარტნიორი vs. ასისტენტი დრაფტში vs. „ამ თემაზე არ არის“.

ერთი ჰალუცინაციის დაჭერამ შეიძლება გააუმჯობესოს საუბრის დანარჩენი ნაწილი - თუ შეზღუდვებს გაამკაცრებთ. მოდელი „თავს დამნაშავედ არ გრძნობს“, მაგრამ თქვენი უფრო მკაფიო ინსტრუქციები ცვლის იმას, რისთვისაც ის ოპტიმიზირებს. თქვენ მართავთ სიტუაციას. უფრო მეტად მართეთ სიტუაცია, როდესაც გამომგონებლობა ვლინდება. 

ყოველდღიური სცენარები, სადაც ეს ჩუმად მნიშვნელოვანია

სამსახურის ელფოსტა: გამოგონილი „ინდუსტრიის სტანდარტული ვადები“ შეიძლება ისეთ მოლოდინებს აწესებდეს, რომელთა შესრულებაც შეუძლებელია. სკოლა და სწავლა: ყალბი ახსნა შეიძლება თქვენს თავში ჩაიბეჭდოს მანამ, სანამ შეამჩნევთ. მომხმარებელთა მხარდაჭერის პროექტები: გამოგონილი თანხის დაბრუნების წესი დაპირებად იქცევა. შემოქმედებითი წერა: გამოიგონეთ - ეს არის სათამაშო მოედანი.

საბოლოო ჯამში, შედეგია. თუ არასწორი სიტყვები ფულს, ნდობას, შეფასებებს ან უსაფრთხოებას ჯდება, დადასტურება არჩევითი სამუშაო არ არის. თუ არასწორი სიტყვები მხოლოდ მხრების აჩეჩვა ღირს, მოდუნდით. სიფრთხილისა და შედეგის შეხამება აქ ზრდასრული ადამიანის უნარია - სიტყვა „ჰალუცინაციის“ დამახსოვრებაზე მეტი

ასევე: გუნდებმა უნდა ნორმალიზდნენ „მე გადავამოწმე ეს მტკიცება“ ისევე, როგორც ნორმალიზებენ „მართლწერის შემოწმება წარმატებით დასრულდა“. წინააღმდეგ შემთხვევაში, ერთი დახვეწილი აბზაცი ერთ ღამეში ტომობრივ ცოდნად იქცევა. ვაიმე.

ძირითადი დასკვნები

ამგვარად, „ რატომ იგონებს ზოგჯერ ხელოვნური ინტელექტი რაღაცეებს“ შემდეგში მდგომარეობს: ეს სისტემები პროგნოზირებენ დამაჯერებელ ენას, ავსებენ ხარვეზებს ნიმუშების შესაბამისობით და ხშირად ამის გაკეთებისას დარწმუნებულები ჩანან. ეს კომბინაცია ქმნის თავდაჯერებულ არასწორ პასუხებს, შეთხზულ ციტატებს და მოწესრიგებულ დეტალებს, რომლებიც არასდროს მომხდარა.

არ არის საჭირო ინსტრუმენტის შიში. თქვენ გჭირდებათ ჩვევები. შეამოწმეთ ზუსტი მტკიცებები. აკრძალეთ გამოგონილი წყაროები. ჩასვით კონკრეტული კონტექსტი. იკითხეთ გაურკვევლობის შესახებ. გამოიყენეთ შემდგომი ქმედებები აუდიტის სახით. შეინახეთ თავისუფალი თაობა დაბალი რისკის მქონე შემოქმედებითი სამუშაოსთვის.

თავისუფლად საუბარი პერსონაჟის მანიშნებელი არ არის. მოეპყარით მას, როგორც ნიჭიერ სტაჟიორს, რომელიც სასაცილოდ სწრაფად ბეჭდავს, ზოგჯერ იგონებს შეხვედრას, რომელიც არასდროს შედგა და მაინც შეუძლია წარმატებას მიაღწიოს ზედამხედველობის ქვეშ. შეინარჩუნეთ ზედამხედველობა. შეინარჩუნეთ ჭკუა. შეინარჩუნეთ სკეპტიციზმი მსუბუქი, მაგრამ დასაბუთებული. ასე მიაღწევთ სარგებელს მხატვრული ლიტერატურის ფაქტად გადაქცევის გარეშე.

პრაქტიკული მაგალითი: გამოგონილი ციტატების დაჭერა კონკურენტის კვლევის მოკლე შინაარსში

ჰალუცინაციები აბსტრაქტულად ჟღერს მანამ, სანამ დახვეწილი აბზაცი კლიენტის დასტაში თითქმის არ მოხვდება. აი, როგორ გამოიყენა ბრიტანელმა მარკეტინგის ანალიტიკოსმა ამ სახელმძღვანელოში მოცემული ჩვევები, რათა შეეწყვიტა მხატვრული ლიტერატურის კვლევად გადაქცევა - ჩატბოტის მიტოვების გარეშე.

სცენარი

სემს ორი საათი აქვს გაყიდვების დაწყებისთვის კონკურენტის ერთგვერდიანი მოკლე ვერსიის შესაქმნელად. კითხვა ნაცნობია: ძლიერი მხარეები, ფასების სიგნალები და „რამდენიმე სანდო წყარო“. ძველი ჩვევის თანახმად, სემმა აკრიფა „შეაჯამე კონკურენტი X წყაროებით“ და მიიღო მოწესრიგებული მოკლე ვერსიის ფორმა სამი აკადემიური ციტირებით და ბაზრის წილის ზუსტი პროცენტით. ეს მოკლე ვერსიის სახით ჟღერდა. ის ძირითადად გამოგონილი იყო. ერთი სათაურის პოვნა ვერ მოხერხდა. წილის მაჩვენებელი კონკურენტის საიტზე არსად არ ჩანდა.

სემს არ სჭირდება უკეთესად ჟღერადი მოდელი. სემს სჭირდება დასაბუთებული სამუშაო პროცესი: წყაროს შენიშვნების ჩასმა, ყალბი წყაროების აკრძალვა, გაურკვევლობის იარლიყების იძულებით შექმნა, ჯერ ყველაზე ზუსტი მტკიცების შემოწმება და შემდეგ მხოლოდ დაზიანებული მონაკვეთის აღდგენა.

მიზანია მოკლე ინფორმაცია, რომელსაც გუნდი სასაუბრო თემებად ენდობა და არა მეხსიერებიდან აღებული ქვითარი, რომელიც მხოლოდ ქვითარს ჰგავს.

რა სჭირდება ასისტენტს

• წყაროს მასალა სემს უკვე აქვს: მთავარი გვერდის ტექსტი, ფასების გვერდის ტექსტი, ორი ბოლოდროინდელი დახმარების ბილეთი, ჩანაწერები წაგებული გარიგებიდან
• მკაცრი წესი: ფაქტობრივი მტკიცებებისთვის გამოიყენეთ მხოლოდ ჩასმული ტექსტი; თქვით „არ ვიცი“, როდესაც შენიშვნები ჩუმია
• გამოგონილი ციტატების, ციტატების, URL-ებისა და სტატისტიკის აკრძალვა
• გამომავალი ფორმა, რომელიც ჰყოფს ცნობილს/დასაბუთებულს/ვარაუდს
• დროა, ერთი ადამიანის მიერ შემოწმებული იქნას სახელები, ციფრები და ნებისმიერი „წყაროს“ სათაურები, სანამ დასტა გაიყოფა
• ხარვეზების შევსების ნაცვლად, სამამდე დამაზუსტებელი კითხვის დასმის ნებართვა

მაგალითი ინსტრუქცია

შეტყობინება 1 - დასაბუთებული მოკლე შინაარსი: მხოლოდ ქვემოთ მოცემული შენიშვნების გამოყენებით, შეადგინეთ გაყიდვებისთვის განკუთვნილი ერთგვერდიანი კონკურენტის მოკლე შინაარსი. სექციები: რას აცხადებენ ისინი / რას უჩივიან მომხმარებლები / ფასების სიგნალები / ღია კითხვები. არ მოიგონოთ ციტატები, URL-ები ან სტატისტიკა. თუ ფაქტი შენიშვნებში არ არის, ჩაწერეთ „უცნობი“ და ჩამოთვალეთ ღია კითხვების ქვეშ. მონიშნეთ ყველა პუნქტი: ცნობილი / დასკვნითი / ვარაუდი. ბრიტანული ინგლისური. პრეამბულის გარეშე.

შეტყობინება 2 - ეჭვის გაცემა: ჩამოთვალეთ ყველა თქვენს მიერ გაკეთებული ვარაუდი. წაშალეთ ვარაუდით მონიშნული ნებისმიერი ინფორმაცია, თუ არ შეგიძლიათ მიუთითოთ ჩასმული წინადადება, რომელიც ამ ვარაუდს ადასტურებს. თუ ადრე გამოიგონეთ წყარო, წაშალეთ იგი და თქვით ამის შესახებ.

შეტყობინება 3 - ვიწროდ ხელახლა შექმნა: ბაზრის წილის ეს ხაზი მხარდაუჭერელია. გადაწერეთ მხოლოდ ფასების სიგნალების განყოფილება რიცხვების გარეშე, თუ ისინი ჩემს ჩანაწერებში არ გამოჩნდება. შეინახეთ სხვა სექციები.

როგორ გამოვცადოთ ის

• გაუშვით თავისუფლად მოძრავი კითხვა („შეაჯამეთ კონკურენტი X სამი რეცენზირებული წყაროს გამოყენებით“) და ზემოთ მოცემული დასაბუთებული მოკლე მიმოხილვა. შეადარეთ გამოგონილი სათაურები და ყალბი სტატისტიკა.
• ჯერ შემთხვევით შეამოწმეთ ყველაზე სარისკო მტკიცება (რიცხვითი ან დასახელებული კვლევა) და არა მთელი გვერდი.
• იკითხეთ: „რაში ხართ ყველაზე ნაკლებად დარწმუნებული?“ ძლიერი პასუხი ასახელებს ხარვეზებს, არასტაბილური კი - აორმაგებს.
• უკიდურესი შემთხვევა: ჩასმული ჩანაწერებიდან ამოიღეთ ფასები და დაადასტურეთ, რომ პროექტში წერია „უცნობი“ გეგმის ფასის გამოგონების ნაცვლად.
• გაზიარებამდე დადასტურების შემოწმება: (1) ყველა „ცნობილი“ პუნქტი შეესაბამება ჩასმულ ხაზს, (2) არ არის შეთხზული ციტატები, (3) ღია კითხვები ნამდვილ ხარვეზებს ასახელებს, (4) თქვენ თავად მოძებნეთ დარჩენილი სათაური, (5) არ არსებობს ზუსტი სტატისტიკა მათ უკან შენიშვნის გარეშე.

შედეგი

საილუსტრაციო შედეგი (ერთი ანალიტიკოსის კონკურენტის მოკლე სამუშაო პროცესის შეფასების მაგალითი, არა გამოქვეყნებული კვლევა): 8 ბრიფინგის დავალების შესრულებისას, კედლის საათის დრო „გახსნილი ჩანაწერებიდან“ „ადამიანის მიერ ფაქტების შემოწმებისთვის მზად პროექტამდე“ ოდნავ გაიზარდა საშუალოდ 12 წუთიდან (ერთჯერადი დახვეწილი მხატვრული ლიტერატურა) დაახლოებით 15 წუთამდე დასაბუთებული მოთხოვნით - თუმცა, დაზუსტებისა და უხერხულობის რისკი შემცირდა. მკაცრი პრეტენზიების ადამიანის მიერ გადამოწმება საშუალოდ 18 წუთიდან (ყალბი სათაურების დევნა და გადაწერა) დაახლოებით 6 წუთამდე შემცირდა, როდესაც პრეტენზიები წინასწარ იყო მონიშნული და გამოგონილი წყაროები აკრძალული იყო, ამიტომ წმინდა დრო დაახლოებით 9 წუთით შემცირდა თითო ბრიფინგზე, ან დაახლოებით 72 წუთით მთელი ნაკრების განმავლობაში. მიღების საკონტროლო სიაში (გამოგონილი ციტატების არარსებობა, დაუსაბუთებელი სტატისტიკის არარსებობა, ცნობილი/დასაბუთებული/სავარაუდო ტეგები, ღია კითხვები, რომლებიც ასახელებს ხარვეზებს), 8 დასაბუთებული პროექტიდან 7 დამტკიცდა პირველი განხილვისას, 8 ერთჯერადი პროექტიდან 2-ის წინააღმდეგ. შეზღუდვები: მცირე ნიმუში, ერთი ანალიტიკოსი, ერთი მოკლე ტიპი; მარტივი კონკურენტები მკაფიო საჯარო ფასებით ამცირებენ ხარვეზს; „ვერიფიკაციის დრო“ მოიცავდა საეჭვო სათაურების ვებ-ძიებას.

საკუთარი ვერსიის შესაფასებლად: ჩაატარეთ 5 მოკლე მიმოხილვა თქვენი ამჟამინდელი ჩვევით და 5 - ჩასმული წყაროებით + აკრძალული გამოგონილი ციტატებით + პრეტენზიის თეგებით; ჩაწერეთ დრაფტის საშუალო დრო, გადამოწმების საშუალო დრო და საკონტროლო სიის გავლის მაჩვენებელი მითითებული მნიშვნელით.

რა შეიძლება არასწორად წავიდეს

• თავისუფლად საუბრის მიკერძოება: სრულყოფილი გრამატიკა და მოწესრიგებული პუნქტები საშუალებას გაძლევთ გამოტოვოთ შესამჩნევი შემოწმება.
• ციტირების კოსფლეი: „წყაროების“ მოთხოვნა ჩასმული მასალის გარეშე იწვევს სტიპენდიის ფორმას შესაბამისი ჩანაწერის გარეშე.
• ზედმეტად შევსებული სიები: „მომეცი ათი კვლევა“ ჯილდოს შემავსებელი, როდესაც თქვენს ჩანაწერებში მხოლოდ სამია.
• მთელი ესეს ხელახლა აწყობა: ერთი ყალბი სტრიქონის შემდეგ, მოითხოვეთ ამ ნაწილის ვიწროდ გადაწერა - და არა ახალი დახვეწა.
• მაღალი რისკის შემცველი თემები: ჯანდაცვას, სამართალს, ფინანსებსა და შესაბამისობას უფრო ძლიერი ადამიანური კარიბჭე სჭირდება, ვიდრე გაყიდვების შესახებ სასაუბრო ინსტრუქციის შედგენაა.
• ადამიანური ციკლის გარეშე: მონიშნული მონახაზი მაინც შეიძლება არასწორად წაიკითხოს ჩასმული წინადადება. სემს კვლავ ეკუთვნის გაზიარების ღილაკი.

პრაქტიკული რჩევები

ხელოვნური ინტელექტი იგონებს რაღაცეებს, რადგან ის დამაჯერებელ ენას ხარვეზებად პროგნოზირებს და არა იმიტომ, რომ თქვენი მოტყუება სურს. თავისუფლად მეტყველებას სტილივით მოეპყარით და არა მტკიცებულებად. შეზღუდეთ ცრუ წყაროები, აკრძალეთ ყალბი წყაროები, მიამაგრეთ იარლიყი გაურკვევლობის შესახებ, შეამოწმეთ ყველაზე მკვეთრი მტკიცება და შეასწორეთ თემა, როდესაც რამე მერყეობს. ასე ინარჩუნებთ სწრაფი წერის პარტნიორის უპირატესობას ისეთი თავდაჯერებული ისტორიის მიწოდების გარეშე, რომელიც არასდროს მომხდარა.

ხშირად დასმული კითხვები

რატომ იგონებს ხელოვნური ინტელექტი ხანდახან რაღაცეებს?

ჩატის მოდელების უმეტესობა შაბლონური მანქანებია: ისინი ქმნიან პასუხს, რომელიც შეესაბამება კარგი პასუხის ფორმას და არა დამოწმებულ საქაღალდეებს, რომლებსაც აწერია „ჭეშმარიტება“. ხარვეზები ივსება იმით, რაც სტატისტიკურად სწორად ჟღერს - ციტირებით, რომელიც აკადემიურად გამოიყურება, მოწესრიგებული რიცხვით ან დეტალით, რომელიც ეპოქას შეესაბამება. თავისუფლად გადმოცემული ტექსტი გენერირების მიზანია, ამიტომ „სწორად ჟღერს“-ს შეუძლია აჯობოს „სწორია“. სწორედ ამიტომ, გამოგონილ პასუხებს ხშირად სრულყოფილი გრამატიკითა და მოწესრიგებული პუნქტებით მოჰყვება.

ხელოვნური ინტელექტის ნდობა იგივეა, რაც სიზუსტე?

არა. თავდაჯერებულობა და სიზუსტე სხვადასხვა კრიტერიუმია - ერთი შეიძლება მაღალი იყოს, მეორე კი ნულთან ახლოს. ნაგულისხმევი შედეგები ხშირად თავდაჯერებულ ბრიფინგს ჰგავს, რადგან ტრენინგი ჯილდოებს სასარგებლო თვისებებს სძენს და არა იმიტომ, რომ ყველა მტკიცება დასაბუთებული იყო. ასერტული ფორმულირება სტილად მიიჩნიეთ და არა მტკიცებულებად. თუ პასუხს არ აქვს გადამოწმებადი წყაროები, გაურკვევლობა და ბევრი კონკრეტული სახელი ან ციფრი აქვს, შეანელეთ ტემპი.

რატომ იგონებენ ჩატბოტები ციტატებსა და ყალბ წყაროებს?

ციტირების ფორმა სასწავლო ტექსტში ხშირია, ამიტომ „წყაროების“ მოთხოვნამ შეიძლება სამეცნიერო ფორმის მიღება რეალური ჩანაწერის მოძიების გარეშე - მაგალითად, მეხსიერებიდან ქვითრის აღებისას. ყალბი ნაშრომების სათაურები, ჟურნალების სახელწოდებები, URL-ები და ატრიბუტული ციტატები ხშირად საკმარისად პროფესიონალურად გამოიყურება, რომ სკიმერები მოატყუოს. მოითხოვეთ სათაურები, რომელთა დამოუკიდებლად მოძიებაც შეგიძლიათ; თუ წყაროს სწრაფად პოვნა შეუძლებელია, მტკიცება დაუსაბუთებლად ჩათვალეთ.

როდის არის ხელოვნური ინტელექტის გამოგონების რისკი ყველაზე მაღალი?

რისკი იზრდება ნიშური, ბოლოდროინდელი ან ძალიან სპეციფიკური თემების შემთხვევაში, ასევე მაშინ, როდესაც ზუსტ ციფრებს, დასახელებულ დოკუმენტებს, პირად ინფორმაციას ან რეცენზირებულ კვლევებს გრძელ სიას უყენებთ. მაღალი რისკის სფეროებია ჯანდაცვა, სამართალი, ფინანსები, შესაბამისობა, უსაფრთხოება, დასახელებული პირები და ზუსტი სტატისტიკა. იდეების გენერირება, მონახაზების შედგენა, საკუთარი ვერსიის გადაწერა და ტონის რედაქტირება, როგორც წესი, უფრო დაბალი რისკის შემცველია. გრძელი, შთამბეჭდავი პასუხები ასევე შეიძლება უფრო უსაფრთხოდ მოგეჩვენოთ, ვიდრე სინამდვილეშია.

როგორ შემიძლია აღმოვაჩინო ხელოვნური ინტელექტის მიერ შექმნილი პასუხები ყოველი სიტყვის შემოწმების გარეშე?

პირველ რიგში, შეამოწმეთ ყველაზე მკვეთრი მხარე - ნომერი, სახელი, პოლიტიკა ან ციტატა. თუ ეს ვერ მოხერხდა, დანარჩენი პირობითი ცდა დადეთ. ყურადღება მიაქციეთ შიდა წინააღმდეგობებს და „ზედმეტად იდეალურ“ შეფუთვას ყოველგვარი შენიშვნებისა და კომპრომისების გარეშე. იკითხეთ, რაში არის მოდელი ყველაზე ნაკლებად დარწმუნებული, გადაამოწმეთ სახელები და სათაურები ჩატის გარეთ და უპირატესობა მიანიჭეთ თქვენს მიერ ჩასმულ ტექსტთან დაკავშირებულ პასუხებს თავისუფლად მოძრავი ფაქტების ნაცვლად.

რა სწრაფი ჩვევები ამცირებს ხელოვნური ინტელექტის ჰალუცინაციებს?

ჰალუცინაციების აღმოფხვრა ერთი ჯადოსნური წინადადებით შეუძლებელია, მაგრამ აფეთქების რადიუსი შეგიძლიათ შეამციროთ. ცოდნის მასშტაბი ჩასმული ჩანაწერების გამოყენებით და როდესაც რაღაც აკლია, თქვით „არ ვიცი“. აკრძალეთ გამოგონილი ციტატები, ციტატები და URL-ები. აიძულებთ გამოიყენოთ ისეთი თეგები, როგორიცაა ცნობილი / დასკვნითი / ვარაუდი, მოითხოვეთ ვარაუდები და უპირატესობა მიანიჭეთ მტკიცების/მტკიცებულების სტრუქტურას. მოდელისთვის იმის თქმა, რომ „არ ვიცი“-ს თქმა დასაშვებია, ამცირებს ზეწოლას ცრუ დარწმუნებულობის შესასრულებლად.

რას ნიშნავს დამიწება, როდესაც ხელოვნური ინტელექტი ფაქტობრივი სამუშაოსთვის გამოიყენება?

დამიწება პასუხს მოდელის იმპროვიზაციის მიღმა არსებულ რამესთან აკავშირებს - თქვენს პოლიტიკის დოკუმენტთან, ცხრილთან, შეხვედრის ჩანაწერებთან ან საჯარო გვერდთან, რომელსაც თავად შეამოწმებთ. როდესაც პასუხები ამ ღობის ფარგლებში უნდა დარჩეს, გამოგონებას ნაკლები ადგილი აქვს. შემდგომი ქმედებები მეორე ღობის როლს ასრულებს: იკითხეთ, საიდან მოდის რიცხვი, რომელი ნაწილია დასკვნა, ან გადაწერეთ დასახელებული კვლევების გარეშე. მაღალი რისკის შემცველი გადაწყვეტილებების შესახებ ადამიანს საქმის კურსში აყენით.

რა უნდა გავაკეთო, თუ საუბრის დროს ჰალუცინაცია მეწყება?

გამოიძახეთ, ხელახლა დააკავშირეთ ის რეალურ დოკუმენტთან ან მონაცემებთან და ხელახლა შექმენით მხოლოდ დაზიანებული ნაწილი, სრულიად ახალი, გაპრიალებული ესეს მოთხოვნის ნაცვლად. ხელახლა შეამოწმეთ მკვეთრი კიდეები - სახელები, რიცხვები, პროცესის ნაბიჯები - შემდეგ გადაწყვიტეთ, არის თუ არა ინსტრუმენტი იდეების გენერირების პარტნიორი, დრაფტის ასისტენტი, თუ „არ არის ამ თემისთვის“. უფრო მკაფიო შეზღუდვები ცვლის იმას, რისთვისაც მოდელი ოპტიმიზირებს; უფრო მეტად იმოქმედეთ, როდესაც გამომგონებლობა ვლინდება.

როგორ შევაჩერო გამოგონილი ციტატები კონკურენტის კვლევის მოკლე შინაარსში?

ჩასვით უკვე არსებული წყაროს შენიშვნები, აკრძალეთ ყალბი წყაროები და დაუსაბუთებელი სტატისტიკა და მოითხოვეთ ცნობილი/დასაბუთებული/გამოსაცნობი თეგები და ღია კითხვების სია. ჯერ შეამოწმეთ ყველაზე სარისკო მტკიცება, ჩაატარეთ ეჭვის ტესტი, რომელიც ამოიღებს დაუსაბუთებელ ვარაუდებს და გადაწერეთ მხოლოდ გაუმართავი ნაწილი, თუ რიცხვი დაუსაბუთებელია. დადასტურება ნიშნავს, რომ ყველა „ცნობილი“ პუნქტი შეესაბამება ჩასმულ ხაზს და ნებისმიერი დარჩენილი სათაური მოიძებნება ადამიანის მიერ.

როდის არის ჯერ კიდევ მისაღები ხელოვნური ინტელექტის თავისუფლად გამოგონების უფლების მიცემა?

შემოქმედებით წერასა და სხვა დაბალ რისკებთან დაკავშირებულ დავალებებში თავისუფლად შეგიძლიათ მეტაფორების გამოგონება - ეს არის სათამაშო მოედანი. შეუსაბამეთ სიფრთხილე შედეგს: თუ არასწორი სიტყვები ფულს, ნდობას, შეფასებებს ან უსაფრთხოებას მოითხოვს, დადასტურება არჩევითი არ არის. თუ ისინი მხოლოდ მხრების აჩეჩვას გულისხმობს, მოდუნდით. თავისუფლად საუბარი პერსონაჟის მინიშნება არ არის; მოეპყარით მოდელს ისე, როგორც სწრაფ სტაჟიორს, რომელსაც ფაქტობრივ სამუშაოზე ზედამხედველობა მაინც სჭირდება.

ცნობები

1. OpenAI - openai.com
2. ანთროპული - anthropic.com
3. NIST - nist.gov
4. IBM - ibm.com
5. Google-ის ხელოვნური ინტელექტი - ai.google.dev
6. Google Cloud - დამიწება - docs.cloud.google.com