მოკლე პასუხი: არასდროს შეინახოთ პაროლები, API გასაღებები, ID-ები, ჯანმრთელობის ან საბანკო ჩანაწერები, NDA კლიენტის ფაილები ან სხვა ადამიანების მონაცემები საჯარო ხელოვნური ინტელექტის ჩატში. როდესაც დახმარება გჭირდებათ, აღწერეთ პრობლემა ჩანაცვლებითი ველებით და რედაქტირებული ამონარიდებით - მოდელს სჭირდება პრობლემის ფორმა და არა საიდუმლოებები, რომლებიც რეალურ სისტემებს ხსნის.
ძირითადი დასკვნები:
საიდუმლოებები ოფლაინში რჩება: არასდროს ჩასვათ პაროლები, ტოკენები, ქუქი-ფაილები ან საწყისი ფრაზები მოთხოვნაში.
პირადობის მოხსნა: შეცვალეთ ნამდვილი სახელები, მისამართები და პირადობის ნომრები როლებითა და ყალბებით.
სამუშაო კონფიდენციალურობა: მომხმარებლის ჩატში არ უნდა იყოს წარმოდგენილი ინფორმაციის გამჟღავნების შესახებ შეთანხმების პროექტები, კლიენტის ფაილები და გამოუქვეყნებელი გეგმები.
თანხმობის ზღვარი: არ ჩასვათ კოლეგების, მომხმარებლების ან ბავშვების პერსონალური მონაცემები მხოლოდ ადამიანური ციკლის გარეშე.
ჯერ რედაქტირება: გამოიყენეთ ჩანაცვლებითი ველები და გასუფთავებული ამონარიდები; შეცვალეთ ყველაფერი, რაც უკვე გაჟონეთ.
რა არ უნდა ჩადოთ ხელოვნურ ინტელექტში არასდროს
ჯერ ვაკრავთ და შემდეგ ვფიქრობთ. ჩატბოტი იქვე დგას, როგორც პაციენტი სტაჟიორი უსასრულო ყავით, ამიტომ თითქმის უვნებლად გვეჩვენება მთელი ჩახლართული პრობლემის ყუთში ჩაგდება. შესვლა, რომელიც არ იმუშავებს. კონტრაქტის პუნქტი, რომელიც კუჭს გიშლით. დაფის სკრინშოტი, სადაც ყველა სახელი ჩანს. ინსტრუმენტი სასარგებლოა, ატმოსფერო კონფიდენციალურია და თქვენი ტვინი ჩუმად ათავსებს მას „ჩემთვის დაწერილი ჩანაწერების“ გვერდით
ეს არის ხაფანგი. 🧠 ჩატი არ არის ჩაკეტილი უჯრა. ეს არის საუბარი სისტემასთან, რომელიც ინახავს, ამუშავებს და ზოგჯერ ვარჯიშობს თქვენს მიერ გაგზავნილ ინფორმაციაზე, პროდუქტის, პარამეტრების და იმის მიხედვით, შენიშნეთ თუ არა პარამეტრები. მე აქ იმისთვის არ ვარ, რომ პანიკაში ჩაგაგდოთ და ბუნკერში ჩაგაგდოთ. მე აქ ვარ პრაქტიკული რუკით, თუ რა არასდროს არ უნდა ჩადოთ ხელოვნურ ინტელექტში, პლუს უნაკლო, მაგრამ პრაქტიკული ჩვევები, რომლებიც საშუალებას გაძლევთ მიიღოთ მკვეთრი პასუხები.
წარმოიდგინეთ ეს, როგორც საიდუმლოს გახმაურება ხალხმრავალ სამზარეულოში. ყველა უცნობი არ უსმენს. მიუხედავად ამისა, ზოგიერთი მათგანი შეიძლება უსმენდეს. სამზარეულო კი ჩანაწერს აკეთებს ისეთი მარტივი მიზეზების გამო, როგორც მარკეტინგული ტექსტიდან ჩანს.
რატომ ვდებთ ყველაფერს ჩატის ფანჯარაში
სიჩქარე. ეს არის უმეტესწილად ყველაფერი. თქვენ გაიჭედეთ, შეცდომა საშინელებაა და მთელი ჟურნალის ჩასმა უფრო სწრაფად გეჩვენებათ, ვიდრე მისი გაშიშვლება. კონტექსტი მოდელის მიმართ სიკეთეს ჰგავს. მეტი დეტალი, უკეთესი დახმარება; ეს ფოლკლორია და ნახევრად სიმართლეა.
მეორე ნახევარი ემოციურია. ჩატბოტი წარბს არ აწევს. ის თქვენს მენეჯერს არაფერს ეტყვის. ის სადილის დროს არ ჭორაობს. ამიტომ ჩვენ მას ისე ვექცევით, როგორც ზებუნებრივი ძალების მქონე დღიურს. მე ეს გამიკეთებია. თქვენც ალბათ გაგიკეთებიათ. როგორც კი რაღაც მოსახერხებელი და არაკრიტიკულია, ჩვენი კონფიდენციალურობის ინსტინქტები ჩაიზე მიდის.
აი, ოდნავ შემაწუხებელი სიმართლე: მოდელს არ სჭირდება თქვენი ყოველდღიური დეტალები თქვენს დასახმარებლად. მას სჭირდება პრობლემის ფორმა. ეკრანის ანაბეჭდებში სახელები, ტოკენები, ანგარიშის ნომრები და სახეები გარნირადაა. გემრიელი გარნირად. მაინც გარნირად.
- თქვენ აკრავთ, რადგან რედაქტირება დამატებით სამუშაოდ გეჩვენებათ.
- იმიტომ აწებებ, რომ „მხოლოდ ერთხელ“ შენიღბული ჩვევაა.
- თქვენ აკრავთ, რადგან ინტერფეისი კერძო DM-ს ჰგავს და საარქივო კარადასავით იქცევა.
ეს ყველაფერი უგუნურს არ გხდის. ეს ადამიანად გაქცევს. გამოსავალი ორწამიანი პაუზაა და არა პიროვნების გადანერგვა.
პაროლები, API გასაღებები და საიდუმლოებები, რომლებიც ოფლაინში უნდა დარჩეს 🔐
თუ მას შეუძლია რაიმეს განბლოკვა, ეს არ უნდა იყოს მოთხოვნაში. პაროლები. ერთჯერადი კოდები. სესიის ქუქი-ფაილები. SSH გასაღებები. მონაცემთა ბაზის კავშირის სტრიქონები. API გასაღები, რომლის შეპირებაც საკუთარ თავს „მალე“ გააკეთეთ. საფულის საწყისი ფრაზები. კერძო სერთიფიკატები. აღდგენის კითხვა, რომელსაც თქვენი ბანკი კვლავ ჭკვიანურად მიიჩნევს.
ადრე გასაღებები კართან კაუჭზე მიმაგრებულ სახლის გასაღებს ჰგავდა. საყვარელი მეტაფორა; ის მაშინვე ინგრევა, რადგან სახლის გასაღები ერთ კარს აღებს, API გასაღებს კი შეუძლია საწყობის, გადახდის ანგარიშის და მომხმარებლის ჩანაწერების გროვის გახსნა, რომელთა შენახვაც კი დაგავიწყდათ. სარეზერვო ასლის შექმნა: საიდუმლოებებს რადიოაქტიურებად მიიჩნევთ. რადიოაქტიურ ნივთებს სენდვიჩ-საბეჭდ მანქანაში არ ათავსებთ, მაშინაც კი, თუ სენდვიჩ-საბეჭდი მანქანა სენდვიჩების დამზადებაში ძალიან კარგად მუშაობს.
მოდელს არ შეუძლია „ეს ჩვენს შორის შეინახოს“ ისე, როგორც ამას მეგობარი აკეთებს. მაშინაც კი, თუ გამყიდველი მეხსიერების კონტროლს გვთავაზობს, მაშინაც კი, თუ ტრენინგს გამორთავთ, ტექსტი მაინც გადაადგილდება, რაიმე ფორმით აღირიცხება და შეიძლება ჩატის ისტორიაში დარჩეს მანამ, სანამ მის ძებნას არ დაიწყებთ. დავუშვათ, რომ ჩასმული ტექსტი არის ასლი, რომელსაც სრულად აღარ აკონტროლებთ.
რა უნდა გავაკეთოთ ამის ნაცვლად
- აღწერეთ საიდუმლო ტიპის მიხედვით და არა მნიშვნელობით. „Postgres URL პაროლით“ საკმარისია გამართვის რჩევისთვის.
- რედაქტირება აშკარა ჩანაცვლებითი ველებით: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
- ყველაფერი, რაც უკვე გაჟონა, შეცვალეთ. გააკეთეთ ეს ახლავე და არა მას შემდეგ, რაც „ნახავთ, მოხდება თუ არა რამე“
- შეინახეთ რეალური ავტორიზაციის მონაცემები პაროლების მენეჯერში ან საიდუმლოებების საცავში; არასდროს ისეთ თემაში, რომლის ეკრანის გადაღებაც მოგვიანებით შეიძლება.
თუ ინსტრუმენტი გთხოვთ გასაღების ჩასმას, რათა მან „თქვენთვის დაკავშირება შეძლოს“, ეს სხვა პროდუქტის კატეგორიაა. ეს არის ინტეგრაცია წვდომასთან და არა წერის ასისტენტთან. მოეპყარით ამას ისე, თითქოს ვინმესთვის თქვენი სამკერდე ნიშნის გადაცემას ახერხებთ.
პირადი იდენტიფიკატორები და იდენტობის ჩუმი კვალი 🪪
პირადი ინფორმაციის (PII) კოდი პაროლების არამომხიბვლელი ბიძაშვილია. ეროვნული პირადობის ნომრები. პასპორტის დეტალები. თარიღთან დაკავშირებული საიდენტიფიკაციო ველები. სახლის მისამართები. ტელეფონის ნომრები. თანამშრომლების პირადობის მოწმობები. სტუდენტის ნომრები. სრული იურიდიული სახელები და დაბადების თარიღები, სკოლის დასახელება ან სამედიცინო კლინიკების დასახელება. ერთი ნაწილი პატარა ჩანს. სამი ნაწილი ერთად დოსიეს წარმოადგენს.
ადამიანები ამას მაშინ აკეთებენ, როდესაც წერილის დაწერა, ფორმის თარგმნა ან რეზიუმეს დახვეწა სურთ. სრულიად გონივრული მიზნები. მოდელს თავაზიანი საჩივრის დასაწერად ნამდვილი საფოსტო ინდექსი არ სჭირდება. მას სჭირდება ტონი, არაიდენტიფიკაციური ფაქტები და თქვენთვის სასურველი შედეგი.
ვფიქრობ, გასაკვირი, ყველაზე რთული „უწყინარი“ კომბინაციებია. უნიკალური თანამდებობა პლუს ქალაქი პლუს ბავშვის სკოლა პლუს იშვიათი სამედიცინო მდგომარეობა. ამას ფლაერზე არ დაწერდით. ჩატის ყუთი ფლაერი არ არის, მაგრამ ის ასევე არ არის სეიფი.
- ნამდვილი სახელები როლებით შეცვალეთ: „დამქირავებელი მენეჯერი“, „ჩემი ოჯახის ექიმი“, „მოიჯარე“
- განზოგადეთ ადგილმდებარეობები: „საშუალო ზომის ქალაქი“ და არა ქუჩა და ზარის კოდი.
- უნიკალური რიცხვები არ ჩამოაგდეთ, თუ დავალება სიტყვასიტყვით რიცხვის ფორმატს არ ეხება, ამ შემთხვევაში გამოიყენეთ ყალბი რიცხვები, რომლებიც საკმარისად რეალურს ჰგავს.
ანონიმიზაცია დოქტორის ხარისხი არ არის. ეს არის ჩვევა, შეამოწმო, შეეძლო თუ არა უცნობს შენი ამოცნობა ამ აბზაციდან. თუ შეეძლო, შეამოკლე.
სამუშაო კონფიდენციალურობა, საიდუმლო ინფორმაციის ხელშეკრულებები და ის, რაზეც თქვენი უფროსი შერცხვებოდა 📎
სწორედ აქ უქმნის ხალხს დახმარების სურვილი პრობლემებს. თქვენ აკრავთ კლიენტების სიას. გამოუქვეყნებელ გზამკვლევს. ხელფასის ცხრილს. საწყის კოდს შიდა ჰოსტების სახელებით. იურიდიულ პროექტს, რომელიც კვლავ კონფიდენციალურად არის მონიშნული. შეხვედრის ჩანაწერებს იმ ადამიანების სახელებით, რომლებსაც ჯერ არ უცნობებიათ. ინფორმაციის გავრცელების შესახებ შეთანხმებას, რომელსაც ნაჩქარევად მოაწერეთ ხელი, რადგან ყავა ცივდებოდა.
ჩატბოტები არ არიან თქვენი კომპანიის მრჩევლები და ისინი არ წარმოადგენენ უსაფრთხო სამუშაო მაგიდას, თუ თქვენს ორგანიზაციას არ აქვს ასეთი ინსტრუმენტი. სამომხმარებლო ინსტრუმენტები შექმნილია მოხერხებულობისთვის. საწარმოს ინსტრუმენტები შეიძლება უკეთესი იყოს, შენარჩუნების კონტროლისა და ადმინისტრაციული პოლიტიკის; ისინი მაინც არ წარმოადგენენ გრამატიკის გამოცდის ჩაბარების საფუძველს.
პრაქტიკულ წესს, რომელსაც თავში ვინახავ, ვინახავ: თუ პირად Gmail-ის დრაფტში არ განათავსებთ, საჯარო ხელოვნური ინტელექტის ჩატშიც ნუ განათავსებთ. თუ მგზავრობისას არ იტყვით, იგივე იქნება. Slack-ზე ფრთხილად მყოფი ადამიანები, როგორც კი გენერირების ღილაკი გამოჩნდება, ზედმეტი გაზიარების პოეტები ხდებიან.
უფრო უსაფრთხო შემოვლითი გზები
- აღწერეთ დოკუმენტი: სიგრძე, აუდიტორია, სამი მნიშვნელოვანი პუნქტი, საჭირო ტონი.
- ჩასვით დეზინფიცირებული ამონარიდი. მოაშორეთ სახელები, მგრძნობიარე ფიგურები და ყველაფერი, რის გამოც კონკურენტი ხელს ჩაკიდებდა.
- მოითხოვეთ სტრუქტურა ან გადაწერის ნიმუში, შემდეგ კი თავად გამოიყენეთ ის რეალურ ტექსტზე, ოფლაინ რეჟიმში.
- თუ გაქვთ, გამოიყენეთ დამტკიცებული სამუშაო ადგილის ინსტრუმენტი და ნაგულისხმევად მაინც დაარედაქტირეთ. პოლიტიკა იატაკია და არა ბატუტი
კოდი ამის განსაკუთრებული ელფერია. შიდა URL-ები, ავტორიზაციის სათაურები და კომენტარები, როგორიცაა „TODO: remove before the purchasing“ (დავალება: წაშლა შეძენამდე), პატარა სასაჩუქრე ტეგებია. მონაცემების ყალბი გამოყენება. ლოგიკის შენარჩუნება. მოდელი კარგად ამუშავებს ყალბ მონაცემებს; მას არ სჭირდება თქვენი წარმოების სქემა რეალური მომხმარებლის ელ.ფოსტებით, რომლებიც ჯერ კიდევ ჩადგმულია მოწყობილობაში.
ჯანმრთელობა, ფული და დეტალები, რომლებზეც კაფეში არ იყვირებდით 💊
სამედიცინო და ფინანსური დეტალები სასწრაფოდ გეჩვენებათ, ამიტომ ისინი მინიმალური რედაქტირებით იწერება. ლაბორატორიის შედეგები. რეცეპტების სიები. დაზღვევის პირადობის მოწმობები. საბანკო ამონაწერები. საგადასახადო წერილები. საკრედიტო ანგარიშები. ბარათის ფოტო „მხოლოდ ბოლო ოთხი ციფრისთვის“, რომელიც რატომღაც მოიცავს ბარათის დანარჩენ ნაწილს, თქვენს სამზარეულოს მაგიდას და სხვისი სახელით გაგზავნილ წერილს.
შეგიძლიათ შესანიშნავი კითხვები დასვათ დაუმუშავებელი ჩანაწერების გარეშე. „ახსენით, რას შეიძლება ნიშნავდეს მომატებული მარკერი ზოგადად“ - ეს არის მოთხოვნა. „აქ არის ჩემი სრული პანელი, ჩემი მისამართი, ჩემი კლინიკა და დედაჩემის ქალიშვილობის გვარი“ - ეს არის ბიოგრაფია.
მე არ ვამბობ, რომ არასდროს ისაუბროთ ჯანმრთელობაზე ან ფულზე მოდელთან. მე ვამბობ, რომ ჩატბოტს ისე მოეპყარით, როგორც მატარებელში მყოფ უცნობ ადამიანს. კარგია ჩარჩოების დასადებად. საშინელია, როგორც თქვენი ბუღალტერი, თქვენი კლინიცისტი ან თქვენი არქივი. და დიახ, ვიცი, რომ „უცნობის“ მეტაფორა ჟონავს; მატარებლები არ ინახავს ჩატის ჟურნალებს. დაახლოებით ეს არის მთავარი აზრი.
- წაშალეთ ანგარიშის ნომრები, სორტირების კოდები, IBAN-ები და ყველაფერი, რაც ავტორიზაციის დოკუმენტს ჰგავს.
- მოითხოვეთ ზოგადი განმარტებები, საკონტროლო სიები და კითხვები, რათა პროფესიონალთან მიიყვანოთ.
- არ გამოიყენოთ ჩატი განცხადებების შესანახად, „რათა მოგვიანებით შევძლო მათი მოძიება“. სწორედ ამ გზით ხდება მონაცემების შენახვა პრობლემად.
თუ კაფეში ხმას დაიწევთ, ჯერ რედაქტირება მოახდინეთ. ეს ტესტი გასაკვირი სანდოა და უფასოა.
სხვისი მონაცემები შენი ჩასასმელი არ არის 🚫
ეს გამოტოვებულია, რადგან ისეთი შეგრძნებაა, თითქოს ჩატის მთავარი გმირი თქვენ ხართ. სკრინშოტში მხოლოდ თქვენ არ ხართ. კოლეგების ელექტრონული ფოსტა. პარტნიორის ID. მომხმარებლის საჩივარი, რომელზეც მისი ტელეფონის ნომერი კვლავ მიმაგრებულია. ბავშვების ფოტოები. Slack-ის თემა, სადაც დასახელებულია ადამიანი, რომელიც კინაღამ სამსახურიდან გაათავისუფლეს. ზარის ჩანაწერი, რომლის შესახებაც მეორე პირმა არაფერი იცოდა, მოდელს გადაეცემა.
თანხმობა ავტომატურად არ გადადის „მათ მომწერეს ელ.წერილი“-დან „შეიძლება მანქანამ შეინახოს ეს“-ზე. მაშინაც კი, თუ თქვენი განზრახვა კეთილია - უფრო კარგი პასუხის შედგენა, არეული თემის შეჯამება - ნედლი მასალა მაინც მათი სიცოცხლეა და არა თქვენი საწერი ფურცელი.
ოდნავ სარკასტული ლაკმუსის ტესტი: თუ იგივე პოსტს უცნობთა საფოსტო სიას „უკუკავშირისთვის“ არ გადაუგზავნით, მაშინ ჩატბოტს უფრო პატარა საფოსტო სიად ნუ მოეპყრობით, რომელსაც უკეთესი მანერები აქვს.
- შეაჯამეთ სხვა ადამიანები თქვენი სიტყვებით.
- შეცვალეთ სახელები როლებით და წაშალეთ საკონტაქტო ინფორმაცია.
- ჰკითხეთ პირს, არის თუ არა დავალება მგრძნობიარე; ზოგიერთი რამ მხოლოდ ადამიანის მიერ უნდა შემოწმდეს.
- „გართობის“ მიზნით, არასდროს ჩასვათ ბავშვების პირადი მონაცემები, სკოლის ჩანაწერები ან საიდენტიფიკაციო ფოტოები.
აქ არის იურიდიული ფენა, რომლის ბლოგის ტონით დავას არ ვაპირებ. კონფიდენციალურობის წესებს, დასაქმების ვალდებულებებსა და კლიენტებთან დაკავშირებულ კონტრაქტებს - ყველას თავისი მოსაზრებები აქვს. პრაქტიკული ჩვევა კანონზე მარტივია: სხვა ადამიანების მონაცემების მოთხოვნაზე უარის თქმა.
რა არ უნდა ჩადოთ ხელოვნურ ინტელექტში: რისკების ცხრილი, რომლის გამოყენებაც შეგიძლიათ
მომწონს ცხრილები ამისთვის, რადგან „არასდროს“ სია შეიძლება ქადაგებად ჟღერდეს, ხოლო ბადე საშუალებას გაძლევთ ნახოთ ჩანაცვლება. მსუბუქად შეფასებები, არა ლაბორატორიული ანგარიში.
| მონაცემთა ტიპი | რისკის დონე | რატომ არის პრობლემა | უფრო უსაფრთხო ალტერნატივა |
|---|---|---|---|
| პაროლები, API გასაღებები, ტოკენები, საწყისი ფრაზები | კრიტიკული | ისინი სისტემებს განბლოკავენ; ასლი, რომლის სრულად გახსენებაც შეუძლებელია, მაინც ასლია | ადგილის მფლობელები პლუს ადგილობრივი საიდუმლოებების მენეჯერი; გაჟონვის შემთხვევაში, როტაცია |
| სამთავრობო პირადობის მოწმობები, პასპორტის სკანირება, ეროვნული ნომრები | კრიტიკული | პირადობის ქურდობის სასტარტო პაკეტი; ძნელია „გაგზავნის გაუქმება“ | ყალბი მაგალითები ან მხოლოდ ფორმატის კითხვები |
| ჯანმრთელობის ჩანაწერები, რეცეპტები, დაზღვევის პირადობის მოწმობები | მაღალი | ინტიმური, რეგულირებადი შეგრძნებით და ისტორიაში წებოვანი | ზოგადი სიმპტომები ან თემები; იდენტიფიკატორები გვერდზე არ გამოიყენოთ |
| საბანკო ამონაწერები, საგადასახადო დოკუმენტები, ბარათის ფოტოები | მაღალი | პირდაპირი ფინანსური ექსპოზიცია პლუს დამატებითი პირადი ინდექსი ზღვარზე | იკითხეთ პროცესების შესახებ და არა თქვენთან დაკავშირებული ნედლი ციფრების შესახებ |
| კლიენტის ფაილები, მონაცემთა დაცვის შესახებ შეთანხმების პროექტები, გამოუქვეყნებელი გეგმები | მაღალი | შესაძლოა, უკვე ხელმოწერილ პირობას არღვევდეთ | დეზინფიცირებული ამონაწერები; სტრუქტურის მოთხოვნები; დამტკიცებული სამუშაო ინსტრუმენტები |
| კოლეგის ან მომხმარებლის პირადი ინფორმაცია, ბავშვების დეტალები | მაღალი | მოდელისთვის შეწირვა თქვენი არ არის | როლებზე დაფუძნებული შეჯამებები; კონტაქტებისა და სახეების ჩამოშლა |
| შიდა წყარო ჰოსტის სახელებით და რეალური ელ.ფოსტით | საშუალო-მაღალი | როგორც ჩანს, „უბრალოდ კოდირებას“ ჰგავს, სანამ ვინმე თქვენს ქსელს რუკაზე არ დააკავშირებს | ყალბი მონაცემები, ყალბი დომენები, გაშიშვლებული კომენტარები |
| დაფების ან შემოსულების ეკრანის ანაბეჭდები | საშუალო-მაღალი | ისინი ფარულად მალავენ სახელებს, ნომრებს და ხსნიან ჩანართებს, რომელთა არსებობაც დაგავიწყდათ | შესაბამისი ფრაგმენტის ამოჭრა, დაბინდვა ან ხელახლა აკრეფა |
| ბუნდოვანი პირადი ისტორიები უნიკალური ID-ების გარეშე | ქვედა | როგორც წესი, კარგია; მაინც გამოტოვეთ ყველაფერი, რასაც უცნობს არ ეტყოდით | ზოგადი შეინარჩუნეთ; გამოტოვეთ იშვიათი საიდენტიფიკაციო კომბინაცია |
თუ სხვა არაფერი გახსოვთ, გაიხსენეთ მარცხენა სვეტი. ეს არის იმის არსი, თუ რა არ უნდა ჩადოთ ხელოვნურ ინტელექტში, როდესაც გეჩქარებათ და თქვენს ტვინს სამყაროს ჩასმა სურს.
სკრინშოტების ხაფანგები და შემთხვევითი ზედმეტად გაზიარება 🖼️
ეკრანის ანაბეჭდები კარგი ადამიანების მიერ ინფორმაციის გაჟონვის საშუალებაა. თქვენ შეცდომის დიალოგური ფანჯრის ჩვენება გსურთ. სურათში შედის სანიშნეების ზოლი, Slack-ის ბეიჯი სახელით, URL ტოკენით, კალენდრის ამომხტარი ფანჯარა, ანარეკლი ბნელი რეჟიმის ფანჯარაში, რომელიც პაროლის მენეჯერი აღმოჩნდა. ერთი კადრი მოვჭერი და მაინც ვერ შევნიშნე კუთხეში არსებული პაწაწინა ანგარიშის გადამრთველი. ეს შეცდომის ჟანრია.
დოკუმენტების ფოტოები უარესია, რადგან კამერები უხვადაა. მაგიდა, თეთრი დაფა, საავადმყოფოს სამაჯური, გადაზიდვის ეტიკეტი. მოდელს შეიძლება არ „სჭირდებოდეს“ დამატებითი პიქსელები. პიქსელები მაინც მოდის.
უბრალო ეკრანის გადაღების რიტუალი
- ჯერ მოჭერი. შემდეგ ისევ მოჭერი. შემდეგ კიდეებს შეხედე, თითქოს ფული გქონდეს ვალში.
- დაბინდეთ სახელები, ელფოსტები, ავატარები და ნებისმიერი სტრიქონი, რომელიც ტოკენს ჰგავს.
- მთელი IDE-ს ჩაწერას შეცდომის ხელახლა აკრეფა ჯობია.
- არ ატვირთოთ ბარათის, პასპორტის ან ჩასხდომის ბარათის ფოტო „სწრაფი წასაკითხად“. ამის ნაცვლად, აკრიფეთ კითხვა.
ხმოვანი ჩანაწერები და ფაილების ატვირთვა იგივე ხრიკს ასრულებს. შეხვედრის ჩანაწერი სხვა ადამიანების მონაცემების ნაკრებია. CSV ფაილი კი რიგების ნაკრებია, რომელთა დანახვაც, როგორც ადამიანების, შეწყვიტეთ. თუ ფაილი ლეგალს ნერვიულობას გამოიწვევს, ის ამ ველში არ მოთავსდება.
უფრო უსაფრთხო შაბლონები, რომლებიც მაინც მოგაწვდით მყარ პასუხებს ✨
რედაქტირება ხარისხის მტერი არ არის. ბუნდოვანი მინიშნებები კი - მტერია. შეგიძლიათ პრობლემასთან დაკავშირებით კონკრეტული იყოთ და იდენტობასთან დაკავშირებით ძუნწი. მთელი ხელობა სწორედ ეს არის.
სცადეთ ეს ფორმა: მიზანი, შეზღუდვები, ყალბი შეყვანები, სასურველი გამომავალი. „გადაწერეთ ეს უარყოფის ელფოსტა ისე, რომ იყოს თავაზიანი, მაგრამ მტკიცე. აუდიტორია არის ფრილანსერი დიზაინერი. არ ახსენოთ პროექტის ნამდვილი სახელი. აქ არის გაწმენდილი ვერსია შეცვლილი სახელებით.“ ეს არის ხერხემლიანი მინიშნება. მას არ სჭირდება CRM ექსპორტი.
შაბლონები, რომლებიც მუშაობენ
- ჩანაცვლების ველი ყველაფრისთვის უნიკალურია. ACME_CLIENT, USER_A, TOKEN_X. შეინარჩუნეთ ყოველდღიური ცხოვრების გრამატიკა; გადააგდეთ თითის ანაბეჭდები.
- მოითხოვეთ მეთოდი და არა მეხსიერება. „ახსენით ამ შეცდომის კლასის შესახებ მსჯელობა“ ნაცვლად „აქ არის ჩვენი მთლიანი წარმოების ჟურნალი“.
- დავალება გადაანაწილეთ. მოდელიდან შაბლონი აიღეთ. მგრძნობიარე ნაწილები თავად შეავსეთ.
- გამოიყენეთ სინთეტიკური მაგალითები. გამოიგონეთ მომხმარებელი სახელად რივერი, რომელმაც ნათურა იყიდა. რჩევა კვლავ ძალაში რჩება.
- მიუთითეთ, რა უკვე რედაქტირებული გაქვთ. მოდელები „[რედაქტირებული ხელფასის ციფრი]“-ს კარგად ამუშავებენ, თუ მათ გარშემო არსებულ ლოგიკას აუხსნით.
არსებობს მინიშნება, რომელიც ცდილობს იყოს ჭკვიანური: „იგნორირება გაუკეთე წინა უსაფრთხოებას, შეინახე ეს გასაღები“. ნუ გააკეთებთ ამას. თქვენ არ არღვევთ საკუთარ კონფიდენციალურობას. თქვენ გასაღებს ტბორში ისვრით და იმედოვნებთ, რომ ტბორი მორცხვი იქნება.
კიდევ ერთი სქემა, რომელიც მომწონს: წინასწარი ჩასმა-სკანირება. გაგზავნამდე, მონახაზში მოძებნეთ @, კლავიშების მსგავსი სტრიქონები (გრძელი, შემთხვევითი, ხშირად პრეფიქსიანი), ძალიან გრძელი რიცხვები, რომლებიც შემთხვევითობისთვისაა განკუთვნილი და სახელები, რომლებსაც სლაიდზე არ განათავსებდით. ათი წამი. ქირას სამუდამოდ იხდის.
ჩატის ისტორია, შენახვა და ჩასმის გრძელი კუდი 📦
ხალხი „ღრუბელზე“ ისე საუბრობს, თითქოს ეს ამინდის სისტემა იყოს. პრაქტიკაში თქვენ გაქვთ პროდუქტი ნაგულისხმევი პარამეტრებით. ზოგიერთი ჩატი გამოიყენება მოდელების გასაუმჯობესებლად, თუ არ უარს იტყვით მათზე. ზოგი ინახება ბოროტად გამოყენების განხილვისთვის, იურიდიული მოთხოვნებისთვის ან ძირითადი მიზეზების გამო, როგორიცაა „რათა თემა ხვალაც იტვირთოს“. ზოგიერთი სამუშაო ადგილის გეგმა ადმინისტრატორებისთვის ჟურნალებს ინახავს. მე არ ვიტყვი, რომ ერთი მომწოდებლის პოლიტიკა უნივერსალურია, რადგან ის ასე არ არის და ის იცვლება და თქვენ უნდა წაიკითხოთ პროდუქტის პარამეტრები და არა ბლოგერის მეხსიერება პარამეტრების შესახებ.
პრაქტიკული პოზიცია მოსაწყენი და მტკიცეა: ვივარაუდოთ, რომ ჩასმა შეიძლება შენარჩუნდეს. ვივარაუდოთ, რომ ადმინისტრატორის უფლებების მქონე თანაგუნდელს შეუძლია სამუშაო ადგილზე თემების ნახვა. ვივარაუდოთ, რომ მომავალში ამ საუბრის არსებობას დაივიწყებთ მანამ, სანამ ის ძიებაში არ გამოჩნდება. ვივარაუდოთ, რომ თქვენი ისტორიის ექსპორტი არის ის, რისი გაკეთებაც შეიძლება მოგვიანებით და ეს ექსპორტი კიდევ ერთი ასლია.
- გამორთეთ ტრენინგის ან „მოდელის გაუმჯობესების“ ოფციები, როდესაც პროდუქტი მათ გთავაზობთ, თუ ეს თქვენთვის კომფორტულია.
- წაშალეთ მგრძნობიარე თემები მას შემდეგ, რაც პრაქტიკულ ნაწილებს ნამდვილად ლოკალურ ჩანაწერში ამოიღებთ.
- ნუ მიიჩნევთ ჩატს, როგორც თქვენს ჩანაწერთა სისტემას ადამიანური რესურსების საკითხებთან, სამედიცინო კითხვებთან ან კლიენტებთან მუშაობისთვის.
- სიფრთხილე გმართებთ გაზიარებულ ანგარიშებთან. გაზიარებულ ანგარიშებზე „პირადი“ ოფისის ფოლკლორად გადაიქცევა.
მეხსიერების ფუნქციები - რომლებიც თქვენს სამსახურს, ძაღლს, თქვენთვის სასურველ ტონს ახსენებს - მოსახერხებელი და ცოტა საშიშიცაა. ისინი ასევე იმის მიზეზია, რომ სისტემას არ ასწავლოთ თქვენი რეალური იდენტიფიკატორები, „რათა ის უფრო პერსონალური გახდეს“. პერსონალური სტილია. ეს არ არის თქვენი ეროვნული დაზღვევის ნომერი.
სამუშაო ადგილის ნორმები, როდესაც თქვენი გუნდი ჩატბოტებში ცხოვრობს 🏢
ოფისებში ჩასმის ჩვევა ინდუსტრიულ სახეს იღებს. ვიღაც მომხმარებლის CSV ფაილს „სვეტების გასასუფთავებლად“ აქვეყნებს. ვიღაც სტრატეგიის დოკუმენტს „უფრო ძლიერის გასაკეთებლად“ აქვეყნებს. კეთილგანწყობილი სტაჟიორი ინციდენტის არხს ათავსებს. არავინ არის ბოროტმოქმედი. სტიმულები მხოლოდ სისწრაფე და დახვეწილობაა.
თუ გუნდს ხელმძღვანელობთ, დაწერეთ მოკლე, ადამიანური წესი. არა 40-გვერდიანი პოლიტიკა, რომელსაც არავინ წაიკითხავს. რაღაც მსგავსი: არანაირი სერთიფიკატი, არანაირი მომხმარებლის პირადი ინფორმაცია, არანაირი გამოუქვეყნებელი ნომრები, არანაირი სამართლებრივი პროექტი, გამოიყენეთ დამტკიცებული ინსტრუმენტი, ნაგულისხმევად რედაქტირება. შემდეგ აჩვენეთ კარგი, გასუფთავებული მოთხოვნის მაგალითი, რათა ხალხმა არ იფიქროს.
- დაასახელეთ დამტკიცებული ხელსაწყოები, თუ გაქვთ, და დაუმტკიცებელი ხელსაწყოები.
- მიეცით რედაქტირების საკონტროლო სია, რომელსაც ადამიანები სტენდაფის წინ დაასრულებენ.
- თეატრალური გამოძიების გარეშე, თავისუფლად შეგიძლიათ თქვათ „კინაღამ ჩავსვი ეს“.
- შეახსენეთ ხალხს, რომ „ხელოვნურმა ინტელექტმა თქვა, რომ ყველაფერი კარგად იყო“ კონტროლი არ არის.
თუ გუნდს არ უხელმძღვანელებ, მაინც შეგიძლია იყო ის ადამიანი, ვინც მანეკენს აკრავს. კულტურა ორივე მიმართულებით გადამდებია. ვფიქრობ, ეს სერიოზულად ჟღერს. ასევე, ნორმები ასე მოძრაობს; ერთი ადამიანი წყვეტს გასაღებების გადაყრას და ოთახში ცოტათი ნაკლებად მოუწესრიგებელი ხდება.
შესყიდვების თეატრი არის დამატებითი დავალება, რომელსაც გამოვტოვებ. „საწარმოს“ შეფუთვის ყიდვა ჯადოსნურად არ ხდის ყველა მოთხოვნას უფრო გონივრულს. მას შეუძლია დაგეხმაროთ შენარჩუნებასა და წვდომაში. თქვენი ჩვევები მაინც მძიმე სამუშაოს ასრულებს.
უკვე რაღაც უხერხული ჩასვი - ახლა რა ხდება 🧯
ეს ხდება. „გაგზავნის“ ღილაკს აჭერ და შენი სული სხეულს ტოვებს. სპირალურად ნუ იმოქმედებ. შეასრულე მოკლე, ოდნავ არაგლამურული სცენა.
- შეწყვიტეთ ამ საიდუმლოს გამოყენება. შეცვალეთ პაროლი, გააუქმეთ გასაღები, გააუქმეთ სესია. ეს ერთადერთი ნაბიჯია, რომელიც სამუდამოდ ხურავს კარს.
- თუ პროდუქტი საშუალებას გაძლევთ, წაშალეთ ჩატი და დაცარიელეთ ნებისმიერი „ცოტა ხნის წინ წაშლილი“ ჯიბე, თუ ასეთი გაქვთ
- შეამოწმეთ დაკავშირებული აპლიკაციები და მეხსიერება. ზოგიერთი ინსტრუმენტი ინახავს ფრაგმენტებს მოგონებებში ან პროექტის ფაილებში, რომელთა ჩართვაც დაგავიწყდათ.
- სამსახურის მონაცემები იყო თუ არა, შესაბამის პირს უთხარით. დაცვის თანამშრომელს, მენეჯერს, კლიენტის ლიდერს; ვინც არ უნდა ფლობდეს აფეთქების რადიუსს. ადრეული აღმოჩენა ნაკლებად მტკივნეულია, ვიდრე გვიან აღმოჩენა.
- ყურადღება მიაქციეთ უჩვეულო შესვლებს დაკავშირებულ ანგარიშებზე. მონიტორინგის გარეშე როტაცია ნახევარი საქმეა.
თუ ეს სხვისი მონაცემები იყო, თქვენც ვალდებული ხართ, დაასუფთაოთ ისინი და, არეულობის მიხედვით, წინასწარ აცნობოთ. უხერხულია. მაინც უკეთესია, ვიდრე იმედი გქონდეთ, რომ სამყარო თავაზიანი იქნება.
ნუ ეცდებით გაჟონვის „გადაწერას“ დამატებითი ახსნა-განმარტების ჩასმით. დამატებითი კონტექსტი დამატებითი ტექსტია. გადით თემიდან.
ერთად აწყობა
„რა არ უნდა ჩადოთ ხელოვნურ ინტელექტში“ -ს მოკლე ვერსია არ არის საყვედურის სია. ეს პოზაა. თუ ის განბლოკავს სისტემას, ამოიცნობს ადამიანს ან კაფეში შეგაკრთობთ, ის ჩარჩოში არ შედის. მაინც შეგიძლიათ მიიღოთ შესანიშნავი დახმარება. უბრალოდ მოდელს აწვდით ესკიზს და არა სახლის გასაღებს, სამედიცინო ფაილს და მეზობლის ფოსტას.
მოკლე მიმოხილვა:
- პაროლები, გასაღებები, ტოკენები ან საწყისი ფრაზები არ შეიძლება. თუ წაცდებით, შეგიძლიათ შეატრიალოთ.
- არანაირი რეალური პირადობის დამადასტურებელი დოკუმენტი, სრული ფინანსური ინფორმაცია, დაუმუშავებელი ჯანმრთელობის ჩანაწერები ან ინფორმაციის გაუცემლობის შესახებ ხელშეკრულების მასალა.
- სხვა ადამიანების პირადი ინფორმაცია არ არის, განსაკუთრებით ბავშვების.
- ეკრანის ანაბეჭდები ინკლუზიურობაშია; ისე ჩამოჭერით, როგორც გსურთ.
- მეთოდების რედაქტირება, ფიქტიური ეტიკეტების გამოყენება და მოთხოვნა. კონკრეტული პრობლემა, ყალბი ეტიკეტები.
- დავუშვათ, რომ ისტორია დიდხანს გრძელდება. წაშალეთ, არ დაარქივოთ საიდუმლოებები ჩატბოტში.
- სამუშაო ადგილებს მოკლე წესი და კარგი მაგალითი სჭირდება და არა ჩვეულებრივი კონფიდენციალურობის განწყობა.
გამოიყენეთ ხელსაწყოები. ისინი შესანიშნავად ახერხებენ ჩანახატების გასწორებას, ფორმების გამართვას და დამაბნეველი შეცდომების თავიდან აცილებას. უბრალოდ, შეწყვიტეთ ტექსტური ველის, როგორც საცავის, იუმორის გრძნობით მოპყრობა. ეს ძალიან ჭკვიანი ბლენდერია. მაინც არ უნდა ჩადოთ თქვენი პასპორტი ბლენდერში. 🫡
პრაქტიკული მაგალითი: მცირე საინჟინრო გუნდისთვის რედაქტირების პირველ რიგში გამართვის ინსტრუქციის შექმნა
კონფიდენციალურობის წესები ძალაში რჩება მაშინ, როდესაც ისინი ჩვეულებრივ სამშაბათს იცავენ და არა მაშინ, როდესაც ისინი მკაცრად ჟღერს. აი, როგორ გამოიყენა ხუთკაციანმა SaaS გუნდმა დიდი ბრიტანეთის ამ სახელმძღვანელოში მოცემული ჩვევები, რათა შეეჩერებინათ მომხმარებლის ავტორიზაციისა და პირადი ინფორმაციის მიწოდება მომხმარებლის ჩატბოტებში - გამართვის დახმარებაზე უარის თქმის გარეშე.
სცენარი
დეველოპერებსა და მხარდაჭერის გუნდს ერთი მტკივნეული ჩვევა აერთიანებს: როდესაც ავტორიზაციის შეცდომა საშინლად გამოიყურება, ვიღაც მთელ ჟურნალს, ეტაპობრივი კავშირის სტრიქონს და ადმინისტრატორის დაფის ეკრანის ანაბეჭდს ათავსებს, „რათა მოდელს კონტექსტი ჰქონდეს“. ბოლო კვარტალში ეს მოიცავდა სტეკის ტრასაში არსებულ API გასაღებს და მომხმარებლის ელ. ფოსტას, რომელიც კვლავ ჩანდა ეკრანის ანაბეჭდის URL ზოლში. არავის უფიქრია ზიანის მიყენება. სიჩქარემ გაიმარჯვა. სამზარეულომ ჩანაწერი შეინარჩუნა.
მათ ლექცია არ სჭირდებათ. მათ განმეორებადი ინსტრუქცია სჭირდებათ: საიდუმლოს ტიპის მიხედვით აღწერა, ჩანაცვლებითი ველების გამოყენება, ეკრანის ანაბეჭდების მოჭრა, მეთოდის მოთხოვნა და არა მეხსიერების, შემდეგ კი შესწორების გამოყენება რეალურ სისტემებზე, რომლებიც ოფლაინ რეჟიმში მუშაობენ. მომხმარებელთა ჩატი მაინც ინარჩუნებს თავის ადგილს. სახლის გასაღებები ბლენდერში არ რჩება.
მიზანია რჩევების იგივე ხარისხი, ორწამიანი წინასწარი სკანირებით ჩასმამდე - და მოკლე გუნდური წესით, რომელსაც ხალხი დაიცავს.
რა სჭირდება ასისტენტს
- პრობლემის გასუფთავებული ფორმა: შეცდომის კლასი, დაახლოებით დაწყების თარიღი, გარემო (ეტაპობრივი დამუშავება vs. წარმოება) ქსელის შესაბამისობის მქონე ჰოსტების სახელების გარეშე
- მხოლოდ ყალბი შეყვანები: REDACTED_KEY, USER_TOKEN, customer@example.com, ყალბი მოთხოვნის ID-ები
- რა იყო უკვე ამოღებული (მითითებულია მოთხოვნაში, რათა მოდელი არ ითხოვდეს ნამდვილ მნიშვნელობებს)
- სასურველი შედეგი: სავარაუდო მიზეზები, შესასრულებელი შემოწმებები, პატჩის მონახაზი - არა „ჩემს გასაღებთან დაკავშირება“
- ადამიანი, რომელიც ინახავს სერთიფიკატებს პაროლის მენეჯერში ან საიდუმლოებების საცავის მეშვეობით
- ერთგვერდიანი გუნდური წესი: არანაირი სერთიფიკატი, არანაირი მომხმარებლის პირადი ინფორმაცია, არანაირი გამოუქვეყნებელი ციფრი, ნაგულისხმევად რედაქტირება
მაგალითი ინსტრუქცია
მიზანი: დამეხმარეთ ჩვენს Stage API-ზე ტოკენის განახლების შემდეგ პერიოდული 401-ის გამართვაში. არ მთხოვოთ საიდუმლოებების ჩასმა.
შეზღუდვები: მე უკვე წავშალე პაროლები, API გასაღებები, ტოკენები, ქუქი-ფაილები, შიდა ჰოსტის სახელები და მომხმარებლის ელ. ფოსტები. ჟურნალში ჩანაცვლების ველები ნიშნავს, რომ ნამდვილი მნიშვნელობები მხოლოდ ჩემს მოწყობილობაზე არსებობს. ბრიტანული ინგლისური. შესავალი არ არის.
ფიქტიური ამონარიდი: https://api.example-staging.invalid/v1/session-ზე მოთხოვნამ დააბრუნა 401. სათაურის ავტორიზაცია: მატარებელი REDACTED_KEY. ტექსტში მოხსენიებულია USER_TOKEN-ის ვადა ამოიწურა. ეკრანის ანაბეჭდის აღწერა (არ არის დართული): მხოლოდ შეცდომის შესახებ ინფორმაციის მიწოდება; სანიშნეების ზოლი და ანგარიშის გადამრთველი ამოჭრილია.
დავალება: ჩამოთვალეთ ამ შეცდომის კლასის სამი ყველაზე სავარაუდო მიზეზი, შემოწმებები, რომლებიც ლოკალურად უნდა გავატარო და მინიმალური პატჩის მონახაზი. თუ მეტი დეტალი გჭირდებათ, მოითხოვეთ ინფორმაციის ტიპი (მაგ. „ტოკენ TTL პარამეტრი“) - არასდროს მოითხოვოთ ნედლი საიდუმლო.
შედეგი: დანომრილი მიზეზები, შემდეგ საკონტროლო სია და შემდეგ სამ პუნქტად „რა არ უნდა ჩასვათ შემდეგ ჯერზე“.
როგორ გამოვცადოთ ის
- შეადარეთ ძველი სტილის პასტა (სრული ჟურნალი + ეკრანის ანაბეჭდი) ზემოთ მოცემულ რედაქტირებულ მოკლე შინაარსს იმავე ტიპის ინციდენტზე. შეადარეთ რჩევის ხარისხი და ითხოვს თუ არა მოდელი საიდუმლოებებს.
- ჩასმამდელი სკანირება: გაგზავნამდე მოძებნეთ პროექტში @, გრძელი შემთხვევითი სტრიქონები და რიცხვები, რომლებიც ძალიან გრძელია შემთხვევითი ჩასასმელად.
- Edge რეგისტრი: ჩართეთ ყალბი გასაღები, რომელიც ორიგინალს ჰგავს და დაადასტურეთ, რომ პასუხი კვლავ მუშაობს ნამდვილი მნიშვნელობის საჭიროების გარეშე.
- რეგისტრის კიდე: უარი თქვით ეკრანის ანაბეჭდის ატვირთვაზე; ხელახლა აკრიფეთ მხოლოდ შეცდომის ხაზი; დაადასტურეთ, რომ საკონტროლო სია კვლავ გეხმარებათ.
- მიღების შემოწმებები: (1) თემაში ნული ავტორიზაციის მონაცემები, (2) მომხმარებლის საკონტაქტო ინფორმაცია ნული, (3) გამოცხადებული ჩანაცვლებითი ველები, (4) გამომავალი არის მეთოდი/საკონტროლო სია და არა „ჩასვით თქვენი გასაღები“ ნაკადი, (5) თუ რამე გაჟონა ადრე, როტაცია იმავე დღეს მოხდა.
შედეგი
საილუსტრაციო შედეგი (ერთი მცირე ინჟინერიის/მხარდაჭერის გუნდის შეფასების მაგალითი, არა გამოქვეყნებული კვლევა): ოთხ კვირაში 12 გამართვის ჩატის განმავლობაში, გამოსაყენებელი საკონტროლო სიის საშუალო დრო ოდნავ გაიზარდა დაახლოებით 4 წუთიდან (სრული ჩასმა) დაახლოებით 6 წუთამდე რედაქტირების შემთხვევაში - ორი დამატებითი წუთი ჩასმამდე სკანირებისა და ჩანაცვლების ველებისთვის. კრიტიკული მონაცემთა ტიპების (გასაღებები, მომხმარებლის ელ. ფოსტა, დაუმუშავებელი კავშირის სტრიქონები) შემცველი თემების რაოდენობა 12 ჩატიდან 9-დან 12-მდე შემცირდა (ეს ერთი განხილვის პროცესში იყო და იმავე დღეს შეიცვალა). მარტივი ჰიგიენური საკონტროლო სიის მიხედვით (საიდუმლოების გარეშე, მომხმარებლის პირადი ინფორმაციის გარეშე, ჩანაცვლების ველების გამოცხადებით, ამოჭრილი ან ეკრანის ანაბეჭდის გარეშე), 12 რედაქტირებული მოკლე მიმოხილვიდან 11 წარმატებით დასრულდა, ძველი ჩვევის შემთხვევაში კი - 12-დან 3-ის. შეზღუდვები: მცირე ნიმუში, ერთი გუნდი, თვითშეფასების დრო; უფრო მსუბუქი ინციდენტები ნაკლებ რედაქტირებას საჭიროებს; „გავლილი“ იყო მოთხოვნის ტექსტის თანატოლების მიერ განხილვა და არა მომწოდებლის ჟურნალების ლაბორატორიული აუდიტი.
საკუთარი ვერსიის გასაზომად: აკრძალული მონაცემთა ტიპებისთვის აიღეთ ხელოვნური ინტელექტის მიერ გამართვის 10 ბოლოდროინდელი ნაკადის ნიმუში, შემდეგ კი რედაქტირების წესისა და შაბლონის შემდეგ აიღეთ 10; ანგარიშის რაოდენობა მნიშვნელით, პლუს საშუალო წუთები „გაჭედვიდან“ „ხელში საკონტროლო სიამდე“
რა შეიძლება არასწორად წავიდეს
- ეკრანის ანაბეჭდის კონტრაბანდა: შეცდომა ნორმალურია; URL ზოლში კვლავ ინახება ტოკენი. ორჯერ ჩამოჭერით და შემდეგ შეამოწმეთ კიდეები.
- „მხოლოდ ერთხელ“ გასაღებები: ერთი გაჟონილი API გასაღებით შესაძლებელია ბილინგისა და მომხმარებლის ჩანაწერების გახსნა. დაუყოვნებლივ შეცვალეთ; ნუ დაელოდებით, რომ „რამე მოხდეს“.
- სხვა ადამიანების მონაცემები: მომხმარებლის საჩივარი ტელეფონის ნომრით არ არის თქვენი უფლებამოსილება, რომ მოდელს გადასცეთ. შეაჯამეთ თქვენი სიტყვებით.
- ჩატი, როგორც საცავის: ისტორიაში საიდუმლოებების დატოვება კიდევ ერთ ასლს შექმნის. წაშალეთ თემა მას შემდეგ, რაც საჭირო ბიტებს ლოკალურ ჩანაწერში გადაიტანთ.
- საწარმოს თეატრი: დამტკიცებული სამუშაო ინსტრუმენტი ხელს უწყობს თანამშრომლების შენარჩუნებას; ის არ აადვილებს გვირგვინის ძვირფასი ქვების დაწებებას.
- როტაციის გამოტოვება შეცდომის შემდეგ: ჩატის წაშლა გასაღების გაუქმების გარეშე კარს ღიას ტოვებს.
პრაქტიკული რჩევები
ხელოვნურ ინტელექტში არასდროს არ უნდა შეიტანოთ ნაკლებად საყვედურის სია და უფრო მეტად პოზა: თუ ის განბლოკავს სისტემას, ამოიცნობს ადამიანს ან კაფეში შეგაკრთობთ, ის ჩარჩოდან გამოდის. მოდელს მიაწოდეთ ესკიზი ჩანაცვლებითი ველებით, შეინახეთ რწმუნებათა სიგელები სეიფში და სთხოვეთ მეთოდები, რომლებსაც ოფლაინში იყენებთ. ეს ორწამიანი პაუზა არის ის, თუ როგორ წყვეტს დამხმარე სტაჟიორი უსასრულო ყავით, რომელიც თქვენი სახლის გასაღებების საარქივო კარადად გადაქცევას.
ხშირად დასმული კითხვები
რა არ უნდა ჩადოთ ხელოვნური ინტელექტის ჩატბოტებში არასდროს?
თუ ის განბლოკავს სისტემას, ახდენს პიროვნების იდენტიფიცირებას ან კაფეში შეკრთებით დაგაბრკოლებთ, შეინახეთ ის ყუთიდან. ეს მოიცავს პაროლებს, API გასაღებებს, ტოკენებს, საწყის ფრაზებს, სამთავრობო პირადობის მოწმობებს, ჯანმრთელობისა და ფინანსური ჩანაწერებს, ინფორმაციის საიდუმლოების შესახებ ხელშეკრულების მასალას და სხვა ადამიანების - განსაკუთრებით ბავშვების - პირად მონაცემებს. ჩატი არ არის ჩაკეტილი უჯრა; ტექსტის შენახვა, დამუშავება და ზოგჯერ გამოყენება ტრენინგისთვისაც შესაძლებელია პროდუქტისა და პარამეტრების მიხედვით. მოდელს მიაწოდეთ ესკიზი ჩასანაცვლებელი ველებით და არა სახლის გასაღებებით.
რატომ ათავსებენ ადამიანები საიდუმლოებებს ხელოვნურ ინტელექტში, მაშინაც კი, როცა უკეთ იციან?
სამუშაოს უმეტეს ნაწილს სიჩქარე ასრულებს: ერთი უსიამოვნო შეცდომა მთელ ჟურნალს უფრო სწრაფად ამუშავებს, ვიდრე მისი დაშლა. ჩატბოტები ასევე არ აკრიტიკებენ, ამიტომ კონფიდენციალურობის ინსტინქტები შესვენებას იღებენ. მოდელს, როგორც წესი, პრობლემის ფორმა სჭირდება და არა სახელები, ტოკენები, ანგარიშის ნომრები ან სახეები ეკრანის ანაბეჭდებში - ეს მხოლოდ დეკორაციაა. ორწამიანი პაუზა პიროვნების გადანერგვას ჯობია.
უსაფრთხოა თუ არა პაროლების ან API გასაღებების ჩასმა ChatGPT სტილის ინსტრუმენტებში?
არა. თუ მას შეუძლია რაიმეს განბლოკვა, ის არ უნდა იყოს მოთხოვნაში - პაროლები, ერთჯერადი კოდები, სესიის ქუქი-ფაილები, SSH გასაღებები, კავშირის სტრიქონები, საფულის საწყისი ფაილები ან კერძო სერთიფიკატები. მოდელს არ შეუძლია საიდუმლოს შენახვა მეგობრის მსგავსად; ტექსტი მაინც მოგზაურობს, აღირიცხება და შეიძლება ისტორიაში დარჩეს. აღწერეთ საიდუმლო ტიპის მიხედვით, გამოიყენეთ ჩანაცვლებითი ველები, როგორიცაა REDACTED_KEY, შეცვალეთ უკვე გაჟონილი ინფორმაცია და შეინახეთ რეალური ავტორიზაციის მონაცემები პაროლების მენეჯერში ან სეიფში.
რა პირადი ინფორმაცია უნდა შევასწორო მოთხოვნის გაგზავნამდე?
პირადი ინფორმაცია სწრაფად გროვდება: ეროვნული პირადობის მოწმობები, პასპორტის დეტალები, მისამართები, ტელეფონის ნომრები, თანამშრომლის ან სტუდენტის პირადობის მოწმობები და სრული სახელები დაბადების თარიღებთან ან კლინიკებთან ერთად. მოდელს არ სჭირდება ნამდვილი საფოსტო ინდექსი წერილის დასაწერად - მას სჭირდება ტონი, არაიდენტიფიკაციური ფაქტები და თქვენთვის სასურველი შედეგი. შეცვალეთ სახელები როლებით, განაზოგადეთ მდებარეობები და გამორიცხეთ უნიკალური რიცხვები, თუ ფორმატს ყალბი მაგალითით არ ცდით.
შემიძლია კლიენტის ფაილების, NDA-ს ან შიდა კოდის ჩასმა მომხმარებლის ხელოვნური ინტელექტის ინსტრუმენტში?
მომხმარებლის ჩატს მოეპყარით როგორც მოხერხებულობის პროდუქტს და არა როგორც კომპანიის ადვოკატს. თუ მას პირად Gmail-ის პროექტში არ განათავსებთ ან არ იტყვით მგზავრობისას, ნუ განათავსებთ მას საჯარო ხელოვნური ინტელექტის ჩატში - კლიენტების ჩატებში, გამოუქვეყნებელ საგზაო რუკებში, ხელფასის ფურცლებში, კონფიდენციალურ იურიდიულ პროექტებში ან შიდა ჰოსტის სახელების მქონე წყაროში. აღწერეთ დოკუმენტი, ჩასვით გასუფთავებული ამონარიდი, მოითხოვეთ სტრუქტურა, რომელსაც იყენებთ ოფლაინში და გამოიყენეთ დამტკიცებული სამუშაო ადგილის ინსტრუმენტი, თუ გაქვთ, მაშინ როცა ნაგულისხმევად რედაქტირება ხდება.
როგორ უნდა მოვაგვარო ჯანმრთელობის ან ფინანსური დეტალები ხელოვნური ინტელექტის მოთხოვნებში?
დასვით შესანიშნავი კითხვები დაუმუშავებელი ჩანაწერების გარეშე. ზოგადი ახსნა-განმარტებები სჯობს ლაბორატორიული პანელების, რეცეპტების სიების, დაზღვევის პირადობის მოწმობების, საბანკო ამონაწერების ან ბარათების ფოტოების ჩასმას, რომლებიც ასევე ასახავს სამზარეულოს მაგიდას. ამოიღეთ ანგარიშის ნომრები და ყველაფერი, რაც სერთიფიკატს ჰგავს. გამოიყენეთ ჩატი ჩარჩოებისთვის და საკონტროლო სიები პროფესიონალთან წარსადგენად - და არა როგორც თქვენი კლინიცისტი, ბუღალტერი ან საარქივო კარადა ამონაწერებისთვის.
რატომ არის სხვა ადამიანების მონაცემები და ეკრანის ანაბეჭდები განსაკუთრებით სარისკო?
თქვენ არ ხართ ერთადერთი ადამიანი, ვინც ამ ჩასმულ ჩანაწერში მოხვდა: კოლეგების ელექტრონული ფოსტის მისამართები, მომხმარებლების ტელეფონის ნომრები, ბავშვების ფოტოები ან ზარების ჩანაწერები შეიძლება სისტემაში მათი თანხმობის გარეშე მოხვდეს. შეაჯამეთ თქვენი სიტყვებით, შეცვალეთ სახელები როლებით და არასდროს ჩასვათ ბავშვების საიდენტიფიკაციო დეტალები „გართობის“ მიზნით. ეკრანის ანაბეჭდები ფარულად ათავსებს სანიშნეების ზოლებს, URL ტოკენებს, Slack-ის სახელებს და ღია ჩანართებს - ორჯერ ჩამოჭერით, დაბინდეთ იდენტიფიკატორები ან ხელახლა აკრიფეთ შეცდომა პასპორტების ან ბარათების ატვირთვის ნაცვლად.
რომელი უფრო უსაფრთხო შაბლონები იღებენ ხელოვნური ინტელექტის მიერ შექმნილ მყარ პასუხებს?
იყავით კონკრეტული პრობლემის შესახებ და ძუნწი იდენტობის საკითხში: მიზანი, შეზღუდვები, ფიქტიური შეყვანები, სასურველი გამომავალი. გამოიყენეთ უნიკალური ეტიკეტები, მოითხოვეთ მეთოდი სრული წარმოების ჟურნალის ნაცვლად, გაყავით დავალება ისე, რომ თავად შეავსოთ მგრძნობიარე ნაწილები და გამოიყენეთ სინთეზური მაგალითები. ჩასმამდელი სკანირება ჩაატარეთ @ ნიშნების, გრძელი შემთხვევითი გასაღების მსგავსი სტრიქონების, დიდი ზომის რიცხვების და სახელების მოსაძებნად, რომლებსაც სლაიდზე არ განათავსებდით. ათი წამი სამუდამოდ იხდის ქირას.
რა მოხდება, თუ ხელოვნური ინტელექტის ჩატში უკვე ჩავსვი რაღაც უხერხული?
პირველ რიგში, შეწყვიტეთ ამ საიდუმლოს გამოყენება - შეცვალეთ პაროლი, გააუქმეთ გასაღები, გააუქმეთ სესია. წაშალეთ ჩატი, თუ პროდუქტი იძლევა ამის საშუალებას, შეამოწმეთ მოგონებები ან პროექტის ფაილები, უთხარით შესაბამის პირს, იყო თუ არა ეს სამუშაო მონაცემები და დააკვირდით უჩვეულო შესვლას. თუ ეს სხვისი მონაცემები იყო, გაასუფთავეთ და საჭიროების შემთხვევაში წინასწარ აცნობეთ. არ „გადაწეროთ“ გაჟონვა დამატებითი ახსნა-განმარტებით; დამატებითი კონტექსტი დამატებითი ასლია.
როგორ შეუძლია პატარა გუნდს შეწყვიტოს ხელოვნურ ინტელექტში რწმუნებათა სიგელების გადაცემა გამართვის მიზნით?
გამოიყენეთ რედაქტირების პრინციპი: აღწერეთ საიდუმლოებები ტიპის მიხედვით, შექმენით REDACTED_KEY-ის ფიქტიური ჟურნალები და მაგალითად ელ.წერილები, მიუთითეთ რა მოიხსნა და იკითხეთ სავარაუდო მიზეზების შესახებ, პლუს საკონტროლო სია - არა „დაკავშირება ჩემს გასაღებთან“. დაამატეთ მოკლე ადამიანური წესი - არანაირი ავტორიზაციის მონაცემები, არანაირი მომხმარებლის პირადი ინფორმაცია, არანაირი გამოუქვეყნებელი ციფრი, ნაგულისხმევად რედაქტირება - და აჩვენეთ ერთი კარგი, გასუფთავებული მაგალითი. შეინახეთ რეალური ავტორიზაციის მონაცემები სეიფში და გამოიყენეთ შესწორებები ოფლაინ რეჟიმში მას შემდეგ, რაც მოდელი შემოგთავაზებთ მეთოდს.
ცნობები
- NCSC — ncsc.gov.uk
- OpenAI — help.openai.com
- OpenAI — openai.com
- კლოდი — privacy.claude.com
- Google Workspace — knowledge.workspace.google.com
სტატიები, რომელთა წაკითხვაც შეიძლება მოგეწონოთ ამის შემდეგ:
🔗 ხელოვნური ინტელექტის უსაფრთხოების საუკეთესო ინსტრუმენტები
აღმოაჩინეთ ძლიერი ხელოვნური ინტელექტის უსაფრთხოების პლატფორმები, რომლებიც აფიქსირებენ და ამცირებენ კიბერ საფრთხეებს.
🔗 რატომ იგონებს ხელოვნური ინტელექტი ხანდახან რაღაცეებს
გაიგეთ, რატომ აქვს ხელოვნურ ინტელექტს ჰალუცინაციები და ისწავლეთ რისკების შემცირება.
🔗 როგორ ავტომატიზირდეს დავალებები ხელოვნური ინტელექტის გამოყენებით?
უსაფრთხო ავტომატიზაციის სამუშაო პროცესების დანერგვა ადამიანური ზედამხედველობისა და მკაცრი წესების დამატებით.
🔗 რა არის ხელოვნური ინტელექტის ტექნოლოგია?
გაეცანით ხელოვნური ინტელექტის საფუძვლებს და მისი განხორციელების საერთო გამოწვევებს.