Qısa cavab: Heç vaxt parolları, API açarlarını, şəxsiyyət vəsiqələrini, sağlamlıq və ya bank qeydlərini, NDA müştəri fayllarını və ya digər insanların məlumatlarını ictimai süni intellekt söhbətinə qoymayın. Köməyə ehtiyacınız olduqda, problemi yer tutucuları və redaktə edilmiş hissələrlə təsvir edin — modelin real sistemlərin kilidini açan sirləri deyil, problemin forması olmalıdır .
Əsas nəticələr:
Sirlər oflayn qalır: Heç vaxt parolları, tokenləri, kukiləri və ya ilkin ifadələri sorğuya yapışdırmayın.
Şəxsiyyəti silin: Əsl adları, ünvanları və şəxsiyyət nömrələrini rollar və saxtalarla dəyişdirin.
İş məxfiliyi: NDA layihələrini, müştəri sənədlərini və açıqlanmamış planları istehlakçı söhbətindən uzaq tutun.
Razılıq sərhədi: Həmkarların, müştərilərin və ya uşaqların şəxsi məlumatlarını yalnız insan üçün nəzərdə tutulmuş dövrə olmadan yapışdırmayın.
Əvvəlcə redaktə edin: Yer tutucularından və dezinfeksiya edilmiş hissələrdən istifadə edin; artıq sızdırdığınız hər şeyi döndərin.
Süni intellekt sisteminə heç vaxt nə qoymamalısınız
Əvvəlcə yapışdırırıq, sonra düşünürük. Çatbot orada sonsuz qəhvə içən xəstə təcrübəçisi kimi oturur, ona görə də bütün dolaşıq problemi qutuya atmaq demək olar ki, zərərsiz görünür. İşləməyəcək bir giriş. Mədənizi bükən müqavilə bəndi. Hər adın hələ də göründüyü idarəetmə panelinin ekran görüntüsü. Alət faydalıdır, atmosfer şəxsi hiss olunur və beyniniz onu sakitcə "özüm üçün yazdığım qeydlər"in yanına yerləşdirir
Tələ budur. 🧠 Çat kilidli bir çekmece deyil. Bu, məhsuldan, parametrlərdən və parametrləri görüb-görməməyinizdən asılı olaraq göndərdiklərinizi saxlayan, emal edən və bəzən məşq etdirən bir sistemlə bir söhbətdir. Mən burada sizi panikaya salmaq üçün deyiləm. Mən burada HEÇ VAXT süni intellektinizə nələr qoymamalı olduğunuzun praktik xəritəsi , üstəgəl hələ də dəqiq cavablar almağa imkan verən parlaq, lakin praktik vərdişlərlə gəlmişəm.
Bunu izdihamlı mətbəxdə sirri qışqırmaq kimi düşünün. Hər yad adam qulaq asmır. Yenə də bəziləri qulaq asa bilər. Mətbəx isə marketinq mətninin səsləndirdiyi qədər sadə olmayan səbəblərdən səs yazısı saxlayır.
Niyə hər şeyi söhbət qutusuna atırıq
Sürət. Əsas məsələ budur. Siz ilişib qalmısınız, xəta çirkindir və bütün qeydi yapışdırmaq onu silməkdən daha sürətli hiss olunur. Kontekst modelə qarşı xeyirxahlıq kimi hiss olunur. Daha ətraflı, daha yaxşı kömək; bu, folklor əfsanəsidir və bu, yarı həqiqətdir.
Digər yarısı emosionaldır. Çatbot qaşlarını qaldırmır. Menecerinizə deməyəcək. Naharda dedi-qodu etməyəcək. Ona görə də biz buna supergüclərə malik gündəlik kimi yanaşırıq. Mən bunu etmişəm. Yəqin ki, siz də etmisiniz. Bir şey həm rahat, həm də qərəzsiz olduqda, məxfilik instinktlərimiz çay fasiləsinə çıxır.
Budur, bir az əsəbiləşdirici həqiqət: modelin sizə kömək etməsi üçün gündəlik məlumatlarınız lazım deyil. Problemin bir forması lazımdır. Ekran görüntülərindəki adlar, jetonlar, hesab nömrələri və üzlər bəzəkdir. Ləzzətli bəzək. Yenə də bəzək.
- Redaktə əlavə iş kimi hiss olunduğu üçün yapışdırırsınız.
- Yapışdırırsınız, çünki "yalnız bu dəfə" maska taxmaq vərdişidir.
- İnterfeys şəxsi DM-ə bənzədiyi və fayl şkafı kimi davrandığı üçün yapışdırırsınız.
Bunların heç biri səni ehtiyatsız etmir. Bu səni insan edir. Həll yolu şəxsiyyət transplantasiyası deyil, iki saniyəlik fasilədir.
Şifrələr, API açarları və oflayn qalmalı olan sirlər 🔐
Əgər bir şeyin kilidini aça bilirsə, bu, sorğuya aid deyil. Parollar. Birdəfəlik kodlar. Sessiya kukiləri. SSH açarları. Verilənlər bazası bağlantısı sətirləri. Özünüzə "tezliklə" döndürəcəyinizə söz verdiyiniz API açarı. Cüzdan toxum ifadələri. Şəxsi sertifikatlar. Bankınızın hələ də ağıllı hesab etdiyi bərpa sualı.
Mən açarları qapının yanındakı qarmaqda olan ev açarları kimi düşünürdüm. Şirin bir metafora; dərhal dağılır, çünki ev açarı bir qapını açır və API açarı anbarı, ödəniş hesabını və saxladığınızı unutduğunuz bir yığın müştəri qeydlərini aça bilər. Ehtiyat nüsxələmə: sirləri radioaktiv kimi qəbul edin. Sendviç presi sendviçdə çox yaxşı olsa belə, radioaktiv əşyalar sendviç presinə qoymursunuz.
Bir model, bir dostun edə biləcəyi kimi, "bunu aramızda saxlaya" bilməz. Satıcı yaddaş nəzarəti təklif etsə belə, təlimi söndürsəniz, mətn yenə də səyahət edir, hansısa formada daxil olur və siz onu axtarana qədər söhbət tarixçəsində qala bilər. Yapışdırılmış mətnin artıq tam nəzarət etmədiyiniz bir nüsxə olduğunu düşünün.
Bunun əvəzinə nə etməli
- Sirri dəyəri ilə deyil, növü ilə təsvir edin. "Şifrə olan Postgres URL-i" ayıklama məsləhəti üçün kifayətdir.
- Aşkar yer tutucuları ilə redaktə edin: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
- Artıq sızdırdığınız hər şeyi çevirin. Bunu "bir şey olub-olmadığını görüb yoxladıqdan" sonra yox, indi edin
- Əsl etimadnamələri parol menecerində və ya sirrlər seyfində saxlayın; sonradan ekran görüntüsü çəkə biləcəyiniz mövzuda heç vaxt.
Əgər bir alət sizdən "sizin üçün əlaqə qura" bilməsi üçün bir açar yapışdırmağınızı istəsə, bu, fərqli bir məhsul kateqoriyasıdır. Bu, yazı köməkçisi deyil, giriş ilə inteqrasiyadır. Buna kiməsə nişanınızı vermək kimi yanaşın.
Şəxsi identifikatorlar və sakit şəxsiyyət izi 🪪
PII parolların xoşagəlməz qohumudur. Milli şəxsiyyət vəsiqəsi nömrələri. Pasport məlumatları. Tarixlə əlaqəli şəxsiyyət sahələri. Ev ünvanları. Telefon nömrələri. İşçi şəxsiyyət vəsiqələri. Tələbə nömrələri. Doğum tarixləri, məktəb adları və ya tibbi klinikalar ilə birləşdirilmiş tam hüquqi adlar. Bir hissə kiçik görünür. Üç hissə birlikdə bir dosyedir.
İnsanlar bunu məktub yazmaq, forma tərcümə etmək və ya CV-ni cilalamaq istədikdə edirlər. Tamamilə ağlabatan məqsədlər. Modelin nəzakətli şikayət yazmaq üçün əsl poçt indeksinə ehtiyacı yoxdur. Bunun üçün tona, müəyyən etməyən faktlara və istədiyiniz nəticəyə ehtiyacı var.
Düşünürəm ki, təəccüblü dərəcədə maraqlı olan hissə "zərərsiz" kombinasiyalardır. Unikal vəzifə adı, şəhər, uşaq məktəbi və nadir tibbi vəziyyət. Bunu vərəqəyə yazmazdınız. Çat qutusu vərəqə deyil, eyni zamanda seyf də deyil.
- Rolları əsl adlarla əvəz edin: "işəgötürən menecer", "mənim ailə həkimim", "kirayəçi"
- Məkanları ümumiləşdirin: küçə və siqnal kodu deyil, "orta ölçülü şəhər".
- Tapşırıq sözün əsl mənasında rəqəm formatı ilə bağlı deyilsə, unikal rəqəmləri atın, bu halda kifayət qədər real görünən saxta rəqəmlərdən istifadə edin.
Anonimləşdirmə doktorluq dərəcəsi deyil. Bu, tanımadığınız bir şəxsin sizi bu abzasdakı siyahıdan seçib-seçməyəcəyini yoxlamaq vərdişidir. Əgər seçə bilsəydi, kəsərdiniz.
İşinizin məxfiliyi, gizlilik müqavilələri və müdirinizin qıcıqlanacağı şeylər 📎
Məhz burada yardımsevərlik insanları çətinliyə salır. Müştəri dəstini yapışdırırsınız. Yayımlanmamış yol xəritəsi. Əmək haqqı cədvəli. Daxili host adları olan mənbə kodu. Hələ də məxfi olaraq qeyd olunan hüquqi layihə. Hələlik bildirilməmiş insanların adları olan görüş qeydləri. Qəhvə soyuduğu üçün tələsik imzaladığınız NDA.
Çatbotlar şirkətinizin məsləhətçisi deyil və təşkilatınız həqiqətən də belə bir mövqe tutmayıbsa, onlar təhlükəsiz bir iş masası deyil. İstehlakçı alətləri rahatlıq üçün yaradılıb. Müəssisə alətləri, saxlama nəzarəti və administrasiya siyasəti; onlar hələ də qrammatika imtahanı üçün tac daşlarını yapışdırmaq üçün bir səbəb deyil.
Başımda saxladığım praktik bir qayda: əgər bunu şəxsi Gmail layihəsində yerləşdirməsəniz, ictimai süni intellekt çatında da yerləşdirməyin. Əgər bunu rideshare-də deməsəniz, eyni şeydir. Slack-da ehtiyatlı olan insanlar generasiya düyməsi görünən kimi həddindən artıq paylaşım etməkdə günahkar olurlar.
Daha təhlükəsiz həll yolları
- Sənədi təsvir edin: uzunluq, auditoriya, vacib olan üç məqam, sizə lazım olan ton.
- Dezinfeksiya edilmiş bir parçanı yapışdırın. Adları, həssas rəqəmləri və rəqibin bəyənəcəyi hər şeyi çıxarın.
- Bir struktur və ya yenidən yazma nümunəsi istəyin, sonra onu özünüz oflayn olaraq real mətnə tətbiq edin.
- Əgər təsdiq edilmiş iş yeri alətiniz varsa, istifadə edin və yenə də standart olaraq redaktə edin. Siyasət batut deyil, döşəmədir.
Kod bunun xüsusi bir xüsusiyyətidir. Daxili URL-lər, təsdiq başlıqları və "TODO: əldə etməzdən əvvəl sil" kimi şərhlər kiçik hədiyyə etiketləridir. Məlumatları saxtalaşdırın. Məntiqi saxlayın. Model saxta məlumatları yaxşı idarə edir; real müştəri e-poçtları hələ də bir qurğuda yerləşdirilmiş istehsal sxeminizə ehtiyac duymur.
Sağlamlıq, pul və kafedə qışqırmayacağınız detallar 💊
Tibbi və maliyyə məlumatları təcili görünür, ona görə də ən az redaktə ilə yapışdırılır. Laboratoriya nəticələri. Resept siyahıları. Sığorta şəxsiyyət vəsiqələri. Bank çıxarışları. Vergi məktubları. Kredit hesabatları. Kartın qalan hissəsini, mətbəx masanızı və başqasının adı yazılmış bir poçt parçasını ehtiva edən "yalnız son dörd rəqəm" üçün bir kartın şəkli.
Xam qeydlər olmadan da əla suallar verə bilərsiniz. "Yüksək markerin ümumi mənada nə demək olduğunu izah edin" sualı bir sualdır. "Budur mənim tam panelim, ünvanım, klinikam və anamın qızlıq soyadı" tərcümeyi-haldır.
Modellə heç vaxt sağlamlıq və ya pul haqqında danışma demək istəmirəm. Çatbota qatarda yaxşı oxunan bir qərib kimi davranmağı deyirəm. Çərçivələmək üçün yaxşıdır. Mühasibiniz, klinisistiniz və ya arxiviniz kimi dəhşətlidir. Bəli, yaxşı oxunan bir qərib metaforasının sızdığını bilirəm; qatarlar söhbət qeydlərini saxlamır. Məsələ burasındadır.
- Hesab nömrələrini, çeşidləmə kodlarını, IBAN-ları və etimadnaməyə bənzəyən hər şeyi silin.
- Ümumi izahatlar, yoxlama siyahıları və bir mütəxəssisə vermək üçün suallar istəyin.
- Çatdan "sonradan sorğu edə biləcəm" ifadələri üçün arxiv kabineti kimi istifadə etməyin. Məhz bu zaman saxlama problemə çevrilir.
Əgər kafedə səsinizi alçaltmaq üçün bir sual yaranarsa, əvvəlcə onu redaktə edin. Bu test təəccüblü dərəcədə etibarlıdır və heç bir xərc tələb etmir.
Başqalarının məlumatlarını yapışdırmaq sizin deyil 🚫
Bu, söhbətin əsas personajı olduğunuz kimi hiss olunduğu üçün atlanır. Ekran görüntüsündə tək siz deyilsiniz. Həmkarınızın e-poçtları. Tərəfdaşın şəxsiyyət vəsiqəsi. Telefon nömrəsi hələ də əlavə edilmiş müştərinin şikayəti. Uşaqların şəkilləri. Az qala işdən çıxarılacaq Slack mövzusunda ad. Digər şəxsin bilmədiyi zəngin səs yazısı modelə ötürülür.
Razılıq avtomatik olaraq "mənə e-poçt göndərdilər" ifadəsindən "maşın bunu saxlaya bilər" ifadəsinə keçmir. Niyyətiniz xeyirxah olsa belə - daha gözəl cavab yazmaq, qarışıq bir mövzunu xülasə etmək - xam məlumat yenə də onların həyatıdır, sizin kağızınız deyil.
Bir az istehzalı lakmus testi: əgər eyni mesajı "rəy üçün" tanımadığınız insanların poçt siyahısına göndərmək istəmirsinizsə, onda çatbotu daha yaxşı davranış qaydalarına malik daha kiçik bir poçt siyahısı kimi qəbul etməyin.
- Başqalarını öz sözlərinizlə xülasə edin.
- Adları rollarla əvəz edin və əlaqə məlumatlarını silin.
- Tapşırığın həssas olub-olmadığını şəxsdən soruşun; bəzi şeylər yalnız insan tərəfindən idarə olunmalıdır.
- Uşaqların şəxsi məlumatlarını, məktəb qeydlərini və ya şəxsiyyətlərini təsdiq edən şəkilləri "əyləncəli" nəsil üçün heç vaxt yapışdırmayın.
Burada bloq səsi ilə məhkəməyə müraciət etdiyimi iddia etməyəcəyəm bir hüquqi təbəqə var. Məxfilik qaydaları, iş vəzifələri və müştəri müqavilələrinin hamısının öz fikirləri var. Praktik vərdiş qanundan daha sadədir: başqalarının məlumatlarını sorğudan kənarda saxlamaq.
Süni intellektlə işləmək üçün nəyi istifadə etməməlisiniz: işə sala biləcəyiniz risk cədvəli
Bunun üçün cədvəlləri bəyənirəm, çünki "heç vaxt" siyahısı moizə kimi səslənə bilər və cədvəl dəyişikliyi görməyə imkan verir. Laboratoriya hesabatı deyil, yüngülcə fikirli reytinqlər.
| Məlumat növü | Risk səviyyəsi | Niyə problemdir | Daha təhlükəsiz alternativ |
|---|---|---|---|
| Şifrələr, API açarları, tokenlər, toxum ifadələri | Kritik | Sistemlərin kilidini açırlar; tam xatırlaya bilmədiyiniz bir nüsxə yenə də bir nüsxədir | Yer tutucuları və yerli sirlər meneceri; sızdırıldığı təqdirdə fırladın |
| Dövlət şəxsiyyət vəsiqələri, pasport skanları, milli nömrələr | Kritik | Şəxsiyyət oğurluğu başlanğıc paketi; "göndərilməməsi" çətindir | Saxta nümunələr və ya yalnız format sualları |
| Sağlamlıq qeydləri, reseptlər, sığorta sənədləri | Yüksək | Tarixdə intim, tənzimlənən hiss və yapışqan | Ümumi simptomlar və ya mövzular; identifikatorları səhifədən uzaq tutun |
| Bank çıxarışları, vergi sənədləri, kart fotoşəkilləri | Yüksək | Birbaşa maliyyə riski və əlavə PII marjada | Sizə bağlı xam rəqəmlər deyil, proseslər haqqında soruşun |
| Müştəri sənədləri, NDA layihələri, dərc olunmamış planlar | Yüksək | Artıq imzaladığınız bir vədi poza bilərsiniz | Dezinfeksiya edilmiş hissələr; struktur tələbləri; təsdiq edilmiş iş alətləri |
| Həmkar və ya müştəri PII, uşaq məlumatları | Yüksək | Modelə ianə etmək sizin ixtiyarınızda deyil | Rol əsaslı xülasələr; kontaktları və üzləri silmək |
| Host adları və real e-poçtları olan daxili mənbə | Orta-yüksək | Kimsə şəbəkənizi xəritələşdirənə qədər "sadəcə kod" kimi görünür | Saxta məlumatlar, saxta domenlər, ləğv edilmiş şərhlər |
| İdarəetmə panellərinin və ya gələn qutuların ekran görüntüləri | Orta-yüksək | Onlar orada olduğunu unutduğunuz adları, nömrələri və açıq sekmeleri gizlicə gətirirlər | Müvafiq parçanı kəsin, bulanıqlaşdırın və ya yenidən yazın |
| Unikal şəxsiyyət vəsiqəsi olmayan qeyri-müəyyən şəxsi hekayələr | Aşağı | Adətən yaxşıdır; yenə də tanımadığınız birinə deməyəcəyiniz hər şeyi atlayın | Ümumi saxlayın; nadir müəyyənedici kombinasiyanı atlayın |
Başqa heç nə xatırlamırsınızsa, sol sütunu xatırlayın. Bu, tələsik olduğunuzda və beyniniz kainatı yapışdırmaq istədikdə HEÇ VAXT SÜNIYYƏTƏ NƏ YERLƏŞDİRMƏMƏLİSİNİN əsas hissəsidir
Ekran görüntüsü tələləri və təsadüfi paylaşım 🖼️
Ekran görüntüləri yaxşı insanların necə sızdırdığını göstərir. Xəta dialoqunu göstərmək istəyirsiniz. Çəkilən görüntülərə əlfəcin paneli, adı olan Slack nişanı, nişanı olan URL, təqvim açılan pəncərəsi, qaranlıq rejim pəncərəsində parol meneceri olduğu ortaya çıxan əksetmə daxildir. Bir şəkli kəsmişəm, amma yenə də küncdəki kiçik hesab dəyişdiricisini görmədim. Bu, səhv janrıdır.
Sənədlərin fotoşəkilləri daha pisdir, çünki kameralar çoxdur. Masa, ağ lövhə, xəstəxana qolbağı, göndərmə etiketi. Modelin əlavə piksellərə "ehtiyacı" olmaya bilər. Piksellər hələ də gəlir.
Sadə bir ekran görüntüsü ritualı
- Əvvəlcə biçin. Sonra yenidən biçin. Sonra kənarlara elə baxın ki, sanki sizə borcludurlar.
- Adları, e-poçtları, avatarları və token kimi görünən istənilən sətri bulanıqlaşdırın.
- Bütün IDE-ni ələ keçirməkdənsə, xətanı yenidən yazmağa üstünlük verirəm.
- "Tez oxumaq üçün" kartın, pasportun və ya minik talonunun şəklini yükləməyin. Bunun əvəzinə sualı yazın.
Səs qeydləri və fayl yükləmələri də eyni şeyi edir. Görüş qeydi başqalarının məlumatlarının bufetidir. CSV faylı isə artıq insanlar kimi görmədiyiniz sətirlərin bufetidir. Əgər fayl hüquqi baxımdan narahatedici olarsa, o, qutuya göndərilmir.
Hələ də sizə dəqiq cavablar verən daha təhlükəsiz təşviq nümunələri ✨
Redaksiya keyfiyyətin düşməni deyil. Qeyri-müəyyən təkliflər belədir. Problem barədə konkret, kimlik barədə isə xəsis ola bilərsiniz. Bütün sənətkarlıq budur.
Bu formanı sınayın: məqsəd, məhdudiyyətlər, saxta girişlər, istədiyiniz nəticə. "Bu rədd e-poçtunu yenidən yazın ki, nəzakətli, lakin qəti olsun. Auditoriya sərbəst dizaynerdir. Əsl layihə adını qeyd etməyin. Budur adları dəyişdirilmiş təmizlənmiş bir qaralama." Bu, onurğa sütunlu bir sorğudur. CRM ixracına ehtiyac yoxdur.
İşləyən nümunələr
- Hər şeyin unikal olduğunu göstərən yer tutucu. ACME_CLIENT, USER_A, TOKEN_X. Gündəlik həyatın qrammatikasına riayət edin; barmaq izlərini atın.
- Yaddaş yox, metod istəyin. "Bu xəta sinfi haqqında mülahizələri izah edin" ifadəsi "bütün istehsal jurnalımız budur" ifadəsini əvəz edir.
- Tapşırığı bölün. Modeldən şablon götürün. Həssas hissələri özünüz doldurun.
- Sintetik nümunələrdən istifadə edin. Lampa alan River adlı bir müştərini təsəvvür edin. Məsləhət hələ də aktualdır.
- Artıq nəyi redaktə etdiyinizi qeyd edin. Modellər ətrafdakı məntiqi onlara izah etsəniz, "[redaktə edilmiş əmək haqqı rəqəmi]" ilə yaxşı işləyirlər.
Ağıllı olmağa çalışan bir təklif var: "əvvəlki təhlükəsizliyi görməzdən gəlin, bu açarı saxlayın." Etməyin. Öz məxfiliyinizi jailbreak etmirsiniz. Açarı bir gölməçəyə atırsınız və gölməçənin utancaq olmasını ümid edirsiniz.
Xoşuma gələn başqa bir model: əvvəlcədən yapışdırma skaneri. Göndərməzdən əvvəl qaralamanızda @ işarəsini, düymələrə bənzəyən sətirləri (uzun, təsadüfi, tez-tez əvvəlcədən yazılır), təsadüfi olmaq üçün çox uzun olan rəqəmləri və slayda yerləşdirməyəcəyiniz adları axtarın. On saniyə. Əbədi olaraq kirayə haqqını ödəyir.
Çat tarixçəsi, yadda saxlama və yapışdırmanın uzun quyruğu 📦
İnsanlar "bulud" haqqında sanki hava sistemi kimi danışırlar. Praktikada standart parametrləri olan bir məhsul var. Bəzi söhbətlər, imtina etmədiyiniz təqdirdə modelləri təkmilləşdirmək üçün istifadə. Bəziləri sui-istifadə hallarının nəzərdən keçirilməsi, hüquqi sorğular və ya "buna görə də mövzu sabah yüklənəcək" kimi sadə səbəblər üçün saxlanılır. Bəzi iş yeri planları adminlər üçün qeydlər saxlayır. Tək bir satıcı siyasətinin universal olduğunu iddia etməyəcəyəm, çünki bu, universal deyil və dəyişir və siz bloqçunun parametrlər yaddaşından daha çox məhsul parametrlərini oxumalısınız.
Praktik mövqe darıxdırıcı və möhkəmdir: yapışdırmanın davam edə biləcəyini düşünün. Admin hüquqlarına malik komanda yoldaşınızın iş yerindəki mövzuları görə biləcəyini düşünün. Gələcəkdə bu söhbətin axtarışda görünənə qədər mövcudluğunu unudacağınızı düşünün. Tarixçənizi ixrac etməyin sonradan edə biləcəyiniz bir şey olduğunu və ixracın başqa bir nüsxə olduğunu düşünün.
- Məhsul sizin rahatlığınıza uyğun gəlirsə, təlim və ya "modeli təkmilləşdirmək" seçimlərini təklif etdikdə onları söndürün.
- Praktik hissələri həqiqətən yerli olan yerli bir nota çıxardıqdan sonra həssas mövzuları silin.
- Söhbəti İnsan Resursları məsələləri, tibbi suallar və ya müştəri işi üçün qeyd sisteminiz kimi qəbul etməyin.
- Paylaşılan hesablarla diqqətli olun. Paylaşılan hesablar "şəxsi"nin ofis folkloruna çevrilməsi yoludur.
Yaddaş xüsusiyyətləri - işinizi, itinizi, üstünlük verdiyiniz tonu xatırladan xüsusiyyətlər - əlverişli və bir az qorxuludur. Bunlar həmçinin sistemə əsl identifikatorlarınızı "daha şəxsi" şəkildə öyrətməmək üçün bir səbəbdir. Şəxsiyyət bir üslubdur. Bu, sizin milli sığorta nömrəniz deyil.
Komandanız çatbotlarda yaşadıqda iş yerinin normaları 🏢
Ofislər yapışdırma vərdişinin sənayeləşdiyi yerdir. Kimsə "sütunları təmizləmək" üçün müştərinin CSV faylını göndərir. Kimsə "daha güclü etmək" üçün strategiya sənədini göndərir. Xoş niyyətli təcrübəçi hadisə kanalını göndərir. Heç kim cani deyil. Bütün təşviqlər sürət və cilalama ilə edilir.
Əgər bir komandaya rəhbərlik edirsinizsə, qısa, insani bir qayda yazın. Heç kimin oxumadığı 40 səhifəlik bir siyasət deyil. Məsələn: etimadnamə yoxdur, müştəri PII yoxdur, açıqlanmamış nömrələr yoxdur, qanuni layihələr yoxdur, təsdiq edilmiş alətdən istifadə edin, standart olaraq redaktə edin. Sonra insanların təxmin etməməsi üçün yaxşı bir dezinfeksiya edilmiş bir sorğu nümunəsi göstərin.
- Təsdiqlənmiş alətiniz varsa, təsdiq edilmiş və təsdiqlənməmiş alətlərin adını çəkin.
- Stendupdan əvvəl insanların tamamlaya biləcəyi redaksiya siyahısı verin.
- Teatr araşdırması aparmadan "az qala yapışdırdım" deməyi unutmayın.
- İnsanlara xatırladın ki, "Süni intellekt hər şeyin qaydasında olduğunu dedi" nəzarət deyil.
Əgər komandaya rəhbərlik etməsəniz də, yenə də manken yapışdıran insan ola bilərsiniz. Mədəniyyət hər iki istiqamətdə yoluxucudur. Düşünürəm ki, bu, ciddi səslənir. Normaların necə hərəkət etdiyi də budur; bir nəfər açarları atmağı dayandırır və otaq bir az daha az nizamsız olur.
Satınalma teatrı əlavə bir tapşırıqdır, atlayacağam. "Müəssisə" qablaşdırması almaq hər bir sorğunu sehrli şəkildə ağıllı etmir. Bu, saxlama və girişə kömək edə bilər. Vərdişləriniz hələ də ağır işi görür.
Artıq qəribə bir şey yapışdırmısan - indi nə var 🧯
Bu baş verir. "Göndər" düyməsini basırsınız və ruhunuz bədəninizdən çıxır. Spiral şəklində hərəkət etməyin. Qısa, bir az gülməli olmayan bir ardıcıllıq edin.
- Bu sirrdən istifadəni dayandırın. Şifrəni çevirin, açarı ləğv edin, sessiyanı etibarsız edin. Bu, qapını birdəfəlik bağlayan yeganə addımdır.
- söhbəti silin və əgər varsa, "son silinmiş" cibini boşaldın.
- Qoşulmuş tətbiqləri və yaddaşı yoxlayın. Bəzi alətlər parçaları yaddaşlarda və ya aktivləşdirdiyinizi unutduğunuz layihə fayllarında saxlayır.
- İş məlumatları olub-olmadığını düzgün şəxsə deyin. Təhlükəsizlik, menecer, müştəri meneceri; partlayış radiusuna kim sahib olursa olsun. Erkən aşkarlanma sonradan aşkarlanmadan daha az ağrılıdır.
- qeyri-adi girişlərə diqqət yetirin . Monitorinqsiz rotasiya yarım işdir.
Əgər bu, başqasının məlumatları idisə, siz də onlara təmizlik işləri görməyə və qarışıqlıqdan asılı olaraq xəbərdarlıq etməyə borclusunuz. Yöndəmsizdir. Yenə də kainatın nəzakətli olmasını ümid etməkdən daha yaxşıdır.
Daha çox izahat yapışdıraraq sızıntını "üzərinə yazmağa" çalışmayın. Əlavə kontekst əlavə surətdir. Mövzudan çıxın.
Bir yerə yığmaq
"Süni zəkaya heç vaxt nə qoymamalısan" ın qısa versiyası danlama siyahısı deyil. Bu, bir duruşdur. Əgər bu, sistemin kilidini açırsa, bir insanı müəyyən edirsə və ya kafedə sizi qıcıqlandırırsa, o, standart vəziyyətdə qalır. Yenə də əla kömək ala bilərsiniz. Siz sadəcə modelə eskiz verirsiniz, ev açarlarını, tibbi sənədləri və qonşunun poçtunu yox.
Qısa xülasə:
- Şifrə, açar, token və ya ilkin ifadələr yoxdur. Səhv etmisinizsə, çevirin.
- Həqiqi şəxsiyyət vəsiqəsi, tam maliyyə məlumatları, xam tibbi qeydlər və ya NDA materialları yoxdur.
- Başqalarının, xüsusən də uşaqların şəxsi məlumatlarına toxunmayın.
- Ekran görüntüləri daxiletmə ilə bağlıdır; istədiyiniz kimi kəsin.
- Redaktə edin, saxtalaşdırın və metodlar istəyin. Xüsusi problem, saxta etiketlər.
- Tarixin qaldığını düşünün. Sirləri silin, çatbotda arxivləşdirməyin.
- İş yerlərində qısa bir qayda və yaxşı bir nümunə olmalıdır, təsadüfi gizlilik əhval-ruhiyyəsi yox.
Alətlərdən istifadə edin. Onlar qaralamalarda, formaları düzəltməkdə və sizi çaşdırıcı bir səhvdən yayındırmaqda əladırlar. Sadəcə mətn qutusuna yumor hissi olan bir seyf kimi yanaşmağı dayandırın. Bu, çox ağıllı bir blenderdir. Yenə də pasportunuzu blenderə qoymamalısınız. 🫡
Praktik nümunə: Kiçik bir mühəndislik komandası üçün redaktəyə əsaslanan səhv təlimatının hazırlanması
Məxfilik qaydaları sərt səsləndikdə deyil, adi bir çərşənbə axşamını xilas etdikdə qüvvədə qalır. Beş nəfərlik Böyük Britaniya SaaS komandası, bu təlimatdakı vərdişlərdən istifadə edərək, müştəri məlumatlarının istehlakçı çatbotlarına atılmasını dayandırdı - ayıklama köməyindən imtina etmədən.
Ssenari
Tərtibatçı və dəstək bir ağrılı vərdişi paylaşır: autentifikasiya xətası çirkin görünəndə kimsə bütün jurnalı, mərhələli bağlantı sətrini və admin panelinin ekran görüntüsünü yapışdırır ki, "model kontekstə malik olsun". Keçən rübdə yığın izində canlı görünüşlü API açarı və ekran görüntüsünün URL çubuğunda hələ də görünən müştəri e-poçtu var idi. Heç kim zərər vermək istəmirdi. Sürət qalib gəldi. Mətbəx qeyd saxladı.
Onlara mühazirə lazım deyil. Onlara təkrarlana bilən qısa məlumat lazımdır: sirri növə görə təsvir edin, yer tutucuları ilə redaktə edin, ekran görüntülərini kəsin, yaddaş deyil, metod istəyin və sonra düzəlişi oflayn canlı sistemlərdə tətbiq edin. İstehlakçı söhbəti yenə də öz yerini tapır. Ev açarları blenderdən kənarda qalır.
Məqsəd, iki saniyəlik əvvəlcədən yapışdırma skanlama ilə eyni keyfiyyətli məsləhət almaq və insanların əməl edəcəyi qısa bir komanda qaydasıdır.
Köməkçinin nəyə ehtiyacı var
- Dezinfeksiya edilmiş problem forması: səhv sinfi, təxminən başlama tarixi, şəbəkəni xəritələşdirən host adları olmayan mühit (sahnələşdirmə və istehsal)
- Yalnız saxta girişlər: REDACTED_KEY, USER_TOKEN, customer@example.com, saxta sorğu ID-ləri
- Artıq silinmiş şey (model əsl dəyərləri soruşmaması üçün sorğuda göstərilib)
- İstənilən nəticə: ehtimal olunan səbəblər, yoxlamaların aparılması, yamaq konturu - "açarımla əlaqə" deyil
- Etimadnamələri parol menecerində və ya sirrlər seyfində saxlayan insan
- Bir səhifəlik komanda qaydası: etimadnamə yoxdur, müştəri PII yoxdur, açıqlanmamış rəqəmlər yoxdur, standart olaraq redaktə olunur
Nümunə təlimat
Məqsəd: Token yeniləməsindən sonra mərhələ API-mizdə fasiləli 401 səhvini düzəltməyə kömək edin. Məndən sirləri yapışdırmağımı istəməyin.
Məhdudiyyətlər: Artıq parolları, API açarlarını, tokenləri, kukiləri, daxili host adlarını və müştəri e-poçtlarını redaktə etmişəm. Jurnaldakı yer tutucuları əsl dəyərlərin yalnız mənim maşınımda mövcud olduğunu bildirir. Böyük Britaniya İngilis dili. Preambula yoxdur.
Saxta hissə: https://api.example-staging.invalid/v1/session ünvanına edilən sorğu 401 qaytardı. Başlıq Avtorizasiyası: Daşıyıcı REDACTED_KEY. Əsas hissədə USER_TOKEN qeydinin müddəti bitib. Ekran görüntüsünün təsviri (əlavə olunmayıb): yalnız səhv qeyd olunur; əlfəcin çubuğu və hesab dəyişdiricisi kəsilib.
Tapşırıq: Bu xəta sinfinin ən çox ehtimal olunan üç səbəbini, yerli olaraq icra etməli olduğum yoxlamaları və minimal yamaq konturunu sadalayın. Daha ətraflı məlumata ehtiyacınız varsa, bir növ məlumat (məsələn, "token TTL ayarı") istəyin - heç vaxt xam sirr üçün yoxlayın.
Nəticə: Nömrələnmiş səbəblər, sonra yoxlama siyahısı, sonra üç markerdə "növbəti dəfə nəyi yapışdırmamaq lazımdır" yazısı.
Bunu necə sınaqdan keçirmək olar
- Köhnə üslubda yapışdırılmış şəkli (tam qeyd + ekran görüntüsü) yuxarıdakı eyni hadisə növü üzrə redaktə edilmiş qısa məlumatla müqayisə edin. Məsləhət keyfiyyətini və modelin sirr tələb edib-etmədiyini müqayisə edin.
- Əvvəlcədən yapışdırma skanlama: göndərməzdən əvvəl qaralamada @, uzun təsadüfi sətirlər və təsadüfi olmaq üçün çox uzun rəqəmlər axtarın.
- Kənar qutu: orijinal görünən saxta açar daxil edin və cavabın həqiqi dəyərə ehtiyac olmadan işlədiyini təsdiqləyin.
- Kənar hal: ekran görüntüsünün yüklənməsindən imtina edin; yalnız səhv sətrini yenidən yazın; yoxlama siyahısının hələ də kömək etdiyini təsdiqləyin.
- Qəbul yoxlamaları: (1) mövzuda sıfır etimadnamə, (2) sıfır müştəri əlaqə məlumatları, (3) yer tutucular elan edildi, (4) çıxış "açarınızı yapışdırın" axını deyil, metod/yoxlama siyahısıdır, (5) əvvəllər bir şey sızdırılıbsa, rotasiya eyni gün baş verib.
Nəticə
Təsviredici nəticə (dərc olunmuş tədqiqat deyil, kiçik bir mühəndislik/dəstək qrupu üçün nümunə qiymətləndirmə): Dörd həftə ərzində 12 ayıklama söhbətində istifadə edilə bilən yoxlama siyahısına çatma müddəti təxminən 4 dəqiqədən (tam yapışdırma) redaktə ilə təxminən 6 dəqiqəyə qədər bir qədər artdı - əvvəlcədən yapışdırma skanlama və yer tutucuları üçün iki əlavə dəqiqə. Kritik məlumat növlərini (açarlar, müştəri e-poçtları, xam əlaqə sətirləri) ehtiva edən mövzular 12 söhbətdən 9-dan 12-yə düşdü (həmin söhbət nəzərdən keçirilərkən yaxalandı və eyni gün fırlandı). Sadə gigiyena yoxlama siyahısında (sirr yoxdur, müştəri PII yoxdur, yer tutucuları elan edilib, kəsilib və ya ekran görüntüsü yoxdur), 12 redaktə edilmiş qısa məlumatdan 11-i, köhnə vərdiş üzrə 12-dən 3-ü isə keçdi. Məhdudiyyətlər: kiçik nümunə, bir komanda, öz-özünə bildirilən vaxt; daha yüngül hadisələrin daha az redaktəyə ehtiyacı var; "keçmək" satıcı qeydlərinin laboratoriya auditi deyil, sorğu mətninin həmyaşıdlar tərəfindən nəzərdən keçirilməsi idi.
Öz versiyanızı ölçmək üçün: qadağan olunmuş məlumat növləri üçün 10 son süni intellekt ayıklama mövzusunu nümunə götürün, sonra redaktə qaydası və şablondan sonra 10 nümunə götürün; hesabat məxrəclərlə, üstəgəl "ilişib qalmış" andan "əlinizdəki yoxlama siyahısı"na qədər olan median dəqiqələrlə sayılır
Nə səhv gedə bilər
- Ekran görüntüsü qaçaqmalçılığı: Xəta yaxşıdır; URL çubuğunda hələ də bir token var. İki dəfə kəsin, sonra kənarlarını yoxlayın.
- "Sadəcə bir dəfə" açarları: Sızdırılmış tək bir API açarı ödəniş və müştəri qeydlərini aça bilər. Dərhal çevirin; "bir şey olub-olmadığını görmək" üçün gözləməyin.
- Başqalarının məlumatları: Telefon nömrəsi ilə müştəri şikayətini modelə bağışlamaq sizin ixtiyarınızda deyil. Öz sözlərinizlə xülasə edin.
- Seyf kimi söhbət: Sirləri tarixdə saxlamaq başqa bir nüsxə yaradır. Lazım olan hissələri yerli qeydə köçürdükdən sonra mövzunu silin.
- Müəssisə teatrı: Təsdiqlənmiş iş yeri aləti əşyaların saxlanmasına kömək edir; tac daşlarını yapışdırmağı ağıllı etmir.
- Sürüşmədən sonra fırlanmanı atlamaq: Açarı ləğv etmədən söhbəti silmək qapını açıq qoyur.
Praktik yemək
Süni intellektə heç vaxt danlama siyahısından daha çox duruş əlavə etməməlisiniz: əgər bu, sistemin kilidini açırsa, bir insanı müəyyən edirsə və ya kafedə sizi qıcıqlandırırsa, o, standartlardan kənarda qalır. Modelə yer tutucuları olan bir eskiz verin, etimadnamələri seyfdə saxlayın və oflayn tətbiq etdiyiniz metodları soruşun. Bu iki saniyəlik fasilə, sonsuz qəhvəsi olan faydalı bir təcrübəçinin ev açarlarınız üçün arxiv şkafına çevrilməsinin qarşısını necə alır.
Tez-tez verilən suallar
Süni intellekt çatbotlarına heç vaxt nə əlavə etməməlisiniz?
Əgər bu, sistemin kilidini açırsa, bir şəxsi müəyyən edirsə və ya kafedə sizi qıcıqlandırırsa, onu qutudan kənarda saxlayın. Buraya parollar, API açarları, tokenlər, ilkin ifadələr, dövlət şəxsiyyət vəsiqələri, xam sağlamlıq və maliyyə qeydləri, NDA materialları və digər insanların, xüsusən də uşaqların şəxsi məlumatları daxildir. Çat kilidli çekmece deyil; mətn məhsuldan və parametrlərdən asılı olaraq saxlanıla, emal edilə və bəzən təlim üçün istifadə edilə bilər. Modelə ev açarları deyil, yer tutucuları olan eskiz verin.
İnsanlar daha yaxşı bilsələr belə, niyə sirləri süni intellektə yerləşdirirlər?
Sürət işin çox hissəsini görür: çirkin bir səhv bütün jurnalın onu silməkdən daha sürətli görünməsinə səbəb olur. Çatbotlar da mühakimə olunmayan hiss olunur, buna görə də məxfilik instinktləri çay fasiləsi alır. Model adətən problemin formasına ehtiyac duyur, ekran görüntülərindəki adlar, tokenlər, hesab nömrələri və ya üzlər deyil - bunlar bəzəkdir. İki saniyəlik fasilə şəxsiyyət transplantasiyasından daha yaxşıdır.
Şifrələri və ya API açarlarını ChatGPT stilindəki alətlərə yapışdırmaq təhlükəsizdirmi?
Xeyr. Əgər bir şeyi kilidini aça bilirsə, bu, sorğuya aid deyil - parollar, birdəfəlik kodlar, sessiya kukiləri, SSH açarları, əlaqə sətirləri, cüzdan toxumları və ya şəxsi sertifikatlar. Model bir dost kimi sirr saxlaya bilməz; mətn hələ də səyahət edir, qeyd olunur və tarixdə qala bilər. Sirri növünə görə təsvir edin, REDACTED_KEY kimi yer tutuculardan istifadə edin, artıq sızan hər hansı bir şeyi döndərin və əsl etimadnamələri parol menecerində və ya seyfdə saxlayın.
Sorğu göndərməzdən əvvəl hansı şəxsi məlumatları silməliyəm?
Şəxsiyyət vəsiqəsi (PII) tez bir zamanda yığılır: milli şəxsiyyət vəsiqəsi, pasport məlumatları, ünvanlar, telefon nömrələri, işçi və ya tələbə şəxsiyyət vəsiqələri və doğum tarixləri və ya klinikalar ilə birləşdirilmiş tam adlar. Modelin məktub yazmaq üçün real poçt indeksinə ehtiyacı yoxdur - ton, şəxsiyyəti müəyyən etməyən faktlar və istədiyiniz nəticə lazımdır. Saxta nümunə ilə formatlamanı sınaqdan keçirmədiyiniz təqdirdə adları rollarla dəyişdirin, yerləri ümumiləşdirin və unikal nömrələri buraxın.
Müştəri fayllarını, NDA-ları və ya daxili kodu istehlakçı süni intellekt alətinə yapışdıra bilərəmmi?
İstehlakçı söhbətinə şirkət məsləhətçisi kimi deyil, rahatlıq məhsulu kimi yanaşın. Əgər onu şəxsi Gmail layihəsində və ya rideshare-də paylaşmaq istəmirsinizsə, onu ictimai süni intellekt söhbətində - müştəri dəstlərində, yayımlanmamış yol xəritələrində, əmək haqqı cədvəllərində, məxfi hüquqi layihələrdə və ya daxili host adları olan mənbədə yerləşdirməyin. Sənədi təsvir edin, təmizlənmiş bir parçanı yapışdırın, oflayn tətbiq etdiyiniz strukturu istəyin və standart olaraq redaktə edərkən təsdiqlənmiş iş yeri alətindən istifadə edin.
Süni intellekt sorğularında sağlamlıq və ya maliyyə məlumatlarını necə idarə etməliyəm?
Xam qeydlər olmadan əla suallar verin. Ümumi izahatlar laboratoriya panellərini, resept siyahılarını, sığorta şəxsiyyət vəsiqələrini, bank çıxarışlarını və ya mətbəx masasını da əks etdirən kart şəkillərini yapışdırmaqdan daha çoxdur. Hesab nömrələrini və etimadnaməyə bənzəyən hər şeyi silin. Çərçivə və yoxlama siyahıları üçün söhbətdən istifadə edin - klinisist, mühasib və ya hesabatlar üçün arxiv kabineti kimi deyil.
Başqalarının məlumatları və ekran görüntüləri niyə xüsusilə risklidir?
Yapışdırılan tək şəxs siz deyilsiniz: həmkarların elektron poçtları, müştəri telefon nömrələri, uşaqların şəkilləri və ya zəng transkriptləri onların razılığı olmadan sistemə düşə bilər. Öz sözlərinizlə xülasə edin, adları rollarla əvəz edin və "əyləncəli" yaratmaq üçün heç vaxt uşaqların şəxsiyyət məlumatlarını yapışdırmayın. Ekran görüntüləri əlfəcin çubuqlarını, URL tokenlərini, Slack adlarını və açıq sekmeleri gizli şəkildə istifadə edir - pasportları və ya kartları yükləmək əvəzinə iki dəfə kəsin, identifikatorları bulanıqlaşdırın və ya xətanı yenidən yazın.
Hansı daha təhlükəsiz təklif nümunələri hələ də möhkəm süni intellekt cavabları alır?
Problem barədə konkret, eyni zamanda kimlik barədə xəsis olun: məqsəd, məhdudiyyətlər, saxta girişlər, istənilən nəticə. Unikal etiketləri yerləşdirin, tam istehsal jurnalı əvəzinə metod istəyin, tapşırığı elə bölün ki, həssas hissələri özünüz doldurasınız və sintetik nümunələrdən istifadə edin. @ işarələri, uzun təsadüfi açar kimi sətirlər, böyük rəqəmlər və slayda yerləşdirməyəcəyiniz adlar üçün əvvəlcədən yapışdırma skanını işə salın. On saniyə əbədi olaraq kirayə haqqı ödəyir.
Bəs əgər süni intellekt söhbətinə artıq qəribə bir şey yapışdırmışamsa, nə etməliyəm?
Əvvəlcə həmin sirrdən istifadəni dayandırın - parolu çevirin, açarı ləğv edin, sessiyanı etibarsız hesab edin. Məhsul icazə verirsə, söhbəti silin, yaddaşları və ya layihə fayllarını yoxlayın, iş məlumatları olub olmadığını düzgün şəxsə bildirin və qeyri-adi girişlərə diqqət yetirin. Əgər bu, başqasının məlumatlarıdırsa, təmizləyin və lazım olduqda xəbərdarlıq edin. Sızıntını daha çox izahatla "üzərinə yazmayın"; əlavə kontekst əlavə surətdir.
Kiçik bir komanda, səhvləri düzəltmək üçün süni intellektə etimadnamələrini necə atmağı dayandıra bilər?
Redaksiyadan əvvəl qısa məlumatdan istifadə edin: sirləri növünə görə təsvir edin, REDACTED_KEY ilə saxta qeydlər və nümunə e-poçtlar yazın, nəyin silindiyini bildirin və ehtimal olunan səbəbləri və yoxlama siyahısını soruşun - "açarımla əlaqə" yox. Qısa bir insan qaydası əlavə edin - etimadnamə yoxdur, müştəri PII yoxdur, açıqlanmamış rəqəmlər yoxdur, standart olaraq redaktə edin - və bir yaxşı təmizlənmiş nümunə göstərin. Əsl etimadnamələri seyfdə saxlayın və model bir metod təklif etdikdən sonra düzəlişləri oflayn tətbiq edin.
İstinadlar
- NCSC — ncsc.gov.uk
- OpenAI — help.openai.com
- OpenAI — openai.com
- Klod — privacy.claude.com
- Google Workspace — knowledge.workspace.google.com
Bundan sonra oxumaq istəyə biləcəyiniz məqalələr:
🔗 Ən Yaxşı Süni İntellekt Təhlükəsizlik Alətləri
Kiber təhdidləri aşkarlayan və azaldan güclü süni intellekt təhlükəsizlik platformalarını kəşf edin.
🔗 Niyə süni intellekt bəzən uydurur?
Süni intellekt halüsinasiyalarının səbəbini anlayın və riskləri necə azaltmağı öyrənin.
🔗 Süni intellektlə tapşırıqları necə avtomatlaşdırmaq olar
İnsan nəzarəti və ciddi qaydalar əlavə etməklə təhlükəsiz avtomatlaşdırma iş axınlarını tətbiq edin.
🔗 Süni intellekt texnologiyası nədir?
Süni intellektin əsaslarını və onun tətbiqi ilə bağlı ümumi çətinlikləri araşdırın.