Niyə süni intellekt bəzən şeyləri uydurur [Video və Viktorina]

Qısa cavab: Süni intellekt bəzən təsdiqlənmiş faktlar deyil, mümkün sonrakı sözləri proqnozlaşdırdığı üçün uydurur - səlislik sübut deyil. Mövzu niş, yüksək riskli olduqda və ya dəqiq adlar və rəqəmlər tələb etdikdə, cavabı əsaslandırmayıb sərt iddiaları yerində yoxlamadığınız təqdirdə boşluqlar etibarlı təxminlərlə doldurulur.

Bundan sonra oxumaq istəyə biləcəyiniz məqalələr:

🔗 Süni intellektlə Google kimi davranmağı dayandırın
Daha yaxşı süni intellekt nəticələrinin niyə fərqli bir yanaşma tələb etdiyini öyrənin.

🔗 İlk düzgün süni intellekt tapşırığınız
Sadə bir strukturdan istifadə edərək aydın və təsirli bir tapşırıq yaradın.

🔗 Əla süni intellekt sorğusunun 4 hissəsi
Süni intellekt sorğusunun keyfiyyətini artıran dörd vacib elementi kəşf edin.

🔗 Əslində süni intellekt nədir?
Süni intellekti sadə, praktik və gündəlik dildə başa düşün.

Əsas nəticələr:

Bilmədən proqnozlaşdırma: Rəvan nəsrə nümunənin tamamlanması kimi yanaşın, heç vaxt and içmiş dəlil kimi qəbul etməyin.

Özünəinam tələsi: İddialı ton üslubdur; dəqiqlik söhbətdən kənarda ayrıca yoxlanılmasını tələb edir.

Saxta qablaşdırma: Səliqəli istinad siyahılarına etibar etməzdən əvvəl sitat adlarını və sitatlarını özünüz axtarın.

Cavabı əsaslandırın: Mənbə qeydlərini yapışdırın və uydurma URL-ləri, tədqiqatları və ya statistikaları qadağan edin.

İnsan auditi: Xüsusilə səhiyyə, hüquq və ya maliyyə ilə bağlı ən riskli iddianı əvvəlcə yerində yoxlayın.

Proqnozlaşdırma Bilməklə Eyni Deyil

Budur, açıq versiya: söhbət modellərinin əksəriyyəti naxış maşınlarıdır. Siz sual verirsiniz. Onlar yaxşı cavabın formasına uyğun bir cavab yaradırlar. Bu forma faktları, tonu, strukturu - bütün geyimi əhatə edir. Bəzən geyim əsl biliyi əhatə edir. Bəzən isə boşluğu dolduran inamlı bir təxmin də əhatə edir.

Düşünürəm ki, boş bir metafora kömək edəcək, sonra bir az geri qayıdacağam. Milyonlarla mahnı eşidən bir caz pianoçunu təsəvvür edin. Onlardan "mavi çamadan haqqında olanı" ifa etmələrini xahiş edin və onlar heç vaxt mövcud olmayan gözəl bir melodiya icad edə bilərlər - çünki sorğu lazım olduğu kimi səslənirdi. Bir dəqiqə gözləyin - bu, sənətkarlığı üstələyir. Bu, daha çox steroidlərdə avtomatik tamamlama kimidir. Model, "Həqiqət" etiketli arxiv şkafını açmaq əvəzinə, ağlabatan bir abzası tamamlayır.

Buna görə də insanlar niyə süni intellekt bəzən şeyləri uydurur deyə soruşduqda , qısa cavab budur: boşluqlar statistik cəhətdən düzgün səslənən hər şeylə doldurulur . İstinadın olmaması modelin akademik görünən bir sitat icad etməsinə səbəb olur. Rəqəmdən əmin olmayan model səliqəli bir rəqəm təqdim edir. Şəxsin orta adı olmadan, dövrə və mədəniyyətə uyğun bir rəqəm yaradır. Əvvəlcə bir az təəccüblüdür. Nümunəni gördükdən sonra o qədər də yox.

• Səlis mətn nəslin məqsədidir - təsdiqlənmiş həqiqət deyil.
• Boş bilik boşluqlarına yenə də sözlər tökülür.
• Modelin reytinqində "düzgün səslənir" ehtimalı "düzgündür" ehtimalını üstələyə bilər.

Özünəinamla Dəqiqlik - Yöndəmsiz Fərq

İnsanlar əmin olmadıqda ehtiyat tədbirləri görürlər. Biz "Düşünürəm", "bəlkə", "yoxlamalıyam" deyirik. Modellər də - əgər onlardan xahiş etsəniz - ehtiyat tədbirləri görə bilərlər, lakin standart nəticələr çox vaxt inamlı brifinq. Bu cilalama, hər iddianın əsaslı olduğuna işarə deyil, yardımsevərlik təliminin bir xüsusiyyətidir.

Özünəinam və dəqiqlik fərqli siferblatlardır. Biri yüksək, digəri isə sıfıra yaxın ola bilər. Bunu insanlarla da hiss etmisiniz: səhv prosesi tam əminliklə izah edən həmkarınızla. Süni intellekt eyni şeyi edə bilər, amma daha sürətli və daha gözəl formatlama ilə.

Praktik nəticə: iddialı ifadəni dəlil kimi deyil, üslub kimi qəbul edin. Cavabda yoxlaya biləcəyiniz mənbə yoxdursa, qeyri-müəyyənliyin etirafı yoxdursa və konkret adlar və ya rəqəmlər yığını yoxdursa, yavaşlayın. Əsaslandırma olmadan konkretlik klassik bir ifadədir. 

• Təsdiqlənmiş ton ≠ təsdiqlənmiş məzmun.
• Modeldən qəsdən qeyri-müəyyənliyi qeyd etməsini xahiş edin.
• Saxta hava keçirməyən brifinqdənsə, "bunu bilmirəm" ifadəsini istifadə etməyə üstünlük verin.

Həqiqi görünən uydurma sitatlar və detallar

Bu, çox peşəkar göründüyü üçün çox pisdir. Saxta qəzet başlıqları. Saxta jurnal adları. Demək olar ki, kliklənə bilən saxta URL-lər. Məşhur insanlara aid edilən saxta sitatlar. Formatlaşdırma çox vaxt mükəmməldir - kursiv üslub, burada bilərəkdən il formalı yer tutuculardan çəkinmək, müəllif səslənən adlar - və qablaşdırma skimmerləri aldadır.

Bu, anlaşılmaz bir səbəbdən baş verir. Təlim mətnində istinad forması çox yaygındır. "Mənbələr" soruşduğunuz zaman, model formasını . Bu, kiminsə yaddaşından qəbz çıxarmasını istəməyə bənzəyir. Qəbzə bənzəyən bir şey alırsınız. Mağaza heç vaxt mövcud olmaya bilər.

Bir dəfə uzaqdan iş məhsuldarlığı haqqında səliqəli görünən müəllif siyahısı ilə bağlı bir araşdırmanın qaralama versiyasını izlədim. Bu, həmyaşıdlar tərəfindən nəzərdən keçirilmiş kimi hiss olunurdu. Heç nə deyildi. Təhlükə də budur: qablaşdırma bahalı görünəndə beyniniz rahatlayır. Rahatlamayın. 

• Özünüz axtara biləcəyiniz başlıqlar tələb edin - sonra onları ciddi şəkildə axtarın.
• Heç vaxt istəmədiyiniz səliqəli sitat və atribut paketlərinə şübhə ilə yanaşın.
• Əgər "mənbə" tez bir zamanda tapıla bilmirsə, iddianı dəstəklənməyən kimi qəbul edin.

İxtiraçılıq riski ən yüksək olduqda

Hər söhbət eyni dərəcədə təhlükəli deyil. Qəhvə haqqında şeir metaforaları sərbəst şəkildə uydura bilər - məsələ də bundadır. Dərman dozası, qanuni son tarix, rəqibin qiymət siyasəti və ya dərc olunmuş məqalə üçün tarixi iddia fərqli bir planetdə yaşayır.

Mövzu niş, yenilik hissi yaradan və ya çox spesifik olduqda risk artır. Həmçinin dəqiq rəqəmlər, adlandırılmış sənədlər, özəl şirkət daxili sənədləri və ya "on həmyaşıdlar tərəfindən nəzərdən keçirilmiş tədqiqatın siyahısını" tələb etdikdə risk artır. Sorğu nə qədər dəqiq olarsa, modelin boşluqları mümkün doldurucularla doldurmaq istəyi bir o qədər artır.

Uzun və təsirli cavablar qısa, ehtiyatlı cavablardan daha riskli ola bilər. Uzunluq səy kimi görünür. Səy qayğı kimi görünür. Qayğı həqiqət kimi görünür. Pis faktların slaydlara necə girməsi ilanvari təəssüratlar zənciri ilə bağlıdır. 

• Yüksək risk: sağlamlıq, hüquq, maliyyə, uyğunluq, təhlükəsizlik, adları çəkilən şəxslər, dəqiq statistika.
• Orta risk: niş sənaye prosesləri, alət parametrləri, "ən yaxşı təcrübələr" siyahıları.
• Daha aşağı risk: beyin fırtınası, plan tərtib etmək, öz qaralamanızı yenidən yazmaq, ton redaktələri.

Etibarlı və Qeyri-sabit Çıxışlar - Tez Müqayisə

Bir süfrə başqa bir ruhlandırıcı söhbətdən daha yaxşıdır. Adi söhbətlər qəribə olduğundan, yüngül qəribəliklər də daxil olmaqla.

Zəkanızdakı bal kartını yanınızda saxlayın. Fotoda bir az qəribə bir təbəssüm gördüyünüz kimi, titrəyən nəticələr görməyə başlayacaqsınız - nəyinsə poza verdiyini.

Paranoyaya düşmədən uydurma cavabları necə tapmaq olar

Hər sifəti yoxlamağa ehtiyac yoxdur. Əhəmiyyətli olan iddialar üçün ucuz bir yoxlama vərdişinə ehtiyacınız var. Ən dəqiq tərəfi dəqiq yoxlayın: nömrəni, adı, siyasəti, sitatı. Əgər bu tərəf uğursuz olarsa, cavabın qalan hissəsi şərti olaraq qalır.

Başqa bir izah: daxili ziddiyyət. Model deyir ki, alət "həmişə" X edir, sonra isə istisnanı standart kimi təsvir edir. Yaxud bir xüsusiyyət icad edir, sonra isə onu necə söndürəcəyini izah edir - sanki qapılar icad etməyə davam edən bir yuxu kimi. Zəif nöqtələri deşən izləyicilərdən soruşun. İxtira edilmiş dünyalar təzyiq altında yellənməyə meyllidir.

Həmçinin "çox mükəmməl" qablaşdırmaya diqqət yetirin. Hər abzas eyni dərəcədə cilalanmış. Hər tövsiyə eyni dərəcədə etibarlıdır. Əsl təcrübə adətən teksturaya malikdir - xəbərdarlıqlar, güzəştlər, "asılıdır". Düz mükəmməllik əlavə diqqət tələb edir. 

• Əvvəlcə bütün esse deyil, ən riskli iddianı təsdiqləyin.
• "Nədən ən az əminsiniz?" deyə soruşun və maskanın sürüşüb-sürüşmədiyini görün.
• Çatdan kənar adları, titulları və nömrələri çarpaz yoxlayın.
• Sərbəst üzən faktlar yerinə yapışdırdığınız mətnə ​​bağlı cavablara üstünlük verin.

İxtiraçılığı Azaldan Təcili Vərdişlər

Sehrli bir cümlə ilə halüsinasiyaları aradan qaldıra bilməzsiniz - üzr istəyirəm - amma partlayış radiusunu kiçildə bilərsiniz. Yaxşı istəklər oyunu məhdudlaşdırır, pis istəklər isə improvizasiyaya səbəb olur.

Bu kimi vərdişləri sınayın. Quru səslənir. Ağıllı tövsiyələrdən daha tez-tez işə yarayır.

• Bilikləri əhatə edin: "Yalnız yapışdırdığım qeydlərdən istifadə edin. Əgər yoxdursa, bilmədiyinizi deyin."
• Saxta mənbələri qadağan edin: "Sitatlar, sitatlar və ya URL-lər uydurmayın."
• Qeyri-müəyyənlik etiketlərini məcbur edin: "Hər bir markerə etiket qoyun: məlum / ehtimal / təxmin."
• Alternativlər soruşun: "İki variant verin və hər birinin niyə səhv ola biləcəyini göstərin."
• Şübhə keçidi tələb edin: "İstədiyiniz fərziyyələri sadalayın."
• Atmosferdən daha çox strukturu üstün tutur: cədvəllər, yoxlama siyahıları və iddia/sübut sütunları.

Təəccüblüdür ki, modelə " Bilmirəm " deməyin qaydasını demək, əminlik göstərmək üçün sosial təzyiqi azaldır. Modellər tapşırığı əks etdirir. Əgər tapşırıq hər nəyin bahasına olursa olsun tamlığı mükafatlandırırsa, formatlaşdırma ilə uydurma əldə edirsiniz. Əgər tapşırıq boşluqlar haqqında aydın danışığı mükafatlandırırsa, daha az parlaq yalanlar əldə edirsiniz.

Bəli, təkrar cavablar vacibdir. İlk cavablar qaralamadır. "Bu sitat saxta görünür - təsdiqləyə bilmədiyiniz hər şeyi silin" tamamilə normal ikinci mesajdır. Söhbətə ilk pulda sizə həqiqət borclu olan avtomat kimi deyil, redaktə kimi yanaşın.

Əsaslandırma, İzləmələr və Qeyri-müəyyənliklə Yaşamaq

Əsaslandırmaq cavabı modelin improvizasiyasından kənar bir şeyə bağlamaq deməkdir: yapışdırdığınız siyasət sənədi, elektron cədvəliniz, iclas qeydləriniz, özünüz yoxlayacağınız məlum ictimai səhifə. Cavab bu çəpərdə qalmalı olduqda, ixtiranın işləmək üçün daha az yeri olur.

İkinci sual isə əlavə cavablardır. "Bu rəqəm haradan gəlib?" "Hansı hissə nəticədir?" "Heç bir tədqiqat adı olmadan yenidən yazın." Hər sual kiçik bir yoxlamadır. Düşünürəm ki, bu vasitələrdən istifadə etməyin böyüklər üçün yolu budur - ibadət yox, panik yox, sadəcə yoxlamalar.

Qeyri-müəyyənlik iş axışınızdakı bir problem deyil. Bu, hava şəraitidir. Bəzi günlər model öz mətninizin xülasəsini hazırlayır. Bəzi günlər isə heç vaxt iclas keçirməyən bir alt komitə yaradır. Sizin işiniz hansı çıxışların yağış paltarına ehtiyac duyduğuna qərar verməkdir. 

• Dəqiqlik vacib olduqda mənbə materialını yapışdırın.
• İddia səviyyəli etibarlılıq etiketləri istəyin.
• Yüksək riskli qərarlar üçün bir insanı xəbərdar edin
• "Yaradıcı azadlığı" yaradıcı tapşırıqlar üçün saxlayın - uyğunluğa yox.

Orta axın halüsinasiyası müşahidə edildikdə nə etməli

Spiral etməyin. Aləti sizə şəxsən xəyanət etmiş kimi əbədi olaraq rədd etməyin - baxmayaraq ki, istək kəskin hiss oluna bilər. Mövzunu düzəldin və davam edin.

Sadə bir bərpa dövrü:

• Çıxış edin: "Bu mənbə uydurma görünür. Dəstəklənməyən iddiaları silin."
• Yenidən lövbərləyin: əsl sənədi, sitatı və ya məlumatı yapışdırın.
• Dar bir şəkildə yenidən qurun: boş və tamamilə yeni bir esse yox, düzəldilmiş bir hissə istəyin.
• Kəskin kənarları yenidən yoxlayın: adlar, rəqəmlər, proses addımları.
• Etibar səviyyəsini müəyyənləşdirin: beyin fırtınası ilə tərəfdaş, layihə köməkçisi və "bu mövzu üçün deyil".

Bir halüsinasiyanı görmək söhbətin qalan hissəsini yaxşılaşdıra bilər - əgər məhdudiyyətləri sərtləşdirsəniz. Model "özünü günahkar hiss etmir", amma daha aydın təlimatlarınız onun nə üçün optimallaşdırdığını dəyişir. Siz sükan arxasında oturursunuz. İxtiraçılıq özünü göstərəndə daha sərt sükan arxasında oturun. 

Bunun Səssizcə Əhəmiyyətli Olduğu Gündəlik Ssenarilər

İş e-poçtları: uydurma "sənaye standartı zaman xətti" sizin qarşılaya bilməyəcəyiniz gözləntiləri müəyyən edə bilər. Məktəb və təhsil: saxta bir izahat siz fərqinə varmadan beyninizdə yerləşə bilər. Müştəri dəstəyi layihələri: uydurma geri ödəmə qaydası vədə çevrilir. Yaradıcı yazı: ixtira edin - budur oyun meydançası.

Keçid xətti nəticədir. Əgər səhv sözlər pula, etibara, qiymətlərə və ya təhlükəsizliyə başa gəlirsə, yoxlama könüllü məşğuliyyət deyil. Əgər səhv sözlər yalnız çiyin çəkməyə başa gəlirsə, boşalın. Ehtiyatlılığı nəticə ilə uyğunlaşdırmaq burada böyüklərin bacarığıdır - "hallüsinasiya" sözünü əzbərləməkdən daha çox

Həmçinin: komandalar "imla yoxlamasından keçdim" ifadəsini normallaşdırdıqları kimi "bu iddianı təsdiqlədim" ifadəsini də normallaşdırmalıdırlar. Əks halda, cilalanmış bir abzas bir gecədə qəbilə məlumatına çevrilir. Vay.

Əsas Nəticələr

Beləliklə, süni intellekt bəzən niyə uydurur ? Bu sistemlər mümkün dili proqnozlaşdırır, boşluqları nümunə uyğunluğu ilə doldurur və bunu edərkən tez-tez əmin səslənir. Bu kombo özünəinamlı səhv cavablar, uydurma sitatlar və heç vaxt baş verməyən səliqəli detallar yaradır.

Alətdən qorxmaq lazım deyil. Vərdişlərə ehtiyacınız var. Sərt iddiaları yerində yoxlayın. Uydurma mənbələri qadağan edin. Konkret kontekst əlavə edin. Qeyri-müəyyənlik üçün sorğu göndərin. İzləmələrdən yoxlama kimi istifadə edin. Sərbəst generasiyanı az riskli yaradıcı iş üçün saxlayın.

Səlis danışıq xarakter göstəricisi deyil. Ona inanılmaz dərəcədə sürətli yazan, bəzən heç vaxt baş tutmayan bir görüş uyduran və nəzarət altında olsa belə, üstün ola bilən istedadlı bir təcrübəçi kimi davranın. Nəzarəti saxlayın. Ağıllı olun. Şübhəni yüngül, lakin əsaslı saxlayın. Beləliklə, uydurma fakt kimi təqdim etmədən üstünlük əldə edirsiniz.

Praktik nümunə: Rəqibin tədqiqat brifinqində uydurma sitatların tapılması

Cilalanmış bir abzas az qala müştəri bazasına düşənə qədər halüsinasiyalar mücərrəd hiss olunur. Böyük Britaniyalı marketinq analitiki bu təlimatdakı vərdişlərdən istifadə edərək, çatbotdan imtina etmədən tədqiqat kimi təqdim olunan fantastika əsərlərinin yayılmasını dayandırır.

Ssenari

Satışa başlamaq üçün bir səhifəlik rəqib brifinqini hazırlamaq üçün Semin iki saatı var. Sual tanışdır: güclü tərəflər, qiymət siqnalları və "bir neçə etibarlı mənbə". Köhnə vərdişdə Sem "Rəqib X-i mənbələrlə xülasə edin" yazır və üç akademik görünüşlü sitat və dəqiq bazar payı faizi olan səliqəli brifinq alırdı. Qısa səslənirdi. Əsasən uydurma idi. Bir başlıq tapılmadı. Səhm rəqəmi rəqibin saytında heç yerdə görünmürdü.

Semin daha yaxşı səslənən bir modelə ehtiyacı yoxdur. Semin əsaslandırılmış bir iş axınına ehtiyacı var: mənbə qeydlərini yapışdırmaq, saxta mənbələri qadağan etmək, qeyri-müəyyənlik etiketlərini məcbur etmək, əvvəlcə ən kəskin iddianı yerində yoxlamaq, sonra yalnız qırılmış hissəni yenidən qurmaq.

Məqsəd, komandanın danışıq mövzuları üçün etibar edə biləcəyi qısa məlumatdır - yaddaşdan çıxarılmış və yalnız qəbz kimi görünən qəbz deyil.

Köməkçinin nəyə ehtiyacı var

• Mənbə materialı Sam-də artıq var: ana səhifənin nüsxəsi, qiymət səhifəsinin mətni, iki son dəstək bileti, itirilmiş sövdələşmədən qeydlər
• Sərt bir qayda: faktiki iddialar üçün yalnız yapışdırılmış mətndən istifadə edin; qeydlər səssiz olduqda "Bilmirəm" deyin
• Uydurma istinadlara, sitatlara, URL-lərə və statistikaya qadağa
• Məlum / ehtimal edilən / təxminləri ayıran çıxış forması
• Deste paylaşılmadan əvvəl adların, rəqəmlərin və hər hansı "mənbə" başlıqlarının bir dəfə insan tərəfindən yerində yoxlanılmasının vaxtıdır
• Boşluqları doldurmaq əvəzinə üçə qədər aydınlaşdırıcı sual verməyə icazə

Nümunə təlimat

Mesaj 1 - əsaslandırılmış qısa məlumat: Yalnız aşağıya yapışdırdığım qeydlərdən istifadə edərək, satış üçün bir səhifəlik rəqib qısa məlumatını hazırlayın. Bölmələr: Onların iddiaları / Müştərilərin şikayətləri / Qiymət siqnalları / Açıq suallar. İstinadlar, sitatlar, URL-lər və ya statistika uydurmayın. Qeydlərdə bir fakt yoxdursa, "naməlum" yazın və onu Açıq suallar altında sadalayın. Hər bir markerə etiket qoyun: məlum / ehtimal / təxmin. Böyük Britaniya İngilis dili. Preambula yoxdur.

Mesaj 2 - şübhə keçidi: Etdiyiniz hər bir fərziyyəni sadalayın. Dəstəkləyən yapışdırılmış cümləni göstərə bilmədiyiniz təqdirdə, təxmin etiketli hər hansı bir şeyi silin. Əgər əvvəllər mənbə uydurmusunuzsa, onu silin və bunu deyin.

Mesaj 3 - dar şəkildə yenidən qurun: Bazar payı xətti dəstəklənmir. Yalnız Qiymətləndirmə siqnalları bölməsini qeydlərimdə görünmədikcə heç bir rəqəm olmadan yenidən yazın. Digər bölmələri saxlayın.

Bunu necə sınaqdan keçirmək olar

• Sərbəst üzən bir sorğu ("Rəqib X-i üç həmyaşıd tərəfindən nəzərdən keçirilmiş mənbə ilə xülasə edin") və yuxarıdakı əsaslandırılmış qısa məlumatı işə salın. Uydurma başlıqları və saxta statistikaları müqayisə edin.
• Bütün səhifəni deyil, əvvəlcə ən riskli iddianı (rəqəm və ya adlandırılmış tədqiqat) yoxlayın.
• Soruşun: "Nəyə ən az əminsiniz?" Güclü cavab boşluqları adlandırır; titrəyən cavab isə ikiqat azalır.
• Kənar hal: yapışdırılmış qeydlərdən qiymətləri silin və plan qiymətini icad etmək əvəzinə, layihənin naməlum olduğunu təsdiqləyin.
• Paylaşımdan əvvəl qəbul yoxlamaları: (1) hər "məlum" marker yapışdırılmış sətrə uyğun gəlir, (2) uydurma sitat yoxdur, (3) açıq suallar əsl boşluqları sadalayır, (4) qalan başlıqları özünüz axtarmısınız, (5) arxasında qeyd olmadan dəqiq statistika yoxdur.

Nəticə

Təsviredici nəticə (nəşr olunmuş tədqiqat deyil, bir analitikin rəqiblə bağlı qısa iş axını üçün nümunə qiymətləndirməsi): 8 brifinq tapşırığı üzrə "qeydlər açıq"dan "insan tərəfindən fakt yoxlamasına hazır qaralama"ya qədər divar saatı vaxtı təxminən 12 dəqiqəlik orta göstəricidən (birdəfəlik cilalanmış uydurma) əsaslandırılmış sorğu ilə təxminən 15 dəqiqəyə qədər bir qədər artdı - lakin təmizləmə və utanc riski azaldı. Sərt iddiaların insan tərəfindən yoxlanılması təxminən 18 dəqiqəlik orta göstəricidən (saxta başlıqların ardınca qaçmaq və yenidən yazmaq) iddialar əvvəlcədən etiketləndikdə və uydurma mənbələr qadağan edildikdə təxminən 6 dəqiqəyə düşdü, buna görə də xalis vaxt hər qısa məlumat üçün təxminən 9 dəqiqə və ya dəst üzrə təxminən 72 dəqiqə azaldı. Qəbul yoxlama siyahısında (uydurma sitatlar, dəstəklənməyən statistika, məlum/təxmin/təxmin etiketləri, boşluqları adlandıran açıq suallar yoxdur), 8 əsaslandırılmış qaralamadan 7-si ilk baxışdan keçdi, 8 birdəfəlik qaralamadan 2-si isə. Məhdudiyyətlər: kiçik nümunə, bir analitik, bir qısa tip; aydın ictimai qiymətləri olan asan rəqiblər fərqi azaldır; "doğrulama müddəti" şübhəli başlıqlar üçün veb axtarışlarını əhatə edirdi.

Öz versiyanızı ölçmək üçün: mövcud vərdişinizə əsasən 5 qısa məlumat, yapışdırılmış mənbələr + qadağan olunmuş uydurma sitatlar + iddia etiketləri ilə 5 qısa məlumat hazırlayın; göstərilən məxrəclə orta layihə vaxtını, orta yoxlama vaxtını və yoxlama siyahısından keçmə nisbətini qeyd edin.

Nə səhv gedə bilər

• Səlis danışıq qərəzi: Mükəmməl qrammatika və səliqəli ifadələr sizi yoxlamanı qaçırmağa məcbur edir.
• İstinad kospleyi: Yapışdırılmış material olmadan "mənbələr" istəmək, uyğun qeyd olmadan təqaüd formasına səbəb olur.
• Siyahıları həddindən artıq doldurmaq: Qeydlərinizdə yalnız üçü olduqda "Mənə on tədqiqat verin" ifadəsi doldurucu kimi mükafatlandırır.
• Bütün esseyi yenidən yazmaq: Bir saxta sətirdən sonra həmin hissənin dar bir şəkildə yenidən yazılmasını xahiş edin - yeni bir cilalanmış divar yox.
• Yüksək riskli mövzular: Səhiyyə, hüquq, maliyyə və uyğunluq satış mövzulu qısa məlumatdan daha güclü insani əlaqələrə ehtiyac duyur.
• İnsan döngəsi yoxdur: Etiketlənmiş qaralama yenə də yapışdırılmış cümləni səhv oxuya bilər. Paylaşım düyməsi hələ də Sam-a məxsusdur.

Praktik yemək

Süni intellekt sizi aldatmaq istəmədiyi üçün deyil, mümkün olan dili boşluqlara böldüyü üçün uydurur. Səlis danışığı dəlil kimi deyil, üslub kimi qəbul edin. Çəpəri bağlayın, saxta mənbələri qadağan edin, qeyri-müəyyənlik etiketləyin, ən kəskin iddianı yerində yoxlayın və bir şey sarsıldıqda mövzunu düzəldin. Bu yolla, heç vaxt baş verməyən özünəinamlı bir hekayə təqdim etmədən sürətli bir tərəfdaşın üstünlüyünü qoruyub saxlaya bilərsiniz.

Tez-tez verilən suallar

Niyə süni intellekt bəzən uydurma hərəkətlər edir?

Çat modellərinin əksəriyyəti şablon maşınlarıdır: onlar "Həqiqət" etiketli təsdiqlənmiş arxiv kabineti deyil, yaxşı cavabın formasına uyğun cavab yaradırlar. Boşluqlar statistik cəhətdən düzgün səslənən hər şeylə doldurulur - akademik görünən sitat, səliqəli rəqəm və ya dövrə uyğun bir detal. Səlis mətn nəslin məqsədidir, buna görə də "düzgün səslənir" "düzgündür"ü üstələ bilər. Buna görə də uydurma cavablar çox vaxt mükəmməl qrammatika və səliqəli güllələrlə gəlir.

Süni intellekt dəqiqliklə eynidirmi?

Xeyr. Özünəinam və dəqiqlik fərqli meyarlardır - biri yüksək səviyyədə, digəri isə sıfıra yaxın ola bilər. Standart nəticələr çox vaxt özünəinamlı brifinq kimi oxunur, çünki təlim faydalı cilalamanı mükafatlandırır, hər iddianın əsaslı olduğuna görə deyil. İddialı ifadələrə dəlil kimi deyil, üslub kimi yanaşın. Cavabda yoxlanıla bilən mənbələr, qeyri-müəyyənlik və çoxlu konkret adlar və ya rəqəmlər yoxdursa, yavaşlayın.

Çatbotlar niyə sitatlar və saxta mənbələr uydururlar?

Sitat forması təlim mətnində geniş yayılmışdır, buna görə də "mənbələr" istəmək, əsl qeydi əldə etmədən təqaüd forması yarada bilər - məsələn, yaddaşdan qəbz çıxarmaq kimi. Saxta məqalə başlıqları, jurnal adları, URL-lər və istinad edilən sitatlar çox vaxt skimmerləri aldadacaq qədər peşəkar görünür. Özünüz axtarış edə biləcəyiniz tələb başlıqları; mənbəni tez bir zamanda tapmaq mümkün deyilsə, iddianı dəstəklənməyən kimi qəbul edin.

Süni intellekt ixtirasının riski nə vaxt ən yüksəkdir?

Risk, yeniliklərə əsaslanan və ya çox spesifik mövzular üçün, eləcə də dəqiq rəqəmlər, adlandırılmış sənədlər, şəxsi daxili sənədlər və ya həmyaşıdlar tərəfindən nəzərdən keçirilmiş tədqiqatların uzun siyahıları tələb etdikdə artır. Yüksək riskli sahələrə səhiyyə, hüquq, maliyyə, uyğunluq, təhlükəsizlik, adlandırılmış şəxslər və dəqiq statistika daxildir. Beyin fırtınası, plan tərtib etmək, öz layihənizi yenidən yazmaq və ton redaktələri adətən daha az risklidir. Uzun və təsirli cavablar da olduğundan daha təhlükəsiz hiss oluna bilər.

Hər sözü yoxlamadan süni intellektlə uydurulmuş cavabları necə tapa bilərəm?

Əvvəlcə ən dəqiq olanı - nömrəni, adı, siyasəti və ya sitatı dəqiq yoxlayın. Əgər bu uğursuz olarsa, qalanını şərti olaraq təyin edin. Daxili ziddiyyətlərə və heç bir xəbərdarlıq və ya güzəşt olmadan "həddindən artıq mükəmməl" qablaşdırmaya diqqət yetirin. Modelin nəyə ən az əmin olduğunu soruşun, söhbətdən kənarda adları və başlıqları yoxlayın və sərbəst üzən faktlar əvəzinə yapışdırdığınız mətnə ​​bağlı cavablara üstünlük verin.

Hansı təcili vərdişlər süni intellekt halüsinasiyalarını azaldır?

Halüsinasiyaları bir sehrli cümlə ilə aradan qaldıra bilməzsiniz, ancaq partlayış radiusunu kiçildə bilərsiniz. Bilikləri yapışdırılmış qeydlərə qədər genişləndirin və bir şey çatışmadıqda "Bilmirəm" deyin. Uydurma sitatları, sitatları və URL-ləri qadağan edin. Məlum / nəticə çıxarma / təxmin kimi etiketləri məcbur edin, fərziyyələr istəyin və iddia/sübut strukturuna üstünlük verin. Modelə "Bilmirəm" deməyin normal olduğunu demək yalançı əminlik yaratmaq təzyiqini azaldır.

Faktiki işlər üçün süni intellektdən istifadə edərkən əsaslandırma nə deməkdir?

Əsaslandırma cavabı modelin improvizasiyasından kənar bir şeylə - siyasət sənədinizlə, elektron cədvəlinizlə, iclas qeydlərinizlə və ya özünüz yoxlayacağınız ictimai səhifə ilə əlaqələndirir. Cavablar bu çərçivənin içərisində qalmalı olduqda, ixtiranın yeri daha az olur. Əlavə cavablar ikinci çərçivə rolunu oynayır: bir rəqəmin haradan gəldiyini, hansı hissəsinin nəticə olduğunu soruşun və ya adlandırılmış tədqiqatlar olmadan yenidən yazın. Yüksək riskli qərarlar üçün bir insanı məlumatlandırın.

Söhbət əsnasında halüsinasiyalar müşahidə etsəm nə etməliyəm?

Çağırın, əsl sənəd və ya məlumatlarla yenidən əlaqə saxlayın və tamamilə yeni, cilalanmış esse tələb etmək əvəzinə, yalnız qırılmış hissəni yenidən qurun. Kəskin kənarları - adları, rəqəmləri, proses addımlarını yenidən yoxlayın - sonra alətin beyin fırtınası tərəfdaşı, layihə köməkçisi və ya "bu mövzu üçün deyil" olduğuna qərar verin. Daha aydın məhdudiyyətlər modelin nə üçün optimallaşdırdığını dəyişdirir; ixtiraçılıq ortaya çıxdıqda daha çox irəliləyin.

Rəqib tədqiqat brifinqində uydurma sitatların istifadəsini necə dayandıra bilərəm?

Artıq sahib olduğunuz mənbə qeydlərini yapışdırın, saxta mənbələri və dəstəklənməyən statistikaları qadağan edin və məlum / ehtimal / təxmin etiketləri ilə açıq suallar siyahısı tələb edin. Əvvəlcə ən riskli iddianı yoxlayın, dəstək olmadan təxminləri silən şübhə keçidini işə salın və bir rəqəm dəstəklənmirsə, yalnız qırılmış bölməni yenidən yazın. Qəbul o deməkdir ki, hər "məlum" marker yapışdırılmış sətrə uyğunlaşır və qalan hər hansı bir başlıq insan tərəfindən axtarılır.

Süni intellekt nə vaxt sərbəst şəkildə ixtira etməyə icazə verir?

Yaradıcı yazı və digər aşağı riskli tapşırıqlar metaforaları sərbəst şəkildə icad edə bilər - bu, oyun meydançasıdır. Ehtiyatlılığı nəticə ilə uyğunlaşdırın: səhv sözlər pula, etibara, qiymətlərə və ya təhlükəsizliyə başa gəlirsə, yoxlama könüllü deyil. Əgər onlar yalnız çiyin çəkməyə başa gəlirsə, boşalın. Rəvanlıq xarakterə istinad deyil; modelə faktiki iş üzərində nəzarətə ehtiyacı olan sürətli təcrübəçi kimi yanaşın.

İstinadlar

1. OpenAI - openai.com
2. Antropik - anthropic.com
3. NIST - nist.gov
4. IBM - ibm.com
5. Google süni intellekt - ai.google.dev
6. Google Cloud - Torpaqlama - docs.cloud.google.com