Bulud Hesablamasında Süni İntellekt nədir? [Video və Viktorina]

Qısa cavab: Bulud hesablamalarında süni intellekt məlumatları saxlamaq, hesablamaları icarəyə götürmək, modelləri öyrətmək, onları xidmət kimi yerləşdirmək və istehsalda izləmək üçün bulud platformalarından istifadə etməklə bağlıdır. Bu, əksər uğursuzluqların riyaziyyat deyil, məlumatlar, yerləşdirmə və əməliyyatlar ətrafında cəmləşməsi səbəbindən vacibdir. Sürətli miqyaslanmaya və ya təkrarlana bilən buraxılışlara ehtiyacınız varsa, bulud + MLOps praktik yoldur.

Əsas nəticələr:

Həyat dövrü: Torpaq məlumatları, quruluş xüsusiyyətləri, təlim, yerləşdirmə, sonra sürüşməni, gecikməni və dəyəri izləmək.

İdarəetmə: Giriş nəzarətlərini, audit qeydlərini və mühit ayrılmasını əvvəldən tətbiq edin.

Təkrarlana bilənlik: İşləmələrin təkrarlana bilməsi üçün məlumat versiyalarını, kodunu, parametrlərini və mühitlərini qeyd edin.

Xərclərə nəzarət: Faktura şoklarının qarşısını almaq üçün toplulaşdırma, keşləmə, avtomatik miqyaslama məhdudiyyətləri və spot/preemptible təlimindən istifadə edin.

Yerləşdirmə nümunələri: Komanda reallığına əsasən idarə olunan platformalar, göl evi iş axınları, Kubernetes və ya RAG seçin.

Bundan sonra oxumaq istəyə biləcəyiniz məqalələr:

🔗 Ən Yaxşı Süni İntellekt bulud biznes idarəetmə vasitələri
Əməliyyatları, maliyyəni və komandaları sadələşdirən aparıcı bulud platformalarını müqayisə edin.

🔗 Genişmiqyaslı generativ süni intellekt üçün lazım olan texnologiyalar
GenAI-nin tətbiqi üçün tələb olunan əsas infrastruktur, məlumatlar və idarəetmə.

🔗 Məlumatların təhlili üçün pulsuz süni intellekt alətləri
Məlumat dəstlərini təmizləmək, modelləşdirmək və vizuallaşdırmaq üçün ən yaxşı pulsuz süni intellekt həlləri.

🔗 Bir xidmət olaraq süni intellekt nədir?
AIaaS, üstünlükləri, qiymət modelləri və ümumi biznes istifadə hallarını izah edir.

---

Bulud Hesablamasında Süni İntellekt: Sadə Tərif 🧠☁️

Əslində, bulud hesablamasında süni intellekt aşağıdakılara daxil olmaq üçün bulud platformalarından istifadə etmək deməkdir:

• Hesablama gücü (CPU-lar, GPU-lar, TPU-lar) Google Cloud: Süni intellekt üçün GPU-lar Cloud TPU sənədləri

• Saxlama (məlumat gölləri, anbarlar, obyekt saxlama) AWS: Məlumat gölü nədir? AWS: Məlumat anbarı nədir? Amazon S3 (obyekt saxlama)

• Süni intellekt xidmətləri (model təlimi, yerləşdirmə, görmə, nitq, NLP üçün API-lar) AWS süni intellekt xidmətləri Google Cloud süni intellekt API-ları

• MLOps alətləri (boru xətləri, monitorinq, model reyestri, ML üçün CI-CD) Google Cloud: MLOps nədir? Vertex AI Model Reyestri

Öz bahalı avadanlıqlarınızı almaq əvəzinə, ehtiyac duyduğunuz şeyi lazım olanda icarəyə götürürsünüz . Qarajınızda idman zalı tikib bir daha qaçış trenajorundan istifadə etməmək əvəzinə, bir dəfə intensiv məşq üçün idman zalı icarəyə götürmək kimidir. Bu, ən yaxşılarımızın başına gəlir 😬

Sadə dillə desək: NIST SP 800-145 bulud infrastrukturu vasitəsilə miqyaslandıran, göndərən, yeniləyən və işlədən süni intellektdir .

---

Niyə Süni İntellekt + Bulud Bu Qədər Böyük Bir Məsələdir 🚀

Açıq danışaq - əksər süni intellekt layihələri riyazi hesablamaların çətin olması səbəbindən uğursuz olmur. Onlar uğursuz olur, çünki "model ətrafındakı şeylər" dolaşır:

• məlumatlar səpələnmişdir

• mühitlər uyğun gəlmir

• model kiminsə noutbukunda işləyir, amma başqa yerdə yoxdur

• yerləşdirmə sonradan düşünülmüş bir şey kimi qəbul edilir

• təhlükəsizlik və uyğunluq dəvət olunmamış əmioğlu kimi gec görünür 😵

Bulud platformaları aşağıdakıları təklif etdiyi üçün kömək edir:

1) Elastik tərəzi 📈

Modeli böyük bir klasterdə qısa müddətə öyrədin, sonra NIST SP 800-145-də söndürün .

2) Daha sürətli təcrübə ⚡

İdarə olunan noutbukları, əvvəlcədən qurulmuş boru kəmərlərini və GPU nümunələrini tez bir zamanda işə salın. Google Cloud: Süni intellekt üçün GPU-lar.

3) Daha asan yerləşdirmə 🌍

Modelləri API, toplu işlər və ya inteqrasiya olunmuş xidmətlər kimi yerləşdirin. Red Hat: REST API nədir? SageMaker Batch Transform.

4) İnteqrasiya olunmuş məlumat ekosistemləri 🧺

Məlumat boru kəmərləriniz, anbarlarınız və analitikləriniz çox vaxt artıq buludda mövcuddur. AWS: Məlumat anbarı və məlumat gölü.

5) Əməkdaşlıq və idarəetmə 🧩

İcazələr, audit qeydləri, versiyalaşdırma və paylaşılan alətlər (bəzən çətin olsa da, yenə də) Azure ML reyestrlərində (MLOps) saxlanılır .

---

Bulud Hesablamasında Süni İntellekt Təcrübədə Necə İşləyir (Əsl Axın) 🔁

Budur, ümumi həyat dövrü. "Mükəmməl diaqram" versiyası deyil... canlı versiya.

Addım 1: Məlumatlar bulud yaddaşına düşür 🪣

Nümunələr: obyekt saxlama vedrələri, məlumat gölləri, bulud verilənlər bazaları Amazon S3 (obyekt saxlama) AWS: Məlumat gölü nədir? Google Bulud Saxlama Baxışı.

Addım 2: Məlumatların emalı + xüsusiyyət qurulması 🍳

Siz onu təmizləyirsiniz, dəyişdirirsiniz, xüsusiyyətlər yaradırsınız, bəlkə də yayımlayırsınız.

Addım 3: Model təlimi 🏋️

öyrətmək üçün bulud hesablamasından (çox vaxt GPU-lardan) istifadə edirsiniz : Süni intellekt üçün GPU-lar:

• klassik ML modelləri

• dərin öyrənmə modelləri

• təməl modelin incə tənzimləmələri

• Axtarış sistemləri (RAG stili qurğuları) Axtarışla Genişləndirilmiş Nəsil (RAG) sənədi

Addım 4: Yerləşdirmə 🚢

Modellər qablaşdırılır və aşağıdakı vasitələrlə çatdırılır:

• REST API-ləri Red Hat: REST API nədir?

• serversiz son nöqtələr SageMaker Serversiz Nəticə

• Kubernetes konteynerləri Kubernetes: Üfüqi Pod Avtomiqyaslama

• toplu çıxarış boru kəmərləri SageMaker Batch Transform Vertex AI toplu proqnozlar

Addım 5: Monitorinq + yeniləmələr 👀

İzləmə:

• gecikmə

• Dəqiqlik sürüşməsi SageMaker Model Monitoru

• Vertex AI Model Monitorinqi məlumat axını

• proqnoz başına xərc

• "Bu mümkün olmamalıdır..." deyə pıçıldamağa vadar edən kənar hallar 😭

Bu, mühərrikdir. Bu, sadəcə tərif kimi deyil, Bulud Hesablamasında hərəkətdə olan süni intellektdir.

---

Bulud Hesablamasında Süni İntellektin Yaxşı Bir versiyasını Nə Yaradır? ✅☁️🤖

Əgər "yaxşı" bir tətbiq istəyirsinizsə (sadəcə parlaq bir demo deyil), bunlara diqqət yetirin:

A) Narahatlıqların aydın şəkildə ayrılması 🧱

• məlumat təbəqəsi (saxlama, idarəetmə)

• təlim təbəqəsi (təcrübələr, boru kəmərləri)

• xidmət qatı (API-lər, miqyaslama)

• monitorinq təbəqəsi (metrikalar, qeydlər, xəbərdarlıqlar) SageMaker Model Monitor

Hər şey bir-birinə qarışdıqda, səhvlərin düzəldilməsi emosional ziyana çevrilir.

B) Varsayılan olaraq təkrarlana bilənlik 🧪

Yaxşı bir sistem əl yelləmədən aşağıdakıları bildirməyə imkan verir:

• bu modeli öyrədən məlumatlar

• kod versiyası

• hiperparametrlər

• ətraf mühit

Əgər cavab "hhh, məncə, çərşənbə axşamı qaçışı idi..."-dırsa, onsuz da çətinlik çəkirsiniz 😅

C) Qiymətə uyğun dizayn 💸

Bulud süni intellekt güclüdür, eyni zamanda təsadüfən həyat seçimlərinizi şübhə altına almağınıza səbəb olan bir qanun layihəsi yaratmağın ən asan yoludur.

Yaxşı qurğulara aşağıdakılar daxildir:

• avtomatik miqyaslama : Üfüqi Pod Avtomatik miqyaslama

• nümunə planlaşdırması

• mümkün olduqda ləkə ilə önlənə bilən seçimlər Amazon EC2 Spot Nümunələri Google Cloud Preemptible VM-ləri

• SageMaker Batch Transform-un önbelleği və toplulaşdırma nəticəsi

D) Təhlükəsizlik və uyğunluq 🔐-də

Sızan boruya yapışqan lent kimi sonradan bərkidilməyib.

E) Prototipdən istehsala doğru real bir yol 🛣️

Ən əsası budur. Buludda süni intellektin yaxşı bir "versiyası" MLOp-ları, yerləşdirmə nümunələrini və əvvəldən monitorinqi əhatə edir. Google Cloud: MLOp nədir?. Əks halda, bu, dəbdəbəli faktura ilə elm sərgisi layihəsidir.

---

Müqayisə Cədvəli: Buludda Süni İntellekt üçün Populyar Seçimlər (Və Kimlər Üçündür) 🧰📊

Aşağıda qısa, bir az fikirli cədvəl verilmişdir. Qiymətlər qəsdən genişdir, çünki bulud qiymətləri qəhvə sifariş etmək kimidir - baza qiyməti heç vaxt qiymət deyil 😵💫

Alət / Platforma	Tamaşaçı	Qiymətə uyğun	Niyə işləyir (qəribə qeydlər daxil olmaqla)
AWS SageMaker	ML komandaları, müəssisələr	İstifadəyə uyğun ödəniş	Tam yığımlı ML platforması - təlim, son nöqtələr, boru kəmərləri. Güclü, amma menyular hər yerdədir.
Google Vertex süni intellekt	ML komandaları, məlumat elmləri təşkilatları	İstifadəyə uyğun ödəniş	Güclü idarə olunan təlim + model reyestri + inteqrasiyalar. Kliklədikdə rahat hiss olunur.
Azure Maşın Öyrənməsi	Müəssisələr, MS mərkəzli təşkilatlar	İstifadəyə uyğun ödəniş	Azure ekosistemi ilə yaxşı işləyir. Yaxşı idarəetmə seçimləri, çoxlu düymələr.
Databricks (ML + Lakehouse)	Məlumat mühəndisliyi üzrə ağır komandalar	Abunəlik + istifadə	Məlumat boru kəmərləri + ML-ni bir yerdə qarışdırmaq üçün əladır. Praktik komandalar tərəfindən tez-tez sevilir.
Snowflake süni intellektinin xüsusiyyətləri	Analitikaya əsaslanan təşkilatlar	İstifadəyə əsaslanan	Dünyanız artıq anbarda olduqda yaxşıdır. Daha az "ML laboratoriyası", daha çox "SQL dilində süni intellekt"
IBM watsonx	Tənzimlənən sənaye sahələri	Müəssisə qiymətləri	İdarəetmə və müəssisə nəzarəti əsas diqqət mərkəzindədir. Çox vaxt siyasət baxımından ağır olan quruluşlar üçün seçilir.
İdarə olunan Kubernetes (Özün Hazırla)	Platforma mühəndisləri	Dəyişkən	Çevik və xüsusi. Həmçinin... qırıldıqda ağrıya sahibsiniz 🙃
Serversiz nəticə (funksiyalar + son nöqtələr)	Məhsul qrupları	İstifadəyə əsaslanan	Sürətli tıxaclar üçün əladır. Soyuq başlanğıcları və gecikmələri şahin kimi izləyin.

Söhbət "ən yaxşısını" seçməkdən getmir - əsas məsələ komandanızın reallığına uyğunlaşmaqdır. Əsas sirr budur.

---

Bulud Hesablamasında Süni İntellekt üçün Ümumi İstifadə Halları (Nümunələrlə) 🧩✨

Buludda süni intellekt quraşdırmalarının üstün olduğu yer budur:

1) Müştəri dəstəyinin avtomatlaşdırılması 💬

• söhbət köməkçiləri

• bilet marşrutlaşdırması

• xülasə

• hiss və niyyət aşkarlanması Bulud Təbii Dili API

2) Tövsiyə sistemləri 🛒

• məhsul təklifləri

• məzmun lentləri

• “İnsanlar da alıblar”
  Bunlar tez-tez miqyaslana bilən nəticə çıxarmağa və demək olar ki, real vaxt rejimində yeniləmələrə ehtiyac duyur.

3) Saxtakarlığın aşkarlanması və risklərin qiymətləndirilməsi 🕵️

Bulud, partlayışları idarə etməyi, hadisələri yayımlamağı və ansamblları işlətməyi asanlaşdırır.

4) Sənəd kəşfiyyatı 📄

• OCR boru kəmərləri

• varlıq çıxarışı

• müqavilə təhlili

• Snowflake Cortex Süni İntellekt funksiyaları ilə faktura təhlili Bir çox təşkilatda vaxtın səssizcə geri qaytarıldığı yer budur.
  

5) Proqnozlaşdırma və peşəkarlığa əsaslanan optimallaşdırma 📦

Tələb proqnozlaşdırılması, inventar planlaşdırması, marşrut optimallaşdırılması. Məlumatların böyük olması və tez-tez təkrar təlimlərin keçirilməsi buludun köməyinə çatır.

6) Generativ süni intellekt tətbiqləri 🪄

• məzmun layihəsi

• kod köməyi

• Daxili bilik botları (RAG)

• sintetik məlumatların generasiyası üzrə axtarış-genişləndirilmiş nəsil (RAG) sənədi.
  Bu, şirkətlərin nəhayət dediyi andır: “Məlumatlara giriş qaydalarımızın harada işlədiyini bilməliyik”. 😬

---

Hər Yerdə Görəcəyiniz Memarlıq Nümunələri 🏗️

Nümunə 1: İdarə olunan ML Platforması ("daha az baş ağrısı istəyirik" yolu) 😌

• məlumatları yükləyin

• idarə olunan işlərlə məşq edin

• idarə olunan son nöqtələrə yerləşdirin

• Platforma tablosundakı monitor SageMaker Model Monitor Vertex AI Model Monitorinqi

Sürət vacib olduqda və daxili alətləri sıfırdan qurmaq istəmədiyiniz zaman yaxşı işləyir.

Nümunə 2: Lakehouse + ML (“məlumat birinci” marşrutu) 🏞️

• Məlumat mühəndisliyi + Maşınla işləmə iş axınlarını birləşdirin

• Məlumatların yaxınlığında noutbuklar, boru kəmərləri, xüsusiyyət mühəndisliyi işlədin

• artıq böyük analitik sistemlərdə yaşayan təşkilatlar üçün güclüdür Databricks Lakehouse

Nümunə 3: Kubernetes üzərində konteynerləşdirilmiş ML ("nəzarət istəyirik" marşrutu) 🎛️

• qablarda paket modelləri

• Avtomatik miqyaslama siyasətləri ilə miqyaslama Kubernetes: Üfüqi Pod Avtomatik miqyaslama

• xidmət şəbəkəsini inteqrasiya etmək, müşahidə qabiliyyəti, sirləri idarə etmək

Həmçinin bu kimi tanınır: “Biz özümüzə əminik və həmçinin tək saatlarda sazlamanı sevirik.”

Nümunə 4: RAG (Geri Çıxarma ilə Genişləndirilmiş Nəsil) (“biliklərinizdən istifadə edin” marşrutu) 📚🤝

• bulud yaddaşında sənədlər

• yerləşdirmələr + vektor mağazası

• Axtarış təbəqəsi konteksti modelə ötürür

• məhəccərlər + giriş nəzarəti + qeydiyyat Axtarış-Genişləndirilmiş Nəsil (RAG) kağızı

Bu, müasir buludda süni intellekt söhbətlərinin əsas hissəsidir, çünki bir çox real biznesin generativ süni intellektdən təhlükəsiz şəkildə istifadə etməsi vacibdir.

---

MLOps: Hər kəsin qiymətləndirmədiyi hissə 🧯

Buludda süni intellektin istehsalda işləməsini istəyirsinizsə, MLOp-lara ehtiyacınız var. Dəbli olduğuna görə yox - modellərin sürüşməsi, məlumatların dəyişməsi və istifadəçilərin ən pis şəkildə yaradıcı olmasına görə. Google Cloud: MLOp nədir?

Əsas hissələr:

• Təcrübə izləmə: nə işə yaradı, nə işə yaramadı MLflow izləmə

• Model reyestri: təsdiq edilmiş modellər, versiyalar, metaməlumatlar MLflow Model Reyestri Vertex AI Model Reyestri

• ML üçün CI-CD: sınaq + yerləşdirmə avtomatlaşdırması Google Cloud MLOps (CD və avtomatlaşdırma)

• Xüsusiyyətlər mağazası: təlim və nəticə çıxarma üzrə ardıcıl xüsusiyyətlər SageMaker Xüsusiyyətlər Mağazası

• Monitorinq: performans dəyişikliyi, qərəz siqnalları, gecikmə, xərc SageMaker Model Monitor Vertex AI Model Monitorinqi

• Geri qaytarma strategiyası: bəli, adi proqram təminatı kimi

Bunu görməməzlikdən gəlsəniz, hər şeyin canlı olduğu, heç bir şeyin etiketlənmədiyi və qapını açmağa qorxduğunuz bir "nümunə zoopark"la qarşılaşacaqsınız.

---

Təhlükəsizlik, Məxfilik və Uyğunluq (Əyləncəli Hissəsi Ola Bilməz, Amma... Bəli) 🔐😅

Bulud hesablamalarında süni intellekt bir neçə maraqlı sual doğurur:

Məlumatlara giriş nəzarəti 🧾

Təlim məlumatlarına kim daxil ola bilər? Nəticə qeydləri? Tələblər? Çıxışlar?

Şifrələmə və sirlər 🗝️

Açarların, tokenlərin və etimadnamələrin düzgün işlənməsi tələb olunur. “Konfiqurasiya faylında” işlənmir.

Təcrid və kirayə 🧱

Bəzi təşkilatlar inkişaf, səhnələşdirmə və istehsal üçün ayrı mühitlər tələb edir. Bulud kömək edir - ancaq onu düzgün qurduğunuz təqdirdə.

Audit qabiliyyəti 📋

Tənzimlənən təşkilatlar tez-tez aşağıdakıları göstərməlidirlər:

• hansı məlumatlardan istifadə edilib

• qərarlar necə qəbul edildi

• kim nə yerləşdirdi

• IBM watsonx.government- i dəyişdirəndə

Model risklərinin idarə edilməsi ⚠️

Bura daxildir:

• qərəz yoxlamaları

• rəqib testi

• təcili inyeksiya müdafiəsi (generativ süni intellekt üçün)

• təhlükəsiz çıxış filtri

Bütün bunlar əsas məsələyə qayıdır: bu, sadəcə "onlayn süni intellekt" deyil. Bu, real məhdudiyyətlər altında idarə olunan süni intellektdir.

---

Qiymət və Performans Məsləhətləri (Sonradan Ağlamamaq Üçün) 💸😵💫

Döyüşdə sınaqdan keçirilmiş bir neçə məsləhət:

• Ehtiyacı ödəyən ən kiçik modeldən istifadə edin.
  Böyük olmaq həmişə daha yaxşı olmur. Bəzən sadəcə... daha böyük olur.

• Mümkün olduqda toplu nəticə
  Daha ucuz və daha səmərəli SageMaker Toplu Transform.

• Xüsusilə təkrarlanan sorğular və yerləşdirmələr üçün aqressiv şəkildə keşləmə
  

• Avtomatik miqyas, amma limiti məhdudlaşdırın
  Limitsiz miqyaslama limitsiz xərc demək ola bilər Kubernetes: Üfüqi Pod Avtomatik miqyaslama. Məndən necə bildiyimi soruşun... əslində, yox 😬

• Hər son nöqtə və hər xüsusiyyət üçün xərcləri izləyin.
  Əks halda səhv bir şeyi optimallaşdıracaqsınız.

• Təlim üçün spot-preemptible hesablamasından istifadə edin.
  Təlim işləriniz fasilələri idarə edə bilirsə, böyük qənaət əldə edə bilərsiniz. Amazon EC2 Spot Instances Google Cloud Preemptible VM-lər.

---

İnsanların etdiyi səhvlər (hətta ağıllı komandalar belə) 🤦♂️

• Bulud süni intellektinə "sadəcə bir modeli qoşmaq" kimi yanaşmaq

• Son dəqiqəyə qədər məlumatların keyfiyyətinə məhəl qoymamaq

• SageMaker Model Monitorunu izləmədən bir modelin göndərilməsi

• kadens üzrə yenidən hazırlıq planlaşdırmıram : MLOps nədir?

• Təhlükəsizlik qruplarının buraxılış həftəsinə qədər mövcud olduğunu unuduram 😬

• İlk gündən həddindən artıq mühəndislik (bəzən sadə bir təməl qazanır)

Həmçinin, sakitcə qəddar bir model: komandalar istifadəçilərin gecikməyə nə qədər nifrət etdiyini az qiymətləndirirlər. Bir az daha az dəqiq, lakin sürətli model çox vaxt qalib gəlir. İnsanlar səbirsiz kiçik möcüzələrdir.

---

Əsas Nəticələr 🧾✅

Bulud Hesablamasında süni intellekt bulud infrastrukturundan istifadə edərək süni intellekt qurmağın və işlətməyin tam təcrübəsidir - təlimin miqyaslandırılması, yerləşdirilmənin sadələşdirilməsi, məlumat boru kəmərlərinin inteqrasiyası və modellərin MLOps, təhlükəsizlik və idarəetmə ilə işlədilməsi Google Cloud: MLOps nədir? NIST SP 800-145.

Qısa xülasə:

• Bulud, süni intellektə miqyaslandırmaq və göndərmək üçün infrastruktur verir 🚀 NIST SP 800-145

• Süni intellekt bulud iş yüklərinə qərarları avtomatlaşdıran "beyinlər" verir 🤖

• Sehr sadəcə təlim deyil - bu yerləşdirmə, monitorinq və idarəetmədir 🧠🔐 SageMaker Model Monitoru

• Marketinq dumanına deyil, komanda ehtiyaclarına əsasən platformalar seçin 📌

• Xərcləri və əməliyyatları eynək taxan şahin kimi izləyin 🦅👓 (pis metafora, amma başa düşürsünüz)

Əgər buraya "bulud hesablamasında süni intellekt sadəcə bir model API-dir" deyə düşünərək gəlmisinizsə, xeyr, bu, bütöv bir ekosistemdir. Bəzən zərif, bəzən qarışıq, bəzən hər ikisi eyni günortadan sonra.

Real həyat nümunəsi: Bulud süni intellektinin qurulması dəstəyi - bilet triaj köməkçisi 🎫☁️

Ssenari

Təsəvvür edin ki, 40 nəfərlik SaaS şirkəti həftədə təxminən 180 müştəri dəstəyi bileti alır. Dəstək qrupu yardım masası alətindən istifadə edir, lakin hər bazar ertəsi səhər yenə də kimsə yeni biletləri oxumalı, kateqoriyanı seçməli, təcililiyi təyin etməli, müştərinin pullu planda olub-olmadığını yoxlamalı və problemi ödəniş, məhsul, mühəndislik və ya ümumi dəstəyə yönləndirməlidir.

Şirkətin nəhəng süni intellekt sisteminə ehtiyacı yoxdur. Biletləri təsnif edə, məsələni ümumiləşdirə, növbəti addımı təklif edə və insan tərəfindən nəzərdən keçirilmək üçün riskli halları qeyd edə bilən kiçik bir bulud süni intellekt iş axınına ehtiyacı var.

Praktik bir quruluş belə görünə bilər:

Biletlər hər saat bulud yaddaşına ixrac olunur

Serversiz iş bilet mətnini təmizləyir və lazımsız şəxsi məlumatları silir

təsnifat modeli və ya ev sahibliyi edən dil modeli bileti etiketləyir

Nəticələr yardım masası sisteminə geri yazılır

İdarəetmə paneli gecikməni, etibarlılıq ballarını, marşrutlaşdırma dəqiqliyini və bilet başına xərcləri izləyir

Əsas məqam: süni intellekt dəstək qrupunu əvəz etmir. O, təkrarlanan çeşidləmə işini azaldır ki, insanlar əsl problemi həll etməyə daha çox vaxt sərf etsinlər.

Köməkçinin nəyə ehtiyacı var

Bunun yaxşı işləməsi üçün komanda aşağıdakıları hazırlamalıdır:

Ödəniş, Giriş, Xəta, Xüsusiyyət Sorğusu, Ləğv, Təhlükəsizlik və Ümumi kimi bilet kateqoriyalarının siyahısı

Hər kateqoriya üçün 20-50 real keçmiş bilet nümunələri

hər şöbə üçün marşrutlaşdırma qaydaları

prioritet qaydaları, məsələn, “təhlükəsizlik məsələsi = təcili” və ya “müəssisə müştərisinin kəsilməsi = təcili”

köməkçinin heç vaxt etməməli olduğu şeylərin qısa siyahısı, məsələn, geri ödəmə vədi vermək, qanuni səhvi etiraf etmək və ya hesab parametrlərini dəyişdirmək

giriş nəzarəti, beləliklə süni intellekt iş axını yalnız həqiqətən ehtiyac duyduğu bilet sahələrini görür

qeyri-müəyyən hallar üçün ehtiyat qaydası

Sadə bir ehtiyat qaydası belə ola bilər:

Əgər etibar 80%-dən aşağıdırsa və ya biletdə hüquqi, təhlükəsizlik, geri ödəmə, ləğv, məlumatların sızması və ya tibbi/maliyyə zərəri qeyd olunursa, avtomatik yönləndirmə əvəzinə insan rəyçisinə göndərin.

Nümunə təlimat

Siz B2B SaaS şirkəti üçün dəstək biletlərinin çeşidlənməsi üzrə köməkçisiniz.

Müştəri mesajını oxuyun və geri qaytarın:

1. Məsələnin bir cümləlik xülasəsi

2. Bu siyahıdan bir kateqoriya: Ödəniş, Giriş, Xəta, Xüsusiyyət Sorğusu, Ləğv, Təhlükəsizlik, Ümumi

3. Prioritet: Aşağı, Orta, Yüksək və ya Təcili

4. Bunu idarə etmək üçün ən yaxşı komanda: Dəstək, Ödəniş, Məhsul, Mühəndislik, Təhlükəsizlik və ya Müştəri Uğuru

5. İnsan tərəfindən yoxlama tələb olunub-olunmaması: Bəli və ya Xeyr

6. Qərarınızın qısa bir səbəbi

Qaydalar:

Geri ödəmə vədi verməyin.
Hüquqi və ya təhlükəsizlik məsuliyyəti diaqnozu qoymayın.
Hesab məlumatlarını uydurmayın.
Mesaj aydın deyilsə, Ümumi seçimini edin və insan tərəfindən yoxlanılmasını tələb edin.
Müştəri məlumatların açıqlanması, hesabın ələ keçirilməsi, ödənişin uğursuzluğu və ya xidmətin kəsilməsindən bəhs edərsə, insan tərəfindən yoxlanılmasını tələb edin.

Bunu necə sınaqdan keçirmək olar

Bunu istehsala tətbiq etməzdən əvvəl, kiçik bir dəst real və ya anonim tarixi biletlərlə sınaqdan keçirin.

100 keçmiş biletdən istifadə edin və köməkçinin marşrutlaşdırmasını komandanın ilkin marşrutlaşdırma qərarı ilə müqayisə edin.

Yoxlayın:

İnsan etiketinə neçə kateqoriya uyğun gəldi

neçə təcili bilet düzgün şəkildə artırılıb

neçə aşağı prioritetli bilet səhvən təcili olaraq qeyd edilib

həssas biletlərin insan tərəfindən yoxlanılmasına göndərilib-göndərilmədiyi

Hər bilet üçün orta emal müddəti

100 bilet üçün qiymət

Sonra səliqəsiz nümunələrlə ikinci bir testi işə salın:

müştəri bütün yazıları böyük hərflərlə yazır

biletdə eyni anda üç buraxılış var

mesaj cəmi iki sözdən ibarətdir, məsələn, “can't login”

istifadəçi geri ödəmə tələb edir və qanuni tədbirlərlə hədələyir

müştəri mümkün təhlükəsizlik hadisəsi barədə məlumat verir

Bu testlər vacibdir, çünki təmiz demo biletləri asandır. Real istifadəçilər nizamsızlıqla, seyrək kontekstlə və gözlənilməz durğu işarələri ilə yazırlar.

Nəticə

Təsviredici nəticə: bu iş axınından istifadə etməzdən əvvəl və sonra beş tapşırıqlı əl ilə çeşidləmə nümunəsinin vaxtına əsaslanır.

Əl ilə proses:

Həftədə 180 bilet
Orta əl ilə çeşidləmə müddəti: hər bilet üçün 2 dəqiqə 30 saniyə
Ümumi çeşidləmə müddəti: həftədə 450 dəqiqə və ya 7,5 saat

Bulud süni intellektlə dəstəklənən proses:

Orta süni intellekt emal müddəti: hər bilet üçün 10 saniyədən az
İşarələnmiş biletlər üçün orta insan baxış müddəti: 1 dəqiqə 30 saniyə
İnsan baxış nisbəti: biletlərin 25%-i
Təxmini həftəlik çeşidləmə müddəti: 67,5 dəqiqə

Bu, həftədə təxminən 6,4 saat qənaət etməyə imkan verir.

Dəqiqlik ayrıca ölçülməlidir. Realist bir testdə komanda aşağıdakı kimi bir buraxılış qaydası təyin edə bilər:

insan etiketləri ilə ən azı 90% kateqoriya uyğunluğu

Təhlükəsizliklə bağlı biletlərin 100%-i insan tərəfindən yoxlanılmasına göndərilib

biletlərin 5%-dən azı səhv şöbəyə yönləndirilib

orta bilet qiyməti 0,05 funt sterlinqdən aşağıdır

Əgər köməkçi test dəstindəki bu rəqəmlərə cavab vermirsə, canlı biletləri avtomatik yönləndirmək əvəzinə, baxış rejimində qalmalıdır.

Nə səhv gedə bilər

Ən çox rast gəlinən nasazlıq qeyri-müəyyən kateqoriyalardır. Əgər "Xəta", "Texniki Problem" və "Məhsul Problemi" təxminən eyni mənanı ifadə edirsə, köməkçi uyğunsuz şəkildə təsnif edəcək.

Digər bir risk həddindən artıq avtomatlaşdırmadır. "Hesabıma başqası daxil olub" xəbəri adi giriş problemi kimi təsadüfən yönləndirilməməlidir. Bunun üçün eskalasiya, qeydiyyat və ehtimal ki, təhlükəsizlik iş axını tələb olunur.

Səhv qeydiyyat həmçinin məxfilik problemləri yarada bilər. Sorğular, bilet mətni, model çıxışları və səhv izləri həssas müştəri məlumatlarını ehtiva edə bilər. Yalnız lazım olanı saxlayın, girişi məhdudlaşdırın və saxlama qaydalarını təyin edin.

Xərclər də arta bilər. Əgər hər bir bilet daha kiçik bir təsnifatçı işləyərkən böyük bir modelə göndərilirsə, sistem lazımsız dərəcədə bahalı olur. Ən kiçik etibarlı seçimdən başlayın, sonra yalnız dəqiqliyin həqiqətən artdığı yerlərdə təkmilləşdirin.

Praktik yemək

Yaxşı bir bulud süni intellekt quruluşu kiçikdən başlayır: bir iş axını, aydın qaydalar, test məlumatları, insan baxışı və ölçülə bilən hədəflər. Dəstək çeşidləməsi üçün qazanc "Süni intellekt hər şeyi idarə edir" deyil. Qazanc daha sürətli çeşidləmə, daha az qaçırılmış təcili biletlər, daha təmiz təhvil vermə və komandanın kor-koranə etibar etmək əvəzinə izləyə biləcəyi bir sistemdir.

Tez-tez verilən suallar

Gündəlik həyatda "bulud hesablamasında süni intellekt" nə deməkdir

Bulud hesablamalarında süni intellekt, aparata sahib olmadan məlumatları saxlamaq, hesablamaları (CPU/GPU/TPU) işə salmaq, modelləri öyrətmək, yerləşdirmək və izləmək üçün bulud platformalarından istifadə etməyiniz deməkdir. Praktikada bulud bütün süni intellekt həyat dövrünün işlədiyi yerə çevrilir. Ehtiyac duyduğunuz zaman ehtiyac duyduğunuzu icarəyə götürürsünüz, sonra işiniz bitdikdə miqyası azaldır.

Niyə süni intellekt layihələri bulud tipli infrastruktur və MLO-lar olmadan uğursuz olur?

Əksər uğursuzluqlar modelin daxilində deyil, ətrafında baş verir: uyğunsuz məlumatlar, uyğunsuz mühitlər, kövrək yerləşdirmələr və monitorinqin olmaması. Bulud alətləri saxlama, hesablama və yerləşdirmə nümunələrini standartlaşdırmağa kömək edir ki, modellər "noutbukumda işlədi" mövzusunda ilişib qalmasınlar. MLOps çatışmayan yapışqanı əlavə edir: izləmə, qeydiyyatlar, boru kəmərləri və geri qaytarma, beləliklə sistem təkrarlana və saxlanıla bilən qalır.

Bulud hesablamalarında süni intellekt üçün məlumatlardan istehsala qədər tipik iş axını

Ümumi bir axın belədir: məlumatlar bulud yaddaşına yerləşdirilir, funksiyalara çevrilir, sonra modellər miqyaslı hesablamada təlim keçir. Daha sonra, API son nöqtəsi, toplu iş, serversiz quraşdırma və ya Kubernetes xidməti vasitəsilə yerləşdirirsiniz. Nəhayət, gecikməni, sürüşməni və dəyəri izləyir və sonra yenidən təlim və daha təhlükəsiz yerləşdirmələrlə təkrarlayırsınız. Əksər real boru kəmərləri bir dəfə göndərmək əvəzinə, daim dövrə vurur.

SageMaker, Vertex AI, Azure ML, Databricks və Kubernetes arasında seçim etmək

"Ən yaxşı platforma" marketinq səs-küyünə deyil, komandanızın reallığına əsasən seçim edin. İdarə olunan ML platformaları (SageMaker/Vertex AI/Azure ML) təlim işləri, son nöqtələr, qeydiyyatlar və monitorinqlə əməliyyat problemlərini azaldır. Databricks tez-tez ML-i boru kəmərlərinə və analitikaya yaxın istəyən məlumat mühəndisliyi ilə məşğul olan komandalara uyğun gəlir. Kubernetes maksimum nəzarət və fərdiləşdirmə təmin edir, eyni zamanda etibarlılığa, miqyas siyasətinə və problemlər yarandıqda ayıklamaya da sahibsiniz.

Bu gün süni intellekt bulud sistemlərində ən çox görünən memarlıq nümunələri

Daim dörd nümunə görəcəksiniz: sürət üçün idarə olunan ML platformaları, məlumatlara əsaslanan təşkilatlar üçün lakehouse + ML, nəzarət üçün Kubernetes-də konteynerləşdirilmiş ML və "daxili biliklərimizdən təhlükəsiz şəkildə istifadə etmək" üçün RAG (axtarışla artırılmış generasiya). RAG adətən bulud yaddaşındakı sənədləri, yerləşdirmələri + vektor anbarını, axtarış təbəqəsini və qeydiyyatı olan giriş nəzarətlərini ehtiva edir. Seçdiyiniz nümunə idarəetmə və əməliyyat yetkinliyinizə uyğun olmalıdır.

Komandalar bulud süni intellekt modellərini necə yerləşdirirlər: REST API-ləri, toplu işlər, serversiz və ya Kubernetes

REST API-ləri məhsul gecikməsi vacib olduqda real vaxt proqnozları üçün geniş yayılmışdır. Toplu nəticə, xüsusən də nəticələrin ani olması lazım olmadığı hallarda, planlaşdırılmış qiymətləndirmə və xərc səmərəliliyi üçün əladır. Serversiz son nöqtələr kəskin trafik üçün yaxşı işləyə bilər, lakin soyuq başlanğıclar və gecikmə diqqət tələb edir. Kubernetes, incə miqyaslama və platforma alətləri ilə inteqrasiyaya ehtiyac duyduğunuz zaman idealdır, lakin əməliyyat mürəkkəbliyi əlavə edir.

Süni intellekt sistemlərinin sağlam qalması üçün istehsalda nələrə nəzarət edilməlidir

Ən azı, etibarlılıq və büdcənin görünən qalması üçün gecikməni, səhv nisbətlərini və proqnoz başına xərcləri izləyin. Maşın öyrənmə tərəfində, model altında reallıq dəyişdikdə məlumat sürüşməsini və performans sürüşməsini izləyin. Xüsusilə istifadəçilərin yaradıcı şəkildə rəqib ola biləcəyi generativ istifadə halları üçün kənar halların və pis nəticələrin qeydiyyatı da vacibdir. Yaxşı monitorinq həmçinin modellər gerilədikdə geri çəkilmə qərarlarını dəstəkləyir.

Performansı azaltmadan bulud süni intellekt xərclərini azaltmaq

Ümumi yanaşma tələbi ödəyən ən kiçik modeldən istifadə etmək, sonra isə qruplaşdırma və keşləmə ilə nəticə çıxarmağı optimallaşdırmaqdır. Avtomatik miqyaslama kömək edir, lakin "elastikliyin" "məhdudiyyətsiz xərcləmə"yə çevrilməməsi üçün məhdudiyyətlər tələb olunur. Təlim üçün, işləriniz fasilələrə dözürsə, spot/preemptible computing çox qənaət edə bilər. Son nöqtə və hər xüsusiyyət üçün xərcləri izləmək, sistemin səhv hissəsini optimallaşdırmağınızın qarşısını alır.

Buludda süni intellektlə bağlı ən böyük təhlükəsizlik və uyğunluq riskləri

Böyük risklər nəzarətsiz məlumatlara giriş, zəif sirlərin idarə olunması və kimin nəyi öyrətdiyi və tətbiq etdiyi barədə yoxlama yollarının olmamasıdır. Generativ süni intellekt, təcili inyeksiya, təhlükəli çıxışlar və jurnallarda görünən həssas məlumatlar kimi əlavə baş ağrıları əlavə edir. Bir çox boru kəmərlərinin ətraf mühit izolyasiyasına (devredev/staging/prod) və sorğular, çıxışlar və nəticə qeydləri üçün aydın siyasətlərə ehtiyacı var. Ən təhlükəsiz qurğular idarəetməni işə salma həftəsi yamağı kimi deyil, əsas sistem tələbi kimi qəbul edir.

İstinadlar

1. Milli Standartlar və Texnologiya İnstitutu (NIST) - SP 800-145 (Son) - csrc.nist.gov

2. Google Cloud - Süni intellekt üçün qrafik prosessorlar - cloud.google.com

3. Google Cloud - Cloud TPU sənədləri - docs.cloud.google.com

4. Amazon Veb Xidmətləri (AWS) - Amazon S3 (obyekt saxlama) - aws.amazon.com

5. Amazon Veb Xidmətləri (AWS) - Məlumat gölü nədir? - aws.amazon.com

6. Amazon Veb Xidmətləri (AWS) - Məlumat anbarı nədir? - aws.amazon.com

7. Amazon Veb Xidmətləri (AWS) - AWS Süni İntellekt xidmətləri - aws.amazon.com

8. Google Cloud - Google Cloud AI API-ləri - cloud.google.com

9. Google Cloud - MLOps nədir? - cloud.google.com

10. Google Cloud - Vertex AI Model Reyestri (Giriş) - docs.cloud.google.com

11. Red Hat - REST API nədir? - redhat.com

12. Amazon Veb Xidmətləri (AWS) Sənədləri - SageMaker Batch Transform - docs.aws.amazon.com

13. Amazon Veb Xidmətləri (AWS) - Məlumat anbarı vs Məlumat Gölü vs Məlumat Mart - aws.amazon.com

14. Microsoft Learn - Azure ML reyestrləri (MLOps) - learn.microsoft.com

15. Google Cloud - Google Cloud Storage-a ümumi baxış - docs.cloud.google.com

16. arXiv - Axtarışla Genişləndirilmiş Nəsil (RAG) sənədi - arxiv.org

17. Amazon Veb Xidmətləri (AWS) Sənədləri - SageMaker Serversiz Nəticə - docs.aws.amazon.com

18. Kubernetes - Üfüqi Pod Avtomiqyaslama - kubernetes.io

19. Google Cloud - Vertex AI toplu proqnozları - docs.cloud.google.com

20. Amazon Veb Xidmətləri (AWS) Sənədləri - SageMaker Model Monitoru - docs.aws.amazon.com

21. Google Cloud - Vertex AI Model Monitorinqi (Model monitorinqindən istifadə etməklə) - docs.cloud.google.com

22. Amazon Veb Xidmətləri (AWS) - Amazon EC2 Spot Nümunələri - aws.amazon.com

23. Google Cloud - Öncədən təyin edilə bilən VM-lər - docs.cloud.google.com

24. Amazon Veb Xidmətləri (AWS) Sənədləri - AWS SageMaker: Necə işləyir (Təlim) - docs.aws.amazon.com

25. Google Cloud - Google Vertex AI - cloud.google.com

26. Microsoft Azure - Azure Maşın Öyrənməsi - azure.microsoft.com

27. Databricks - Databricks Göl Evi - databricks.com

28. Snowflake Sənədləri - Snowflake Süni İntellektinin xüsusiyyətləri (Ümumi Baxış Təlimatı) - docs.snowflake.com

29. IBM - IBM watsonx - ibm.com

30. Google Cloud - Cloud Natural Language API sənədləri - docs.cloud.google.com

31. Snowflake Sənədləri - Snowflake Cortex AI Funksiyaları (AI SQL) - docs.snowflake.com

32. MLflow - MLflow İzləmə - mlflow.org

33. MLflow - MLflow Model Reyestri - mlflow.org

34. Google Cloud - MLOps: Maşın öyrənməsində davamlı çatdırılma və avtomatlaşdırma boru kəmərləri - cloud.google.com

35. Amazon Veb Xidmətləri (AWS) - SageMaker Xüsusiyyət Mağazası - aws.amazon.com

36. IBM - IBM watsonx.government - ibm.com

Ən son süni intellekt texnologiyalarını rəsmi süni intellekt köməkçisi mağazasında tapın

Haqqımızda