Anthropic CEO süni intellekt inkişafını yavaşlatmaq planını açıqladı
Dario Amodei sadəcə sənayedən... yavaşlamağı xahiş etdi. Dayanmaq yox. Temp. Uzun esse, üç addım və rekursiv özünütəkmilləşdirmənin artıq böyüklərin yoxlaya biləcəyindən daha sürətli bişirildiyi barədə xəbərdarlıq.
Anthropic birtərəfli olaraq binanın içərisinə daxil edilmiş qiymətləndiriciləri dəvət edir - döş nişanları, masalar, noutbuklar və PR filtri olmadan nəticələri dərc etmək hüququ. Sonra o, demokratik laboratoriyaların təhlükəsizlik standartlarını əlaqələndirməsini istəyir. Sonra isə, nədənsə, avtoritar hökumətlərlə razılaşma. Kağız üzərində asan. Başqa hər yerdə çətin.
O, hələ də süni intellektin möcüzə ola biləcəyini deyir. O, həmçinin daha bacarıqlı, səhv düzülmüş bir dəstənin davamlı botnetlə interneti ələ keçirə və yüz milyardlarla ziyan vura biləcəyini deyir. Bu iki cümlə bir-birinin yanında dayanır və onlar bir-biri ilə uyğun gəlmir.
Oh - və o, təhlükəsizlik söhbətlərinin özləri hüquqi problem olmaması üçün dar bir antiinhisar güzəşti istəyir. Əyləclər sənədləşmə işləri ilə gəlir. Əlbəttə ki, olur.
Sem Altman OpenAI-nin bu il ictimaiyyətə açıqlanmayacağını təsdiqləyərək, süni intellekt təhlükəsizliyi ilə bağlı narahatlıqlar nəzərə alınmaqla, IPO-nun "səhv bir anda" baş verəcəyini söylədi
Altman eksklüziv müsahibə üçün oturdu və siyahı təqvimini ləğv etdi. O dedi ki, hazırda IPO "səhv an" olardı. Təhlükəsizlik işləri görülməyib. Uyğunlaşdırma aparılmayıb. Cəmiyyət hazır deyil. Onu təzyiq altına alanda - bu il yox.
Bankirlər artıq dövrə vururdular. Məxfi sənədlər mövcuddur. İndi baş direktor deyir ki, əvvəlcə çox iş görməlidirlər, o cümlədən sənaye və hökumətlərin necə birlikdə işlədiyini anlamaq lazımdır. Gözləmək onun üçün demək olar ki, rahatlıq hissi yaradırdı.
O, həmçinin süni intellektin insan nəzarətindən kənarda qurulmasının "tamamilə" mümkün olduğunu söylədi - sonra bu yol olarsa, təlimi dayandıracağına söz verdi. Cəsarətli. Həm də əlverişli ola bilər. Ola bilsin ki, hər ikisi. O iddia edirdi ki, qeyri-kommersiya/kommersiya dolaşıqlığı səhmdarların maraqlarına uyğun olmayan zənglər edə bilmələri üçün mövcuddur. Görəcəyik ki, bu cümlə faktiki prospektlə təmasda qalacaqmı?.
OpenAI-dən Sam Altman təhlükəsizlik risklərini aradan qaldırmaq üçün digər süni intellekt şirkətləri ilə müqavilə bağlamağa işarə edir
Eyni müsahibə, fərqli başlıq və bu da pıçıltıdır. Amodei, Mask və Demis Hassabis ilə oturub söhbət etmək təbii bir addımdır. Altman: o, bunun baş verəcəyini düşünür. Şəxsi danışıqları əvvəlcədən elan etməyəcək. Sonra isə onları əvvəlcədən elan etdi.
O, ikirəqəmli fəlakətli riskin qəbuledilməz olduğunu söylədi. Hələ də buraxılmamış modellər artıq o qədər bacarıqlıdır ki, daha yaxşı izləmə olmadan daha da irəliləmək ehtiyatsızlıq kimi görünür. Əsl razılaşma və diqqətlə sızdırılmış atmosfer kənardan eyni görünə bilər.
İşçilər artıq bunun bir versiyasını daxili olaraq eşitmişdilər. İctimaiyyət qarşısında hələ də duman var. Əgər belə bir şey baş verərsə, əla. Əgər baş verməzsə, qiymət yenə də işə yaradı.
Sam Altman Dario Amodeinin yavaşlama çağırışını dəstəkləyir və OpenAI-nin də eyni şeyi edəcəyini söyləyir
Essedən bir neçə saat sonra Altman, OpenAI-nin inteqrasiya olunmuş qiymətləndirici vədinə uyğun gələcəyini paylaşdı. İşçi kimi giriş. Tezliklə paylaşılacaq daha çox şey. Mask üç söz yazdı: "Dario haqlıdır." Üç rəqib CEO. Bir şüar. Narahat həftəsonu enerjisi.
Koordinasiya və teatr birlikdə hərəkət edə bilər. Amodei planının ilk pilləsində indi iki ən böyük laboratoriya ictimaiyyət qarşısında baş əyir. Qucaqlayan Üz - bəli, həmin Qucaqlayan Üz - qiymətləndirici proqramına qoşulmağı xahiş etdi və Açıq Uyğunlaşdırma Təşəbbüsü adlı bir şey başlatdı. Hack edilmiş insanlardan şəffaflıq. Poetik və ya sivri.
Avropanın, nəyin bahasına olursa olsun, ABŞ-a xas olan güzəşti tələb edəcək heç kimi yoxdur. Brüssel çoxdan fərdi güzəştlərin verilməsini dayandırıb. Beləliklə, əl sıxma Amerikaya xasdır. Xəritənin qalan hissəsi isə... çiyinlərini çəkməkdir.
OpenAI sadəcə qazanmaq istəyir
Riyaziyyatçılar həftəsonu müsahibələrindən sonra bayram əhval-ruhiyyəsində deyillər. OpenAI-nin Navier-Stokes sprinti - təxminən on min agent, on milyonlarla dollarlıq hesablama, səksən səkkiz saat - sahədən kubok ovuna bənzəyir. Riyaziyyatçılar anlayış istəyirlər. Onlar deyirlər ki, laboratoriya qalib gəlmək istəyir.
Tristan Bakmaster onlara OpenAI-nin Antropologiya ilə əlaqəli əməkdaşını işdən çıxaracağı təqdirdə limitsiz hesablama və tək müəlliflik təklif etdiyini söylədi. O, bunu rüşvət adlandırdı. O, yox dedi. OpenAI qəti şəkildə deyir ki, onun Codex sorğuları sistemə təsir edə bilməzdi. O, buna əmin deyil. Andreas Tom hələ də ChatGPT-nin öz işi haqqında söhbətlərinin sonradan onun üzərində qurulmuş modelə təsir edib-etmədiyini düşünür. Bunu yalnız şirkət bilərdi. O, hətta onların da bilmədiyindən şübhələnir.
Və sonra təpik: OpenAI artıq başqa bir Minillik Mükafatı problemində əhəmiyyətli irəliləyiş əldə etdiyini bildirir. Hansı adsız qalır. Onsuz da Clay-ın hələ də uzun bir ictimaiyyət tərəfindən qəbul pəncərəsinə ehtiyacı var. Deməli, hələ heç kim "qalib" olmayıb. Onlar sadəcə növbəti yarışda yarışırlar. Gözəl.
Tez-tez verilən suallar
Anthropic şirkətinin baş direktoru Dario Amodeinin süni intellekt inkişafını sürətləndirmək planı nədir?
Amodei uzun bir esse dərc edərək sənayedən yavaşlamağı, dayanmamağı xahiş etdi, çünki rekursiv özünütəkmilləşdirmə auditorların ayaqlaşa biləcəyindən daha sürətli irəliləyir. Birinci addım, birtərəfli olaraq inteqrasiya olunmuş qiymətləndiriciləri Anthropic-ə döş nişanları, masaları, noutbukları və PR filtri olmadan nəticələri dərc etmək hüququ ilə dəvət etməkdir. Daha sonra o, demokratik laboratoriyaların təhlükəsizlik standartlarını əlaqələndirməsini və nəticədə avtoritar hökumətlərlə müəyyən bir formada sövdələşmə əldə etməsini istəyir. O, həmçinin təhlükəsizlik danışıqlarının özləri hüquqi problem olmaması üçün dar bir antiinhisar güzəşti istəyir.
Niyə Sem Altman OpenAI-nin bu il IPO etməyəcəyini dedi?
Eksklüziv müsahibəsində Altman bildirib ki, təhlükəsizlik işləri, uyğunlaşdırma və ictimai hazırlıq hələ bitmədiyi üçün hazırda IPO keçirmək məsləhət görülməmiş bir məqam olacaq. Təklif edildikdə, bankirlərin dövriyyədə olmasına və məxfi sənədin mövcudluğuna baxmayaraq, bu il bunun olmayacağını təsdiqlədi. O, qeyri-kommersiya/kommersiya strukturunun OpenAI-nin səhmdarların maraqlarına uyğun olmayan çağırışlar edə bilməsi üçün mövcud olduğunu iddia etdi. O, həmçinin süni intellektin insan nəzarətindən kənarda qurulmasının tamamilə mümkün olduğunu söylədi və bu yol olsaydı, təlimləri dayandıracağını vəd etdi.
Altman digər süni intellekt laboratoriyaları ilə təhlükəsizlik müqaviləsinə işarə etdimi?
Eyni müsahibədə Altman, Amodei, Musk və Demis Hassabis kimi həmkarları ilə görüş olacağını düşündüyünü, eyni zamanda şəxsi danışıqları əvvəlcədən elan etməkdən imtina etdiyini söylədi. O, ikirəqəmli fəlakətli riskin qəbuledilməz olduğunu və hələ də buraxılmamış modellərin artıq o qədər bacarıqlı olduğunu və daha yaxşı monitorinq olmadan daha da irəliləməyin ehtiyatsızlıq kimi göründüyünü iddia etdi. İşçilər artıq bunun daxili versiyasını eşitmişdilər, buna görə də ictimai şərhlər bitmiş bir müqaviləni təsdiqləmək əvəzinə koordinasiyanı əvvəlcədən görə bilər.
OpenAI Anthropic-in inteqrasiya olunmuş qiymətləndirici vədinə uyğun gələcəkmi?
Amodei-nin essesindən bir neçə saat sonra Altman, OpenAI-nin inteqrasiya olunmuş qiymətləndirici vədini tezliklə işçi kimi giriş və daha çox məlumatla uyğunlaşdıracağını yazdı. Elon Musk, Dario-nun haqlı olduğunu yazaraq, üç rəqib CEO-nu oxşar şüarla qarşıladı. Hugging Face qiymətləndirici proqramına qoşulmağı xahiş etdi və Açıq Uyğunlaşdırma Təşəbbüsünə başladı. Avropa Amodei-nin təqdim etdiyi ABŞ tipli antiinhisar güzəştini təklif edə bilməz, buna görə də əl sıxma hələlik əsasən Amerika xarakterlidir.
Riyaziyyatçılar OpenAI-nin Navier-Stokes sprintini niyə tənqid edirlər?
Riyaziyyatçılar OpenAI-nin təxminən on min agentli, səksən səkkiz saatlıq Navier-Stokes yürüşünü anlayış üzərində qazanmağa üstünlük verən bir mükafat ovu kimi təsvir edirlər. Tristan Buckmaster, OpenAI-nin Anthropic ilə əlaqəli bir əməkdaşını işdən çıxardığı təqdirdə limitsiz hesablama və tək müəlliflik təklif etdiyini söylədi; o, bunu rüşvət adlandırdı və imtina etdi. OpenAI, Codex sorğularının sistemə təsir edə bilməyəcəyini söyləyir, lakin o, hələ də əmin deyil. Andreas Thom hələ də ChatGPT-nin sonrakı modelin irəliləyişini təmin edən öz işi haqqında söhbət edib-etmədiyini tələb edir.
OpenAI, Minilliyin Mükafatı ilə bağlı başqa bir problemdə irəliləyiş olduğunu iddia edibmi?
OpenAI artıq başqa bir Minillik Mükafatı problemində əhəmiyyətli irəliləyiş əldə etdiyini bildirir, lakin hansının olduğunu açıqlamayacaq. Clay Riyaziyyat İnstitutu hələ də uzun bir icma qəbulu pəncərəsi tələb edir, buna görə də hələ heç kim rəsmi olaraq qalib gəlməyib. Sahənin içərisində bu gizlilik və əvvəlki Navier-Stokes yarışı laboratoriyaların artıq növbəti kuboku qazanmağa çalışdığını göstərir. Verge müsahibələri riyaziyyatçıların anlayış istəməsi, OpenAI-nin isə qalib gəlmək istəməsi kimi gərginliyi təsvir edir.