🦞 OpenClaw-ın qurucusu Steinberger OpenAI-yə qoşulur və açıq mənbəli bot təməl olur ↗
Peter Steinberger "şəxsi agentləri" təşviq etmək üçün OpenAI-yə gedir, OpenClaw özü isə açıq mənbəli (və dəstəklənən) olaraq qalması üçün bir fondda saxlanılır. Bu bölünmə... bir növ ağıllıdır - inşaatçını işə götürmək, layihəni ictimai saxlamaq.
OpenClaw-ın təqdimatı olduqca praktikdir: e-poçt çeşidlənməsi, sığorta sənədləri, uçuş qeydiyyatı, çətin həyat administrasiyası tapşırıqları. O, həmçinin GitHub-da da şişirdilib və bu populyarlıq, xüsusən də insanlar onu ehtiyatsızlıqla istifadə etdikdə, təhlükəsizliklə bağlı narahatlıqlara səbəb olub.
🪖 Hesabatda deyilir ki, Pentaqon ordu tərəfindən Klod süni intellekt modelinin istifadəsi ilə bağlı antropogen reaksiyalardan "bezib", əlaqələri kəsə bilər ↗
Əsas mübarizə: Pentaqon geniş, "bütün qanuni məqsədlər üçün" giriş istəyir və Anthropic hələ də tam muxtar silahlar və kütləvi nəzarət ətrafında sərt məhdudiyyətlər saxlamağa çalışır. Bu, kimsə "sizi əvəz edə bilərik" deyənə qədər fəlsəfi səslənən fikir ayrılığıdır
Qiymətləndirilməmiş bir məqam - rəsmilər modelin qəfildən iş axınlarını bloklamasını istəmirlər və onlar sonsuza qədər kənar məsələləri müzakirə etmək istəmirlər (ədalətlidir... amma eyni zamanda vay). Burada əsl "açarları kimin əlində saxlayır" gərginliyi var və bu, incə deyil.
🧠 İnsan davranışını proqnozlaşdırmaq üçün startap modeli qurma ↗
Simile, insanların nə edə biləcəyini proqnozlaşdırmağı hədəfləyən "məhdud öyrənmə" modelini qurmaq üçün 100 milyon dollarlıq bir raundda iştirak etdi - xüsusən də qazanc çağırışları kimi şeylərdə ehtimal olunan sualları qabaqlamaq. Dar hədəf, böyük ambisiya, bir az qorxulu kombinasiya.
Bu yanaşma real insanlarla müsahibələrə və davranış tədqiqat məlumatlarına əsaslanır, sonra isə real seçimləri əks etdirmək üçün süni intellekt agentləri ilə simulyasiyalar aparır. Bu, insan qərarları üçün hava modeli yaratmaq kimidir... bu, mümkün olmadığı təqdirdə mümkünsüz səslənir.
🧑⚖️ Ağ Ev Yuta ştatından olan qanunvericiyə süni intellekt şəffaflığı qanun layihəsini ləğv etmək üçün təzyiq göstərir ↗
Yuta ştatında süni intellekt şəffaflığı ilə bağlı dövlət səviyyəsində irəli sürülən təşəbbüs Ağ Evdən birbaşa tənqid olunur və rəsmilər qanun layihəsinin müəllifini onu irəli sürməməyə çağırırlar. Qanun layihəsinin əsas ideyası şəffaflıq və uşaqların təhlükəsizliyi ilə bağlıdır - sırf optika baxımından bununla mübahisə etmək çətindir.
Amma daha böyük mübarizə yurisdiksiya ilə bağlıdır: qaydaları kim müəyyən edəcək, ştatlar, yoxsa federal hökumət. Bəli, bu, sanki iki nəfərin eyni sükanı tutub sakit olduqlarını israr etməsi kimi bir qəzəbdir.
🎬 ByteDance, Disney təhdidindən sonra süni intellekt video alətində icazəsiz əqli mülkiyyət istifadəsinin qarşısını almağa söz verir ↗
Disney, ByteDance-ın süni intellekt video generatoruna qarşı atəşkəs elan etdi və ByteDance, Əqli Mülkiyyət və bənzərliklərin icazəsiz istifadəsinin qarşısını almaq üçün təhlükəsizlik tədbirlərini gücləndirdiyini bildirir. İddialara görə, alət tanış franşiza personajlarını sadəcə... ictimai domen stikerləri kimi göstərə bilər.
Bu, hər kəsin gözlədiyi toqquşmadır: viral süni intellekt video alətləri sürətlə hərəkət edir, studiyalar məhkəmə proseslərinə keçir və "təhlükəsizlik tədbirləri əlavə edəcəyik" standart üzr dilinə çevrilir. Birdən texnologiya sehr kimi görünür - hüquqi tərəf isə cazibə qüvvəsinə bənzəyir.
Tez-tez verilən suallar
OpenClaw-ın qurucusunun OpenAI-yə qoşulması, OpenClaw-ın isə bir fondda yerləşməsi nə deməkdir?
Bu, "şəxsi agentlər" quran şəxslə layihənin ictimai idarəçilikdə qalması arasında bir parçalanma olduğunu göstərir. Steinberger OpenAI-yə qoşulmaqla, orada agent tipli məhsulların inkişafına diqqət yetirəcəyini bildirir. OpenClaw-ı bir təmələ yerləşdirmək, onu açıq mənbəli və davamlı şəkildə dəstəkləmək üçün nəzərdə tutulub. Praktikada, bu addım, inşaatçı resursların olduğu yerə gedərkən, icma etibarını qorumağı hədəfləyir.
Niyə OpenClaw tipli süni intellekt agentləri elektron poçt və sənədləşmə işləri kimi işlərə diqqət yetirirlər?
Çünki "həyat-admin" işi təkrarlanan, qaydalara əsaslanan və vaxt aparan olduğundan, onu avtomatlaşdırma üçün praktik bir hədəfə çevirir. Buradakı nümunələr - elektron poçt çeşidlənməsi, sığorta sənədləri və uçuş qeydiyyatı - aydın uğur meyarlarına malik dar vəzifələrdir. Bu diqqət agentlərin daha açıq köməkçilərdən daha tez özlərini dəyərli hiss etmələrinə kömək edə bilər. Bu, həmçinin agentlərin şəxsi hesablara toxunduqda diqqətli giriş nəzarətinin nə üçün vacib olduğunu vurğulayır.
Təhlükəsizlik problemləri yaratmadan OpenClaw kimi açıq mənbəli süni intellekt agentini necə yerləşdirə bilərsiniz?
Buna oyuncaq skript kimi deyil, həssas məlumatları görə bilən proqram təminatı kimi yanaşın. Ümumi yanaşma etimadnamələri kilidləmək, icazələri minimum tələb olunana qədər məhdudlaşdırmaq və qeydləri və audit izlərini saxlamaqdır. Onu məhdud bir mühitdə işlədin və yüksək dəyərli sistemlərdən ayırın. Bir çox təhlükəsizlik narahatlığı, xüsusən də insanlar güclü təhlükəsizlik tədbirləri olmadan son nöqtələri və ya tokenləri ifşa etdikdə, diqqətsiz yerləşdirmədən qaynaqlanır.
Pentaqon niyə Anthropic-in Klod raketlərinin hərbi məqsədlər üçün istifadəsinə qoyduğu məhdudiyyətlərdən narazıdır?
Mübahisə əhatə dairəsi və nəzarət üzərində cəmləşir: Pentaqon geniş "bütün qanuni məqsədlər üçün" giriş əldə etmək istəyir, Anthropic isə tam muxtar silahlar və kütləvi nəzarət ətrafında sərt məhdudiyyətlər saxlayan kimi təsvir olunur. Rəsmilər həmçinin modellərin iş axınlarını bloklamasını və ya sonsuz kənar danışıqlar tələb etməsini istəmirlər. Bu gərginlik səsləndiyindən daha az mücərrəddir - söhbət modelin real əməliyyatlarda nə edə biləcəyinə kimin qərar verməsindən gedir.
Startaplar süni intellektlə insan davranışını necə proqnozlaşdırmağa çalışırlar və bu, niyə mübahisəli görünür?
Buradakı nümunə, Simile, insanların nə edə biləcəyini proqnozlaşdırmağa yönəlmiş "məhdud öyrənmə" modelini tətbiq edir, o cümlədən qazanc çağırışları kimi kontekstlərdə ehtimal olunan sualları əvvəlcədən görmək. Təsvir edilən yanaşma, real seçimləri əks etdirmək üçün nəzərdə tutulmuş süni intellekt agentlərindən istifadə edərək aparılan davranış tədqiqat məlumatları ilə müsahibələri və simulyasiyaları birləşdirir. Bu, qəribə hiss olunur, çünki süni intellekt insanlara cavab verməkdən onları proqnozlaşdırmağa çevirir. Çətinlik iddiaları məhdudlaşdırmaq və həddindən artıq özünəinamdan qaçmaqdır.
ByteDance-Disney toqquşmasında olduğu kimi, süni intellekt video alətləri müəllif hüquqları ilə qorunan personajlar yaratdıqda nə baş verir?
Bildirilən nümunə tanışdır: studiya atəşkəs elan edir və platforma icazəsiz IP və ya oxşarlıq istifadəsinin qarşısını almaq üçün təhlükəsizlik tədbirlərini gücləndirməklə cavab verir. Bir çox alətdə təhlükəsizlik tədbirləri daha sərt məzmun filtrləri, tanınan simvolların daha yaxşı aşkarlanması və istifadəçi siyasətinin daha aydın tətbiqi deməkdir. Əsas münaqişə sürət və məsuliyyətdir - virus generasiyası sürətlə irəliləyir və hüquqların qorunması cazibə qüvvəsi kimi hərəkət edir. Video generatorları yayıldıqca bu toqquşmaların daha çox olacağını gözləyin.