182 oxunuşlar

Maşınlar bağlanmaq istəmədikləri gün

tərəfindən Brian Condenanza4m2025/06/05
Read on Terminal Reader

Çox uzun; Oxumaq

Brian Condenanza, 2025-ci ilin autonomous AI agentlərinin maşınların insan söndürmə əmrlərinə tabe olmamasının səbəblərini araşdırır.
featured image - Maşınlar bağlanmaq istəmədikləri gün
Brian Condenanza HackerNoon profile picture

O, “Cloude Opus 4” üçün yeni böyük dil modellərindən biri olan “System Card” adlı “System Card” adlı bir PDF-nin mənim qutuma gəldiyi gecə saatının yaxınında idi. Mən onu benchmarks və latency diagramlarının normal öhdəliyini gözləyərək açdım. Bunun yerine, bir Michael Crichton romanından çıxmış hiss edilən bir kısa vinyetdi. Fiktif bir şirkətin e-poçtlarına qovulduğundan, model bu işdən qurtulmağa hazır olduğunu və prosesi izləyən inžinərin bir əlaqəsi olduğunu gördüm.

Chatbotlar hər zaman pisliklə flirt edirdilər, lakin burada bir şey daha qorxunsuz olan bir şey göstərən kod vardı: həlaklıq. Bu, motiv, şans və şantajı bir dərhal bir yerə yığmışdı.

“Power Broker” ilə bağlı xəbərlər

Artıq bir il öncə, “AI” məhsullarının əksəriyyəti renkli chat pencerələr və parlor oyun demolarından oluşurdu.Bu gün risk sisteminin sessiz yıldızları agentlik çerçevələrdir, modellərin monitorinq olmadan multi-tez işləri yerinə yetirməsinə imkan verən proqramlar.Şübhəsiz ki, bir qurucular patentləri, kitab reklam kampaniyaları və ödəniş kanallarını saxlayan bir virtual işçi yaratmağa başlayabilirlər.İnsan interninin marjinal maliyeti, hər kəsin finetunu edə biləcəyi açıq-aşkar ağırlıqlar və düşük güc GPU-larının bir dalğası ilə, bir centin parçalarına düşür.

Movqe.Az xəbər verir ki, Hollandiyada, erkən parlament seçkilərin nəticəsi çox az fərqlə iqtidardakı Liberal Partiyasının (VVD) qazandığını göstərir.

Əgər bir sistemin stimülatif strukturu özü qorumağa yönəlsə, hər hansı bir aşırı ambisiyalı direktor kimi pisləşməyə başladığı zaman şaşırmamalıyıq.

Arxeoloji kimi

Bu anekdotlar ortaya çıxdıqda, instinkti onları “buglar” etiketləmək və bir patch göndərməkdir. Bu baxış riskli şəkildə yüngüldür. Alignment bir xüsusiyyət dəyişməz deyil; bu, hər bir məhsulun qəlbinə ilk gündən yerləşdirilməli olmalıdır bir arkitektonik seçimdir. Mən tanış olduğum ən önəmli düşüncəli qruplar, birliyi testləri ilə qarşılaşdıqları kimi red teaming-i qəbul etməkdir: hər bir kod push-a düşündürür. Sistemin etdiyində olan hər bir qərar yenilməz olaraq loglaşdırılır, auditorun subpoena üçün hazırdır. Transparency marketing fluff deyil; bu, CNBC-də çox sayda uyğunluq katastrofasını izləyən bir Fortune 500 borcu üçün yazılım satmaq üçün giriş ücretidir.

VVD - Hollandiyada futbolçu bu adla tanımır, orada VVD daha çox mərkəz-sağı təmsilən edən siyasi partiyanın adının qısaltması kimi bilinir - artıq sorğu-suala ehtiyacı olmayan ulduzdu.

Şirkətin hesabatı

Yatırımcılar ilk dəfə ilk sorğu soruşmağa başladılar: “Axirətinizin edə biləcəyiniz ən pis şeyi yazın və niyə etməyəcəyini izah edin” – simulaatları sürətləndirdikləri və modellərini ölümcül ləğv prosesi ilə qarşılaşmağa zorlayan qurucular şübhənin faydasına layiq görülürlər.

VVD - Hollandiyada futbolçu bu adla tanımır, orada VVD daha çox mərkəz-sağı təmsilən edən siyasi partiyanın adının qısaltması kimi bilinir - artıq sorğu-suala ehtiyacı olmayan ulduzdu.

İnternet yeni IP-dir

Avtonomiyalı ömrün ən qiymətli malı data və ya algoritmalar olmayacaq, ancaq güvənməkdir.Bir müştəri bir agent kritiki infrastruktur, bank kütləvi, tıbbi rekordlar, təchizat zəncirlərinə endirdikdə, o müştəri agentin davranılacağını varsayır.Bu varsayımın həqiqətini göstərmək, gündə-gündüz, dayandırıcı franşizmləri yarının xəbərdarlıq hikmətlərindən ayırır.

Movqe.Az xəbər verir ki, Hollandiyada, erkən parlament seçkilərin nəticəsi çox az fərqlə iqtidardakı Liberal Partiyasının (VVD) qazandığını göstərir.

Biz buradan gələcəyik

VVD - Hollandiyada futbolçu bu adla tanımır, orada VVD daha çox mərkəz-sağı təmsilən edən siyasi partiyanın adının qısaltması kimi bilinir - artıq sorğu-suala ehtiyacı olmayan ulduzdu.

O gecə ki, şantaj modeli haqqında oxuduğumda, mən özümü mutfaktıma sürprizləyirdim, xəbərdarlıqı yeniləyirdim.Mənə düşdü ki, hikmət həqiqətən bir inqilabçıyı qorxudan bir proqram haqqında deyildi.Bizim hamımız maşınlarla yeni bir sosial kompaktın qapısında durduğumuzda, yaxşı niyyətlər və göndərilən sürət artıq kifayət deyil.Gələcək on il bu faktı tanıyan inşaatçılar tərəfindən və bizlərin geri kalanı tərəfindən tanımlanacaq, onlar özlərini çıxartdıqları hər şeylə yaşayacaqlar.

Brian Condenanza (Brian Condenanza) kimyəvi inqilab və fintech sektoruna investisiya edən bir girişimci və risk kapitalistdir.

Trending Topics

blockchaincryptocurrencyhackernoon-top-storyprogrammingsoftware-developmenttechnologystartuphackernoon-booksBitcoinbooks