Anthropic  bildirib ki, sərhəd süni intellekt inkişaf etdiriciləri, inkişaf etmiş sistemlər cəmiyyətin riskləri idarə edə biləcəyindən daha sürətli özlərini təkmilləşdirməyə başlayarsa, inkişafı yavaşlatmaq və ya müvəqqəti olaraq dayandırmaq üçün əlaqələndirilmiş, yoxlanıla bilən bir yol yaratmalıdırlar.

Süni intellekt startapı bildirib ki, özünü qura bilən süni intellekt texnologiya tarixində böyük bir inkişaf olardı, lakin tam rekursiv özünütəkmilləşdirmə insanların süni intellekt sistemləri üzərində nəzarəti itirmə riskini də artıra bilər.

"Əgər sistemlər öz varislərini tam şəkildə qura bilirlərsə, onları təmin etməyimiz, izləməyimiz və davranışlarını formalaşdırmağımız yolları daha da vacibləşir."

Məsələn, Anthropic, may ayı etibarilə kod bazasına birləşdirilmiş kodun 80 faizindən çoxunun Klod tərəfindən müəllif olduğunu bildirib.

Şirkət bildirib ki, ictimai strukturların və uyğunlaşdırma tədqiqatlarının texnologiyanın inkişafına uyğunlaşmasını təmin etmək üçün sərhəd süni intellektinin inkişafını yavaşlatmaq və ya müvəqqəti olaraq dayandırmaq seçiminin olması dünya üçün yaxşı olardı"ə.

Lakin, daha az ehtiyatlı aktyorlar irəliləməyə davam edərsə, birtərəfli və ya zəif əlaqələndirilmiş yavaşlamaların əks təsir göstərə biləcəyi və ümumi təhlükəsizliyi potensial olaraq azalda biləcəyi barədə xəbərdarlıq edildi.

O, mənalı bir fasilənin texnoloji sərhəddə fəaliyyət göstərən "çoxsaylı yaxşı təchiz olunmuş laboratoriyalar" arasında razılaşma, eləcə də belə bir fasiləni hansı şərtlərin tetikleyeceği və ya ləğv edəcəyi və kimin nəzarət edəcəyi barədə qaydaların tələb olunduğunu vurğuladı.

Anthropic əlavə etdi ki, tək bir şirkət tərəfindən birtərəfli fasilənin tətbiqi daha asan olardı, lakin daha geniş qlobal müzakirələri təşviq etmək əvəzinə, əsasən rəhbərliyi dəyişdirərək məhdud təsir göstərərdi.

Onun tədqiqat qolu olan Anthropic İnstitutu, yavaşlamanı dəstəkləmək üçün lazım olan sistemləri öyrənməyi və qurmağa kömək etməyi planlaşdırır.

Növbəti aylarda Anthropic əsas sualları araşdırmaq üçün siyasətçilər, tədqiqatçılar, vətəndaş cəmiyyəti qrupları və digər süni intellekt firmalarının iştirakı ilə müzakirələr keçirməyi planlaşdırır.

Bu suallara rekursiv özünütəkmilləşdirmə kimi süni intellektlə əlaqəli risklərin necə idarə olunması və koordinasiya mexanizmlərinin necə təkmilləşdirilməsi daxildir.

Ötən ay Anthropic şirkəti 965 milyard dollar dəyərində qiymətləndirən və bazar ertəsi günü ABŞ-da ilkin kütləvi təklif üçün məxfi şəkildə müraciət edən ianə toplama mərhələsini başa vurdu.

Reportyor.az 



KARUSEL / CƏMİYYƏT