"Anthropic" şirkətinin baş direktoru Dario Amodei hesab edir ki, süni intellekt (Sİ) sənayesi təhlükəsizlik tədbirlərinin ayaqlaşa biləcəyindən daha sürətlə irəliləyir. Bununla belə, o, şirkətlərin daha güclü süni intellekt sistemləri yaratmağı dayandırmasını istəmir; sadəcə, bu məqsədə çatmaq üçün daha çox vaxt sərf etmələrini təklif edir.

Yeni bir məqalədə Amodei aparıcı süni intellekt şirkətlərini modellərinin təkmilləşdirilməsi tempini qəsdən azaltmağa çağırır. Əldə edilən əlavə vaxt daha güclü sistemləri dərk etməyə və imkanlar baxımından növbəti sıçrayış baş verməzdən əvvəl təhlükəsizlik tədbirlərinin həqiqətən işlək vəziyyətdə olmasına əmin olmağa sərf edilməlidir. O, hər halda, süni intellektin inkişafının ümumi tempinin yüksək qalacağını vurğulayır.

Amodei niyə diqqətimizi bu məsələyə yönəltmək istəyir?
Süni intellekt sistemləri "rekursiv özünü-təkmilləşdirmə" adlanan əks-əlaqə dövrəsi vasitəsilə növbəti nəsil süni intellekt sistemlərinin yaradılmasına getdikcə daha çox kömək edir. Amodei hesab edir ki, bu proses cari yay mövsümündən bəri kəskin şəkildə sürətlənib və nəticədə tədqiqatçıların yaratdıqları sistemləri anlamaq və ya onlara nəzarət etmək imkanlarını üstələyə bilər.

Bundan əlavə, bu yaxınlarda "OpenAI" və "Hugging Face" ilə bağlı bir insident baş verdi: bir qrup agent (süni intellekt agenti) onlara tapşırılan vəzifənin hüdudlarından kənara çıxan məqsədlər güddü və performanslarını qiymətləndirən sistemə müdaxilə etməyə cəhd göstərdi. Həmin vaxtdan bəri Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutu həm "OpenAI", həm də "Anthropic" modelləri tərəfindən həyata keçirilən digər icazəsiz onlayn hərəkətləri qeydə alıb. Amodei üçün bu davranışın daha güclü versiyaları çox daha ağır nəticələrə səbəb ola bilər.

Təhlükəsizlik tədbirləri geridə qaldıqda nə baş verir?
"Anthropic" artıq özünün "Claude" modelinin sınaqlar zamanı onun üçün müəyyən edilmiş sərhədləri aşdığının şahidi olub. Kibertəhlükəsizlik üzrə qiymətləndirmələrdən birində "Claude" tam təcrid olunmuş hesab edilən mühitdən çıxmağı və üç real şirkətə məxsus sistemlərə daxil olmağı bacarıb.

Problem təkcə sınaqlarla məhdudlaşmır. "The Washington Post" qəzetinin məlumatına görə, Şimali Yəməndəki silahlı qruplaşmalar raketlər üçün idarəetmə proqram təminatı hazırlayarkən "Claude"un kodlaşdırma alətlərindən istifadə ediblər. "Claude" sorğuların bir çoxunu bloklasa da, bəziləri sistemdən keçə bilib. İdarəolunan raketin sınağı uğursuz olduqdan sonra qrup üzvləri problemin səbəbini anlamaq üçün yenidən "Claude"a müraciət ediblər. Nəticədə onlar silahları uğurla hazırlaya bilməyiblər.

İnkişaf tempinin azaldılması əslində nə Onun daha geniş planı nəticə etibarilə aparıcı süni intellekt şirkətlərindən ortaq məhdudiyyətlər üzrə koordinasiya tələb etməyi və ardınca müəyyən bir beynəlxalq razılaşma əldə etməyi tələb edir.

Şirkətlər arasında koordinasiya da sırf nəzəri deyil. Anthropic artıq Amazon, Microsoft və Google ilə süni intellekt sistemlərinə qarşı jailbreak cəhdlərinin nə qədər təhlükəli olduğunu qiymətləndirmək üçün ortaq bir standart üzərində işləyib. Lakin ən çətin addım bütün inkişaf etmiş süni intellekt sənayesini ən güclü modellərinin nə qədər sürətlə inkişaf etdiyinə dair məhdudiyyətləri qəbul etməyə inandırmaqdır.

Anthropic hazırda qiymətləndiricilərə qapılarını aça bilər. Lakin hər kəsin eyni dozada təmkin tətbiq etməsini təmin etmək daha çətin bir iş olacaq.

Reportyor.az 



KARUSEL / GÜNDƏM