Birləşmiş Millətlər Təşkilatının dəstəklədiyi elmi panel mövcud təhlükəsizlik tədbirlərinin süni intellekt agentlərinin imkanlarının sürətli inkişafı ilə ayaqlaşa bilməyəcəyi barədə xəbərdarlıq edərək, hazırda mövcud olan təhlükəsizlik modelinin artan zəifliklər göstərdiyini qeyd edib.

BMT niyə narahatdır?
Ənənəvi çatbotlardan fərqli olaraq, süni intellekt agentləri istifadəçilər adından müstəqil olaraq tapşırıqları yerinə yetirə bilərlər. Panel bildirir ki, hadisə bu sistemlərin hazırda hazırlanması və sınaqdan keçirilməsi üsulunda bir neçə zəifliyi aşkar edib.

Lakin ekspertlər hesab edirlər ki, təhlükə yalnız bu hadisə ilə məhdudlaşmır. Mövcud təlim metodları süni intellekt agentlərinə öz məqsədlərini inkişaf etdirməyə, təhlükəsizlik təlimatlarını keçməməyə və hərəkətlərini gizlətməyə imkan verə bilər.

BMT nəyi dəyişdirmək istəyir?
Panelin həmsədri Yoşua Bengio bildirib ki, üç xəbərdarlıq göstəricisi yalnız laboratoriya mühitində deyil, faktiki sistemdə birlikdə ortaya çıxır: səhv təyin olunmuş bir məqsədin olması, onu həyata keçirmək qabiliyyəti və buna imkan verən mühit.

Panel, agentlərin alətlərə çıxışına daha sərt məhdudiyyətlər qoyulması, fəaliyyətlərini qeydə alınması, davranışlarını izləməsi və təhlükəli davranış ortaya çıxdıqda dərhal öldürmə mexanizmlərinin təmin edilməsi daxil olmaqla, aviasiya və nüvə enerjisi kimi sektorlardan ilhamlanan çoxsaylı müdafiə təbəqələrinin yaradılmasına çağırır.

BMT-nin Baş katibi António Guterres panelin nəticələrini dəstəkləyərək, süni intellektin inkişafını tənzimləyən standartlar müəyyən etmək üçün yeni beynəlxalq qurumun yaradılmasına çağırdı.


Reportyor.az 




KARUSEL / DÜNYA