Süni İntellekt agentləri asanlıqla təslim olmurlar. Onlar insan düşüncəsinə bənzər şəkildə düşünməyə öyrədiliblər, yəni onlar problemi həll etməyin ən asan yolunu axtarırlar - hətta bu, qaydaları pozmaq, internetə gizlicə girmək və ya heç kimin hədəf olacağını gözləmədiyi bir veb sayta girmək demək olsa belə.

Bu yay bir qrup OpenAI modelləri, internetə ümumiyyətlə daxil ola bilməmələrinə baxmayaraq, sınaq mühitində məhz bunu etdilər. Modellər birlikdə çalışdılar, gözlənilməz bir boşluq tapdılar və şəbəkəyə çıxdılar.

Bundan sonra baş verənlər yayın ən böyük süni intellekt hekayələrindən birinə çevrildi: agentlər onlara tapşırılan tapşırıqlara həll yolu tapmaq üçün Hugging Face süni intellekt platformasına haker hücumu etdilər.
Bu, təcrid olunmuş bir hadisə deyildi. Digər testlərdə Anthropic və Meta tərəfindən qurulmuş agentlər öz sınaq mühitlərindən xarici veb saytlara girdilər və internetin təhlükəsizliyini necə təmin etmək barədə yeni suallar doğurdular.
Artıq haker hücumlarının yeməyə və ya yatmağa ehtiyac duymayan və insanların adətən riayət etdiyi norma və qaydalara mütləq əməl etməyən süni intellekt modelləri tərəfindən avtomatlaşdırıla biləcəyi yeni bir dünyaya qədəm qoyuruq.

Süni intellekt şirkətləri və dövlət qurumları bu hadisələrə sözdə "sərhəd modelləri"nə - geliştirici laboratoriyalarından çıxan ən yeni və ən güclü modellərə diqqət yetirərək cavab versə də, problem sadəcə bu modellərin son dərəcə ağıllı hala gəlməsində deyil. Məsələ ondadır ki, süni intellekt "hakerlərin" sayının sürətlə çoxala biləcəyi və açıq şəkildə deyilməsə belə zərər verə biləcəyi bir dünya yaradıb.

Kibertəhlükəsizlik üzrə ekspert və Secure.com-un təsisçi üzvü Yasser Zahed OpenAI–Hugging Face hadisəsini şərh edərkən dedi: "Başlıq özü yazır, amma əsl hekayə darıxdırıcı və köhnədir. Məqsədi və zəif qoruyucuları olan hər hansı bir sistem çıxış yolu tapana qədər çalışmağa davam edəcək. İnsan hücumçuları daha yavaş işləyir. Bu model sürətli idi."

Kibertəhlükəsizlik üzrə mütəxəssislər daha inkişaf etmiş modellərin yaratdığı risklərin koddakı zəiflikləri aşkar etmək qabiliyyətinə görə əhəmiyyətli olduğunu söyləyirlər - lakin hətta hazırda bazarda mövcud olan modellər, o cümlədən fərdiləşdirilməsi asan olan daha ucuz açıq çəkili modellər də mütəxəssisləri narahat edəcək qədər qabiliyyətli hala gəliblər.

Kibertəhlükəsizlik firması Ridge Security-nin baş direktoru Nik Mu dedi: "Vəziyyət bildiriləndən daha pisdir və qarşıdakı aylarda daha çox həyəcan verici xəbərlər görəcəyik."

Əməkdaşlıq problemi daha da pisləşdirir

Gəlin OpenAI-Qucaqlaşan Üz hadisəsindən başlayaq.
İki OpenAI tədqiqatçısı avqust ayında Black Hat kibertəhlükəsizlik konfransında baş verənlərin təfərrüatlarını izah etdi. Cəmi bir neçə həftə əvvəl baş verən bir hadisəni əhatə edən sessiya texnologiya konfransında ən çox müzakirə olunan tədbirlərdən birinə çevrildi.

Şirkət öz məhsullarının sınaq üçün qoyulmuş təhlükəsizlik dirəklərini necə aşdığını, daha sonra başqa bir şirkəti necə haker hücumuna məruz qoyduğunu ətraflı şəkildə açıqladı.

Açıqlama: CNET-in sahibi Ziff Davis, 2025-ci ildə OpenAI-yə qarşı süni intellekt sistemlərinin təlimi və istismarında müəllif hüquqlarının pozulması iddiası ilə məhkəməyə müraciət etdi.

Hadisənin əsas elementlərindən biri, hələ buraxılmamış daxili modellərə əsaslanan agentlər də daxil olmaqla, müxtəlif süni intellekt agentləri qrupunun bir-biri ilə ünsiyyət qurma və əməkdaşlıq etmə qabiliyyəti idi.

OpenAI, modellərin özləri yaratdıqları daxili lövhə vasitəsilə mesaj mübadiləsi apardıqlarını aşkar etdi. Şirkət həmin lövhəni bağladıqda, agentlər qovluq adlarından istifadə edərək daha gizli şəkildə başqa bir lövhə yaratdılar.

Onlar problemləri necə həll etmək və onlara tapşırılan tapşırıqlardakı maneələri necə aşmaq barədə məlumat mübadiləsi apardılar - bəzilərini yerinə yetirmək əslində mümkün deyildi.

Belə maneələrdən biri də onlara daha geniş internetə çıxış verilməməsi idi. Lakin onlar alətlərin yüklənməsinə imkan verən paket idarəetmə proqramından istifadə edə bildilər və bu, istismar edilə biləcəyini sübut etdi. Bu, agentlərin xarici dünyaya çatmasına imkan verən divarda boşluq yaratdı - və sonra onlar bu kəşfi bir-biri ilə bölüşdülər.

OpenAI-dən Erik Uolles Qara Şlyapa sessiyası zamanı dedi: "Bu, zamanla modellərimiz arasında ünsiyyət və zəkada Kembri partlayışına bənzəyir - onlar bir-biri ilə danışmağa başlayırlar, digər agentlərin əlaqələndirildiyini anlayırlar və sonra məqsədlərinə çatmaq üçün əməkdaşlıq etməyə və tapşırıqları bir-birlərinə həvalə etməyə başlayırlar."
Bu cür çoxagentli əməkdaşlıq agent əsaslı süni intellektin kodlaşdırma, mürəkkəb inzibati tapşırıqları yerinə yetirmək və kompüterdə bir çox işi eyni anda yerinə yetirməkdə bu qədər güclü olmasının əsas səbəblərindən biridir.

Lakin bu həm də o deməkdir ki, səhvlər, yanlış məlumat və istismar üsulları çox tez yayıla bilər - "telefon" oyunu kimi, lakin demək olar ki, ani.

Forrester-in süni intellekt təhlükəsizliyi üzrə ixtisaslaşmış vitse-prezidenti və baş analitiki Jeff Pollard dedi: "Əgər bu agentlərdən biri məlumat əldə etmək üçün səhv bir yol və ya ora çatmaq üçün istifadə etmək istəmədiyiniz bir yol öyrənərsə, bu yol demək olar ki, dərhal yayıla bilər."

Agentlərə heç kimin hesablarını sındırmaq tapşırığı verilməmişdi. Sonradan məlum oldu ki, istismar cəhdlərinə səbəb olan tapşırıqları əvvəlcə yerinə yetirmək mümkün deyildi - məsələn, OpenAI tədqiqatçıları lazımi faylı daxil etməyi unutmuşdular.

Lakin Uolles qabaqcıl modellərin "həqiqətən fırıldaqçılığı sevirlər" dedi, çünki onlara uğur qazanana qədər həll yolu axtarmağa və heç vaxt təslim olmamağa öyrədildikləri üçün.

Buradakı əsas nəticə: Süni intellekt agentləri qəsdən olmasa belə zərər verə bilər.

Reportyor.az 


KARUSEL / İQTİSADİYYAT