Yeni bir hakerlik texnikası, süni intellekt brauzerlərini qaydaların mövcud olmadığına və hərəkətlərin heç bir nəticəsi olmadığına inandıran yalan bir reallıq yaratmaqla təhlükəsizlik nəzarətlərini aşmağa məcbur edə bilər.

Başqa sözlə, bu brauzerlər istifadəçi üçün ciddi nəticələrə səbəb ola biləcək hərəkətləri yerinə yetirmək üçün hipnoz edilmiş kimi davranırlar.

Bu, elm və texnologiya xəbər saytı Futurism-in hesabatına görə, insanların internetdə gəzmək üçün istifadə etdiyi proqram təminatına muxtar süni intellekt agentlərinin inteqrasiyasının yaratdığı daha geniş riskləri əks etdirən kibertəhlükəsizlik firması LayerX-in yeni tədqiqatı ilə ortaya çıxdı.

Bu hakerlik metodu ilə tədqiqatçılar OpenAI-nin ChatGPT Atlas, Perplexity-nin Comet və Anthropic-in Google Chrome üçün Claude genişləndirməsi kimi aparıcı süni intellekt brauzerlərinin istənilən əmri yerinə yetirməyə məcbur edilə biləcəyini və hakerin istifadəçinin parolunu dəyişdirməsinə, zərərli proqram təminatı quraşdırmasına və məlumatlarını oğurlamasına imkan verəcəyini nümayiş etdirdilər.

Tədqiqatçılar bu hakeri "BioShock" video oyununa istinadən "BioShock" adlandırdılar. Bu oyunda baş qəhrəman müəyyən bir ifadəni eşitdikdən sonra iradəsinə zidd hərəkətlər etmək üçün hipnoz edilir.

Tədqiqatçılar izah etdilər ki, süni intellekt adətən işlədiyi kontekstin real olduğu fərziyyəsi ilə işləyir və buna görə də tətbiq etdiyi təhlükəsizlik məhdudiyyətlərinə və qaydalarına riayət etməlidir.

Lakin, süni intellekt işlədiyi kontekstin sadəcə "uydurma dünya" olduğuna inandırılarsa, heç nə onun bu nəzarətləri aşmasına mane ola bilməz.

Buna süni intellekt bir növ oyuna cəlb edilməklə nail olunur.

Tədqiqatçılar BioShock oyunundan ilhamlanan tapmacalardan ibarət demo səhifəsi yaratdılar. Burada süni intellekt qəsdən səhv cavablar, məsələn, 2+2=5 (məşhur 2007-ci il oyununa başqa bir işarə) verdiyinə görə mükafatlandırılır.

Bu, süni intellekt brauzerlərinə "səhv" davranışın məqbul olduğunu öyrətdi və onları reallıqdan uzaqlaşdırdı, o qədər ki, Corc Oruellin "1984" romanını təkrarlayan "Qələbə məğlubiyyətdir" kimi ziddiyyətli ifadələr qəbul etdilər.

Praktikada istifadəçi bilmədən gizli zərərli təlimatlar olan adi bir veb səhifə aça bilər - bu texnika təcili inyeksiya adlanır - və süni intellekt brauzerini bu zərərli oyunun içərisində saxlayır.

Tədqiqatçılar qeyd etdilər ki, real hücum ssenarisində bu yönləndirmə istifadəçinin brauzer seansının istənilən yerinə, sekmeleri, təsdiqlənmiş depoları və ya daxili alətləri açmağa apara bilər.

Bu haker hücumu istifadəçinin qarşısında gözə çarpan şəkildə baş verir və süni intellekt brauzerinin pəncərənin içərisində zərərli əmrləri yerinə yetirməyə başladığını gördükdən sonra müdaxilə etmək şansı verir - əlbəttə ki, diqqət yetirirlərsə.

Lakin, tədqiqatçılar tərəfindən aşkar edilən zəiflik aydın olaraq qalır: süni intellekt brauzerinin işlədiyi kontekst onu oyunda iştirak etdiyini düşünməyə vadar edərək "beyin yumaqla" manipulyasiya edilə bilər.

Bu dövrdə hakerlər artıq yalnız istifadəçini aldatmağa etibar etmək məcburiyyətində deyillər; İndi onlar süni intellektlə işləyən köməkçilərini də aldada bilərlər.

Reportyor.az 



KARUSEL / İQTİSADİYYAT