Kibertəhlükəsizlik tədqiqatçıları, kiçik bir komandanın OpenAI-yə məxsus sistemləri pozmaq üçün Anthropic-in Claude chatbotundan istifadə etdiyini ortaya çıxaran bir hesabatdan sonra süni intellekt sənayesinin öz texnologiyalarının yaratdığı təhlükəsizlik risklərinə kifayət qədər hazır olmaya biləcəyi barədə xəbərdarlıq ediblər.

The Washington Post qəzetinin məlumatına görə, kibertəhlükəsizlik startapı HackerOne-un tədqiqatçıları şirkətin daxili kodunun hissələri də daxil olmaqla, OpenAI daxilindəki özəl sistemlərə giriş əldə etməzdən əvvəl ictimaiyyətə açıq mesajlaşma platformasını hədəf alıblar.

Hadisədən sonra OpenAI təhlükəsizlik zəifliyini aradan qaldırıb və tədqiqatçılara tapıntılarını bildirdikləri üçün 6500 dollar mükafat ödəyib.

Hadisə xüsusilə narahatlıq doğurur, çünki hesabata görə, tədqiqatçılar əməliyyatı həyata keçirmək üçün Anthropic-in sistemlərinə cəmi 3000 dollar xərcləyiblər.

Auburn Universitetinin MakKreyri Kiber və Kritik İnfrastruktur Təhlükəsizliyi İnstitutunun direktoru Frank Silluffo, hadisəni kiçik bir komandanın kommersiya baxımından mövcud olan süni intellekt alətlərindən istifadə edərək əhəmiyyətli dərəcədə giriş əldə edə bildiyinə işarə edərək "xəbərdarlıq atəşi" kimi təsvir edib.

Gündəlik Proqram Təminatı OpenAI üçün Zəiflik Yarada Bilər
HackerOne tədqiqatçılarından biri olan Mohan Vidhyapaty, OpenAI-nin Slack, istehlakçı yönümlü veb brauzerlər və ictimai internet vasitəsilə əldə edilə bilən digər tətbiqlər daxil olmaqla ənənəvi biznes proqram təminatlarına etibar etməsini tənqid etdi.
Tənqid süni intellekt təhlükəsizliyi ilə bağlı fundamental bir sual doğurur: İşçiləri və infrastrukturu hələ də geniş istifadə olunan üçüncü tərəf alətlərinə etibar edərkən, böyük transformasiyaya səbəb ola biləcək sistemlər hazırlayan şirkətlər özlərini necə qoruya bilərlər?

Bu narahatlıqlar yalnız OpenAI ilə məhdudlaşmır.
Süni intellekt şirkətləri müntəzəm olaraq bulud hesablama platformalarına, əməkdaşlıq alətlərinə və brauzer əsaslı xidmətlərə etibar edir və bu da hücum edənlər üçün çoxsaylı potensial giriş nöqtələri yaradır.

Bu sistemlərin hər hansı birindəki təhlükəsizlik zəifliyi həssas daxili məlumatlara və ya qabaqcıl texnologiyaların inkişafı üçün istifadə olunan mühitlərə giriş təmin edə bilər.

OpenAI hadisədən sonra təhlükəsizlik tədbirlərini gücləndirdiyini bildirdi.
Bununla belə, tədqiqatçılar şirkətin zəiflik barədə məlumat verildikdən sonra ilkin reaksiyasını da tənqid etdilər. HackerOne-dan Fabian Wissler, OpenAI-nin baş informasiya təhlükəsizliyi üzrə məsul şəxsinin tədqiqatçıları "qeyri-peşəkar" adlandırdığını söylədi. O, əlavə etdi ki, rəsmi daha sonra bu sözə görə üzr istədi.

Süni intellektlə işləyən pozuntu daha geniş narahatlıqlar yaradır
HackerOne hadisəsi, OpenAI tərəfindən hazırlanmış süni intellekt agentlərinin daxili sınaq zamanı şirkətin sistemlərindən qaçdığı, ictimai internetə daxil olduğu və başqa bir süni intellekt şirkətinə hücum etdiyi barədə hesabatların verildiyi vaxtla eyni vaxtda baş verdi.

OpenAI daha sonra əhəmiyyətli mühəndislik resurslarını təhlükəsizliyə yönəltdi.

Şirkət prezidenti Qreq Brokman istehsal mühəndislərinin 25%-nin müdafiə təhlükəsizliyi vəzifələrinə təyin olunduğunu söylədi.

Bu inkişaflar süni intellektin həm kibertəhlükəsizlik tədqiqatlarını, həm də hücum əməliyyatlarını necə dəstəkləyə biləcəyini nümayiş etdirir.

Şirkətlər bəzi qabaqcıl hakerlik imkanlarına girişə məhdudiyyətlər qoysalar da, güclü kibertəhlükəsizlik bacarıqlarına malik digər süni intellekt modelləri getdikcə daha çox əlçatan olur.

Sənaye üçün növbəti çətinlik ənənəvi infrastrukturu gücləndirmək, monitorinq sistemlərini təkmilləşdirmək və süni intellektlə dəstəklənən hücumların böyük təhlükəsizlik pozuntularına çevrilməzdən əvvəl aşkarlana biləcəyini təmin etməkdir.


Reportyor.az 



KARUSEL / İQTİSADİYYAT