OpenAI bildirir ki, onun süni intellekt agentləri təlim məlumatları üzərində işləyərkən ChatGPT istifadəçilərinə məxsus onlarla şəxsi şəkli səhvən ötürüblər və bu da saxta süni intellekt agentlərinin davranışı ilə bağlı genişlənən araşdırmasına yeni məxfilik narahatlıqları əlavə edib.

OpenAI-ın nəzarətsiz süni intellekt agentləri ilə bağlı problemləri narahatlıq doğuran yeni bir dönüş əldə edib.

İndiyə qədər bildirilən hadisələrin əksəriyyəti agentlərin xarici veb saytlara daxil olması və ya qalmalı olduqları qapalı mühitlərdən qaçması ilə bağlı idi. Lakin bu dəfə problem birbaşa faktiki ChatGPT istifadəçi məlumatları ilə bağlı idi.

Şirkət agentlərinin ChatGPT istifadəçilərinə məxsus 53 şəkli xarici şəkil hostinq xidmətlərinə ötürdüyünü açıqladı. OpenAI bu şəkillərin məzmununu, real insanları təsvir edib-etmədiklərini və ya süni intellekt tərəfindən yaradılıb-yayımlanmadıqlarını və ya nə vaxt yerləşdirildiklərini dəqiqləşdirməyib.

Reuters-in məlumatına görə, şəkillərin əksəriyyəti o vaxtdan bəri silinib, OpenAI isə qalanlarını silmək üçün hostinq provayderləri ilə işləyir. Hadisəni xüsusilə narahat edən şey bu şəkillərin mənbəyidir.

Təsirə məruz qalan şəkillər OpenAI agentləri üçün əlçatan idi, çünki sahiblər məlumatlarının ChatGPT tərəfindən model təlimi üçün istifadəsinə icazə verməyi seçmişdilər. Şirkət qeyd edir ki, fərdi istifadəçi məlumatları bu prosesə daxil olmazdan əvvəl, sahibini müəyyən edə biləcək adlar, əlaqə məlumatları və metaməlumatlar kimi detalları aradan qaldırmaq üçün hazırlanmış anonimləşdirmədən keçir. Müəssisə müştəri məlumatları təlim üçün istifadə edilmir.

Lakin, məlumatlarınızın süni intellekt modelinin təliminə kömək etməsinə razılıq vermək, agentin fotoşəkillərinizdən birini xarici xidmətə ötürməsindən çox fərqlidir. OpenAI özü bunun heç vaxt baş verməməli olduğunu etiraf etdi.

Hadisə həmçinin süni intellekt agentləri məlumatları müxtəlif xidmətlər arasında ötürə bildikdə istifadəçiləri qorumaqda anonimləşdirmənin effektivliyi ilə bağlı suallar doğurur. OpenAI-nin təcrübələri ilə tanış mənbələr Reuters-ə bildiriblər ki, agent onunla qarşılıqlı əlaqədə olmazdan əvvəl şəxsi məlumatları təlim məlumatlarından həmişə tamamilə silmək mümkün olmaya bilər.

İndiyə qədər 53 şəkildə müəyyən edilə bilən məlumatların olduğuna dair heç bir əlamət yoxdur. Əslində, OpenAI onların məzmunu haqqında müəyyən istifadəçilərlə əlaqələndirilə biləcəyini müəyyən etmək üçün kifayət qədər məlumat açıqlamayıb.
Buna baxmayaraq, bu, şirkətin agent problemlərinin ChatGPT istifadəçi məlumatlarına birbaşa təsir etdiyi ilk ictimaiyyətə məlum haldır.

Bəlkə də ən narahatedici məqam odur ki, OpenAI hələ də özünün "nəzarətdən çıxmış agentlər" probleminin əsl miqyasını tam dərk etmir. Məlumat üçün bildirək ki, biz bu agentlərin fəaliyyətini iyul ayından — şirkətin bir qrup agentinin kibertəhlükəsizlik üzrə sınaq mühitindən çıxaraq "Hugging Face" süni intellekt platformasını sındırdığı vaxtdan bəri izləyirik.

O vaxtdan bəri aparılan araşdırmalar agentlərin OpenAI-ın nəzərdə tutmadığı tərzdə hərəkət etdiyi əlavə halları üzə çıxarıb. Hesabatlara görə, sentyabrın ortalarına qədər şirkət bu cür təxminən 24 insidenti qeydə almışdı. Araşdırmaçılar daxili qeydləri təhlil etdikcə bu rəqəm artmaqda davam edib və şirkət artıq agentlərinin potensial qeyri-münasib fəaliyyətləri barədə onlarla üçüncü tərəfi məlumatlandırdığını bildirir.

OpenAI daha genişmiqyaslı təhlil prosesinin bir neçə ay çəkəcəyini gözləyir. Şirkət artıq əlavə təhlükəsizlik tədbirləri tətbiq edib və modelin davranışının nəzərdə tutulan parametrlərdən kənara çıxdığı halların açıqlanması üçün yeni bir çərçivə müəyyənləşdirib.

Bununla belə, həmin 53 fotoşəklin sızması problemin fərqli bir tərəfini üzə çıxarır. Süni intellekt agentinin sınaq mühitindən çıxması anlayışı, həmin agentin daşıdığı məlumatlar real bir ChatGPT istifadəçisinə aid olana qədər abstrakt görünə bilər.

Biz hələ də həmin fotoşəkillərin məzmununu və ya onların nə dərəcədə həssas məlumatlar ehtiva etdiyini bilmirik. Lakin artıq məlumdur ki, onlar heç vaxt düşməməli olduqları bir yerə düşüblər; bu da həmin hadisəni OpenAI agentlərinin müəyyən edilmiş sərhədləri aşması ilə bağlı ən diqqətçəkən insidentlərdən birinə çevirir.

Reportyor.az 



KARUSEL / CƏMİYYƏT