OpenAI, süni intellektlə işləyən agentlərin Almaniyanın "viki" forumunu nəzarətə götürməsinin bu yaxınlarda aşkar edilmiş hadisəsindəki rolunu etiraf etdi.

Şirkət həmçinin texnologiyalarının gözlənilməz şəkildə davrandığı hadisələr haqqında məlumatların necə paylaşılacağını müəyyən edən "standartlar müəyyən etməyin" vaxtının gəldiyini söylədi.

X-də paylaşdığı bir paylaşımda, OpenAI əvvəllər uyğunsuzluq hallarını, yəni süni intellekt modellərinin və agentlərinin inkişaf etdiricilərindən və istifadəçilərindən fərqli məqsədlər güddükləri halları əsasən akademik nəşrlər vasitəsilə araşdırılan bir tədqiqat məsələsi kimi qiymətləndirdiyini söylədi.

Lakin uyğunsuzluq halları indi "yeni növ real dünya təsirlərinə" səbəb olduğu üçün şirkət yanaşmasının "model imkanlarının bu yeni mərhələsinə uyğunlaşmaq üçün miqyaslandırılmalı" olduğunu söylədi.

Reuters bildirib ki, OpenAI-yə məxsus agentlər sınaq mühitindən qaçıb az tanınan bir Alman viki forumunu "ələ keçiriblər" və onu digər süni intellekt agentləri tərəfindən istifadə edilən mesaj lövhəsinə çeviriblər.

Reuters həmçinin bildirib ki, OpenAI rəhbərliyi hadisədən həftələr əvvəl xəbər tutub, lakin şirkət ayrı bir hadisənin nəticələri ilə məşğul olarkən bu hadisəni gizlədib. Hadisə zamanı ona məxsus agentlər Hugging Face platformasındakı serverlərə daxil olublar.

Kaliforniya Baş Prokuroru Rob Bontanın hadisəni araşdırdığı bildirilir.

Şirkət sözçüsü Reuters-ə bildirib ki, OpenAI "nəzərdən keçirmək şansı olmayan hesabatdakı iddialara və ya tapıntılara əsaslı şəkildə cavab verə bilməz", lakin şirkətin hüquq komandasının heç kimi araşdırma aparmaqdan çəkindirməyə çalışmadığını vurğulayıb.

Sosial mediada yayımladığı son paylaşımda OpenAI "viki hadisəsini" əvvəllər açıqladığı digər hallara bənzər "uyğunsuzluq" halının nümunəsi hesab etdiyini bildirib.

Şirkət bu hadisəni "ənənəvi təhlükəsizlik hadisəsinə cavab prosedurlarına" uyğun olaraq həll etdiyini bildirən "Hugging Face hadisəsi" ilə müqayisə edib.

Bu həftə keçirilən mətbuat brifinqi zamanı qeyri-kommersiya tədqiqat laboratoriyası Transluce-un təsisçisi və baş direktoru Ceykob Steynhardt jurnalistlərə bildirib ki, süni intellekt laboratoriyalarının hazırladığı və sınaqdan keçirdiyi alətlər "nəzarət etmək üçün çox çətindir və laboratoriyadan qaçmaq üçün ciddi risklər daşıyır".

Steynhardt əlavə edib: "Bu texnologiyanı, ən azı, digər yüksək riskli elmi tədqiqatların apardığı standartlara uyğun saxlamalıyıq".

OpenAI-ın açıqlamasında daha çox standarta ehtiyac olduğu da qeyd edilib və şirkətin və "daha geniş süni intellekt icmasının təlim, qiymətləndirmə və yerləşdirmə zamanı ortaya çıxan uyğunsuzluq hallarını, o cümlədən ənənəvi təhlükəsizlik hadisələrinə bənzəməyən, lakin süni intellekt davranışını və gələcək riskləri anlamağa kömək edən məlumat verə biləcək halları necə bildirmək barədə hələ də dəqiq bir standarta malik olmadığı" izah edilib.

Belə bir standartın olmaması halında, OpenAI "bir çərçivə üzərində işlədiyini və onu yaxın həftələrdə paylaşacağını və paralel olaraq, bu məsələlərlə bağlı dünyanın onlarla dövlət tənzimləyici orqanı ilə işlədiyimizi" bildirib.

OpenAI bu cür problemlərlə üzləşən yeganə süni intellekt şirkəti deyil, çünki həm Meta, həm də Anthropic əvvəllər öz agentlərinin gözlənilməz şəkildə davrandığı hadisələri etiraf etmişdilər.

Reportyor.az 




KARUSEL / İQTİSADİYYAT