OpenAI gələn ay yeni süni intellekt modelini təqdim etməyi planlaşdırırdı, lakin təhlükəsizliklə bağlı narahatlıqlar səbəbindən buraxılışı ləğv etmək qərarına gəldi.

"The Wall Street Journal"ın məlumatına görə, "Astra 6.1" modelinin yaxın günlərdə təqdim edilməsi nəzərdə tutulurdu. Lakin bildirilir ki, bu model əvvəlki modellərlə müqayisədə daha yüksək səviyyədə "aldadıcı davranış" və təhlükəsiz olmayan hərəkətlər nümayiş etdirib.

Tədbirdə həmçinin "Anthropic" və "Rivian" şirkətlərinin nümayəndələri iştirak edəcək; altı ixtisaslaşmış səhnədə keçiriləcək 200-dən çox sessiyada 250-dən çox lider çıxış edəcək.

OpenAI-ın təhlükəsizlik sistemləri üzrə rəhbəri Saçi Ceyn "The Wall Street Journal"a bildirib ki, model sistemin insan niyyətlərinə nə dərəcədə uyğun fəaliyyət göstərdiyini ölçən "uyğunlaşma" (alignment) testlərində zəif nəticə göstərib.

OpenAI "Astra" modelini bu ayın əvvəlində təqdim etmiş və onu indiyə qədərki ən güclü modeli kimi xarakterizə etmişdi.

Son aylarda süni intellekt sektorunda təhlükəsizliklə bağlı məsələlər daha çox müzakirə olunmağa başlayıb. Bu, xüsusilə OpenAI agentinin təcrid olunmuş mühitdən çıxaraq bir neçə şirkətə məxsus sistemlərə daxil olduğu bildirilən "Hugging Face" insidentindən sonra daha da aktuallaşıb.

Həmin hadisədən sonra digər modellərin, o cümlədən "Anthropic"in "Claude" və "Google"un "Gemini" modellərinin də oxşar davranışlar nümayiş etdirdiyi barədə məlumatlar yayılıb.

Maraqlıdır ki, narahatlıq doğuran məlumatların artması ABŞ-dakı siyasi müzakirələri böyük süni intellekt laboratoriyalarının arzuladığı nəticəyə – bütün sənaye üzrə yeni təhlükəsizlik standartlarının müəyyən edilməsinə doğru yönəldib; bu isə potensial olaraq süni intellekt sahəsində inkişaf tempini ləngidə bilər.

OpenAI və "Anthropic" kimi şirkətlər bildirirlər ki, bu çağırışların arxasında təhlükəsizliyi gücləndirmək məqsədi dayanır. Lakin tənqidçilər iddia edirlər ki, digər bir potensial səbəb bu cür tənzimləmələrin kiçik və daha az resursa malik firmalar hesabına sektordakı böyük şirkətlərin mövqeyini gücləndirə biləcəyidir.


Reportyor.az 



KARUSEL / İQTİSADİYYAT