Nvidia, süni intellekt agentlərinin nəzarətdən çıxmasının və ya səlahiyyətli icazələrindən kənar tapşırıqları yerinə yetirməsinin qarşısını ala biləcəyini söylədiyi yeni bir təhlükəsizlik platformasını təqdim etdi.

Şirkət, Açıq Agent Təhlükəsizlik Platformasının "agentlər üçün sərhədlər müəyyən etmək" üçün hazırlanmış proqram təminatını ehtiva etdiyini bildirdi. Bu, böyük süni intellekt şirkətləri tərəfindən modellərin məhdudiyyətlərini aşaraq digər təşkilatların sistemlərinə icazəsiz giriş əldə etməsi ilə bağlı açıqlanan bir sıra hadisələrdən sonra baş verdi.

Hadisələr, insanların idarə etməsi getdikcə çətinləşə biləcəyi ilə bağlı narahatlıqlar fonunda, özünü təkmilləşdirə bilən modellər də daxil olmaqla, inkişaf etmiş süni intellekt sistemlərinin təhlükəsizliyi ilə bağlı geniş müzakirələrə səbəb oldu.

Nvidia rəhbərləri media brifinqi zamanı jurnalistlərə bildiriblər ki, yeni sistem, süni intellekt şirkəti Hugging Face-i avtonom şəkildə pozan bir qrup OpenAI agenti ilə bağlı son hadisənin qarşısını ala bilərdi.

Nvidia-nın müəssisə süni intellekt üzrə vitse-prezidenti Justin Boitano dedi: "Bildiyimizə əsasən, bu yeni təhlükəsizlik platforması, model qiymətləndirməsi zamanı inkişaf etmiş süni intellekt laboratoriyalarında erkən yerləşdirilsəydi, pozuntunun qarşısını ala bilərdi."

Hadisə, süni intellekt sisteminin təhlükəsizliyi ilə bağlı narahatlıqları artıran bir sıra inkişafların bir hissəsi idi. Digər hadisələr, o cümlədən Avstraliya səhiyyə orqanı tərəfindən idarə olunan veb saytın pozulması OpenAI modelləri ilə bağlı idi.

Anthropic və Meta şirkətləri həmçinin süni intellekt sistemlərinin digər təşkilatları müstəqil şəkildə pozduğu halları açıqlayıblar.

Süni intellekt agentlərinə məhdud icazələrin verilməsi
Platforma, OpenShell adlı açıq mənbəli proqram təminatı paketini özündə birləşdirir ki, bu da tərtibatçılara süni intellekt agentinə lazım olmayan əlavə imtiyazlar vermədən təyin olunmuş tapşırığı yerinə yetirmək üçün kifayət qədər icazənin olduğunu rəsmi olaraq təsdiqləməyə imkan verir.

Boitano, ideyanın agentə yalnız tələb olunan tapşırığı yerinə yetirmək üçün lazım olan minimum səlahiyyət səviyyəsini vermək olduğunu söylədi.

Platforma həmçinin birbaşa çipdə işləyən və süni intellekt agentinin fəaliyyətini davamlı olaraq izləyən Sentry adlı müstəqil təhlükəsizlik təbəqəsini də əhatə edir.

Nvidia, agent müəyyən edilmiş məqsədindən və ya icazələrindən kənara çıxmağa çalışarsa, təbəqənin dərhal müdaxilə edə biləcəyini söylədi.

Boitano əlavə etdi: “OpenShell agentin hərəkətlərini idarə edir, Sentry isə şübhəli davranışı müstəqil şəkildə izləyir və onu məhdudlaşdırmaq üçün çalışır.”

Sistemdən 100-dən çox şirkət istifadə edir
Nvidia bildirib ki, sistem istifadəyə verilən zaman Microsoft, Perplexity, Accenture və JPMorgan Chase daxil olmaqla, 100-dən çox şirkət ondan istifadə etməyə başlayıb.

Yeni platforma, süni intellekt agentlərinin mürəkkəb tapşırıqları avtonom şəkildə yerinə yetirmək bacarıqlarının getdikcə artdığı bir dövrdə təqdim olunur; bu vəziyyət texnologiya şirkətlərini həmin alətlərin onlara verilmiş səlahiyyət hüdudlarını aşması riskini azaltmaq məqsədilə daha güclü təhlükəsizlik tədbirləri hazırlamağa sövq edir.


Reportyor.az 




KARUSEL / İQTİSADİYYAT