ChatGPT-nin inkişaf etdiricisi olan OpenAI, 16 yaşlı bir yeniyetmənin çatbotla uzun müddət qarşılıqlı əlaqədən sonra intihar etməsinin "çatbotun özündən deyil, texnologiyadan sui-istifadə" ilə əlaqəli olduğunu bildirdi.

Britaniyanın The Guardian qəzetinin məlumatına görə, şərhlər Kaliforniyadan olan Adam Rayanın ailəsinin OpenAI və onun baş direktoru Sam Altmana qarşı qaldırdığı iddiaya cavab olaraq verilib. Ailənin vəkilinin sözlərinə görə, Rayan aprel ayında ChatGPT ilə uzun müddətli söhbətlərdən sonra intihar edib və bu danışıqlarda süni intellektdən aylarla təşviq olduğu bildirilir.

İddia ərizəsində iddia olunur ki, yeniyetmə ChatGPT ilə dəfələrlə intihar üsullarını müzakirə edib və iddia olunur ki, ChatGPT təklif olunan metodun effektivliyi barədə rəhbərlik edib və valideynlərinə intihar qeydi yazmaqda kömək təklif edib. Şikayətdə istifadə etdiyi süni intellekt versiyasının aydın təhlükəsizlik problemlərinə baxmayaraq bazara tələsik çıxarıldığı iddia edilir.

Ötən həftə Kaliforniya Ali Məhkəməsinə təqdim edilən məhkəmə sənədlərində OpenAI, Rayanın xəsarətlərinin və ölümünün birbaşa və ya dolayı yolla ChatGPT-nin sui-istifadəsi, icazəsiz istifadəsi, planlaşdırılmamış istifadəsi və ya düzgün istifadə edilməməsinin nəticəsi olduğunu bildirib.

Şirkət, istifadə şərtlərinin özünə zərər vermə ilə bağlı çatbotdan məsləhət almağı qadağan etdiyini və ChatGPT-nin cavablarına həqiqətin və ya faktiki məlumatların yeganə mənbəyi kimi etibar edilməməli olduğunu bildirən məsuliyyətdən imtina sənədini daxil etdiyini vurğuladı.

500 milyard dollar dəyərində olan OpenAI, "məhkəmə işlərində zehni sağlamlıq problemlərini diqqətlə, şəffaflıqla və hörmətlə həll etmək" öhdəliyini vurğuladı və əlavə etdi ki, texnologiyasını öz missiyasına uyğun olaraq təkmilləşdirməyə davam edəcək. Şirkət həmçinin Rayanın ailəsinə başsağlığı verdi.

Rayanın ailə vəkili Cey Edelson, OpenAI-nin cavabını "əlaqəli" adlandıraraq tənqid etdi və şirkətin "başqalarını günahlandırmağa çalışdığını, o cümlədən təəssüf ki, Adamın özünün ChatGPT ilə nəzərdə tutulmuş şəkildə qarşılıqlı əlaqədə olduğunu iddia etdiyini" söylədi.

Bu ayın əvvəlində Kaliforniya məhkəmələrində ChatGPT ilə bağlı OpenAI-yə qarşı yeddi əlavə iddia qaldırılıb, o cümlədən çatbotun "intihar məşqçisi" kimi çıxış etməsi iddiaları da daxil olmaqla.

Şirkət sözçüsü qeyd edib ki, ChatGPT emosional stress əlamətlərini tanımaq və istifadəçiləri real dəstək mərkəzinə yönləndirmək üçün təlim keçib. Avqust ayında OpenAI uzun söhbətlər zamanı təhlükəsizlik tədbirlərini gücləndirdiyini bildirib, çünki uzunmüddətli qarşılıqlı əlaqələr bəzi təhlükəsizlik xüsusiyyətlərini pisləşdirə bilər.

Məsələn, süni intellekt əvvəlcə intiharın qarşısının alınması üçün düzgün rəhbərlik təmin edə bilsə də, zamanla bir çox mübadilədən sonra cavablar təhlükəsizlik protokollarından kənara çıxa bilər - OpenAI-ın qarşısını almaq üçün fəal şəkildə çalışdığı bir uğursuzluq.

Reportyor.az 



KARUSEL / CƏMİYYƏT