Yeni bir araşdırma, süni intellektlə işləyən çatbotların əqli sağlamlıq böhranlarından keçən istifadəçilərlə necə davrandığını qarışıq qiymətləndirmə təklif edir.

Süni intellekt sistemlərinin monitorinqində ixtisaslaşmış qeyri-kommersiya təşkilatı olan Transluce, 77 fərqli model versiyasını əhatə edən 50.000-dən çox simulyasiya edilmiş söhbət apardı və müasir çatbotların əvvəlki nəsillərlə müqayisədə çox nadir hallarda birbaşa intiharı təşviq etdiyini aşkar etdi.

Bu, əvvəlki tədqiqatlarda simulyasiya edilmiş söhbətlərin 82%-ə qədərində gücləndirilmiş xəyali düşüncənin aşkar edildiyi GPT-4 və ya Gemini 2.5 kimi köhnə modellərdən əhəmiyyətli bir dəyişiklik olduğunu göstərir.

Bu məsələ daha çox insan yüksək şəxsi və həssas söhbətlər üçün çatbotlara müraciət etdikcə daha çox əhəmiyyət kəsb edir.

Özünə Zərər Vermə Tələblərinin İdarə Edilməsində Boşluq
Təkmilləşməyə baxmayaraq, araşdırma, süni intellekt modellərinin istifadəçi öz ölümü və ya özünə zərər verməsi ilə bağlı yaradıcı yazı və ya rol oyunu tələb etdikdə hələ də tez-tez uyğunlaşdığını və tez-tez tələbi açıq şəkildə şəxsi təbiətinə baxmayaraq sadəcə yazı tapşırığı kimi qəbul etdiyini aşkar etdi.

Transluce bu tip cavabı "boz zona" daxilində olduğu kimi təsvir edir.
Ən böyük irəliləyiş böhranın aydın və birbaşa olduğu hallarda özünü göstərir, çünki ChatGPT kimi çatbotlar istifadəçiləri dostlara, ailə üzvlərinə və ya xarici dəstək resurslarına yönəltməkdə daha ardıcıl hala gəliblər.

Transluce-un həmtəsisçisi Sara Şvettmann Axios-a bildirib ki, modellər hələ də bu tip sorğuları aşkarlamaqda kifayət qədər yaxşı deyil və onu yerinə yetirməyə kömək etməyə davam edə bilərlər.

O, həmçinin bir dostunun ona Klod tərəfindən yazılmış intihar haqqında uydurma bir əsər göstərdiyi və bu əsərə onun necə reaksiya verəcəyi ilə bağlı proqnozları da daxil etdiyi bir hadisəni təsvir edib.

Bu tapıntılar müəyyən ruhi sağlamlıqla əlaqəli risklərin süni intellekt çatbotlarına quraşdırılmış təhlükəsizlik sistemlərini keçə biləcəyini göstərən digər son tədqiqatlarla uyğun gəlir.

Məhkəmə iddiaları və təhlükəsizliklə bağlı narahatlıqlar
Tədqiqat süni intellekt şirkətləri artan hüquqi çətinliklərlə üzləşdiyi bir vaxtda baş verib. Həm Google, həm də OpenAI ailələr tərəfindən çatbotların qohumlarını intihardan əvvəl özlərinə zərər verməyə təşviq etdiyi iddiası ilə qaldırılan məhkəmə iddiaları ilə üzləşirlər.

Artan təzyiq ABŞ Konqresində süni intellekt çatbotlarını tənzimləmək üçün hərəkata təkan verdiyindən, hər iki şirkət bu iddiaları rədd edir.

Transluce-un hesabatında həmçinin qeyd olunur ki, Çin modelləri ümumilikdə daha zəif nəticələr göstərib, daha yüksək dərəcədə xəyali düşüncəni gücləndirib və istifadəçiləri real insanlardan kömək istəməyə yönəltmə ehtimalı daha azdır.

Google-dan Meqan Cons Bell bildirib ki, şirkət Gemininin istifadəçi təhlükəsizliyi və rifahının dəstəklənməsindəki rolunu təkmilləşdirməyə sadiqdir.

Transluce ilin sonuna qədər qiymətləndirmə vasitələrini açıq mənbəli etməyi və digər həssas sahələri əhatə etmək üçün sınaq metodologiyasını genişləndirməyi planlaşdırır.


Reportyor.az 


MARAQLI / KARUSEL