ChatGPT-də zorakı ekstremist meyllər göstərən insanlar Yeni Zelandiyada inkişafda olan yeni bir vasitə vasitəsilə insan və çatbot əsaslı deradikalizasiya dəstəyinə yönəldiləcəklər, arxasında duranlar bildiriblər.

Bu təşəbbüs, süni intellekt şirkətlərini zorakılığı dayandırmamaqda və hətta buna imkan verməkdə ittiham edən artan sayda məhkəmə iddiaları qarşısında təhlükəsizlik problemlərini həll etmək üçün son cəhddir.

OpenAI, platformanın səlahiyyətlilərə məlumat verilmədən ölümcül məktəb atışması törədən bir şəxsi qadağan etdiyini açıqladıqdan sonra fevral ayında Kanada hökuməti tərəfindən müdaxilə ilə təhdid edildi.

Son illərdə ChatGPT sahibi OpenAI, eləcə də rəqibləri Anthropic və Google GOOGL.O tərəfindən istifadəçilərin özünə zərər, məişət zorakılığı və ya yemək pozğunluğu riski altında olduqları qeyd edildikdə böhran dəstəyinə yönləndirilməsi üçün işə götürülən ThroughLine startapı, həmçinin zorakı ekstremizmin qarşısının alınmasını əhatə edən təklifini genişləndirməyin yollarını araşdırır, qurucusu və keçmiş gənclər işçisi Elliot Taylor bildirib.

Şirkət, Yeni Zelandiyanın 2019-cu ildə baş verən ən pis terror hücumundan sonra yaranan onlayn nifrəti aradan qaldırmaq üçün The Christchurch Call təşəbbüsü ilə danışıqlar aparır. Bu təşəbbüsə ekstremizmə qarşı mübarizə qrupu rəhbərlik edəcək, ThroughLine isə müdaxilə chatbotunu hazırlayacaq, deyə keçmiş gənclər işçisi bildirib.

"Bu, bizim irəliləmək və daha yaxşı işıqlandırma işi görmək, daha sonra isə platformaları daha yaxşı dəstəkləmək istədiyimiz bir şeydir", - deyə Taylor müsahibəsində bildirib və əlavə edib ki, heç bir müddət müəyyən edilməyib.

OpenAI ThroughLine ilə əlaqəsini təsdiqləsə də, əlavə şərh verməkdən imtina edib. Anthropic və Google şərh sorğularına dərhal cavab verməyiblər.

Taylorun Yeni Zelandiyanın kənd yerlərindəki evindən idarə etdiyi firma, 180 ölkədə daim yoxlanılan 1600 yardım xətti şəbəkəsi təklifi ilə süni intellekt şirkətləri üçün əsas mərkəzə çevrilib.

Süni intellekt potensial ruhi sağlamlıq böhranının əlamətlərini aşkar etdikdən sonra istifadəçini yaxınlıqdakı mövcud insan tərəfindən idarə olunan xidmətlə uyğunlaşdıran ThroughLine-a yönləndirir.

Lakin təsisçinin sözlərinə görə, ThroughLine-ın əhatə dairəsi müəyyən kateqoriyalarla məhdudlaşıb. O əlavə edib ki, insanların internetdə açıqladığı ruhi sağlamlıq problemləri süni intellekt çatbotlarının populyarlığı ilə partlayıb və indi ekstremizmlə bağlı mübahisələri də əhatə edir.

Teylorun sözlərinə görə, ekstremizmə qarşı mübarizə vasitəsi, ehtimal ki, ekstremizm əlamətləri göstərən insanlara cavab vermək üçün təlim keçmiş çatbotu və real dünya ruhi sağlamlıq xidmətlərinə yönləndirmələri birləşdirən hibrid model olacaq.

O, böyük dil model platformalarının ardıcıl mətn yaratmaq üçün istifadə etdiyi ümumi məlumat dəstlərinə istinad edərək dedi: "Biz baza LLM-in təlim məlumatlarından istifadə etmirik. Biz düzgün mütəxəssislərlə işləyirik." Texnologiya hazırda sınaqdan keçirilir, lakin buraxılış tarixi təyin edilməyib.

The Christchurch Call-ı təmsil edən terrorizmə qarşı mübarizə üzrə məsləhətçi Galen Lamphere-Englund, məhsulu oyun forumlarının moderatorları və onlayn ekstremizmi aradan qaldırmaq istəyən valideynlər və baxıcılar üçün təqdim etməyə ümid etdiyini söylədi.

Kvinslend Texnologiya Universitetinin süni intellekt tədqiqatçısı Henri Freyzerin sözlərinə görə, çatbot yönləndirmə vasitəsi "yaxşı və zəruri bir fikirdir, çünki problemin yalnız məzmunda deyil, həm də münasibət dinamikasında olduğunu qəbul edir".

Məhsulun uğuru "izləmə mexanizmlərinin nə qədər yaxşı olması və insanları problemi həll etmək üçün yönləndirdikləri strukturların və münasibətlərin nə qədər yaxşı olması" suallarından asılı ola bilər.

Teylor, təhlükəli istifadəçilər barədə səlahiyyətlilərə mümkün xəbərdarlıqlar da daxil olmaqla, izləmə xüsusiyyətlərinin hələ müəyyən edilmədiyini, lakin kəskin davranışa səbəb olma riskini nəzərə alacağını söylədi.

O, çətinlik çəkən insanların bir insana deməkdən utandıqları şeyləri internetdə paylaşmağa meylli olduqlarını və hökumətlərin həssas söhbətlərdə iştirak edən istifadəçiləri kəsmək üçün platformalara təzyiq göstərmələri təhlükəni artırdığını söylədi.

Nyu-York Universitetinin Stern Biznes və İnsan Hüquqları Mərkəzinin 2025-ci ildə apardığı araşdırmaya görə, hüquq-mühafizə orqanlarının təzyiqi altında platformalar tərəfindən militantlıqla əlaqəli artan mülayimlik, tərəfdarların Telegram kimi daha az tənzimlənən alternativlərə keçməsinə səbəb oldu.

Teylor dedi: "Əgər süni intellektlə danışıb böhranı açıqlasanız və o, söhbəti dayandırsa, heç kim bunun baş verdiyini bilmir və həmin şəxs hələ də dəstəksiz qala bilər".


Reportyor.az 


KARUSEL / İQTİSADİYYAT