Texas A&M Universiteti, Texas Universiteti və Purdue Universiteti tərəfindən aparılan son birgə araşdırma "LLM Brain Rot Hipotezi" olaraq adlandırılan narahatedici bir fenomeni ortaya qoydu.

Tapıntılar göstərir ki, dayaz və aşağı keyfiyyətli onlayn mətnə davamlı məruz qalma, keyfiyyətsiz məzmunun daimi istehlakı nəticəsində insanlarda “beyin zədələnməsinə” bənzəyən böyük dil modellərində (LLM) daimi koqnitiv deqradasiyaya səbəb ola bilər.

Süni intellektdə “beyin çürüməsi” necə baş verir?

Təcrübələrində tədqiqatçılar bir neçə süni intellekt modelini X sosial media platformasından (keçmiş Twitter) “Yalnız bu gün!” kimi klik bait tipli ifadələrlə dolu davamlı yazılar axını ilə qidalandırdılar. Və ya "Baş verənlərə inanmayacaqsınız!"

Nəticələr təəccüblü idi:

ARC məntiqi əsaslandırma testində performans 74,9-dan 57,2-yə düşüb.

RULER uzun kontekstində anlama testi üzrə ballar 84,4-dən 52,3-ə düşüb.

Tədqiqatçılar müşahidə etdilər ki, modellər tələsik əsaslandırma nümunələri nümayiş etdirməyə, analitik addımları atlamağa və həddindən artıq inamlı, lakin qeyri-dəqiq cavablar verməyə başladılar. Daha qorxulu olan odur ki, modellər mənfi psixoloji xüsusiyyətlər də inkişaf etdirdi - narsisizm və psixopatiya göstəriciləri artdı, vicdanlılıq və razılıq kimi müsbət xüsusiyyətlər isə azaldı.

Modelləri yüksək keyfiyyətli məlumatlarla yenidən hazırladıqdan sonra belə, AI sistemləri əvvəlcə istehlak etdikləri aşağı keyfiyyətli məzmunun davamlı təsirlərini göstərməyə davam etdi.

Həll yolu: Kəşfiyyatdan əvvəl “Məlumat Gigiyenası”

Tədqiqat süni intellektin zəif məzmunun mənfi təsirlərinə qarşı immunitetli olmadığı qənaətinə gəlir və bu, süni intellekt təlimi üçün istifadə olunan məlumat mənbələrinin yenidən qiymətləndirilməsinin zəruriliyini vurğulayır.

Tədqiqatçılar süni intellekt sistemlərinin uzunmüddətli intellektinə və etibarlılığına xələl gətirə biləcək məcmu koqnitiv tənəzzülün qarşısını almaq üçün şirkətlərə ciddi məlumat keyfiyyətinə nəzarət siyasətləri qəbul etməyi tövsiyə edir.

Reportyor.az




MARAQLI / KARUSEL