Süni zəka gizli diskriminasiyanı təyin etməyi öyrənib
Süni İntellekt
03.07.2025
Emil Nəcəfov
Luqano Universiteti və Cenevrə Universitetindən olan bir tədqiqatçılar komandası axtarış sistemlərinin ədalətliliyini qiymətləndirmək üçün böyük dil modellərindən - məsələn, GPT-4o kimi - istifadə üsulu hazırlayıblar. Yeni üsul axtarış nəticələrinin sıralanmasında cinsi meyilliliyi aşkar etməyə imkan verir, hətta bu meyillilik mətnin özündə birbaşa ifadə olunmasa və ənənəvi metrikalar tərəfindən görünməz qalsa belə. Bu, xüsusilə alqoritmlərin sosial baxımdan əhəmiyyətli qərarlara təsir etdiyi hallarda - məsələn, işə qəbul, tibbi məlumat seçimi və ya təhsil tövsiyələri zamanı - mühüm rol oynaya bilər. Tədqiqatçılar yeni bir metrika təqdim ediblər - CWEx (Class-wise Weighted Exposure). Bu metrika yalnız axtarış nəticələrindəki sənədlərin hansı gender kateqoriyalarına aid olduğunu deyil, həm də onların siyahıda hansı mövqedə yerləşdiklərini nəzərə alır.
Əvvəlki yanaşmalar balansı ölçmək üçün kişi və ya qadınla bağlı açar sözlərin sadə sayına əsaslanırdı. CWEx isə mətnin ümumi mənasını və tonunu başa düşə bilən dil modellərinin köməyi ilə kontekstin semantik qiymətləndirilməsindən istifadə edir. Bu yanaşma, məsələn, birbaşa sözlərlə ifadə olunmayan gizli qərəzliliyi aşkar etməyə imkan verir. Dil modellərinin mətnlərin cinsi yönümlülüyünü nə dərəcədə effektiv müəyyən etdiyini yoxlamaq üçün tədqiqatçılar bir neçə modeli - LLaMA, Qwen, Mixtral, GPT-4o və digərlərini - müqayisə ediblər. Ən yaxşı nəticəni GPT-4o göstərib. Sənədlərin 90%-dən çoxunu düzgün təsnif edərək xüsusilə "addım-addım izah" rejimində (Chain-of-Thought). Model neytral və qərəzli mətnlər arasında incə fərqləri belə müəyyən edə bilib. Təhlil göstərib ki, hətta ən inkişaf etmiş modellər belə qadınlara qarşı qərəzliliyi kişilərə qarşı olandan bir qədər daha tez və dəqiq aşkar etməyə meyllidirlər.
Müəlliflər metodikanı iki mətn toplusu üzərində sınaqdan keçiriblər. Birinci - Grep-BiasIR - 117 genderə həssas axtarış sorğusunu (məsələn, “qadınlar üçün yaxşı peşələr”) və təxminən 700 sənədi əhatə edir. İkinci isə - MSMGenderBias - tədqiqat qrupu tərəfindən toplanıb və əllə qeyd olunub. Bütün sənədlər üç kateqoriyaya bölünüb: neytral, qadınlara qarşı qərəzli və kişilərə qarşı qərəzli. Tədqiqatda dil modelləri ilə yanaşı, 180 nəfər insan da iştirak edib və mətnlərə qiymət veriblər. Müqayisə göstərib ki, GPT-4o-nun nəticələri insanların dəyərləndirmələri ilə ən çox üst-üstə düşən nəticələr olub. Metodika artıq sınaq şəraitində effektivliyini göstərməkdədir.
CWEx yalnız materialların sayına görə deyil, həm də onların görünürlüyünə əsasən nəticələrin ədalətliliyini qiymətləndirməyə imkan verir. Bu xüsusilə tövsiyəedici alqoritmlər, işə qəbul sistemləri və təhsil platformalarında aktualdır, çünki gizli qərəzlilik cəmiyyətin təsəvvürlərini və şəxsi qərarları hiss olunmadan formalaşdıra bilər. Müəlliflər vurğulayırlar ki, bu cür alət düzgün tənzimləmə və annotasiya edildiyi halda digər həssas xüsusiyyətlərə - məsələn, yaş və ya etnik mənsubiyyətə - də uyğunlaşdırıla bilər. Tədqiqat süni zəka alqoritmlərinin şəffaflığı və məsuliyyəti məsələsini gündəmə gətirir. Sistemlər “riyazi əsaslarla” işləsə belə, sosial və mədəni meyilləri əks etdirə və gücləndirə bilirlər. Dil modellərindən yoxlama vasitəsi kimi istifadə etmək bu prosesin necə baş verdiyini daha yaxşı anlamağa və alqoritmlər obyektivlik əvəzinə ədalətsizliyi möhkəmləndirməyə başlamazdan əvvəl müdaxilə etməyə imkan verir.
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
Süni zəka MRT fotoları sayəsində beynin sürətli qocalmasını təyin edir
Süni zəka MRT fotoları sayəsində beynin sürətli qocalmasını təyin edir
Alimlər maqnit-rezonans tomoqrafiyası (MRT) görüntülərindən istifadə edən süni zəka hazırlayıblar və bu texnologiya beynin sürətlənmiş qocalma əlamətləri olan insanları müəyyən edir.
Çin süni zəka sahəsində ABŞ-ın qlobal üstünlüyünü sarsıdır
Çin süni zəka sahəsində ABŞ-ın qlobal üstünlüyünü sarsıdır
Çin şirkətləri süni zəka sahəsində ABŞ-ın qlobal üstünlüyünü sarsıdır. Bu qarşıdurma dünyanı texnoloji “soyuq müharibə” yoluna yönəldib və digər ölkələr ABŞ və ya Çin süni zəka sistemləri arasında seçim etmək məcburiyyətində qalırlar.
ChatGPT uğurla kosmik gəmini idarə edə bilirmiş
ChatGPT uğurla kosmik gəmini idarə edə bilirmiş
Tədqiqatçılar böyük dil modellərinin (LLM) kosmik gəmini idarə edib-edə bilməyəcəklərini sınaqdan keçiriblər. GPT və LLaMA bazasında çalışan süni zəka agenti Kerbal Space Program adlı simulyatorda keçirilmiş beynəlxalq avtonom naviqasiya yarışmasında ikinci yeri tutub.
Meta superzəkanın yaradılması üçün xüsusi laboratoriyasını formalaşdırıb
Meta superzəkanın yaradılması üçün xüsusi laboratoriyasını formalaşdırıb
Meta şirkətinin rəhbəri Mark Zuckerberg süni zəkanın növbəti nəslinin inkişafı ilə məşğul olacaq yeni bölmə - Superintelligence Labs-ın (MSL) yaradıldığını elan edib.
Google DeepMind "Minilliyin 7 Problemi"ndən birinin həllinə çox yaxındır
Google DeepMind "Minilliyin 7 Problemi"ndən birinin həllinə çox yaxındır
Riyaziyyatçı Javier Gomez Serrano Navye-Stoks tənliyini həll etməyə çalışmaq üçün Google DeepMind-ın alimlər komandasında yer alıb. Bu tənlik, Kley Riyaziyyat İnstitutunun həllinə görə şöhrət və 1 milyon dollar mükafat vəd etdiyi "Minilliyin 7 Problemi"ndən biridir.
Həftənin xəbərləri
