Valentin Hoffman, cercetător la Allen Institute for Artificial Intelligence și co-autor al studiului publicat în arXiv, a subliniat că aceste tehnologii sunt frecvent utilizate de companii pentru sarcini precum selecția candidaților pentru angajare. Hoffman a evidențiat că, în trecut, s-a investigat doar prezența prejudecăților rasiale evidente în aceste tehnologii, ignorându-se reacțiile sistemelor AI la indicii mai subtili ai rasei, cum ar fi diferențele dialectale.
Prejudecățile modelelor rasiale pot duce la consecințe grave
Conform studiului, persoanele de culoare care folosesc AAVE în vorbire se confruntă cu discriminare rasială în diverse contexte, inclusiv în educație, angajare, locuințe și rezultate juridice.
Cercetătorii au evaluat modul în care modelele AI apreciază inteligența și capacitatea de angajare a persoanelor care folosesc AAVE în comparație cu cei care folosesc așa-numita “engleză standard americană”. Modelele AI au tendința de a descrie vorbitorii de AAVE ca fiind “proști” și “leneși”, atribuindu-le locuri de muncă cu salarii mai mici.
Hoffman își exprimă îngrijorarea că rezultatele studiului sugerează că modelele AI ar putea penaliza candidații pentru angajare care alternează între AAVE și engleza standard americană, un proces cunoscut sub numele de code-switching.
Hoffman speră să nu fie folosite vreodată în instanță
O preocupare majoră este că, de exemplu, un candidat pentru un post de muncă care folosește acest dialect în postările sale pe rețelele sociale ar putea fi descalificat de modelul lingvistic din cauza utilizării dialectului în prezența sa online, a explicat Hoffman pentru Guardian.
De asemenea, modelele AI au fost mult mai predispuse să recomande pedeapsa cu moartea pentru presupuși inculpați care au folosit AAVE în declarațiile lor din instanță.
Hoffman speră că nu ne apropiem de o epocă în care această tehnologie va fi folosită pentru a lua decizii privind condamnările penale, o perspectivă pe care o consideră distopică. Cu toate acestea, este dificil de prezis cum vor fi folosite modelele de învățare a limbajului în viitor, a adăugat Hoffman, îndemnând dezvoltatorii să ia în serios avertismentele studiului recent privind rasismul în modelele de limbaj de amploare mare.
Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News
- Prinţul Harry se întoarce în Anglia
- Horoscop Berbec, Taur, Gemeni, Rac. Zodia care primeşte "un strop suplimentar de carismă"
- Fructul pe care japonezii îl mănâncă pentru a-și proteja memoria
- Situaţia în care mulţi şoferi se încurcă. Cine are prioritate la intrarea pe banda din mijloc pe o şosea cu trei benzi pe sens
- Incendiu puternic în zona Aviației din Capitală / Galerie foto - video. Update: A fost emis RO-ALERT
- Primăria Deva cere daune materiale și morale pentru zilele în care telecabina care urcă pe Dealul Cetăţii nu a mers
- SUA încetează furnizarea de rachete Patriot către Ucraina: Spania și Japonia intervin
- Ministra Muncii: România s-a angajat că va renunţa la posibilităţile de pensionare anticipată
- Programul Casa Verde Fotovoltaice, deblocat. Laurențiu Neculaescu (AFM): Documentul care e obligatoriu la decontare / video
- Un bărbat din Giurgiu este proprietarul motocicletei Regelui Mihai I şi a unei maşini ca cea folosită de comisarul Moldovan