Fără o reglementare prealabilă, folosirea AI-ului pe piața angajărilor ar putea duce la discriminări masive în rândul cetățenilor.  

În România, digitalizarea, practic vorbind, se află abia la început, însă în țările care au început deja acest drum cetățenii se confruntă cu multiple probleme când vine vorba despre angajare, interviuri, ba chiar și admiterea la facultăți. Deși pare departe de România ideea că universitățile ar apela la algoritmi AI pentru a automatiza procesele de admitere sau examinare, dar și pentru a elimina orice perspectivă a fraudei, angajatorii sunt mai aproape ca niciodată de a apela la astfel unelte.

Din cauza confruntării cu criza locurilor de muncă, statele din Vest au apelat la companii specializate cu recrutarea personalului. Pentru că este un proces aglomerat de CV-uri, scrisori de intenție și numeroase interviuri, companiile de recrutare au apelat, la rândul lor, la companii de software care au creeat sisteme informatice de prelucrare a CV-urilor, în ideea în care aceste unelte vor filtra mai bine și mai rapid cel puțin prima etapă dintr-un proces de angajare.

Acestea pot fi întâlnite în cazul începerii unui interviu pentru a te angaja ca simplu lucrător comercial într-un supermarket, dar și în cazul ofertelor de muncă mult mai specializate, precum în IT sau chiar în domeniul legal.

AI-ul se ocupă de filtrarea CV-urilor (astfel încât, au început să apară „cursuri” care îi învață pe potențialii angajați ce cuvinte-cheie să folosească în CV-urile lor pentru a fi selectați de AI), dar în unele cazuri și de interviuri - lucru care a născut mai multe temeri în special în rândul tinerilor din Occident.

Deși se dorește a fi un proces care elimină părtinirea și discriminarea, există un semnal de alarmă în privința erorilor de care sunt suspectate mașinăriile, dar și a imposibilității de a vedea sau cere algoritmul care constituie motivația alegerii sau eliminării făcute de sistemul informatic.

Acest lucru, de fapt, creează o portiță favorabilă angajatorilor care riscă să facă abuzuri sau să-și aleagă angajații împotriva unor reguli clare în UE în legătură cu discriminarea și fără a fi controlați.

Pentru că nu este încă reglementat acest aspect, mai mulți tineri reclamă abuzuri din partea angajatorilor care și-ar crea algoritmi neținând cont de reguli.

Pe lângă aceste aspecte, mai sunt detalii etice care trebuie luate în considerare.

„Poate cel mai evident dezavantaj al utilizării instrumentelor de inteligență artificială în interviuri de angajare este că acestea lipsesc elementul uman esențial. Acest lucru poate afecta multe aspecte ale procesului de recrutare, cum ar fi decizia dacă un candidat se potrivește cu cultura companiei. Pe lângă acest aspect, instrumentele de inteligență artificială se pot concentra în principal pe calificările tehnice ale unui candidat, neglijând să ia în considerare alte aspecte importante ale unui candidat, cum ar fi capacitatea lor de a gândi creativ și de a se adapta sau inteligența lor emoțională.”, arată publicația Legacy Vault.

Angajatorii, cel mai probabil și în România în scurt timp, preferă astfel de tool-uri care „eficientizează” procesul de selecție al potențialilor angajați, fiind mult mai ieftin financiar pentru aceștia să abordeze în acest fel procesul de recrutare.

Cu atât mai mult, îngrijorările răsar pentru că implicarea AI-ului în procesul de recrutare este unul relativ nou, de doar câțiva ani practicându-se. Legislația din UE nu prevede, încă, modalitățile prin care companiile ar putea publica algoritmul de care depinde sistemul lor informatic. Nereglementat, acest lucru ar putea dăuna cetățenilor prin faptul că angajatorii ar putea avea toate pârghiile de a întrece bariera discriminării de toate felurile.

Un exemplu poate fi dat de Datatron - o platformă de monitorizare a neregulilor AI-ului.

„În octombrie 2019, cercetătorii au descoperit că un algoritm utilizat pentru a prezice care pacienți din spitalele din SUA vor avea probabil nevoie de îngrijiri medicale suplimentare, și care a fost folosit pe mai mult de 200 de milioane de persoane, favoriza puternic pacienții albi în detrimentul celor de culoare. Deși rasă în sine nu a fost o variabilă utilizată în acest algoritm, s-a folosit o altă variabilă puternic corelată cu rasă, și anume istoricul costurilor medicale. Raționamentul era legat de costul care rezumă câte nevoi medicale are o anumită persoană. Din diverse motive, pacienții de culoare aveau costuri medicale mai mici decât pacienții albi cu aceleași afecțiuni, în medie.

În mod norocos, cercetătorii au colaborat cu Optum pentru a reduce nivelul de părtinire cu 80%. Dar dacă nu ar fi fost interogați inițial, părtinirea inteligenței artificiale ar fi continuat să discrimineze în mod sever.”.

  Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News