O trecere a companiilor de tehnologie către sisteme autonome ar putea „amplifica masiv” impactul IA-ului, iar guvernele au nevoie de regimuri de siguranță care să declanșeze acțiuni de reglementare dacă produsele ating anumite niveluri de capacitate, scrie The Guardian.
Recomandările sunt făcute de 25 de experți, inclusiv Geoffrey Hinton și Yoshua Bengio, doi dintre cei trei „nași ai inteligenței artificiale” care au câștigat premiul ACM Turing – echivalentul în informatică al premiului Nobel – pentru munca lor.
Intervenția vine în timp ce politicienii, experții și directorii din domeniul tehnologiei se pregătesc să se întâlnească marți la un summit de două zile la Seul.
Lucrarea academică, numită „gestionarea riscurilor extreme ale inteligenței artificiale pe fondul progresului rapid”, recomandă legi guvernamentale de siguranță care introduc cerințe mai stricte dacă tehnologia avansează rapid.
De asemenea, solicită o finanțare sporită pentru organismele nou înființate, cum ar fi institutele de siguranță IA din Regatul Unit și SUA; obligarea firmelor de tehnologie să efectueze o verificare mai riguroasă a riscurilor; și restricționarea utilizării sistemelor AI autonome în roluri societale cheie.
Lucrarea spune că sistemele avansate de inteligență artificială ar putea ajuta la vindecarea bolilor și la creșterea nivelului de trai, dar și la amenințarea erodării stabilității sociale. Acesta avertizează, totuși, că mișcarea industriei tehnologice către dezvoltarea sistemelor autonome reprezintă o amenințare și mai mare.
„Companiile își schimbă atenția către dezvoltarea de sisteme IA generaliste care pot acționa în mod autonom și pot urmări obiective. Creșterile capacităților și autonomiei ar putea în curând amplifica masiv impactul IA, cu riscuri care includ daune sociale pe scară largă, utilizări rău intenționate și o pierdere ireversibilă a controlului uman asupra sistemelor IA autonome”, au spus experții, adăugând că progresul necontrolat al IA ar putea duce la „marginalizarea sau dispariția umanității”.
Următoarea etapă de dezvoltare pentru IA comercială este AI „agentică”, termenul pentru sistemele care pot acționa autonom și, teoretic, pot îndeplini și sarcini precum rezervarea vacanțelor.
Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News
- Știrea zilei e despre Carmen Brumă. Nimeni din presă n-a scris despre asta!
- Noi informații despre problemele navei spațiale Starliner. Ce au descoperit inginerii
- Diferența dintre Ambulanță și SMURD. Când și unde intervine fiecare. Raed Arafat, explicații din sistem/ VIDEO
- BANCUL ZILEI: Între vecini, la Vaslui
- Motivul crimei de la Brăila. Ipotezele luate în calcul de anchetatori
- Ciolacu, replică pentru Geoană: E de noaptea minții! / video
- Victorie de etapă pentru investitorul Alin Bucur. Plaja Caelia a primit „undă verde“ de la Tribunalul Constanța
- „Cazul Lasconi” se repetă în familia lui Elon Musk. Miliardarul se laudă că a dezmoștenit-o pe fiica lui trans și a declarat-o moartă. Aceasta a ripostat în presă
- Reacția unui profesor după ce un coleg a venit în fustă: Să încercăm să înțelegem de ce e supărată lumea pentru cum se îmbracă Nae la facultate
- Continuă coaliția PSD - PNL după alegeri? Alina Gorghiu: Sper să nu se supere nimeni că îndrăznesc să am această opinie / video