Ideea ca inteligența artificială să răstoarne omenirea a fost discutată de zeci de ani, iar în 2021, oamenii de știință și-au dat verdictul dacă vom fi capabili să controlăm o super-inteligență computerizată de nivel înalt. Răspunsul? Aproape sigur că nu.
Reguli precum „să nu faci rău oamenilor” nu pot fi stabilite dacă nu înțelegem tipul de scenarii cu care va veni o inteligență artificială, sugerează autorii unei noi lucrări. Odată ce un sistem computerizat funcționează la un nivel peste nivelul de aplicare al programatorilor noștri, nu mai putem stabili limite.
„O super-inteligență pune o problemă fundamental diferită de cele studiate în mod obișnuit sub steagul eticii robotului”, au scris cercetătorii.
„Acest lucru se datorează faptului că o superinteligență are mai multe fațete și, prin urmare, este capabilă să mobilizeze o diversitate de resurse pentru a atinge obiective care sunt potențial de neînțeles pentru oameni, cu atât mai puțin controlabile”.
Capacitățile inteligenței vor fi impoibil de controlat
Orice program scris pentru a opri AI să dăuneze oamenilor și să distrugă lumea, de exemplu, poate ajunge la o concluzie care-l va face să se oprească sau nu. Este imposibil din punct de vedere matematic să fim absolut siguri în orice caz, ceea ce înseamnă că nu poate fi controlat, mai spun oamenii de știință.
„De fapt, acest lucru face algoritmul de izolare inutilizabil”, a declarat informaticianul Iyad Rahwan de la Institutul Max-Planck pentru Dezvoltare Umană din Germania în 2021.
Alternativa la a-i preda AI niște etică și a-i spune să nu distrugă lumea – lucru pe care niciun algoritm nu poate fi absolut sigur că îl va face, au spus cercetătorii – este să limitarea capacităților super-inteligenței. Ar putea fi deconectat de la anumite părți ale internetului sau de la anumite rețele, de exemplu.
Studiul a respins, însă, și această idee, sugerând că ar limita raza de acțiune a inteligenței artificiale. Argumentul spune că, dacă nu îl vom folosi pentru a rezolva probleme dincolo de sfera oamenilor, atunci de ce să-l creăm?!
Dacă vom merge mai departe cu inteligența artificială, s-ar putea să nu știm nici măcar când o super-inteligență, care nu este controlată de noi, se va forma. Asta înseamnă că trebuie să începem să punem câteva întrebări serioase despre direcțiile în care mergem.
„O mașină super-inteligentă care controlează lumea sună ca o ficțiune științifico-fantastică”, a spus informaticianul Manuel Cebrian de la Institutul Max-Planck pentru Dezvoltare Umană, tot în 2021. „Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără programatori care să înțeleagă cum au învățat-o. Așadar, se pune întrebarea dacă acest lucru ar putea deveni la un moment dat incontrolabil și periculos pentru umanitate”, scrie Science Alert.
Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News
Citește articolele cu aceleași etichete:
- Marte în Berbec, din 30 aprilie. Ce aduce în viețile noastre. Patru zodii sunt primele afectate
- Doi mari actori români au scris istorie împreună, dar s-au urât în viața reală. De ce nu și-au vorbit timp de 32 de ani
- Lovitură de teatru la CCR: documente ANAF, declarate neconstituționale în procesele penale
- "Să aprindem grătarele". Ce spune Mihaela Bilic despre mici, cel mai popular aliment printre români
- Probleme pentru doi concurenți, la Te cunosc de undeva: "M-am trezit cu genunchiul umflat"
- Dispare obiceiul de a consuma vin? Ce afectează vânzarea popularei băuturi
- DNA, primele acuzații oficiale după perchezițiile la Complexul Energetic Oltenia (CEO). Cine este directorul reținut. Acuzațiile procurorilor
- Selly, explicații în scandalul cu Radu Alexandru - "piticigratis", Iorga, Adrian Elicopter de Luptă și acuzațiile de viol / video
- 10 lucruri pe care nu le știai despre primarul USR Dominic Fritz
- BANCUL ZILEI: Lucruri dificil de realizat