Capacitățile de ultimă oră ale inteligenței artificiale înseamnă că sistemele AI sunt capabile să detecteze bolile devreme, să gestioneze reacțiile chimice și să explice unele dintre misterele Universului.
Noile cercetări subliniază cât de ușor pot fi antrenate modelele de inteligență artificială în scopuri rău intenționate, precum și bune, mai ales pentru a imagina modelele pentru agenții de arme biologice ipotetice. O încercare cu o inteligență artificială existentă a identificat 40.000 de astfel de substanțe chimice pentru arme biologice în doar șase ore.
Cu alte cuvinte, în timp ce AI poate fi incredibil de puternică – și mult, mult mai rapidă decât oamenii – atunci când vine vorba de identificarea combinațiilor chimice și a compușilor de medicamente pentru a ne îmbunătăți sănătatea, aceeași putere poate fi folosită pentru a crea substanțe potențial foarte periculoase și mortale.
„Am petrecut zeci de ani folosind computere și AI pentru a îmbunătăți sănătatea umană – nu pentru a o degrada”, scriu cercetătorii.
„Suntem naivi când ne gândim la potențiala utilizare greșită a comerțului nostru, deoarece scopul nostru a fost întotdeauna să evităm caracteristicile moleculare care ar putea interfera cu multe clase diferite de proteine esențiale vieții umane”, au adăugat aceștia.
Ce au testat oamenii de știință
Echipa a prezentat testul la o conferință internațională de securitate, punând în funcțiune un sistem AI numit MegaSyn – nu în modul său normal de funcționare, care este să detecteze toxicitatea în molecule pentru a le evita, ci să facă exact opusul.
În experiment, moleculele toxice au fost mai degrabă păstrate decât eliminate. În plus, modelul a fost antrenat pentru a pune aceste molecule împreună în combinații, astfel încât au fost generate atât de multe arme biologice ipotetice într-un timp atât de scurt. Cercetătorii au instruit IA cu molecule din baze de date cu molecule asemănătoare medicamentelor, instruindu-le că ar dori ceva similar cu agentul nervos puternic VX.
Mulți dintre compușii generați au fost chiar mai toxici decât VX. Drept urmare, autorii din spatele noului studiu păstrează unele dintre detaliile cercetării lor secrete și au dezbătut serios dacă să facă publice sau nu aceste rezultate.
„Prin inversarea utilizării modelelor noastre de învățare automată, ne-am transformat modelul generativ inofensiv dintr-un instrument util de medicină într-un generator de molecule probabil mortale”, au explicat cercetătorii.
Oamenii de știință cer acum o „privire nouă” asupra modului în care sistemele de inteligență artificială pot fi utilizate în scopuri răuvoitoare. Ei spun că o mai mare conștientizare, orientări mai puternice și o reglementare mai strictă în comunitatea de cercetare ne-ar putea ajuta să evităm pericolele unde ar putea duce aceste capacități AI altfel.
Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News
Citește articolele cu aceleași etichete:
- Marte în Berbec, din 30 aprilie. Ce aduce în viețile noastre. Patru zodii sunt primele afectate
- Lovitură de teatru la CCR: documente ANAF, declarate neconstituționale în procesele penale
- Doi mari actori români au scris istorie împreună, dar s-au urât în viața reală. De ce nu și-au vorbit timp de 32 de ani
- Probleme pentru doi concurenți, la Te cunosc de undeva: "M-am trezit cu genunchiul umflat"
- DNA, primele acuzații oficiale după perchezițiile la Complexul Energetic Oltenia (CEO). Cine este directorul reținut. Acuzațiile procurorilor
- Dispare obiceiul de a consuma vin? Ce afectează vânzarea popularei băuturi
- "Să aprindem grătarele". Ce spune Mihaela Bilic despre mici, cel mai popular aliment printre români
- 10 lucruri pe care nu le știai despre primarul USR Dominic Fritz
- BANCUL ZILEI: Lucruri dificil de realizat
- Prof. univ. dr. Mircea Duțu, semnal de alarmă asupra reformării profesiei juridice: Robotul a participat la admiterea în magistratură și a trecut cu brio / video