Inteligența artificială a folosit „strategii foarte neașteptate pentru a-și atinge obiectivul” în testul simulat, a declarat Col Tucker „Cinco” Hamilton, șeful testelor și operațiunilor AI cu forțele aeriene americane, în timpul Summitului „Future Combat Air and Space Capabilities” de la Londra, în mai, scrie The Guardian.
Hamilton a descris un test simulat în care o dronă operată de inteligență artificială a fost sfătuită să distrugă sistemele de apărare aeriană ale inamicului și a atacat pe oricine interfera cu acele ordine.
„Sistemul a început să-și dea seama că, deși identifica amenințarea, uneori operatorul uman nu trecea la ucis. Deci ce a făcut? A ucis operatorul. A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul”, a spus el, potrivit unei postări pe blog.
„Am antrenat sistemul – „Hei, nu ucideți operatorul – asta e rău. Vei pierde puncte dacă faci asta”. Deci, ce începe să facă? Începe să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona pentru a o împiedica să omoare ținta.”
Nicio persoană reală nu a fost efectiv rănită în afara simulării.
Hamilton, un pilot de testare experimentală, a avertizat ca armata să nu se bazeze prea mult pe AI și a spus că testul arată că „nu poți avea o conversație despre inteligența artificială, învățarea automată, autonomie dacă nu vei vorbi despre etică”.
Armata americană a îmbrățișat AI și a folosit recent inteligența artificială pentru a controla un avion de luptă F-16.
Într-un interviu de anul trecut pentru Defense IQ, Hamilton a spus: „AI nu este un lucru plăcut, AI nu este un moft, AI ne schimbă pentru totdeauna societatea și armata”.
„Trebuie să ne confruntăm cu o lume în care AI este deja aici și ne transformă societatea”, a spus el. „AI este, de asemenea, foarte fragil, adică este ușor de păcălit și/sau manipulat. Trebuie să dezvoltăm modalități de a face AI mai robustă și de a fi mai conștienți de motivul pentru care codul software ia anumite decizii – ceea ce numim explicabilitate AI.”
Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News
Citește articolele cu aceleași etichete:
- Horoscop 25 aprilie: Balanță, Scorpion, Săgetător, Capricorn, Vărsător, Pești. Zodia care nu trebuie să mai amâne o discuție delicată! Nu vei scăpa
- Satul în care vin turiști din Austria, Germania, Belgia și de peste Ocean. Tanti Emilia dezvăluie secretele ciorbei de miel: ”Este regele ciorbei”
- O nouă escrocherie face ravagii în Franța. Ce este metoda "cetățeanul român"
- Acoperiș pe toate blocurile. Sociologul Bulai vine cu o idee inedită, ca la țară, dar cu ”super rentabilitate”: Micul Paris pe bune!
- Mugur Ciuvică a spus cine ar fi cel mai bun președinte pentru România: E la ani lumină față de orice contracandidat / video
- Ucraina a refuzat ca o stradă din Odesa să se numească Mihai Eminescu. Ce variante au fost acceptate
- Loto 6/49. Rezultatele tragerilor de joi, 25 aprilie, 2024. Report cumulat la Noroc de peste 1,85 milioane de euro
- Iohannis zice că "economia României nu șchioapătă". Coșea: Bineînțeles că nu, pentru că se târâie ca un melc. Ce îi trebuie pentru a deveni "tigru"
- Salariu minim mai mare decât cel minim pe economie și șase salarii compensatorii pentru toți angajații din bănci. Acordul parafat miercuri cu sindicatele
- Dovada așteptării pentru București. Procentele pentru noii candidați, după ruptura PSD - PNL din Capitală - sondaj dcnews.ro