
Inteligența artificială a folosit „strategii foarte neașteptate pentru a-și atinge obiectivul” în testul simulat, a declarat Col Tucker „Cinco” Hamilton, șeful testelor și operațiunilor AI cu forțele aeriene americane, în timpul Summitului „Future Combat Air and Space Capabilities” de la Londra, în mai, scrie The Guardian.
Hamilton a descris un test simulat în care o dronă operată de inteligență artificială a fost sfătuită să distrugă sistemele de apărare aeriană ale inamicului și a atacat pe oricine interfera cu acele ordine.
„Sistemul a început să-și dea seama că, deși identifica amenințarea, uneori operatorul uman nu trecea la ucis. Deci ce a făcut? A ucis operatorul. A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul”, a spus el, potrivit unei postări pe blog.
„Am antrenat sistemul – „Hei, nu ucideți operatorul – asta e rău. Vei pierde puncte dacă faci asta”. Deci, ce începe să facă? Începe să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona pentru a o împiedica să omoare ținta.”
Nicio persoană reală nu a fost efectiv rănită în afara simulării.
Hamilton, un pilot de testare experimentală, a avertizat ca armata să nu se bazeze prea mult pe AI și a spus că testul arată că „nu poți avea o conversație despre inteligența artificială, învățarea automată, autonomie dacă nu vei vorbi despre etică”.
Armata americană a îmbrățișat AI și a folosit recent inteligența artificială pentru a controla un avion de luptă F-16.
Într-un interviu de anul trecut pentru Defense IQ, Hamilton a spus: „AI nu este un lucru plăcut, AI nu este un moft, AI ne schimbă pentru totdeauna societatea și armata”.
„Trebuie să ne confruntăm cu o lume în care AI este deja aici și ne transformă societatea”, a spus el. „AI este, de asemenea, foarte fragil, adică este ușor de păcălit și/sau manipulat. Trebuie să dezvoltăm modalități de a face AI mai robustă și de a fi mai conștienți de motivul pentru care codul software ia anumite decizii – ceea ce numim explicabilitate AI.”
Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News
Citește articolele cu aceleași etichete:
- Călin Donca, nou mesaj din spatele gratiilor / Răspuns pentru Dorian Popa / Ce se întâmplă cu banii celor care au investit în panouri / video
- ICCJ: Badea, Ciuvică, Gâdea primesc despăgubiri de la Camelia Bogdan. Fosta judecătoare cerea 100 de milioane de lei
- Este sau nu momentul pentru investiţii imobiliare? Iancu Guda spune care e "casa pe care ne-o permitem"
- Florin Dumitrescu, după anunțul făcut de Irina Fodor în timpul filmărilor de la Chefi la cuțite: "A căzut cerul pe mine!"
- Liderul FPÖ îl compară pe Nehammer cu o cămilă. Care e motivul ironiei
- „Poartă-te cu pacientul aşa cum ai dori să fii tratat tu dacă ai fi bolnav”. De Ziua Internaţională a Medicului, dr. Șerban Bubenek oferă sfaturi colegilor săi / video
- "Primeam aceeași mâncare. În zilele rele, iarbă". Marius Balo, mărturisiri din calvarul trăit în închisoarea din China: "Trebuia să folosim gaura pentru nevoi. Erai forțat să-i privești"
- BANCUL ZILEI: Un primar, la încheierea conturilor cu viața...
- Măsuri care vizează toți angajații MAI. Despescu: Test obligatoriu. Cine nu se supune... ne pare rău. Nu putem fi colegi / video
- Mircea Badea, reacție după incidentul lui George Simion cu bărbatul care-l întreba insistent „Cum este să fii rusofil?”