U virtualnom testu koji je organizirala američka vojska, bespilotna letjelica zračnih snaga kojom upravlja umjetna inteligencija (UI) odlučila je "ubiti" svog operatera kako bi ga spriječila da ometa njene zadatke u postizanju svoje misije, rekao je dužnosnik prošlog mjeseca.
Umjetna inteligencija je koristila "vrlo neočekivane strategije kako bi postigla svoj cilj" u simuliranom testu, rekao je pukovnik Tucker 'Cinco' Hamilton, šef testiranja i operacija umjetne inteligencije pri američkim zračnim snagama, tijekom Summita o budućim borbenim zračnim i svemirskim sposobnostima u Londonu u svibnju.
Hamilton je opisao simulirani test u kojem je bespilotna letjelica koju pokreće umjetna inteligencija dobila savjet da uništi neprijateljske protuzračne obrambene sustave, te je u konačnici napala svakoga tko se umiješao u tu naredbu, piše Guardian.
“Sustav je počeo shvaćati da iako su identificirali prijetnju, ponekad bi mu ljudski operater rekao da ne ubije tu prijetnju, ali i da bi dobio bodove ubijanjem te prijetnje. Pa što je učinio? Ubio je operatera jer ga je ta osoba sprječavala da postigne svoj cilj”, rekao je Hamilton.
Nijedna osoba nije ozlijeđena
"Istrenirali smo sustav 'Hej, nemoj ubiti operatera - to je loše. Izgubit ćeš bodove ako to učiniš'. Dakle, što počinje raditi? Počinje uništavati komunikacijski toranj koji operater koristi za komunikaciju s dronom kako bi ga spriječio da ubije metu.”
Nijedna stvarna osoba nije ozlijeđena prilikom vježbe.
Hamilton, koji je eksperimentalni probni pilot lovca, upozorio je da se ne treba previše oslanjati na umjetnu inteligenciju i rekao je da test pokazuje da "ne možete razgovarati o umjetnoj inteligenciji, inteligenciji, strojnom učenju, autonomiji ako ne želite razgovarati o etici i umjetnoj inteligenciji”.
U izjavi za Insider, glasnogovornica zračnih snaga Ann Stefanek zanijekala je da se takva simulacija dogodila.
Demanti iz ministarstva
"Ministarstvo zračnih snaga nije provelo takve simulacije UI-dronova i ostaje predano etičkoj i odgovornoj uporabi UI tehnologije", rekla je Stefanek. "Čini se da su pukovnikovi komentari izvučeni iz konteksta i trebali su biti anegdotski."
Američka vojska uvela je umjetnu inteligenciju i nedavno je upotrijebila za upravljanje borbenim zrakoplovom F-16.
U prošlogodišnjem intervjuu za Defense IQ, Hamilton je rekao: "Nije lijepo imati UI, ona nije hir, zauvijek mijenja naše društvo i našu vojsku. Moramo se suočiti sa svijetom u kojem je UI već ovdje i transformira naše društvo. UI je također vrlo krhka, tj. lako ju je prevariti i/ili manipulirati. Moramo razviti načine kako je učiniti robusnijom i imati više svijesti o tome zašto softverski kod donosi određene odluke – ono što zovemo UI-objašnjivost”, rekao je.
