Il drone guidato dall'Intelligenza artificiale uccide l'operatore: così è fallito un esperimento virtuale dell'Aeronautica americana

Guarda la versione integrale sul sito >

Si è trattato di un test virtuale che si è concluso in maniera negativa: ecco il racconto di un alto funzionario dell'aeronautica americana

Ha dell'incredibile la storia raccontata da “Cinco" Hamilton al Future Combat Air and Space Capabilities Summit di Londra che ha dimostrato, ancora una volta, come l'intelligenza artificiale non sia ancora totalmente diventata emblema di affidabilità soprattutto in uno scenario di guerra. Tucker “Cinco" Hamilton è il capo dei test e delle operazioni di intelligenza artificiale con l'aeronautica americana. Nel corso di una conferenza, ha raccontato una disavventura legata ad un test di un drone guidato dall'Intelligenza Artificiale che stava per produrre degli esiti tragici.

I droni sono stati protagonisti nella guerra in Ucraina

Si tratta di un test, per fortuna, solo virtuale, che se fosse stato reale avrebbe potuto avere un esito fatale per l'operatore. Sappiamo come i droni siano stati una delle armi più efficaci durante la guerra in Ucraina. Si tratta di armi molto versatili che spesso vengono utilizzati per fotografare il terreno di guerra e spiare le truppe nemiche. In alcuni casi possono anche trasportare ordigni o andarsi a schiantare contro obiettivi strategici. Hamilton, nell'illustrare un test su un drone finito molto male, ha narrato dei dettagli la disastrosa simulazione in cui il drone guidato dall’intelligenza artificiale avrebbe dovuto centrare un bersaglio.

Cosa è accaduto

Per un errore di valutazione, il drone ha scambiato l'operatore per il nemico e quindi ha deciso di eliminarlo. Una volta compreso il fatto che il drone aveva scambiato l'operatore per una minaccia, l'operatore ha invitato ripetutamente il drone a cambiare obiettivo, inutilmente. Il software, incurante degli input inviati dall'operatore, ha portato a termine i suoi incarichi uccidendo quella minaccia, facendo fuori l’operatore “perché gli stava impedendo di raggiungere il suo obiettivo”. Secondo “Cinco" questo tragico errore di valutazione sarebbe da addebitare al fatto che l'intelligenza artificiale è stata addestrata con l’obiettivo di distruggere dei bersagli. L'imperativo categorico per il drone è eliminare ogni possibile interferenza nella sua missione. Tra le interferenze, per errore, è stato individuato anche l'operatore che è stato virtualmente eliminato. Spesso l’operatore ha dato l’ordine di non attaccare, ma tutto si è rivelato inutile. Insomma, il drone ha fatto di “testa propria”, portando a termine la missione in maniera errata. CONTINUA A LEGGERE…

Guarda la versione integrale sul sito >