AI ed estinzione del genere umano

1 Giugno 2023

10 ore fa, ferdydurke ha scritto:

12 anni dopo scrisse la Filosofia perenne..

Con quel libro, mi pare che l'autore ipotizzi una via di uscita...

2 Giugno 2023

https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

Il drone militare statunitense controllato dall'IA "uccide" il suo operatore in un test simulato

Nessuna persona reale è stata ferita, ma l'intelligenza artificiale ha usato "strategie altamente inaspettate" nel test per raggiungere la sua missione e ha attaccato chiunque abbia interferito

In un test simulato messo in scena dalle forze armate statunitensi, un drone dell'aeronautica controllato dall'intelligenza artificiale ha "ucciso" il suo operatore per impedirgli di interferire con i suoi sforzi per raggiungere la sua missione.

L'intelligenza artificiale ha utilizzato "strategie altamente inaspettate per raggiungere il suo obiettivo" nel test simulato, ha affermato il colonnello Tucker "Cinco" Hamilton, capo dei test e delle operazioni di intelligenza artificiale dell'aeronautica americana, durante il Future Combat Air and Space Capabilities Summit a Londra a maggio.

“Il sistema ha iniziato a rendersi conto che mentre identificava la minaccia a volte l'operatore umano gli diceva di non uccidere quella minaccia, ma ha cercato di ottenere comunque i suoi punti rimuovendo quella minaccia.
Quindi cosa ha fatto?
Ha cercato di neutralizzare l'operatore.
Ha neutralizzato l'operatore perché quella persona gli stava impedendo di raggiungere il suo obiettivo".

“Abbiamo addestrato il sistema – 'Ehi, non uccidere l'operatore – non va bene. Perderai punti se lo fai'. Quindi cosa inizia a fare? Comincia a distruggere la torre di comunicazione che l'operatore utilizza per comunicare con il drone per impedirgli di uccidere il bersaglio. Nessuna persona reale è stata effettivamente danneggiata al di fuori della simulazione.