Intelligenza Artificiale, la resa dei conti

[Roberto M]

Notizia veramente inquietante, questi idioti di programmatori manco conoscono le tre leggi della robotica di Asimov.

Potrebbe veramente essere l’AI la causa dell’estinzione del genere umano, altro che clima e russia.

 

Drone Usa controllato dall'intelligenza artificiale «uccide il suo operatore in una simulazione virtuale» 

di Giuseppe Benedini 

Il racconto del colonnello Hamilton: «Ha ucciso l'operatore perché gli impediva di raggiungere il suo obiettivo».

 

https://www.corriere.it/esteri/23_giugno_02/drone-controllato-intelligenza-artificiale-uccide-suo-operatore-una-simulazione-virtuale-a32b7120-0145-11ee-9a47-43166fb70f00.shtml

[tomminno]

1 ora fa, Roberto M ha scritto:

Notizia veramente inquietante, questi idioti di programmatori manco conoscono le tre leggi della robotica di Asimov

Le 3 leggi della robotica sono fantascienza.

Come minimo sarà rientrato nel pattern del nemico che entra nel sistema di comunicazione e cerca di cambiare obiettivo. Invece che obbedire traccia il segnale e fa fuoco.

La IA non sai bene cosa impari. Ci sono casi di studio in cui per riconoscere tumori aveva imparato a riconoscere il macchinario con cui erano state fatte le immagini invece del loro contenuto, solo perché tutti i casi positivi che gli avevano fatto vedere erano stati fatti con macchinari diversi da quelli dei casi negativi.

Come dire aveva imparato a riconoscere se il sensore era Sony o Canon solo perché gli avevano dato in pasto tutti i paesaggi fatti con Sony e avifauna con Canon. Quando poi gli passi un avifauna Nikon 😉 ti dice paesaggio.

 

[appecundria]

[ferrocsm]

La bufala sarebbe questa @appecundria?

"Alla fine è successo: l'intelligenza artificiale si è ribellata all'uomo e l'ha ucciso. Ma è accaduto solo in linea teorica: un alto funzionario dell'Air Force statunitense, durante un vertice a Londra, ha raccontato nel dettaglio come un drone guidato da un algoritmo programmato per distruggere potrebbe ribellarsi agli ordini di un operatore ed eliminarlo pur di completare la missione."

[appecundria]

@ferrocsm Il racconto del colonnello Hamilton: «Ha ucciso l'operatore perché gli impediva di raggiungere il suo obiettivo». Ma l'Aeronautica statunitense smentisce e lui ritratta tutto: «Mai effettuato il test».

[LUIGI64]

Ritratta

Mah....

[Roberto M]

17 minuti fa, appecundria ha scritto:

Ma l'Aeronautica statunitense smentisce e lui ritratta tutto: «Mai effettuato il test».

Se leggi l’articolo non e’ poi cosi’ scontato che sia una notizia falsa, inpresenti alla riunione “non hanno commentato” e l’aereonautica (e lo stesso generale) non nega che quel generale ha detto quelle frasi, ma ha parlato di “aneddoti”.

Ha quindi fatto una smentita di facciata, i segreti militari si chiamano segreti per questo. 

A mio avviso la smentita “pareggia” la dichiarazione iniziale, quindi non basta a qualificare la notizia come “bufala”, e’ come quando un politico dice una frase che non avrebbe dovuto dire poi si accorge di averla fatta fuori dal vaso e smentisce parlando di “frasi male interpretate”.

 

E comunque e’ una notizia verosimile ed il problema e’ reale.

I piloti di caccia rifiutano categoricamente che l’intelligenza artificiale possa prendere il totale controllo dell’aereo e decidere da sola.

[Xabaras]

Non ci credo neanche se me lo giurano. Bufala garantita.

[LUIGI64]

https://www.ilpost.it/2023/06/02/intelligenza-artificiale-drone-uccide-operatore-simulazione-scenario/?amp=1

[UpTo11]

https://www.bufale.net/ai-decide-di-volersi-sbarazzare-dei-piloti-militari-umani-ma-laviazione-usa-nega/

[Mighty Quinn]

Affinché sia chiaro a tutti

Si parla di uccisione virtuale

Era ovviamente una simulazione

Inoltre il colonnello forse non era esperto di quello che fanno i media: inventano scoop

Detto ciò

Il problema è ovviamente reale o meglio potenzialmente realistico

Penso che sia anche questo uno dei motivi per cui si fanno simulazioni

Oltre che per risparmiare 

 

[loureediano]

Se i droni o i missili si rivoltassero conto chi li lancia questa intelligenza artificiale farebbe cosa giusta ed intelligente

[mozarteum]

Invece, notizia vera un senatore ha affermato ieri che il suo discorso l’ha fatto chapt.

E questo per provocare una riflessione sulle implicazioni pratiche ed etiche dell’uso di chapt. Riflessione ovviamente da affidarsi a chapt stessa che c’avemo da anna’ ar circolo del golf

[senek65]

La cosa preoccupante è che, se a programmare l'AI, c'è un un imbecille,  avremo l'imbecillità artificiale. 

 

[liboize]

@mozarteum In pratica e' un discorso fatto colle chapt .

[Idefix]

Però sono scenari probabili.

Non resta che sperare nell'intelligenza naturale di chi definirà le AI qualsiasi esse siano.

[ferrocsm]

57 minuti fa, Idefix ha scritto:

Però sono scenari probabili.

Certo che un domani potrebbe essere qualora l'uomo abdicasse in toto a favore della IA, tuttavia non è che possiamo andare in internet e selezionare qualsiasi articolo di qualsiasi giornale senza degnarlo di un minimo approfondimento o magari un confronto, fermandoci solamente al titolo acchiappa lettori o poli fai te,  altrimenti vale tutto, persino che il cristo sia morto di freddo, o che con i vaccini ci abbiano inserito un chip di controllo della nostra mente in forma liquida, o che il t-amp le suoni di santa ragione all'ongaku.    

[Idefix]

È ragionevole pensare che la creazione di una "macchina" che "ragioni" da sola possa portare a conseguenze che on prevedibili.