AI ed estinzione del genere umano

[Velvet]

"L'umanità potrebbe estinguersi per colpa dell'intelligenza artificiale ". Questa volta l'allarme è ancora più esplosivo. Perché arriva direttamente da coloro che hanno acceso la miccia. Sam Altman, Ceo di OpenAI, è tra i principali firmatari di una lettera inquietante: "Mitigare il rischio di estinzione per mano dell'AI dovrebbe essere una priorità globale, alla pari di altri rischi su scala sociale come le pandemie e la guerra nucleare".

 

Se non una minaccia immediata credo almeno dubbi e timori fondati si confermino a dispetto degli ottimisti di Melius, i quali ovviamente per contratto ne sanno più  degli stessi creatori delle AI. 

 

https://www.ilsole24ore.com/art/umanita-rischio-estinzione-colpa-dell-ai-ancora-nuovo-l-ennesimo-allarme-AEE7eJZD

 

 

[keres]

Terminator insegna. Non credo che lo sviluppo delle ia sia un processo facilmente stoppabile, ne controllabile. Ergo sono pessimista.

[LUIGI64]

La scarsa lungimiranza e la nota avidità umana, non mi fa essere ottimista neanche un po'

[argonath07]

Prima è e meglio è...

[briandinazareth]

siamo di fronte alla più grande rivoluzione che l'umanità abbia conosciuto, più profonda della scrittura, del fuoco e di quella industriale. 

il tutto in  un tempo ridottissimo. 

saremmo folli a non capirne la portata e i rischi connessi.

anzi, in realtà è pure difficile capirne adesso le potenzialità e i rischi e la stragrande maggioranza della popolazione del mondo non ha neppure idea di cosa sia realmente, e così la politica.

 

[LUIGI64]

Pur non conoscendo bene il fenomeno AI, sappiamo benissimo cosa muove l'essere umano ..

[Membro_0022]

L'articolo - molto breve - non spiega perchè c'è (o ci sarebbe) il rischio di estinzione.

Mia ipotesi: affidarsi troppo all'intelligenza artificiale riduce l'uso di quella naturale, e sempre il mancato uso di un organo [astenersi da battutacce, prego] ne provoca l'atrofizzazione. In sostanza l'abuso dell'AI trasformerebbe gli umani in una massa di deficienti incapaci persino a fare una "O" con un bicchiere, da cui seguirebbe l'estinzione.

Seconda possibilità: l'AI acquisisce coscienza cattiva e mette in pratica quanto raccontato nei vari Terminator o Matrix (che sicuramente "conosce").

In ambo i casi, non è una buona prospettiva.

PS terza ipotesi: l'AI finisce sotto controllo di qualche psicopatico con manie di conquista del mondo, o comunque lo aiuta nei suoi propositi. Cosa avrebbero potuto fare Hitler o Stalin (o cosa potenzialmente può fare ora un Putin) con l'aiuto di una AI e delle tecnologie moderne... meglio non pensarci.

 

[Velvet]

12 minuti fa, briandinazareth ha scritto:

in realtà è pure difficile capirne adesso le potenzialità e i rischi e la stragrande maggioranza della popolazione del mondo non ha neppure idea di cosa sia realmente, e così la politica.

Per questo probabilmente sarebbe il caso di preoccuparsi un filo considerate le parole dei suoi creatori. I quali stanno già smanettando con sistemi N volte piu'avanzati rispetto a quelli resi pubblici e hanno già dato uno sguardo all'abisso che si apre. 

[briandinazareth]

per chi fosse interessato al dettaglio dei rischi che questa tecnologia comporta:

https://www.safe.ai/ai-risk

 

 

[mozarteum]

L’impiego in ambito militare e criminale rappresenta il maggior rischio.

per quanto riguarda il lavoro, il collo di bottiglia sara’ piazzare l’ingente produzione figlia dell’IA a un mercato di disoccupati e sottoccupati. 
il gioco funziona se c’e’ qualcuno che compra e non di sole Ferrari campa l’uomo

[Velvet]

8 minuti fa, lufranz ha scritto:

ipotesi: l'AI finisce sotto controllo di qualche psicopatico con manie di conquista del

Pensa solo ad una guerra in stile putinesco gestita con tecnologia AI. Altro che leggi della robotica del buon Asimov....

[briandinazareth]

3 minuti fa, Velvet ha scritto:

Per questo probabilmente sarebbe il caso di preoccuparsi un filo considerate le parole dei suoi creatori.

 

penso che chiunque si occupi dell'argomento o lo conosca abbastanza approfonditamente abbia legittime e importanti preoccupazioni. 

 

anche perché una rivoluzione di questa portata apre scenari che al momento non possono neppure essere immaginati. 

nessuno prevedeva cosa sarebbe diventato internet e quanto centrale nella vita e nella società, quando è stato inventato l'http. 

l'ia è una rivoluzione molto più profonda, tra l'altro non è una cosa slegata dal resto e neppure, in prospettiva, dalla nostra biologia.

[Membro_0022]

1 minuto fa, mozarteum ha scritto:

il gioco funziona se c’e’ qualcuno che compra e non di sole Ferrari campa l’uomo

Io compro una AI, la faccio lavorare al mio posto e fatturo mentre mi godo il sole sulla spiaggia.

L'importante è che quando viene istruita non le vengano immesse informazioni su cose tipo "sindacato", "sciopero", "ferie",  "orario di lavoro", etc...  altrimenti ZAC e rimetto in funzione l'intelligenza naturale.

[Velvet]

6 minuti fa, briandinazareth ha scritto:

nessuno prevedeva cosa sarebbe diventato internet e quanto centrale nella vita e nella società, quando è stato inventato l'http. 

E già lì si fatica a stornare dal tutto i lati realmente positivi per il genere umano 

[Velvet]

1 minuto fa, lufranz ha scritto:

compro una AI, la faccio lavorare al mio posto e fatturo mentre mi godo il sole sulla spiaggia

E perché io dovrei pagare te come intermediario? Vado direttamente dal sig AI che mi risolve il problema 

[mozarteum]

Ma na martellata in caso di malfunzionamento non sarebbe sufficiente a scongiurare i pericoli?

[briandinazareth]

Adesso, Velvet ha scritto:

E già lì si fatica a stornare dal tutto i lati realmente positivi per il genere umano 

 

questo mi pare un eccesso di pessimismo, si dice di ogni innovazione. 

a questo punto anche il treno o l'aereo, alla fine che lati positivi hanno avuto?

alla fine che cosa ha di positivo per l'essere umano potersi spostare velocemente? 

 

[floyder]

AI ed estinzione del genere umano
.

ma subito, veloce ed indolore, eccetto però quella pletora di pazzi in modo che il pianeta resti solo per loro … massimo un centinaio di abitanti, l’unico cruccio è non potermi fare poi quattro risate.