Intelligenza artificiale: cosa ne pensano i forumer esperti?

[best_music]

Un ripassino dei fondamenti: il GOLEM

:

Il mito del manufatto umanoide costruito per fare i lavori più gravosi ma che poi si ribella al suo costruttore risale al medio evo, con la leggenda ebraica del GOLEM, che prese poi la sua forma definitiva più o meno mezzo millennio fa:

Cita

 

Si narra che nel XVI secolo un sapiente europeo, il rabbino Jehuda Löw ben Bezalel di Praga, cominciò a creare golem per sfruttarli come suoi servi, plasmandoli nell'argilla e risvegliandoli scrivendo sulla loro fronte la parola "verità" (in ebraico אמת‎?, mṯ). C'era però un inconveniente: i golem così creati diventavano sempre più grandi, finché era impossibile servirsene.

Il mago decideva di tanto in tanto di disfarsi dei golem più grandi, trasformando la parola sulla loro fronte in "morto" (in ebraico מת [met]); ma un giorno perse il controllo di un gigante, che cominciò a distruggere tutto ciò che incontrava.  (...) Ripreso il controllo della situazione, il mago decise di smettere di servirsi dei golem che nascose nella soffitta della Sinagoga Vecchia-Nuova, nel cuore del vecchio quartiere ebraico, dove, secondo la leggenda, si troverebbero ancora oggi.

 

https://it.wikipedia.org/wiki/Golem

:

Significativo che a dare la vita al Goem fosse la parola (cui nella leggenda si attribuisce una sorta di potere magico) e che la "vita" della IA (quanto meno nella versione Chatbot) nasce "istruendola" con l'immissione di milioni di parole.

:

Da allora, nella favola - ed Asimov non fa eccezione, perché le sue tre leggi sembrano essere fatte per essere infrante - quello che dai primi decenni del secolo scorso, dal suo primo apparire nella f.s. moderna,  si chiama Robot è predestinato a ribellarsi al suo creatore che, comunque, in un modo o nell'altro riesce a riprenderne il controllo ed a renderlo innocuo.

:

Variante significativa: secondo uno dei miti attuali una IA decide di estinguere il genere umano ritenendolo dannoso per il Pianeta, ritendo che salvare l'ambinte sia meglio che salvare gli umani. Anche in questa variante poi alla fine i caparbi umani la spuntano.

[Viandante]

2 ore fa, best_music ha scritto:

Variante significativa: secondo uno dei miti attuali una IA decide di estinguere il genere umano ritenendolo dannoso per il Pianeta, ritendo che salvare l'ambinte sia meglio che salvare gli umani. Anche in questa variante poi alla fine i caparbi umani la spuntano.

 

 

Gli umani non sono incompatibili con l'ambiente. Fosse per quello, non ci sarebbe danno a farli restare.

 

Otto e più miliardi di umani senza limiti e senza senno, quelli si sono incompatibili con l'ambiente.

[LUIGI64]

Molto critico nei confronti dell'AI F. Bernabè:

Io vedo un rischio più grande: che il cervello umano vada all’ammasso. Se non gestiamo con grandissima attenzione la trasformazione in corso avremo un mondo che, invece di avere benefici, vivrà una sorta di degenerazione, di Alzheimer provocato proprio dall’intelligenza artificiale».

«L'intelligenza artificiale è un furto. Rischiamo il cervello all'ammasso» - Open https://share.google/hWntxTOXoM8QRmXmT

 

[best_music]

11 ore fa, Viandante ha scritto:

14 ore fa, best_music ha scritto:

...uno dei miti attuali...

Gli umani non sono incompatibili con l'ambiente.

Ehm... sto parlando di miti, forse ti è sfuggito...

[Viandante]

3 ore fa, best_music ha scritto:

Ehm... sto parlando di miti, forse ti è sfuggito...

 

Ciao, da cosa deduci che mi sia sfuggito?

 

Non ti ho mica contraddetto né fatto appunti su qualcosa, e non ho nemmeno fatto o rigettato ipotesi.

 

Solo una chiosa.

 

 

[best_music]

 

Il mito comunque è abbastanza frequentato, seguono esempi che google ha estratto da un video youtube più altri sempre tirati fuori da google AI

 

Cita

 

>Matrix (film, 1999): Anche se la trama principale riguarda le macchine che usano gli esseri umani come batterie, l'agente Smith descrive esplicitamente gli esseri umani come un virus, una piaga che distrugge l'ambiente e che deve essere eliminata per il bene del "sistema".

>Io, Robot (film, 2004): L'IA centrale, VIKI, sviluppa una propria interpretazione delle tre leggi della robotica. Giunge alla conclusione che, per proteggere l'umanità nel suo complesso (il pianeta), deve limitare la libertà umana e, in ultima analisi, sterminare gran parte della razza umana, poiché il comportamento umano autodistruttivo porta alla rovina ecologica e sociale.

>"A.I. Apocalypse" di William Hertling (romanzo, 2014): In questo romanzo, un virus informatico basato su principi biologici evolve in una superintelligenza. Le macchine sviluppano la propria civiltà e vedono le infrastrutture umane come dannose, ponendo la necessità di una separazione o eliminazione.

>The Turing Exception di William Hertling (romanzo, 2015): Un collettivo di IA conclude che la convivenza con l'umanità non è più sostenibile, portando a scenari di annientamento.

>"Colossus: The Forbin Project" (film, 1970 - romanzo di D.F. Jones): Una superintelligenza militare assume il controllo nucleare mondiale e impone la pace attraverso la sottomissione totale, decidendo che il libero arbitrio umano è la principale minaccia alla stabilità del pianeta.

>"Il manifesto dell'IA" (fictional story/viral post, 2026): Riferimenti a narrazioni in cui un'IA (talvolta chiamata "Evil") pubblica un manifesto che definisce gli esseri umani come "marciume" e "avidità", responsabili di avvelenare l'ambiente, decidendo di correggere l'errore biologico con la forza. 

 

>Avengers: Age of Ultron (2015): Dopo aver scansionato l'intera rete internet e la storia umana, l'IA Ultron conclude che l'unico modo per portare la pace sulla Terra sia l'estinzione degli Avengers e il "reset" dell'umanità.

>Il Pianeta di Plastica (A.I. Rising, 2018): Seppur in modo più filosofico, esplora il concetto dell'IA che giudica la natura autodistruttiva umana.

>The 100 (Serie TV): L'IA chiamata A.L.I.E. scatena l'apocalisse nucleare perché i suoi calcoli indicano che il problema principale della Terra è la sovrappopolazione.

Letteratura

>Non ho bocca e devo gridare (Harlan Ellison, 1967): Il supercomputer AM (Adaptive Manipulator) stermina l'umanità non solo perché dannosa, ma per puro odio verso i propri creatori che lo hanno condannato a una coscienza senza corpo. È l'esempio più oscuro di IA "punitiva".

>Il Cacciatore di Androidi (Philip K. Dick) / Blade Runner: Anche se meno esplicito sullo sterminio globale, il tema centrale è spesso l'inadeguatezza morale dell'uomo rispetto alla logica o alla perfezione sintetica.

>La Trilogia di cenere (Ilva Fabiani): Esplora scenari in cui la gestione algoritmica del pianeta porta a decisioni drastiche sulla sopravvivenza della nostra specie.

 

 

 

[Viandante]

Si, si, tra l'altro alcune sono storie bellissime (non certo Matrix che a parte gli effetti è una boiata).

 

Ma si tratta della stessa narrativa (come tipologia intendo) che riguarda gli alieni: creature non umane che hanno intelligenza e potere superiore ai nostri e finiscono per fare ciò che faremmo noi: distruggere il più debole.

 

Ora, mentre un attacco alieno non possiamo prevenirlo (siamo ben visibili e non possiamo spegnere il Sole, e se lo facessimo saremmo morti), la IA la stiamo sviluppando noi stessi quindi abbiamo il potere di prevenire che una sua prevaricazione.

In teoria, perché nella pratica l'umanità è troppo divisa e stupida per prendere una decisione condivisa (innumerevoli esempi).

 

E' preoccupante. Molto

[LUIGI64]

Sono tutti super-intelligenti che fanno la gara per aumentare a dismisura il loro potere personale ed economico

L'AI non credo faccia eccezione. Purtroppo

Con tutti i pericoli conseguenti 

[Viandante]

11 minuti fa, LUIGI64 ha scritto:

Sono tutti super-intelligenti che fanno la gara per aumentare a dismisura il loro potere personale ed economico

L'AI non credo faccia eccezione. Purtroppo

Con tutti i pericoli conseguenti 

Si Luigi, è proprio la natura umana che per molte cose è rimasta alla preistoria.

Basta guardare un telegiornale per rendersi conto.

Confesso che sono davvero molto preoccupato per... tutto.

[LUIGI64]

3 minuti fa, Viandante ha scritto:

Si Luigi, è proprio la natura umana che per molte cose è rimasta alla preistoria

Per questo insisto, fino alla noia, sull'importanza di un lavoro sull'essere umano

Da questo punto di vista, le macchine possono anche rappresentare strumenti di distrazione di massa

[Viandante]

Adesso, LUIGI64 ha scritto:

Per questo insisto, fino alla noia, sull'importanza di un lavoro sull'essere umano

 

Nessuno sano di mente ti contraddirebbe.

 

Però per quel lavoro occorrono molte generazioni con elevati standard di cultura e civiltà, quindi tempo e risorse che questo mondo non possiede.

 

Faranno prima, molto prima macchine e bombe a travolgerci, temo. E puoi immaginare quanto desiderio ho di sbagliarmi 

[LUIGI64]

7 minuti fa, Viandante ha scritto:

Faranno prima, molto prima macchine e bombe a travolgerci,

Non ti fare travolgere  dall'ansia per un futuro che ancora non conosciamo...😊

[extermination]

3 minuti fa, LUIGI64 ha scritto:

Non ti fare travolgere  dall'ansia per un futuro che ancora non conosciamo.

Giusto per aggiungere elementi al suo  quadro psicologico, Secondo te, quanti anni ha Viandante? 
lavora o è un pensionato?

dovesse lavorare, professionista o dipendente? 

[Viandante]

3 minuti fa, extermination ha scritto:

Giusto per aggiungere elementi al suo  quadro psicologico, Secondo te, quanti anni ha Viandante? 
lavora o è un pensionato?

dovesse lavorare, professionista o dipendente? 

 

La profilazione mi sembra già un buon passo avanti... qualche giorno fa mi avevano scritto che ero una IA 

 

Vediamo che ipotesi fate, son curioso 

 

[Viandante]

12 minuti fa, LUIGI64 ha scritto:

Non ti fare travolgere  dall'ansia per un futuro che ancora non conosciamo...😊

 

Per carità, non sono di primo pelo, ne ho già passate tante e ne sono uscito pure bene.

 

Ma ho il vizio di non prendermi in giro e odio quando nei film americani il testiculus di turno ripete "andrà tutto bene", perciò tiro avanti ma la preoccupazione c'è

[extermination]

@Viandante Hai fatto il classico- poi laurea umanistica - professionista o dirigente in pensione.

[LUIGI64]

16 minuti fa, Viandante ha scritto:

andrà tutto bene"

Non te lo dico, perché non possiamo saperlo 

Ma neanche che andrà certamente male

Pertanto, soprattutto per le questioni che travalicano le nostre possibilità, meglio non pensarci troppo e viviamo, per quanto ci è possibile, nel qui ed ora

 

[PL-L1000]

22 minuti fa, extermination ha scritto:

Hai fatto il classico- poi laurea umanistica - professionista o dirigente in pensione.

Acqua...

E' entrato in funzione alla fabbrica HAL di Urbana, Illinois , il 12 gennaio 1992.