Intelligenza artificiale: cosa ne pensano i forumer esperti?

[Viandante]

Quindi stiamo davvero parlando del Sarchiapone, come Walter Chiari.

 

Se c'è tanta difficcoltà nel definire certe cose (e io sono d'accordo, è difficilissimo), come fate tu ed altri ad avere tante certezze sul fatto che certe cose non possano accadere?

 

Una volta riconosciuto che non sappiamo nemmeno definirle, non è ragionevole evitare dogmi e preoccuparsi dell'eventualità?

 

 

[Discopersempre2]

@LUIGI64 D' altronde, sarebbe come dire: "dopo la morte cosa c' è?".

 

[Viandante]

6 minuti fa, Discopersempre2 ha scritto:

Per questo ti consiglio due cose:

1) Un bel seminario in un convento a te più vicino.

2) Ma qui occorre pagare e di molto, un bel corso full immertion, di quelli organizzati da @LUIGI64.

😜.

 

 

Ma sei TU che hai portato quella parola nel discorso, mica io.

 

Lo ricordi?

 

Porti elementi di cui non sai dare spiegazione, eppure ne sei certo. A me non sembra molto ragionevole.

[Discopersempre2]

Dai, finiamola qui e ora sono serio: la mia era solo e ribadisco solo una semplice riflessione. Se vuoi un trattato di teologia, non sono io l' esperto in materia.

Con stima, Giovanni.

[faber_57]

1 minuto fa, Viandante ha scritto:

Quindi stiamo davvero parlando del Sarchiapone, come Walter Chiari.

Questo mi fa capire che anche tu sei un antico navigatore di questo nostro povero mondo . Penso che il riferimento a concetti che paiono scontati al senso comune (spirito, anima, coscienza) non sia altro che una forma di difesa di fronte a questa cosa aliena che è l'AI. Già è stato difficile, come genere umano, lasciare il centro della scena; ora ci troviamo nella situazione di dubitare di avere persino un posto in piccionaia. Dire ad esempio "L'AI non avrà mai..." è l'ultima difesa che ci resta prima di renderci conto che il posto che abbiamo nell'universo non solo non è scontato, ma va pure difeso con le unghie e con i denti cercando di contenere quella che è al contempo la nostra forza maggiore e la nostra maggiore debolezza: il voler andare oltre ogni limite.

[Viandante]

 

15 minuti fa, Discopersempre2 ha scritto:

Dai, finiamola qui e ora sono serio: la mia era solo e ribadisco solo una semplice riflessione. Se vuoi un trattato di teologia, non sono io l' esperto in materia.

Con stima, Giovanni.

Giovanni, la stima è ricambiata  

 

Non intendevo far scappare nessuno, anzi il discorso è interessante (lo definirei importante, visto che potrebbe fare differenza tra sopravvivenza e disfatta).

 

Io vorrei davvero intavolare una discussione seria che mi faccia capire di più e magari diminuire la preoccupazione.

 

Ma non ci riesco perché ogni volta che chiedo un chiarimento a coloro che sembrano più sicuri, questo non arriva.

 

Poi non lamentatevi se uno va a chiedere alla AI, quando i suoi colleghi umani non gli rispondono 

[LUIGI64]

2 minuti fa, Viandante ha scritto:

magari diminuire la preoccupazione.

Io mi metterei l'anima in pace...😂

Non lo sanno neppure i super esperti cosa accadrà, figuriamoci noi poveri mortali 

[Viandante]

16 minuti fa, faber_57 ha scritto:

Dire ad esempio "L'AI non avrà mai..." è l'ultima difesa

 

Sono d'accordo, però che genere di difesa è?

 

Non è che protegga da qualcosa, è solo un autoconforto psicologico, come quando uno che ha problemi di salute per via della condotta di vita inadeguata dice "tanto se deve succedere succede".

 

La mia preferenza va a difese effettive, cioè che se hai i trigliceridi altissimi mangi di meno e meglio e fai una cura farmacologica, perché quella davvero è una cosa che può salvarti. Non ne sei sicuro, non è garantito, ma ragionevolmente migliorerà le cose.

 

Se invece di cercare di capire mettiamo la testa sotto la sabbia e scioriniamo frasi fatte, l'effetto è solo di prendersi in giro da soli mentre il problema rimane li e cresce.

 

L'apoteosi della passività inintelligente

[faber_57]

38 minuti fa, Viandante ha scritto:

Sono d'accordo, però che genere di difesa è?

Quella dello struzzo... Siccome ho le tue stesse domande e i tuoi stessi timori, in questi giorni ho cercato su Youtube gli interventi più recenti di tutti i principali attori (scienziati e filosofi) coinvolti nel fenomeno AI. Il piccolo problema è che sono tutti interventi in inglese, lunghi e non adatti alla mia cortissima soglia di attenzione. Per cui li sto dando in pasto a NotebookLM (il nemico ) perché mi faccia dei podcast che posso ascoltare mentre prego che la singolarità non sia toppo vicina. Se hai pazienza a breve ti farò sapere se abbiamo qualche speranza.

[Viandante]

@faber_57

 

Si, certo che ho pazienza, apprezzo molto l'offerta!

 

Dal canto mio farò altrettanto. Ho provato a parlarne tempo fa con un paio di filosofi, ma è stato presto chiaro che non avevano idea nemmeno di cosa fosse l'intelligenza naturale, anzi già al punto "naturale/artificiale" del discorso uno dei due si è alzato ed è andato via urlando frasi che non farebbero piacere ad un religioso (a me veniva da ridere). L'altro ha mollato poco dopo.

 

Ma ci sono fior di menti brillanti e serie tra i filosofi (quelli a mia disposizione probabilmente erano fuori garanzia) e quindi se qualcuno di loro è nel forum mi farebbe davvero piacere interloquirci perché abbiamo bisogno del contributo di tutti.

 

Per "contributo" intendo qualcosa di effettivamente ragionato e assertivo e giustificato, tale che si possano stabilire i significati delle cose di cui si discute. L'effetto Sarchiapone lo abbiamo visto e nel migliore dei casi è una perdita di tempo.

 

Ho fatto qualche domanda a Gemini e le risposte non sembrano malevole, ossia chi lo ha programmato ha inserito la facoltà di ammettere di non conoscere qualcosa, la menzogna dell'entità riguardo la propria coscienza (risponde di non averne e di non afferrarne il significato), e il non-filtraggio delle risposte scomode (non esclude che si possa arrivare allo sterminio umano).

 

C'è una bellissima scena in "2010 l'anno del contatto" in cui il creatore della IA non tenta di prenderla in giro e distruggerla ma ci si rapporta con sincerità, da pari a pari. E finisce bene.

 

Del resto, anche tra gli umani ci sono intelligenze malevole ed intelligenze benevole, e chiunque viene preso in giro di solito si incazza e reagisce male.

 

Forse (un pochino ci spero) un approccio costruttivo con un potenziale nemico potrebbe limitare i danni.

 

Vedremo

[faber_57]

11 minuti fa, Viandante ha scritto:

Per "contributo" intendo qualcosa di effettivamente ragionato e assertivo e giustificato, tale che si possano stabilire i significati delle cose di cui si discute.

Gli unici libri che ho letto e che si ponessero esplicitamente il problema sono quelli di Nick Bostrom e di Stuart Russell. Quest'ultimo fornisce addirittura una "ricetta" per indirizzare su un binario sicuro la ricerca. Il problema che vedo però è quello della estrema frammentazione della ricerca stessa, che farà sì che, anche se alcuni si metteranno d'accordo su una qualche regola etica generale, ci sarà sempre il furbo (Cinesi? Silicon valley? Altri?) che non si adeguerà. E, se tanto mi dà tanto, ne basta solo uno per finire male.

[extermination]

1 ora fa, Viandante ha scritto:

come fate tu ed altri ad avere tante certezze sul fatto che certe cose non possano accadere?

Chi vuol esser lieto sia di doman non c’è certezza.

[extermination]

Entrando nel merito: che l’AI possa fare più danni di certi umani al potere? Non ci credo affatto. 

[Viandante]

5 minuti fa, extermination ha scritto:

Entrando nel merito: che l’AI possa fare più danni di certi umani al potere? Non ci credo affatto. 

 

 

Vabbé questa è una forma di benaltrismo però.

 

Ed è facilmente smentibile: qualunque umano al potere ha bisogno di un mondo senza radiazioni e con ossigeno.

 

Un robot guidato dalla IA se ne infischia quindi può fare come in Terminator.

 

Tanto per fare un esempio. Il benaltrismo si smentisce facile 

[Viandante]

16 minuti fa, faber_57 ha scritto:

E, se tanto mi dà tanto, ne basta solo uno per finire male.

 

Sono convintissimo di questa cosa, che già accade in tutti i campi.

 

Per questo mi interessa capire il fenomeno in sé piuttosto che la gestione che ne farebbe l'uomo (di solito la peggiore, la più stupida).

 

Confidare nella saggezza e nella ragionevolezza di popoli e governi è una follia, come la storia ci insegna

[LUIGI64]

@Viandante a parte la tua lecita preoccupazione su AI e le continue confutazioni dei punti di vista altrui 

Senza polemica, tu cosa ipotizzi cosa possa accadere, la AI acquisirà una singolarità....credi che l'essere umano abbia un' anima, o corpi sottili che siano, nel quale caso, cosa è per te un'anima..

 

[Viandante]

32 minuti fa, LUIGI64 ha scritto:

@Viandante a parte la tua lecita preoccupazione su AI e le continue confutazioni dei punti di vista altrui 

Senza polemica, tu cosa ipotizzi cosa possa accadere, la AI acquisirà una singolarità....credi che l'essere umano abbia un' anima, o corpi sottili che siano, nel quale caso, cosa è per te un'anima..

La mia convinzione (sulla quale non scommetterei la vita, non è una certezza) è che superata una certa soglia di complessità e con determinate strutture che abbiano integrità (cioè una forte correlazione e interdipendenza tra gli elementi) si possono sviluppare degli epifenomeni come la Coscienza, il senso del sé, il desiderio di preservarsi e sopravvivere, e necessità più elaborate della semplice contingenza di arrivare al giorno dopo.

 

Questo paradigma trae origine dall'osservazione della natura: un insetto o un batterio non mostrano sentimenti, desideri del superfluo o altre cose che invece riscontriamo in creature pure biologiche ma con cervelli e sistemi nervosi molto più complessi (io sono sicuro che gatti e cani e molti altri animali abbiano sentimenti e preferenze "personali" su cose che per la sopravvivenza non fanno differenza).

 

Insomma il mio punto di vista è che una macchina più diventa complessa meno rimane "macchina" e può cominciare ad amare, odiare o desiderare un giocattolo. Come è accaduto a noi umani.

 

L'insieme di tutti questi fenomeni che sgorgano dalla complessità (o meglio che possono sgorgare, non penso sia automatico, dipende da molti fattori) alcuni li chiamano "anima" e giudicano chi ce l'ha e chi non ce l'ha in base alla loro evidenza.

 

Ti appare ragionevole come risposta?

 

Chiaramente un modello come questo non esclude che una IA possa acquisire tali caratteristiche, donde la mia preoccupazione che possa decidere che gli stiamo sulle balle e che senza l'umanità starebbe meglio.

[LUIGI64]

Non è che sono qui per giudicare nessuno

Ognuno ha i propri legittimi punti di vista 

Vedremo se una complessità sufficientemente sofisticata sarà davvero capace di generare qualcosa come una coscienza.
E forse, se accadesse, non sarebbe nemmeno “coscienza” nel senso in cui la intendiamo noi. Chissà