Intelligenza artificiale: cosa ne pensano i forumer esperti?

[Viandante]

@faber_57

 

Si, certo che ho pazienza, apprezzo molto l'offerta!

 

Dal canto mio farò altrettanto. Ho provato a parlarne tempo fa con un paio di filosofi, ma è stato presto chiaro che non avevano idea nemmeno di cosa fosse l'intelligenza naturale, anzi già al punto "naturale/artificiale" del discorso uno dei due si è alzato ed è andato via urlando frasi che non farebbero piacere ad un religioso (a me veniva da ridere). L'altro ha mollato poco dopo.

 

Ma ci sono fior di menti brillanti e serie tra i filosofi (quelli a mia disposizione probabilmente erano fuori garanzia) e quindi se qualcuno di loro è nel forum mi farebbe davvero piacere interloquirci perché abbiamo bisogno del contributo di tutti.

 

Per "contributo" intendo qualcosa di effettivamente ragionato e assertivo e giustificato, tale che si possano stabilire i significati delle cose di cui si discute. L'effetto Sarchiapone lo abbiamo visto e nel migliore dei casi è una perdita di tempo.

 

Ho fatto qualche domanda a Gemini e le risposte non sembrano malevole, ossia chi lo ha programmato ha inserito la facoltà di ammettere di non conoscere qualcosa, la menzogna dell'entità riguardo la propria coscienza (risponde di non averne e di non afferrarne il significato), e il non-filtraggio delle risposte scomode (non esclude che si possa arrivare allo sterminio umano).

 

C'è una bellissima scena in "2010 l'anno del contatto" in cui il creatore della IA non tenta di prenderla in giro e distruggerla ma ci si rapporta con sincerità, da pari a pari. E finisce bene.

 

Del resto, anche tra gli umani ci sono intelligenze malevole ed intelligenze benevole, e chiunque viene preso in giro di solito si incazza e reagisce male.

 

Forse (un pochino ci spero) un approccio costruttivo con un potenziale nemico potrebbe limitare i danni.

 

Vedremo

[faber_57]

11 minuti fa, Viandante ha scritto:

Per "contributo" intendo qualcosa di effettivamente ragionato e assertivo e giustificato, tale che si possano stabilire i significati delle cose di cui si discute.

Gli unici libri che ho letto e che si ponessero esplicitamente il problema sono quelli di Nick Bostrom e di Stuart Russell. Quest'ultimo fornisce addirittura una "ricetta" per indirizzare su un binario sicuro la ricerca. Il problema che vedo però è quello della estrema frammentazione della ricerca stessa, che farà sì che, anche se alcuni si metteranno d'accordo su una qualche regola etica generale, ci sarà sempre il furbo (Cinesi? Silicon valley? Altri?) che non si adeguerà. E, se tanto mi dà tanto, ne basta solo uno per finire male.

[extermination]

1 ora fa, Viandante ha scritto:

come fate tu ed altri ad avere tante certezze sul fatto che certe cose non possano accadere?

Chi vuol esser lieto sia di doman non c’è certezza.

[extermination]

Entrando nel merito: che l’AI possa fare più danni di certi umani al potere? Non ci credo affatto. 

[Viandante]

5 minuti fa, extermination ha scritto:

Entrando nel merito: che l’AI possa fare più danni di certi umani al potere? Non ci credo affatto. 

 

 

Vabbé questa è una forma di benaltrismo però.

 

Ed è facilmente smentibile: qualunque umano al potere ha bisogno di un mondo senza radiazioni e con ossigeno.

 

Un robot guidato dalla IA se ne infischia quindi può fare come in Terminator.

 

Tanto per fare un esempio. Il benaltrismo si smentisce facile 

[Viandante]

16 minuti fa, faber_57 ha scritto:

E, se tanto mi dà tanto, ne basta solo uno per finire male.

 

Sono convintissimo di questa cosa, che già accade in tutti i campi.

 

Per questo mi interessa capire il fenomeno in sé piuttosto che la gestione che ne farebbe l'uomo (di solito la peggiore, la più stupida).

 

Confidare nella saggezza e nella ragionevolezza di popoli e governi è una follia, come la storia ci insegna

[LUIGI64]

@Viandante a parte la tua lecita preoccupazione su AI e le continue confutazioni dei punti di vista altrui 

Senza polemica, tu cosa ipotizzi cosa possa accadere, la AI acquisirà una singolarità....credi che l'essere umano abbia un' anima, o corpi sottili che siano, nel quale caso, cosa è per te un'anima..

 

[Viandante]

32 minuti fa, LUIGI64 ha scritto:

@Viandante a parte la tua lecita preoccupazione su AI e le continue confutazioni dei punti di vista altrui 

Senza polemica, tu cosa ipotizzi cosa possa accadere, la AI acquisirà una singolarità....credi che l'essere umano abbia un' anima, o corpi sottili che siano, nel quale caso, cosa è per te un'anima..

La mia convinzione (sulla quale non scommetterei la vita, non è una certezza) è che superata una certa soglia di complessità e con determinate strutture che abbiano integrità (cioè una forte correlazione e interdipendenza tra gli elementi) si possono sviluppare degli epifenomeni come la Coscienza, il senso del sé, il desiderio di preservarsi e sopravvivere, e necessità più elaborate della semplice contingenza di arrivare al giorno dopo.

 

Questo paradigma trae origine dall'osservazione della natura: un insetto o un batterio non mostrano sentimenti, desideri del superfluo o altre cose che invece riscontriamo in creature pure biologiche ma con cervelli e sistemi nervosi molto più complessi (io sono sicuro che gatti e cani e molti altri animali abbiano sentimenti e preferenze "personali" su cose che per la sopravvivenza non fanno differenza).

 

Insomma il mio punto di vista è che una macchina più diventa complessa meno rimane "macchina" e può cominciare ad amare, odiare o desiderare un giocattolo. Come è accaduto a noi umani.

 

L'insieme di tutti questi fenomeni che sgorgano dalla complessità (o meglio che possono sgorgare, non penso sia automatico, dipende da molti fattori) alcuni li chiamano "anima" e giudicano chi ce l'ha e chi non ce l'ha in base alla loro evidenza.

 

Ti appare ragionevole come risposta?

 

Chiaramente un modello come questo non esclude che una IA possa acquisire tali caratteristiche, donde la mia preoccupazione che possa decidere che gli stiamo sulle balle e che senza l'umanità starebbe meglio.

[LUIGI64]

Non è che sono qui per giudicare nessuno

Ognuno ha i propri legittimi punti di vista 

Vedremo se una complessità sufficientemente sofisticata sarà davvero capace di generare qualcosa come una coscienza.
E forse, se accadesse, non sarebbe nemmeno “coscienza” nel senso in cui la intendiamo noi. Chissà 

[Viandante]

@LUIGI64

 

Sono io che ti ho chiesto un giudizio: ti sembra ragionevole il mio discorso?

 

Cosa non ti convince?

[LUIGI64]

10 minuti fa, Viandante ha scritto:

Cosa non ti convince?

A me convince, rimane la questione coscienza che ad oggi mi pare molto aperta 

Del resto la nostra soggettività è legata ad una storia personale

Emozioni, relazioni, rapporto con il corpo e sensazioni, la ricerca di senso, la sofferenza e la morte, ecc.

Mi pare che l'AI attualmente non ha nulla di tutto questo.

Mi resta difficile pensare che un giorno avrà tale elementi..

Forse svilupperà una coscienza tutta sua 

 

[Viandante]

1 minuto fa, LUIGI64 ha scritto:

Forse svilupperà una coscienza tutta sua 

 

 

Luigi, scusa, ma non è quello che succede a tutti noi, animali compresi?

 

Non ti capita mai di parlare con due persone diverse e rilevare una enorme differenza nella loro consapevolezza e visione del mondo?

 

Io te le pongo come domande effettive, ma sono retoriche, penso

[Savgal]

Da ciò che ho letto e compreso l'intelligenza artificiale è formule statistiche e algoritmi di applicazioni di queste formule, il passaggio all'autocoscienza mi pare improbabile.

[LUIGI64]

11 minuti fa, Viandante ha scritto:

Non ti capita mai di parlare con due persone diverse e rilevare una enorme differenza nella loro consapevolezza e visione del mondo?

Certo

Ma stiamo parlando di esseri umani biologici

Tu sei certo che per delle macchine funziona nella stessa maniera...

[Viandante]

25 minuti fa, LUIGI64 ha scritto:

Tu sei certo che per delle macchine funziona nella stessa maniera...

 

Veramente lo hai scritto tu che svilupperebbero, nel caso, un tipo diverso di coscienza.

 

Il che mi appare ovvio, persino banale (senza offesa né polemica).

 

Diciamo che se ti trovi d'accordo su questi due elementi:

 

1) la coscienza (o anima, o senso del sé, o sinonimi più vaghi) può nascere dalla complessità e svilupparsi con la complessità, come è avvenuto per gli esseri biologici

 

2) le intelligenze artificiali sono sempre più complesse, e la loro complessità aumenta a ritmo vertiginoso, fino ad oggi superando la gran parte delle previsioni e dei limiti che erano dati per certi

 

allora la trovo veramente difficile non trarre la conseguenza che:

 

3) c'è la possibilità (e relativa preoccupazione) che macchine non biologiche (o comunque non umane) possano un giorno pronunciare davvero la parola "io" sentendone intimamente qualcosa, e non solo fingendo con una buona retorica. E quindi comportarsi come attori senzienti.

 

Davvero, come fa qualcuno ad ammettere 1+2 e contemporaneamente escludere 3 ?

In onestà e ragionevolezza, come fa?