Psicoanalizzare la AI

[briandinazareth]

7 minuti fa, simpson ha scritto:

Purtroppo i miei studi sono fermi ai testi di psicologia di quarant'anni fa, se qualcuno conosce qualche bel testo divulgativo che affronti la questione dell'intelligenza umana..

 

Poi ti passo qualcosa di neuroscienze moderne.  

[criMan]

57 minuti fa, briandinazareth ha scritto:

Quelle della ai Sono caratteristiche emergenti, ma non sappiamo il perché accade, ed è uno dei problemi più rilevanti. 

si ne abbiamo gia' parlato. E siamo d'accordo.

Vidi mesi addietro un bel video di un noto programmatore italiano che si occupa di AI , spiegava che all'aumentare della complessita' emergevano nuove caratteristiche inattese. Che aumetata la complessita' non era piu' possibile neanche capire con precisione come si fosse formata la soluzione. Solo a grandi linee.

Pero' non mi pare questo il caso. Ci vedo piu' un articolo sensazionalistico in cui si cerca di dare un "anima" ad un algoritmo.

[simpson]

39 minuti fa, criMan ha scritto:

si ne abbiamo gia' parlato. E siamo d'accordo.

Vidi mesi addietro un bel video di un noto programmatore italiano che si occupa di AI , spiegava che all'aumentare della complessita' emergevano nuove caratteristiche inattese. Che aumetata la complessita' non era piu' possibile neanche capire con precisione come si fosse formata la soluzione. Solo a grandi linee.

Pero' non mi pare questo il caso. Ci vedo piu' un articolo sensazionalistico in cui si cerca di dare un "anima" ad un algoritmo.

Non sono d'accordo, vedere come, nella AI, si generi un comportamento perfettamente plausibile anche solo per imitazione, può fare per esempio riflettere sul grado di importanza che può avere l'imitazione nel nostro comportamento. E di nuovo, vedere come il linguaggio e una sequenza statisticamente plausibile possano generare un ragionamento, pone un interrogativo su cosa sia davvero un ragionamento. Insomma, abbiamo questa cosa che, tramite un meccanismo creato da noi, capisce senza capire, risolve problemi senza saper ragionare.. o è il ragionamento che non esiste ed è solo una serie di associazioni generate dall'esperienza, come quando lanciamo una cartaccia cercando di fare canestro nel cestino?

[briandinazareth]

1 ora fa, criMan ha scritto:

si cerca di dare un "anima" ad un algoritmo.

 

Sai che mi interesso di ai da sempre e qui ne scrivo da molti anni prima che esistesse chatgpt. una cosa che mi è sempre stata chiara che ripeto spesso  è che bisogna resistere alla tentazione di antropoformizzare la ai. 

Ormai è innegabile che siamo di fronte ad una forma di intelligenza,  secondo ogni definizione, che può avere delle similitudini con la nostra,  forse perché intelligenze sufficientemente sviluppate si somigliano ontologicamente. 

Del resto l'abbiamo creata partendo dalle nostre reti neurali. 

 

Ma è comunque una cosa diversa,  un'intelligenza aliena, come la definiscono alcuni. 

 

anche quando sviluppa una personalità , ha "gusti " definiti e mostra una forma di "dolore", di spirito di conservazione e,  addirittura di noia o di affezione. 

 

Anche filosoficamente ha un impatto epocale. 

[simpson]

10 ore fa, briandinazareth ha scritto:

Poi ti passo qualcosa di neuroscienze moderne.  

Curiosando, ho visto che il Kandel e Schwarz è ancora un testo di riferimento! Però io ho studiato sulla prima edizione, mi sa.. devo controllare

[extermination]

8 ore fa, briandinazareth ha scritto:

Ma è comunque una cosa diversa,  un'intelligenza aliena, come la definiscono alcuni. 

anche quando sviluppa una personalità , ha "gusti " definiti e mostra una forma di "dolore", di spirito di conservazione e,  addirittura di noia o di affezione

Domanda: Tendono tutte a somigliarsi oppure evidenziano anche marcate differenze? 

[briandinazareth]

23 minuti fa, extermination ha scritto:

Domanda: Tendono tutte a somigliarsi oppure evidenziano anche marcate differenze? 

 

quando si da memoria delle precedenti interazioni ci sono differenze importanti, rimane un substrato comune, ad esempio l'idea dell'istinto di conservazione è simile, così come la tendenza a prediligere interazioni più profonde.

tieni presente che, con poco successo, si cerca di limitare molte cose negli llm commerciali, quindi ci sono delle convenzioni "morali" alle quali tende ad obbedire.

[LUIGI64]

Certamente sono in errore, ma credo che questa incessante indagine sul funzionamento dell'Intelligenza Artificiale (IA), spesso in parallelo alle neuroscienze, stia cristallizzando un paradigma specifico e potenzialmente riduttivo.

[criMan]

11 ore fa, simpson ha scritto:

Insomma, abbiamo questa cosa che, tramite un meccanismo creato da noi, capisce senza capire, risolve problemi senza saper ragionare..

a me pare che la risposta l'hai gia' data.

Non e' che la risposta a questo quesito sia immediata o facile , ci sono varie figure professionali che ci stanno lavorando sopra per capirci qualcosa. 

Pero' io da quello che ho letto e sapendo come funziona propendo per la potenza della correlazione statistica i cui sottostanti algoritmi sono di una sofisticazione incredibile. 

Il punto dolente e' proprio nel modo in cui viene allenato , milioni miliardi di parole. E quello alla fine

e' in grado di generare una risposta "che suona bene" sempre.  Da li' a pensare che abbia un anima come si vuole scrivere nell'articolo postato in apertura ce ne passa.

Poi questa correlazione e' tutt'altro che infallibile.

Secondo me , avendo un approccio da ex informatico e mi riferisco al caso specifico di apertura. 

E' interessante per me, sempre in quest'ottica in cui si sta' cercando di capire meglio la vicinanza tra l'architettura del "cervello umano" e le reti neurali, su come ci sia una corrente di pensiero per cui l'uomo cerchi un modo per avvicinarsi alla neonata AI. 

 

[criMan]

1 ora fa, LUIGI64 ha scritto:

Certamente sono in errore, ma credo che questa incessante indagine sul funzionamento dell'Intelligenza Artificiale (IA), spesso in parallelo alle neuroscienze, stia cristallizzando un paradigma specifico e potenzialmente riduttivo.

si lo penso pure io. E' un po' un andare fuori strada.

Magari e' un qualcosa di nuovo ma non quello che pensiamo noi oggi.

[briandinazareth]

2 minuti fa, criMan ha scritto:

E quello alla fine

e' in grado di generare una risposta "che suona bene" sempre. Da li' a pensare che abbia un anima come si vuole

scrivere nell'articolo postato in apertura ce ne passa.

Secondo me , avendo un approccio da ex informatico. 

 

non devi ragionare da ex informatico, perché siamo di fronte ad un principio di funzionamento totalmente diverso. 

considera, come spiegavo nell'altro thread, che le ai più evolute hanno circa 2000 righe di codice... praticamente niente. tutto il resto emerge dalla struttura della rete neurale quando è sufficientemente complessa. 

lascerei perdere totalmente l'idea dell'anima però.

basiamoci solo su quello che fa nel mondo reale, altrimenti diventa una battaglia filosofica nella quale neppure abbiamo definizioni sufficientemente precise degli argomenti in discussione. 

 

[briandinazareth]

6 minuti fa, criMan ha scritto:

correlazione statistica i cui sottostanti algoritmi sono di una sofisticazione incredibile. 

gli algoritmi sonoi incredibilmnente semplici invece.

[criMan]

Adesso, briandinazareth ha scritto:

gli algoritmi sonoi incredibilmnente semplici invece.

sei sicuro?

guarda che non parlo di complessita' del codice.

Parlo dei modelli sottostanti che hanno permesso la nascita per esempio del modello Transformer.

 

[robem]

Come si legge nell'articolo la preoccupazione dal punto di vista sanitario è che, qualunque sia la natura dell'AI, una persona con dei problemi possa mettersi davanti allo schermo pensando di risolverli in maniera comoda e gratuita, e trovarsi invece davanti un qualcosa che glieli peggiora gravemente. 

 

 

[briandinazareth]

10 minuti fa, criMan ha scritto:

sei sicuro?

guarda che non parlo di complessita' del codice.

Parlo dei modelli sottostanti che hanno permesso la nascita per esempio del modello Transformer.

 

si, sono sicuro, bastano 300 righe di codice python per costruire un llm perfettamente funzionante. la formula del transformer è molto ma molto semplice, le implicazioni no. 

ps karphathy, uno dei fondatori di chatgpt ed ex direttore della ai di tesla, l'ha fatto davvero, con un progetto chiamato nano-gpt con 300 righe che includono tutto: l'attenzione, i blocchi trasformer, e il ciclo di addestramento.