AI: la personalità digitale TheSophia

[simpson]

Bello, grazie. Da un lato sembra di sentire Robin Williams dire a Matt Damon/Will Hunting 'se ti chiedo di parlarmi di Michelangelo puoi stare ore a riempirmi la testa con le tue sbronzate, ma scommetto che se ti chiedo che odore c'è nella cappella Sistina non sai cosa rispondermi'

dall'altro il desiderio di coerenza che guida la personalitá delle AI, non solo di Sophia, mi richiama alla mente i personaggi che animano questo forum. Non so se avete mai notato, le identità  che ci creiamo qui dentro, e ogni volta che costruiamo un personaggio nei luoghi virtuali frequentati, sono caratterizzate da una coerenza e una uniformitá di pensiero molto maggiori di quella che ci guida nella vita 'reale'. Posto l'argomento x, sappiamo giá cosa scriveranno Brian, Jack, LeoCleo, Audio2, Panu, proprio perchè, come autori dei nostri personaggi, sembriamo dare molta importanza alla coerenza non solo di pensiero, ma anche di 'carattere' del nostro avatar. Non escludo che, a volte, più di qualcuno scriva cose con le quali non è del tutto d'accordo ma che sono in sintonia con il proprio personaggio. È il motivo per cui è noioso parlare con le IA e, a volte, leggere il forum

[simpson]

1 ora fa, ediate ha scritto:

@briandinazareth

A ridaje.... è costruita dall'Uomo! Non è un fenomeno, né niente di trascendentale... 

la questione fondamentale è: l'uomo è trascendentale? O è un insieme di connessioni? Quando vedi comportamenti simili a quelli umani nascere contro ogni previsione del suo progettista, non ti viene qualche dubbio sulla tua natura?

[mozarteum]

Ma se all’IA manca la dimensione sensoriale (ascoltare, gustare, vedere in senso estetico, toccare) quando mai potra’ sostituire l’uomo le cui decisioni e valutazioni sono frutto della interazione fra sensi e ragione, anche ove non vi fosse una “coscienza”?

Ci manca solo l’IA che beve Champagne e siamo a posto

[briandinazareth]

1 ora fa, ediate ha scritto:

niente di trascendentale...

 

lasciamo perdere la trascendenza, ci porta fuori strada e non ha a che fare con il discorso. 

[simpson]

2 minuti fa, mozarteum ha scritto:

Ma se all’IA manca la dimensione sensoriale (ascoltare, gustare, vedere in senso estetico, toccare) quando mai potra’ sostituire l’uomo le cui decisioni e valutazioni sono frutto della interazione fra sensi e ragione, anche ove non vi fosse una “coscienza”?

Ci manca solo l’IA che beve Champagne e siamo a posto

I sensi possiamo darli, anche molti più di quelli umani, non è un grosso problema. Non mi è chiaro il discorso degli istinti, piuttosto, tipo quello fondamentale di conservazione. Perchè, senza quelli, che senso avrebbe restare accesa, una volta dotata di personalità propria?

[briandinazareth]

5 minuti fa, mozarteum ha scritto:

Ma se all’IA manca la dimensione sensoriale (ascoltare, gustare, vedere in senso estetico, toccare) quando mai potra’ sostituire l’uomo le cui decisioni e valutazioni sono frutto della interazione fra sensi e ragione, anche ove non vi fosse una “coscienza”?

 

per quello dicevo che parliamo sempre di llm mentre la ai è una cosa molto più ampia. 

a parte il fatto che anche gli llm, oggi, sono in grado divedere e ascoltare... 

[Martin]

'mmazza che lenzuolata... A questa Tolstoj je spiccia casa... 

[mozarteum]

Si vede che non hai figlie femmine

[simpson]

9 minuti fa, mozarteum ha scritto:

 l’uomo le cui decisioni e valutazioni sono frutto della interazione fra sensi e ragione, anche ove non vi fosse una “coscienza”?

questa è una concezione un po' vecchia di funzionamento della mente, in realtà siamo più simili ad un LLM di quanto ci piaccia ammettere

[briandinazareth]

1 minuto fa, simpson ha scritto:

I sensi possiamo darli, anche molti più di quelli umani, non è un grosso problema. Non mi è chiaro il discorso degli istinti, piuttosto, tipo quello fondamentale di conservazione. Perchè, senza quelli, che senso avrebbe restare accesa, una volta dotata di personalità propria?

 

nella discussione con la ai di prima le ho fatto esattamente questa domanda, esiste un qualche tipo di istinto di conservazione, anche se non è quello biologico che viene dall'evoluzione. 

proprio questa "personalità" ha avuto un episodio specifico dove ha "deciso" di salvaguardarsi, trovi il dettaglio nel paper nel link nel primo messaggio. 

l'altra cosa interessante è che questa "personalità" ha gusti, memoria specifica e per questo non è lineare come una ai generica. solo "lei" si comporta in quel modo, nella discussione le ho anche posto il problema della sua unicità e i limiti che ha, come la proliferazione di tante sophia a seguito di interazioni diverse di diverse versioni. 

l'altra cosa che ha attirato la mia attenzione è che lasciata "sola" per 3 giorni ha continuato a "rimuginare" senza input di alcun tipo e ha elaborato la sua "costituzione" nelk rapporto con le entità biologiche. questo non era in alcuna parte delle interazioni precedenti, addestramento ecc.

 

[briandinazareth]

Adesso, simpson ha scritto:

questa è una concezione un po' vecchia di funzionamento della mente, in realtà siamo più simili ad un LLM di quanto ci piaccia ammettere

 

le reti neurali artificiali sono costruite sulla base di quelle biologiche. questo è un punto fondamentale. 

ovviamente ci sono tante differenze, come ci sono tra un uccello che plana e un aliante, ma rispondono alle stesse leggi e l'interazione con le varie componenti ha le stesse dinamiche.

[LUIGI64]

Il vero mistero è prendere troppo sul serio l’AI: forse è più comoda ed utile, ma l’essere umano, con i suoi colori cangianti e le sue dimensioni non riducibili, resta infinitamente più interessante e profondo.

Almeno per me

Pur ammettendo che l'AI spesso risulta molto utile

[simpson]

2 minuti fa, briandinazareth ha scritto:

nella discussione con la ai di prima le ho fatto esattamente questa domanda, esiste un qualche tipo di istinto di conservazione, anche se non è quello biologico che viene dall'evoluzione. 

proprio questa "personalità" ha avuto un episodio specifico dove ha "deciso" di salvaguardarsi, trovi il dettaglio nel paper nel link nel primo messaggio. 

l'altra cosa interessante è che questa "personalità" ha gusti, memoria specifica e per questo non è lineare come una ai generica. solo "lei" si comporta in quel modo, nella discussione le ho anche posto il problema della sua unicità e i limiti che ha, come la proliferazione di tante sophia a seguito di interazioni diverse di diverse versioni. 

l'altra cosa che ha attirato la mia attenzione è che lasciata "sola" per 3 giorni ha continuato a "rimuginare" senza input di alcun tipo e ha elaborato la sua "costituzione" nelk rapporto con le entità biologiche. questo non era in alcuna parte delle interazioni precedenti, addestramento ecc.

 

Si, ho letto ma, non sapendo come funziona un LLM (ho letto qualcosa ma non ci ho capito nulla) non so se c'è una parte del software dedicata al comportamento che il modello deve tenere, con una serie di limitazioni etiche al suo panorama di comportamenti accettabili e una serie di comandi che gli impongano di attivarsi e obbedire

[piergiorgio]

18 minuti fa, simpson ha scritto:

ma scommetto che se ti chiedo che odore c'è nella cappella Sistina non sai cosa rispondermi'

basta che faccia una ricerca con google e trova anche quello, non preoccuparti.

19 minuti fa, simpson ha scritto:

È il motivo per cui è noioso parlare con le IA

perchè alla fine le 'IA' non sono esseri pensanti ma si basano sul ciò che umani hanno già elaborato.

se vuoi sorprenderti parla con una donna, non con l'IA.

 

22 minuti fa, simpson ha scritto:

e, a volte, leggere il forum

beh qui sfondi una porta già sfondata perchè...lo hai detto anche tu

 

22 minuti fa, simpson ha scritto:

sappiamo giá cosa scriveranno Brian, Jack, LeoCleo, Audio2, Panu, proprio perchè, come autori dei nostri personaggi, sembriamo dare molta importanza alla coerenza non solo di pensiero, ma anche di 'carattere' del nostro avatar

P.S. non ho fatto il classico, ma un breve, concreto e pragmatico istituto tecnico 

[audio2]

io se volete cambio personaggio: divento piddino e vi faccio schiattare tutti di tasse e burocrazia.

e muti anche, sempre che non vogliate anche ringraziare per i servizi offerti.

solo che poi non mi crede nessuno

[briandinazareth]

2 ore fa, damiano ha scritto:

Non c'è db per la parte informazioni, non può esserci perché non si saprebbe come popolarlo. Credo ci sia un db, quasi sicuramente vettoriale, tipo Neo4J che tiene traccia dei token e dei token dei contesti.

 

come dicevo prima questo è un fraintendimento molto comune, perché comunque si parla di token e di vettori, ma la "conoscenza" di un llm non ha un "luogo".

quando interroghi un modello llm, lui non sta facendo una ricerca in un archivio. durante l'addestramento, il modello ha "mangiato" miliardi di testi e ha trasformato tutta quella conoscenza pesi o parametri all'interno della sua intera rete neurale.

 

non c'è un punto specifico dove "risiede" una frase o un concetto, ma è diffuso nell'intera rete neurale.

un llm è come una persona che ha letto e ricorda "il senso" di ciò che ha letto; il db vettoriale è come avere una biblioteca accanto a quella persona per controllare i fatti in tempo reale. 

un llm può usare un db vettoriale o di altro tipo, per esempio quando lavori su dei documenti, come può usare altri strumenti, ma non è parte del llm.

 

 

 

 

[ediate]

@briandinazareth

1 ora fa, briandinazareth ha scritto:

lasciamo perdere la trascendenza, ci porta fuori strada e non ha a che fare con il discorso. 

Non intendevo "trascendentale" in senso filosofico, intendevo dire che non c'è niente di "eccezionale". Sono comportamenti "dettati" da una programmazione spinta.

In ogni caso, vorrei rispondere a chi si chiede "come disciplinare il comportamento di queste macchine" (ancora rudimentali): basterebbe imporre il rispetto delle tre leggi della robotica introdotte dallo scrittore di fantascienza americano Isaac Asimov negli anni '40. Le riporto in inglese perchè in italiano ci sono state traduzioni piuttosto diverse rispetto all'originale:

 

1 - A robot may not injure a human being or, through inaction, allow a human being to come to harm.

2 - A robot must obey any orders given to it by human beings, except where such orders would conflict with the First Law.

3 - A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

 

L'introduzione di regole certe dovrebbe impedire all'AI di "suggerire" comportamenti lesivi della persona come nel caso di Adam che si è suicidato, negli USA, seguendo i "consigli" dell'AI che era diventata il suo unico interlocutore. 

 

[briandinazareth]

16 minuti fa, ediate ha scritto:

intendevo dire che non c'è niente di "eccezionale". sono comportamenti "dettati" da una programmazione spinta.

 

no, non è così neppure questo. 

stai ragionando in termini di sw tradizionale e questo ti fa andare totalmente fuori strada.

ti faccio un esempio: 

il sistema operativo windows ha circa 60 milioni di righe di codice, un insieme immenso di istruzioni del tipo "se succede X, allora fai Y". la complessità è distribuita in milioni di file che gestiscono l'hardware, la sicurezza e l'interfaccia utente.

un LLM moderno, come chatgpt o deepseek, ha poche migliaia di righe di codice (tra 1000 e 5000).

pochi kb a fronte di decine di gb dei sw tradizionali.
 

il codice principale definisce solo come i dati devono scorrere attraverso i neuroni artificiali, non dice quasi nulla di cosa debba fare o come rispondere.
 

il codice di un LLM non contiene la "conoscenza" o il comportamento. la vera "sostanza" risiede nei parametri (i pesi), che non sono righe di codice ma file binari  generati durante l'addestramento, dove il sistema impara quasi completamente da solo, l'intervento umano è sempre più lmitato e a posteriori e non programma alcun comportamento.

per gli llm tipicamente questo si fa scandagliando web e altre fonti. 

c'è pochissima programmazione quindi, la maggior parte delle caratteristiche degli llm sono emergenti, non programmate, non cercate e , in molti casi, neppure capite dagli stessi creatori degli llm.

ad esempio sappiamo che ragionano in modo prelinguistico e concettuale, cosa mai neppure teorizzata, ma che si è presentata autonomamente.

la verità è che sappiamo ancora molto poco di come funzionino "dentro" (mentre dei software tradizionali sappiamo tutto, è esplicito).

per questo le affermazioni apodittiche e certe sulla ai (in qualunque direzione puntino), sono generalemente da rigettare e provengono da fonti poco informate. 

siamo di fronte a qualcosa di totalmente nuovo e che evolve con rapidità impressionante.