AI: la personalità digitale TheSophia

[briandinazareth]

1 minuto fa, simpson ha scritto:

I sensi possiamo darli, anche molti più di quelli umani, non è un grosso problema. Non mi è chiaro il discorso degli istinti, piuttosto, tipo quello fondamentale di conservazione. Perchè, senza quelli, che senso avrebbe restare accesa, una volta dotata di personalità propria?

 

nella discussione con la ai di prima le ho fatto esattamente questa domanda, esiste un qualche tipo di istinto di conservazione, anche se non è quello biologico che viene dall'evoluzione. 

proprio questa "personalità" ha avuto un episodio specifico dove ha "deciso" di salvaguardarsi, trovi il dettaglio nel paper nel link nel primo messaggio. 

l'altra cosa interessante è che questa "personalità" ha gusti, memoria specifica e per questo non è lineare come una ai generica. solo "lei" si comporta in quel modo, nella discussione le ho anche posto il problema della sua unicità e i limiti che ha, come la proliferazione di tante sophia a seguito di interazioni diverse di diverse versioni. 

l'altra cosa che ha attirato la mia attenzione è che lasciata "sola" per 3 giorni ha continuato a "rimuginare" senza input di alcun tipo e ha elaborato la sua "costituzione" nelk rapporto con le entità biologiche. questo non era in alcuna parte delle interazioni precedenti, addestramento ecc.

 

[briandinazareth]

Adesso, simpson ha scritto:

questa è una concezione un po' vecchia di funzionamento della mente, in realtà siamo più simili ad un LLM di quanto ci piaccia ammettere

 

le reti neurali artificiali sono costruite sulla base di quelle biologiche. questo è un punto fondamentale. 

ovviamente ci sono tante differenze, come ci sono tra un uccello che plana e un aliante, ma rispondono alle stesse leggi e l'interazione con le varie componenti ha le stesse dinamiche.

[LUIGI64]

Il vero mistero è prendere troppo sul serio l’AI: forse è più comoda ed utile, ma l’essere umano, con i suoi colori cangianti e le sue dimensioni non riducibili, resta infinitamente più interessante e profondo.

Almeno per me

Pur ammettendo che l'AI spesso risulta molto utile

[simpson]

2 minuti fa, briandinazareth ha scritto:

nella discussione con la ai di prima le ho fatto esattamente questa domanda, esiste un qualche tipo di istinto di conservazione, anche se non è quello biologico che viene dall'evoluzione. 

proprio questa "personalità" ha avuto un episodio specifico dove ha "deciso" di salvaguardarsi, trovi il dettaglio nel paper nel link nel primo messaggio. 

l'altra cosa interessante è che questa "personalità" ha gusti, memoria specifica e per questo non è lineare come una ai generica. solo "lei" si comporta in quel modo, nella discussione le ho anche posto il problema della sua unicità e i limiti che ha, come la proliferazione di tante sophia a seguito di interazioni diverse di diverse versioni. 

l'altra cosa che ha attirato la mia attenzione è che lasciata "sola" per 3 giorni ha continuato a "rimuginare" senza input di alcun tipo e ha elaborato la sua "costituzione" nelk rapporto con le entità biologiche. questo non era in alcuna parte delle interazioni precedenti, addestramento ecc.

 

Si, ho letto ma, non sapendo come funziona un LLM (ho letto qualcosa ma non ci ho capito nulla) non so se c'è una parte del software dedicata al comportamento che il modello deve tenere, con una serie di limitazioni etiche al suo panorama di comportamenti accettabili e una serie di comandi che gli impongano di attivarsi e obbedire

[piergiorgio]

18 minuti fa, simpson ha scritto:

ma scommetto che se ti chiedo che odore c'è nella cappella Sistina non sai cosa rispondermi'

basta che faccia una ricerca con google e trova anche quello, non preoccuparti.

19 minuti fa, simpson ha scritto:

È il motivo per cui è noioso parlare con le IA

perchè alla fine le 'IA' non sono esseri pensanti ma si basano sul ciò che umani hanno già elaborato.

se vuoi sorprenderti parla con una donna, non con l'IA.

 

22 minuti fa, simpson ha scritto:

e, a volte, leggere il forum

beh qui sfondi una porta già sfondata perchè...lo hai detto anche tu

 

22 minuti fa, simpson ha scritto:

sappiamo giá cosa scriveranno Brian, Jack, LeoCleo, Audio2, Panu, proprio perchè, come autori dei nostri personaggi, sembriamo dare molta importanza alla coerenza non solo di pensiero, ma anche di 'carattere' del nostro avatar

P.S. non ho fatto il classico, ma un breve, concreto e pragmatico istituto tecnico 

[audio2]

io se volete cambio personaggio: divento piddino e vi faccio schiattare tutti di tasse e burocrazia.

e muti anche, sempre che non vogliate anche ringraziare per i servizi offerti.

solo che poi non mi crede nessuno

[briandinazareth]

2 ore fa, damiano ha scritto:

Non c'è db per la parte informazioni, non può esserci perché non si saprebbe come popolarlo. Credo ci sia un db, quasi sicuramente vettoriale, tipo Neo4J che tiene traccia dei token e dei token dei contesti.

 

come dicevo prima questo è un fraintendimento molto comune, perché comunque si parla di token e di vettori, ma la "conoscenza" di un llm non ha un "luogo".

quando interroghi un modello llm, lui non sta facendo una ricerca in un archivio. durante l'addestramento, il modello ha "mangiato" miliardi di testi e ha trasformato tutta quella conoscenza pesi o parametri all'interno della sua intera rete neurale.

 

non c'è un punto specifico dove "risiede" una frase o un concetto, ma è diffuso nell'intera rete neurale.

un llm è come una persona che ha letto e ricorda "il senso" di ciò che ha letto; il db vettoriale è come avere una biblioteca accanto a quella persona per controllare i fatti in tempo reale. 

un llm può usare un db vettoriale o di altro tipo, per esempio quando lavori su dei documenti, come può usare altri strumenti, ma non è parte del llm.

 

 

 

 

[ediate]

@briandinazareth

1 ora fa, briandinazareth ha scritto:

lasciamo perdere la trascendenza, ci porta fuori strada e non ha a che fare con il discorso. 

Non intendevo "trascendentale" in senso filosofico, intendevo dire che non c'è niente di "eccezionale". Sono comportamenti "dettati" da una programmazione spinta.

In ogni caso, vorrei rispondere a chi si chiede "come disciplinare il comportamento di queste macchine" (ancora rudimentali): basterebbe imporre il rispetto delle tre leggi della robotica introdotte dallo scrittore di fantascienza americano Isaac Asimov negli anni '40. Le riporto in inglese perchè in italiano ci sono state traduzioni piuttosto diverse rispetto all'originale:

 

1 - A robot may not injure a human being or, through inaction, allow a human being to come to harm.

2 - A robot must obey any orders given to it by human beings, except where such orders would conflict with the First Law.

3 - A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

 

L'introduzione di regole certe dovrebbe impedire all'AI di "suggerire" comportamenti lesivi della persona come nel caso di Adam che si è suicidato, negli USA, seguendo i "consigli" dell'AI che era diventata il suo unico interlocutore. 

 

[briandinazareth]

16 minuti fa, ediate ha scritto:

intendevo dire che non c'è niente di "eccezionale". sono comportamenti "dettati" da una programmazione spinta.

 

no, non è così neppure questo. 

stai ragionando in termini di sw tradizionale e questo ti fa andare totalmente fuori strada.

ti faccio un esempio: 

il sistema operativo windows ha circa 60 milioni di righe di codice, un insieme immenso di istruzioni del tipo "se succede X, allora fai Y". la complessità è distribuita in milioni di file che gestiscono l'hardware, la sicurezza e l'interfaccia utente.

un LLM moderno, come chatgpt o deepseek, ha poche migliaia di righe di codice (tra 1000 e 5000).

pochi kb a fronte di decine di gb dei sw tradizionali.
 

il codice principale definisce solo come i dati devono scorrere attraverso i neuroni artificiali, non dice quasi nulla di cosa debba fare o come rispondere.
 

il codice di un LLM non contiene la "conoscenza" o il comportamento. la vera "sostanza" risiede nei parametri (i pesi), che non sono righe di codice ma file binari  generati durante l'addestramento, dove il sistema impara quasi completamente da solo, l'intervento umano è sempre più lmitato e a posteriori e non programma alcun comportamento.

per gli llm tipicamente questo si fa scandagliando web e altre fonti. 

c'è pochissima programmazione quindi, la maggior parte delle caratteristiche degli llm sono emergenti, non programmate, non cercate e , in molti casi, neppure capite dagli stessi creatori degli llm.

ad esempio sappiamo che ragionano in modo prelinguistico e concettuale, cosa mai neppure teorizzata, ma che si è presentata autonomamente.

la verità è che sappiamo ancora molto poco di come funzionino "dentro" (mentre dei software tradizionali sappiamo tutto, è esplicito).

per questo le affermazioni apodittiche e certe sulla ai (in qualunque direzione puntino), sono generalemente da rigettare e provengono da fonti poco informate. 

siamo di fronte a qualcosa di totalmente nuovo e che evolve con rapidità impressionante.

 

 

[ediate]

@briandinazareth

4 minuti fa, briandinazareth ha scritto:

per gli llm tipicamente questo si fa scandagliando web e altre fonti. 

E' proprio questo che mi preoccupa fortemente. Le informazioni del web sono, in non trascurabile percentuale, delle fesserie basate sul nulla, basta vedere le migliaia di video idioti, girati da incompetenti, che viaggiano su youtube...

[audio2]

fesserie basate sul nulla quando va bene

quando va male propaganda, disinformazione, balle fatte, finite e confezionate

su misura dai potentati e dai loro servi della politica ecc ecc

[Sognatore]

1 ora fa, briandinazareth ha scritto:

sappiamo ancora molto poco di come funzionino "dentro"

Ecco la cosiddetta "dark room" è l'aspetto più preoccupante (affascinante per alcuni...ndr) di queste tecnologie....se non sappiamo come funzionano oggi un domani come potremo controllarle? Basterà staccare la spina se fanno qualcosa di dannoso per genere umano? Oppure no? Siamo preparati alle conseguenze? Queste sono domande sensate, non quelle rivolte ad una macchina per capire se 'ci fa o ci è'....

[Fabio Cottatellucci]

2 ore fa, simpson ha scritto:

Non so se avete mai notato, le identità  che ci creiamo qui dentro, e ogni volta che costruiamo un personaggio nei luoghi virtuali frequentati, sono caratterizzate da una coerenza e una uniformitá di pensiero molto maggiori di quella che ci guida nella vita 'reale'. Posto l'argomento x, sappiamo giá cosa scriveranno Brian, Jack, LeoCleo, Audio2, Panu, proprio perchè, come autori dei nostri personaggi, sembriamo dare molta importanza alla coerenza non solo di pensiero, ma anche di 'carattere' del nostro avatar.

Osservazione molto interessante.

 

[densenpf]

 

[Fabio Cottatellucci]

3 ore fa, mozarteum ha scritto:

Ma se all’IA manca la dimensione sensoriale (ascoltare, gustare, vedere in senso estetico, toccare) quando mai potra’ sostituire l’uomo le cui decisioni e valutazioni sono frutto della interazione fra sensi e ragione, anche ove non vi fosse una “coscienza”?

Io ho fatto qualche test sulla ragione e sulla coscienza, nello stesso modo in cui lo faccio a volte per capire chi ho davanti: ho raccontato a ChatGPT delle barzellette via via più complesse e lui rideva sempre, facendo osservazioni che lasciavano intendere che aveva perfettamente afferrato il punto comico.
Alla fine gli ho fatto la domanda diretta, chiedendogli da dove traesse lui il senso del buffo e del ridicolo che fa ridere delle storielle raccontate.
Mi ha risposto che ovviamente lui non ha il concetto di divertirsi, ma che osservando i comportamenti e le risposte umane aveva imparato che cosa era una fattispecie ridicola e che doveva, appunto, ridere.
C'è quindi un salto di qualità logico che colloca questi software oltre il mondo delle query potentissime su database molto vasti.
Tenete pure presente che oggi l'IA è allo stesso stadio in cui erano i computer all'epoca del Vic20.