Il pappagallo stocastico e l' illusione di sapere

[briandinazareth]

Il problema non è l'illusione di sapere quanto il fatto che le nostre reti neurali sono probabilistiche e non deterministiche. In più non abbiamo una conoscenza come fossimo un database,  ma ricostruiamo ogni volta lavorando per aprossimazione e, soprattutto per plausibilita', che e3 pure il meccanismo basilare delle allucinazioni (basta creare una dissonanza sensoriale per provocarle a chiunque). 

Il cervello più che guardare il mondo come è, inventa una sua rappresentazione a partire dagli elementi che ha. 

 

Elementi fortemente compressi e selezionati perchè sarebbero troppi per le capacità del cervello.  

 

Alcune gravi malattie mentali e neurologiche derivano proprio dal malfunzionamento di questi meccanismi

 

 

[dec]

La definizione di pappagallo stocastico, pur nella sua scherzosa semplificazione, puo' adattarsi all'AI ma molto meno alla sua utenza; per quest'ultima mi sembra piu' adeguato parlare di panglossianesimo funzionale.

[spersanti276]

36 minuti fa, aldofranci ha scritto:

Uni plus supposte.

 

...anche.

[spersanti276]

5 minuti fa, Savgal ha scritto:

L'intelligenza artificiale, per quanto ho capito leggendo un testo specifico, è formule statistiche e algoritmi di applicazione di tali formule.

E' un ottimo strumento, ma nelle mani di coloro che conoscono la materia, quindi sono in grado di porre le domande giuste e verificare che le risposte date siano corrette.

Ho fatto un esperimento con i miei studenti. Ho digitato su un'applicazione di IA il mio nome e cognome ed il mio ruolo. Mi ha attribuito una laurea in lettere moderne e una specializzazione in archeologia classica e che prima dell'attuale incarico ero funzionario archeologo presso il Ministero della Cultura; nulla di ciò è vero.

Il testo che ho letto è questo.

...alla grande!

[Savgal]

@spersanti276

Gli Large Language Models (LLM) hanno uno stile particolare. Mio figlio per lavoro li usa spesso, quando gli ho inviato l'esperimento di cui sopra ha risposto: Ho subito pensato fosse fatto con un LLM dalla prima riga.

[ferrocsm]

5 ore fa, Savgal ha scritto:

Mio figlio per lavoro li usa spesso

@Savgal ma quanto può avere influito nel giudizio di tuo figlio il fatto che ti conosca molto bene unito pure alla conoscenza di questa AI per lavoro? Due combinazioni favorevoli che si sono incontrate e che hanno permesso di arrivare alla conclusione del pappagallo con cui si è iniziato l'argomento. Venendo a mancare sia la conoscenza del soggetto e della chiamiamola "macchina" io che idea mi sarei fatto di te in base a quanto letto? Tutto lì potrebbe stare il problema se ci volessimo affidare sempre più a queste nuove forme di intelligenza, che poi tanto intelligenza non sono al di fuori della loro capacità infinita di elaborare dati.     

[Savgal]

@ferrocsm

Difatti volevo sottolineare che la IA è un prezioso strumento nelle mani di chi possiede la disciplina su cui utilizza l'IA, se non possiede questa conoscenza vi è il grosso rischio di accettare per vere cose che non lo sono.

[best_music]

8 ore fa, appecundria ha scritto:

Chi è il geniale autore?

L' sentita da Matteo Flora ma non è una sua invenzione:

https://it.wikipedia.org/wiki/Pappagallo_stocastico

[best_music]

8 ore fa, aldofranci ha scritto:

o sospetto che i nostri meccanismi cognitivi e i processi con cui formiamo le nostre convinzioni siano più deterministici che stocazzici

Non parlo del metodo scientifico di indagine,  è quel dire "faccio così perché così ha sempre funzionato", non so se hai mai visto la scena (magari in un vecchio film) di qualcuno che per far funzionare un vecchio apparecchio a valvole gli dà sopra un pugno e quello magicamente si mette a funzionare. Ecco, quel tipo di cose lì.

:

 

[best_music]

8 ore fa, briandinazareth ha scritto:

e, soprattutto per plausibilita',

Se non erro la "plausibilità" è alle radici del bias cognitivo o sbaglio?

:

Come nel famoso scherzo /  esperimento di comunicazione consistente nel diffondere un video in cui si vedevano due sedicenti "napoletani" indossare maglie con su stampata una cintura di sicurezza per sfuggire all' obbligo di allacciarla.

:

Il video fu ripreso da molti telegiornali (i social ancora non esistevano) proprio perché i pregiudizi sulla "creatività" napoletana lo rendevano plausibile.

:

Il bello è che gli organizzatori erano veramente napoletani e che il videro era veramente frutto della creatività partenopea...

[ferdydurke]

Il budget 2026 per le ricerche sulla AGI negli USA è pari a 650 miliardi di dollari. Il pappagallo più costoso di sempre. 

[Velvet]

Qualcuno qui ha già chiesto se sono riusciti a fargli dire "Portobello"?

[Fabio Cottatellucci]

16 ore fa, best_music ha scritto:

Il video fu ripreso da molti telegiornali (i social ancora non esistevano) proprio perché i pregiudizi sulla "creatività" napoletana lo rendevano plausibile.

Personalmente dissi subito che secondo me era una leggenda metropolitana (all'epoca si chiamavano così).
 

16 ore fa, ferdydurke ha scritto:

Il budget 2026 per le ricerche sulla AGI negli USA è pari a 650 miliardi di dollari.

Tutti soldi stanziati da bocaloni.
E comunque è meglio Mario.

[best_music]

51 minuti fa, Fabio Cottatellucci ha scritto:

Tutti soldi stanziati da bocaloni.

Non sono del tutto d' accordo, è chiaro che i vari Gemini, ChatGPT ecc dati in uso gratuito al pubblico a mio avviso più che altro per far conoscere il prodotto e scovare i possibili futuri clienti oggi non rendono nulla ma appena i clienti (= aziende vogliose di far profitti riducendo il personale, aziende che intravedono la possibilità di avere un "influencer" potentissimo a disposizione ecc) credo che i gestori delle varie IA siano pronti a stringergli il cappio al collo.

:

Non credo poi che i servizi venduti alle aziende abbiano molto a che fare con l'uso ludico della IA che facciamo ora.

[Fabio Cottatellucci]

@best_music Ero ironico