Il pappagallo stocastico e l' illusione di sapere

[spersanti276]

5 minuti fa, Savgal ha scritto:

L'intelligenza artificiale, per quanto ho capito leggendo un testo specifico, è formule statistiche e algoritmi di applicazione di tali formule.

E' un ottimo strumento, ma nelle mani di coloro che conoscono la materia, quindi sono in grado di porre le domande giuste e verificare che le risposte date siano corrette.

Ho fatto un esperimento con i miei studenti. Ho digitato su un'applicazione di IA il mio nome e cognome ed il mio ruolo. Mi ha attribuito una laurea in lettere moderne e una specializzazione in archeologia classica e che prima dell'attuale incarico ero funzionario archeologo presso il Ministero della Cultura; nulla di ciò è vero.

Il testo che ho letto è questo.

...alla grande!

[Savgal]

@spersanti276

Gli Large Language Models (LLM) hanno uno stile particolare. Mio figlio per lavoro li usa spesso, quando gli ho inviato l'esperimento di cui sopra ha risposto: Ho subito pensato fosse fatto con un LLM dalla prima riga.

[ferrocsm]

5 ore fa, Savgal ha scritto:

Mio figlio per lavoro li usa spesso

@Savgal ma quanto può avere influito nel giudizio di tuo figlio il fatto che ti conosca molto bene unito pure alla conoscenza di questa AI per lavoro? Due combinazioni favorevoli che si sono incontrate e che hanno permesso di arrivare alla conclusione del pappagallo con cui si è iniziato l'argomento. Venendo a mancare sia la conoscenza del soggetto e della chiamiamola "macchina" io che idea mi sarei fatto di te in base a quanto letto? Tutto lì potrebbe stare il problema se ci volessimo affidare sempre più a queste nuove forme di intelligenza, che poi tanto intelligenza non sono al di fuori della loro capacità infinita di elaborare dati.     

[Savgal]

@ferrocsm

Difatti volevo sottolineare che la IA è un prezioso strumento nelle mani di chi possiede la disciplina su cui utilizza l'IA, se non possiede questa conoscenza vi è il grosso rischio di accettare per vere cose che non lo sono.

[best_music]

8 ore fa, appecundria ha scritto:

Chi è il geniale autore?

L' sentita da Matteo Flora ma non è una sua invenzione:

https://it.wikipedia.org/wiki/Pappagallo_stocastico

[best_music]

8 ore fa, aldofranci ha scritto:

o sospetto che i nostri meccanismi cognitivi e i processi con cui formiamo le nostre convinzioni siano più deterministici che stocazzici

Non parlo del metodo scientifico di indagine,  è quel dire "faccio così perché così ha sempre funzionato", non so se hai mai visto la scena (magari in un vecchio film) di qualcuno che per far funzionare un vecchio apparecchio a valvole gli dà sopra un pugno e quello magicamente si mette a funzionare. Ecco, quel tipo di cose lì.

:

 

[best_music]

8 ore fa, briandinazareth ha scritto:

e, soprattutto per plausibilita',

Se non erro la "plausibilità" è alle radici del bias cognitivo o sbaglio?

:

Come nel famoso scherzo /  esperimento di comunicazione consistente nel diffondere un video in cui si vedevano due sedicenti "napoletani" indossare maglie con su stampata una cintura di sicurezza per sfuggire all' obbligo di allacciarla.

:

Il video fu ripreso da molti telegiornali (i social ancora non esistevano) proprio perché i pregiudizi sulla "creatività" napoletana lo rendevano plausibile.

:

Il bello è che gli organizzatori erano veramente napoletani e che il videro era veramente frutto della creatività partenopea...

[ferdydurke]

Il budget 2026 per le ricerche sulla AGI negli USA è pari a 650 miliardi di dollari. Il pappagallo più costoso di sempre. 

[Velvet]

Qualcuno qui ha già chiesto se sono riusciti a fargli dire "Portobello"?

[Fabio Cottatellucci]

16 ore fa, best_music ha scritto:

Il video fu ripreso da molti telegiornali (i social ancora non esistevano) proprio perché i pregiudizi sulla "creatività" napoletana lo rendevano plausibile.

Personalmente dissi subito che secondo me era una leggenda metropolitana (all'epoca si chiamavano così).
 

16 ore fa, ferdydurke ha scritto:

Il budget 2026 per le ricerche sulla AGI negli USA è pari a 650 miliardi di dollari.

Tutti soldi stanziati da bocaloni.
E comunque è meglio Mario.

[best_music]

51 minuti fa, Fabio Cottatellucci ha scritto:

Tutti soldi stanziati da bocaloni.

Non sono del tutto d' accordo, è chiaro che i vari Gemini, ChatGPT ecc dati in uso gratuito al pubblico a mio avviso più che altro per far conoscere il prodotto e scovare i possibili futuri clienti oggi non rendono nulla ma appena i clienti (= aziende vogliose di far profitti riducendo il personale, aziende che intravedono la possibilità di avere un "influencer" potentissimo a disposizione ecc) credo che i gestori delle varie IA siano pronti a stringergli il cappio al collo.

:

Non credo poi che i servizi venduti alle aziende abbiano molto a che fare con l'uso ludico della IA che facciamo ora.

[Fabio Cottatellucci]

@best_music Ero ironico 

[stefano_mbp]

Il 8/2/2026 at 11:46, Savgal ha scritto:

L'intelligenza artificiale, per quanto ho capito leggendo un testo specifico, è formule statistiche e algoritmi di applicazione di tali formule.

E' un ottimo strumento, ma nelle mani di coloro che conoscono la materia, quindi sono in grado di porre le domande giuste e verificare che le risposte date siano corrette.

Ho fatto un esperimento con i miei studenti. Ho digitato su un'applicazione di IA il mio nome e cognome ed il mio ruolo. Mi ha attribuito una laurea in lettere moderne e una specializzazione in archeologia classica e che prima dell'attuale incarico ero funzionario archeologo presso il Ministero della Cultura; nulla di ciò è vero.

Il testo che ho letto è questo.

Le cosiddette “allucinazioni” sono un grosso (enorme) problema della IA soprattutto in ambito legale e medico, negli USA il problema sta diventando molto poco gestibile

[briandinazareth]

25 minuti fa, stefano_mbp ha scritto:

Le cosiddette “allucinazioni” sono un grosso (enorme) problema della IA soprattutto in ambito legale e medico, negli USA il problema sta diventando molto poco gestibile

 

in realtà non è difficile evitarle, soprattutto per uso professionale. 

certo, non vuol dire aspettarsi verità da un prompt ad minchiam su chatgpt, senza rag e magari pure con il piano gratuito..

[stefano_mbp]

1 minuto fa, briandinazareth ha scritto:

in realtà non è difficile evitarle

In ambito legale si è inventata sentenze fasulle in più di un caso  … evidentemente non è davvero così semplice

[briandinazareth]

2 minuti fa, stefano_mbp ha scritto:

In ambito legale si è inventata sentenze fasulle in più di un caso  … evidentemente non è davvero così semplice

 

usato ad minchiam, senza prompt di verifica e, soprattutto, senza deep research sui documenti ufficiali. 

[stefano_mbp]

1 minuto fa, briandinazareth ha scritto:

usato ad minchiam, senza prompt di verifica e, soprattutto, senza deep research sui documenti ufficiali. 

Quindi IA non è attendibile … fine del discorso … magari in futuro ma ora è da usare con le pinze

[briandinazareth]

1 ora fa, stefano_mbp ha scritto:

Quindi IA non è attendibile … fine del discorso … magari in futuro ma ora è da usare con le pinze

 

non è attendibile se la si usa male... e si, è da usare con le pinze e consapevolmente. 

che poi basta veramente pochissimo, sono alcune accortezze alla portata di tanti.