Il pappagallo stocastico e l' illusione di sapere

[stefano_mbp]

Il 8/2/2026 at 11:46, Savgal ha scritto:

L'intelligenza artificiale, per quanto ho capito leggendo un testo specifico, è formule statistiche e algoritmi di applicazione di tali formule.

E' un ottimo strumento, ma nelle mani di coloro che conoscono la materia, quindi sono in grado di porre le domande giuste e verificare che le risposte date siano corrette.

Ho fatto un esperimento con i miei studenti. Ho digitato su un'applicazione di IA il mio nome e cognome ed il mio ruolo. Mi ha attribuito una laurea in lettere moderne e una specializzazione in archeologia classica e che prima dell'attuale incarico ero funzionario archeologo presso il Ministero della Cultura; nulla di ciò è vero.

Il testo che ho letto è questo.

Le cosiddette “allucinazioni” sono un grosso (enorme) problema della IA soprattutto in ambito legale e medico, negli USA il problema sta diventando molto poco gestibile

[briandinazareth]

25 minuti fa, stefano_mbp ha scritto:

Le cosiddette “allucinazioni” sono un grosso (enorme) problema della IA soprattutto in ambito legale e medico, negli USA il problema sta diventando molto poco gestibile

 

in realtà non è difficile evitarle, soprattutto per uso professionale. 

certo, non vuol dire aspettarsi verità da un prompt ad minchiam su chatgpt, senza rag e magari pure con il piano gratuito..

[stefano_mbp]

1 minuto fa, briandinazareth ha scritto:

in realtà non è difficile evitarle

In ambito legale si è inventata sentenze fasulle in più di un caso  … evidentemente non è davvero così semplice

[briandinazareth]

2 minuti fa, stefano_mbp ha scritto:

In ambito legale si è inventata sentenze fasulle in più di un caso  … evidentemente non è davvero così semplice

 

usato ad minchiam, senza prompt di verifica e, soprattutto, senza deep research sui documenti ufficiali. 

[stefano_mbp]

1 minuto fa, briandinazareth ha scritto:

usato ad minchiam, senza prompt di verifica e, soprattutto, senza deep research sui documenti ufficiali. 

Quindi IA non è attendibile … fine del discorso … magari in futuro ma ora è da usare con le pinze

[briandinazareth]

1 ora fa, stefano_mbp ha scritto:

Quindi IA non è attendibile … fine del discorso … magari in futuro ma ora è da usare con le pinze

 

non è attendibile se la si usa male... e si, è da usare con le pinze e consapevolmente. 

che poi basta veramente pochissimo, sono alcune accortezze alla portata di tanti.

[Savgal]

@stefano_mbp

Ho verificato, c'è un mio omonimo che è direttore di un parco archeologico, ma non è dirigente scolastico.

Come segnalava giustamente mio figlio devi rileggere con attezione ciò che produce un LLM, delle ca@@ate te le scrive sempre.

[LUIGI64]

57 minuti fa, Savgal ha scritto:

delle ca@@ate te le scrive sempre

Meglio quelle artificiali rispetto a quelle umane...

🥴😵‍💫😝

[stefano_mbp]

16 ore fa, briandinazareth ha scritto:

non è attendibile se la si usa male... e si, è da usare con le pinze e consapevolmente. 

Per nulla attendibile, soprattutto quando si cercano informazioni per approfondire.

Questo è un esempio lampante di grave IA (Idiozia Artificiale) che mi è appena capitato tra le mani: è una informazione falsa senza alcun fondamento, Minimserver non supporta il formato wavpack eppure Google AI sostiene esattamente il contrario.

Questo è uno spunto per chiarire quanto sia inutile, se non pericolosa, una “intelligenza” (meglio dire Idiozia) che non sa quello che si dice … occorre tenere presente che pochi hanno la capacità di essere sufficientemente critici di fronte a informazioni che provengono da fonti (a torto) ritenute affidabili.

[faber_57]

Non so cosa sia Minimserver, ma ho fatto la domanda a Google AI che mi ha risposto "Sebbene MinimServer sia celebre per la gestione avanzata dei metadati e il supporto a formati come FLAC, ALAC, WAV e DSD, WavPack non figura tra i codec supportati ufficialmente per la scansione della libreria e lo streaming diretto." Sarà che tu hai consultato la versione americana?  Io tutto queste allucinazioni, su materiale consolidato, non le ho incontrate. Quello che noto, piuttosto, è che se non stringi bene le briglie tendono a silenzi sospetti: carico un file, gli chiedo qualcosa al riguardo e, se per motivi tecnici non è riuscito a caricarlo, fa come gatto Silvestro e si inventa qualcosa. Ecco perché i prompt o le istruzioni di base devono essere molto articolati. Insomma, queste AI sono una cosa pazzesca ma lontana dalla perfezione. Per ora.

[stefano_mbp]

Quindi ancora peggio, contraddice se stessa … una merdaccia

Avevo inserito come ricerca la stringa

”minimserver wavpack”

quindi questo idiota artificiale risponde bianco o nero in base a come poni la domanda … assolutamente ridicolo