Il pappagallo stocastico e l' illusione di sapere

[best_music]

Ieri in tv ho sentito la definizione di pappagallo stocastico riferita alla I.A. e francamente sembra la migliore descrizione sinetica del suo comportamento: per produrre un discorso apparentemente sensato la I.A. non fa che associare parole che statisticamente sono più associate nella massa di documentazione con cui è stata "istruita".

:

Il che fa comprendere come mai il più delle volte (statisticamente, appunto) "azzecca" nel dire la cosa giusta e tante altre volte dice cose completamente prive di senso - appunto perchè il "senso" non è parte del processo con cui si formano le risposte.

:

Da qui è partita una riflessione: quante volte anche noi ci comportiamo come "pappagalli stocastici"? Presi dalla competizione fisiologicamente insita in ogni dibattito ci troviamo magari a riportare qualcosa - vuoi in ambito tecnico, vuoi politico (credo il secondo tema più frequentato in melius) - solo per averla letta e riletta in rete o sentita dire altrove ma senza aver mai avuto la possibilità o l'impulso o la competenza di approfondirla vuoi sul piano tecnico vuoi sul piano della verifica delle fonti.

:

In qualche caso credo che si formi una vera e propria "illusione di sapere": l' ho letto e riletto, l' ho fatto mio e l'ho messo nel mio bagaglio di (presunte) competenze.

:

Non credo che ci sia nulla di male, sul pregiudizio - perché è di questo in fondo che stiamo parlando - mi piace la battuta sentita in un film "ho dei pregiudizi, come mia nonna, so che è ingiusto ma aiuta a campare bene". Già, perché, come la I.A. statisticamente qualcosa si azzecca anche così.

:

Alla fine se la nostra "illusione di sapere" (e quella degli amici del forum) ci ha portato a fare qualcosa di funzionante sul nostro impianto audio tanto meglio, inutile preoccuparsene da questo punto di vista. Meglio però mantenere la consapevolezza di come si è formata la nostra presunta "competenza", per conoscerne i limiti.

:

Sulla politica stento un velo pietoso, il discorso ci porterebbe lontano, a quella "bolla" che ci si forma intorno quando ci informiamo solo ed esclusivamente da persone e da media che la pensano come noi.

:

In fondo sempre alle radici si torna: il vero saggio è colui che sa di non sapere ma, aggiungo io, non per questo si rifugia in un mondo in cui può essere vero tutto ed il contrario di tutto.

 

[aldofranci]

22 minuti fa, best_music ha scritto:

quante volte anche noi ci comportiamo come "pappagalli stocastici"?

Mai e a ben vedere lo chiarisci tu stesso più avanti.

La macchina opera con algoritmi statistici, il che occasionalmente la porta a risposte assurde o prive di senso.

Noi non abbiamo queste capacità di elaborazione e quindi siamo molto più sbrigativi, utilizzando un criterio di senso, il pregiudizio, assente in linea di principio nell'elaborazione elettronica. 

Quindi la nostra risposta alla questione X sarà magari sbagliata, illusoria, frutto di wishful thinking, lontana da una realtà fattuale (ammesso di poterla conoscere) ma non necessariamente "insensata", certamente non nei termini di un computer che spara cassate.

 

 

[UpTo11]

Adesso, aldofranci ha scritto:

la porta a risposte assurde o prive di senso.

Noi non abbiamo queste capacità

L'abbiamo, l'abbiamo.... rileggiti certi thread... e forumer.

[aldofranci]

@UpTo11

E ma l'ipotesi è proprio che non siano forumer ma stringhe di zeri e uni.

[Dufay]

Pappagallo stocastico.

 

[UpTo11]

Eccallà.

[Dufay]

6 minuti fa, UpTo11 ha scritto:

Eccallà.

Non può mancare 

[spersanti276]

31 minuti fa, aldofranci ha scritto:

@UpTo11

E ma l'ipotesi è proprio che non siano forumer ma stringhe di zeri e uni.

 

UnI ???

Ahio 

[UpTo11]

1 minuto fa, spersanti276 ha scritto:

UnI ???

Ahio 

Unni.

[spersanti276]

1 minuto fa, UpTo11 ha scritto:

Unni.

Beh, allora...

[captainsensible]

@best_music è un pappagallo che però rimette in ordine un pò di informazioni, cosa non sempre facile per il bipede pensante .

 

CS

[aldofranci]

10 minuti fa, spersanti276 ha scritto:

UnI ???

Uni plus supposte.

[appecundria]

1 ora fa, best_music ha scritto:

la definizione di pappagallo stocastico riferita alla I.A.

Chi è il geniale autore?

[aldofranci]

Seriamente...io sospetto che i nostri meccanismi cognitivi e i processi con cui formiamo le nostre convinzioni siano più deterministici che stocazzici e in questo siamo costituzionalmente diversi da una macchina, per quanto pensata a "nostra immagine" (seppur infinitamente potenziata nelle funzioni).

Ma questa è l'idea dell'uomo della strada, magari dico sciocchezze.

Gugol che ne pensa?

[Savgal]

L'intelligenza artificiale, per quanto ho capito leggendo un testo specifico, è formule statistiche e algoritmi di applicazione di tali formule.

E' un ottimo strumento, ma nelle mani di coloro che conoscono la materia, quindi sono in grado di porre le domande giuste e verificare che le risposte date siano corrette.

Ho fatto un esperimento con i miei studenti. Ho digitato su un'applicazione di IA il mio nome e cognome ed il mio ruolo. Mi ha attribuito una laurea in lettere moderne e una specializzazione in archeologia classica e che prima dell'attuale incarico ero funzionario archeologo presso il Ministero della Cultura; nulla di ciò è vero.

Il testo che ho letto è questo.

[briandinazareth]

Il problema non è l'illusione di sapere quanto il fatto che le nostre reti neurali sono probabilistiche e non deterministiche. In più non abbiamo una conoscenza come fossimo un database,  ma ricostruiamo ogni volta lavorando per aprossimazione e, soprattutto per plausibilita', che e3 pure il meccanismo basilare delle allucinazioni (basta creare una dissonanza sensoriale per provocarle a chiunque). 

Il cervello più che guardare il mondo come è, inventa una sua rappresentazione a partire dagli elementi che ha. 

 

Elementi fortemente compressi e selezionati perchè sarebbero troppi per le capacità del cervello.  

 

Alcune gravi malattie mentali e neurologiche derivano proprio dal malfunzionamento di questi meccanismi

 

 

[dec]

La definizione di pappagallo stocastico, pur nella sua scherzosa semplificazione, puo' adattarsi all'AI ma molto meno alla sua utenza; per quest'ultima mi sembra piu' adeguato parlare di panglossianesimo funzionale.

[spersanti276]

36 minuti fa, aldofranci ha scritto:

Uni plus supposte.

 

...anche.