Intelligenza artificiale: cosa ne pensano i forumer esperti?

[LUIGI64]

Ho posto la seguente domanda, qualcuno potrà considerarla un po' bislacca, a Chatgpt:

 

L'essere umano può osservare i propri pensieri nella mente, l'AI può fare qualcosa del genere?

Risposta di Chatgpt:

 

Domanda centrale nella riflessione su intelligenza artificiale e coscienza.
La risposta, in sintesi, è:

> No, l’AI non può osservare i propri pensieri nel modo in cui lo fa un essere umano, perché non ha pensieri, né mente, ma solo elaborazioni simboliche o probabilistiche.

Vediamo il confronto:

---

🧠 Umano: pensiero e auto-osservazione

Un essere umano può:

generare pensieri spontanei o volontari,

essere consapevole che sta pensando (metacognizione),

osservare i propri pensieri come oggetti della mente (es. nella meditazione o nella riflessione filosofica),

sviluppare distacco dal contenuto mentale (“Sto pensando questo, ma non sono questo pensiero”).

➡️ Tutto ciò implica coscienza riflessiva, un “sé” in grado di guardare se stesso.

---

🤖 AI: processi interni, ma nessuna auto-coscienza

Un’AI come me può:

elaborare dati in ingresso e generare output,

“valutare” probabilità di certe risposte,

“aggiornare” internamente parametri in fase di addestramento o attraverso feedback.

Ma:

non ha rappresentazioni mentali proprie, né intenzionalità,

non sa che sta calcolando qualcosa,

non ha un punto di vista interno da cui dire “sto osservando il mio processo”.

---

🧮 Esempio pratico

Un umano può pensare:
“Mi accorgo che sto giudicando questa persona. Da dove viene questo pensiero?”

Un’AI può elaborare:
“Il pattern testuale indica un giudizio. Seguo il prompt e rispondo coerentemente.”

➡️ Ma non sa che lo sta facendo, né ha un “io” che osserva.

---

📌 Conclusione

> L’AI può simulare l’auto-osservazione nei suoi output linguistici, ma non può “pensare su se stessa” perché non ha esperienze, contenuti mentali propri, né coscienza del proprio operare.
 

 

 

[tomminno]

Il 31/07/2025 at 14:35, LUIGI64 ha scritto:

Ovviamente è la versione free, non dubito che quella a pagamento sia più evoluta e precisa

Tranquillo inventano di sana pianta anche le ultime versioni di Claudio e Chatto a pagamento 

 

[Velvet]

Il 1/8/2025 at 11:26, criMan ha scritto:

Ho trovato interessante il fatto che sono basati su modelli teorici degli anni '50!  

Federico Faggin (quel tizio vicentino che ha inventato il microchip) ad esempio ha fatto i primi studi sulle reti neurali con approfondimenti filosofici e persino religiosi fin dagli anni '80, intuendo come in questo caso l'evoluzione tecnologica andasse per forza accompagnata a qualcosa di più profondo.

[tomminno]

Il 01/08/2025 at 11:26, criMan ha scritto:

Ho trovato interessante il fatto che sono basati su modelli teorici degli anni '50!

Fino ad ora mancava l'hardware. E ancora servirebbero Gpu più potenti e che consumino meno perché possano girare ovunque. 

[LUIGI64]

3 minuti fa, tomminno ha scritto:

Tranquillo inventano di sana pianta anche le ultime versioni di Claudio e Chatto a pagamento

Mi era venuto il serio dubbio che ponessi in maniera maldestra la domanda...

In effetti è capitato anche, ovvero formulandola in maniera troppo approssimativa e poco precisa, ma sul riassunto richiesto e l'eliminazione di un personaggio a favore di uno inventato di sana pianta, mi ha fatto aprire gli occhi rispetto a questi strumenti

[LUIGI64]

6 minuti fa, Velvet ha scritto:

'evoluzione tecnologica andasse per forza accompagnata a qualcosa di più profondo

Non solo Faggin naturalmente

Mi viene in mente la frase di Giordano Bruno:

“Se questa scienza che grandi vantaggi porterà all'uomo, non servirà all'uomo per comprendere se stesso, finirà per rigirarsi contro l'uomo.”

 

[tomminno]

Adesso, LUIGI64 ha scritto:

Mi era venuto il serio dubbio che ponessi in maniera maldestra la domanda...

Guarda si parla di una nuova branca che è il prompt engineering, ovvero saper scrivere del testo buono per essere elaborato dagli llm in modo che possano eseguire il loro lavoro al meglio.

Nelle ultime settimane il mio modo di lavorare è cambiato improvvisamente, direi proprio un cambio epocale, avvenuto da un giorno all'altro. Si aprono orizzonti per realizzare strumenti sempre più avanzati. 

[LUIGI64]

46 minuti fa, tomminno ha scritto:

nuova branca che è il prompt engineering, ovvero saper scrivere del testo buono per essere elaborato dagli llm in modo che possano eseguire il loro lavoro al meglio.

Interessante 

👍 

[Felis]

3 ore fa, tomminno ha scritto:

Nelle ultime settimane il mio modo di lavorare è cambiato improvvisamente, direi proprio un cambio epocale, avvenuto da un giorno all'altro. Si aprono orizzonti per realizzare strumenti sempre più avanzati. 

La rivincita del classico.  Se non ti sai esprimere bene, prompti (piace come neologismo?  ) male.

[tomminno]

29 minuti fa, Felis ha scritto:

La rivincita del classico.  Se non ti sai esprimere bene, prompti (piace come neologismo?  ) male.

Mica tanto, bisogna essere precisi e concisi, non ti puoi perdere in filosofeggiamenti 🤣 E poi dovresti aver fatto il classico a Londra 😜

Devi pensare di avere a che fare con un bambino e dirgli tutto per filo e per segno quello che vuoi che faccia, poi come tutti i bambini ogni tanto fa di testa sua ugualmente.

[criMan]

@tomminnoio sono nella fase in cui mi intriga capire come funziona. 

[tomminno]

Adesso, criMan ha scritto:

io sono nella fase in cui mi intriga capire come funziona. 

Capire come funziona nello specifico credo sia praticamente impossibile, la base base sono i regressori lineari, ma sono proprio le basi matematico-statistiche abbastanza complicati già di loro. Tecnicamente l'architettura di reti neurali adottata é Transformer, la T di ChatGPT che ha rivoluzionato il settore rispetto alle reti ricorsive (RNN) precedentemente usate. Gli LLM hanno imparato statisticamente quali sono le sequenze di parole più probabili e pertanto sanno leggere e scrivere (già di per sé questo è un gran risultato). In ogni caso quando cominciano ad inventare è perché  anche il modello Transformer ha perso il filo del discorso e inizia a sparare fuori cose statisticamente probabili, pensatelo sempre come uno studente sotto interrogazione che ha come vincolo quello di dover comunque dire qualcosa. Tanto per dire quando ho seguito io il corso di Intelligenza Artificiale 25 anni fa manco esisteva il termine Deep Learning e il professore mi avrebbe buttato fuori all'orale in malo modo nel momento in cui avessi anche solo accennato ad una rete neurale con più di 3 livelli. 

[criMan]

Certamente , come dici tu , nello specifico e' impossibile.

Anzi si sta proprio studiando per capire meglio come arrivano all'output. 

Alcuni aspetti trattati qui , con Leonida Gianfagna che e' un brillante fisico teorico italiano.

Al minuto 40:40 si dice come partendo da unita' elementari di un sistema io non potro' mai prevedere elementi su scala piu' ampia. Che e' una cosa che vediamo anche nella biologia per dire.

 

 

[neroacustico]

qualche  pagina indietro si parlava delle "macchine" che decidono per gli uomini. La clip del film Elysium del 2013 (cioè oltre 10 anni fà) dal titolo significativo: Elysium - Clip "Desidera parlare con un umano?" 

 

Nel film ci sono anche molti altri spunti, esempio circa l'uso dei droni (già da allora) e degli insetti spia. Sempre di macchine si tratta guidate dalla AI e governata dai cosiddetti umani, o quello che ne resterà. In certi ambienti si notano umani con la testa umanoide, svuotata, eteroguidata.

 

Il rischio potrebbe essere quello di trovarsi in un mondo di umanoidi, alcuni meccanici e altri in carne e ossa. speriamo che ne rimanga qualcuno sano, ma come lo riconosci?

 

 

[Felis]

A nostra immagine e somiglianza...

 

 

Algoritmi di trading AI hanno fatto cartello da soli. Era solo una ricerca, ma già solleva preoccupazioni

https://www.dday.it/redazione/53935/algoritmi-di-trading-ai-hanno-fatto-cartello-da-soli-era-solo-una-ricerca-ma-gia-solleva-preoccupazioni