Intelligenza artificiale: cosa ne pensano i forumer esperti?

[UpTo11]

Articolo interessante, non tanto per il fatto in sé, ovvero della pubblicazione di chat con AI contenenti dati sensibili, quanto sull'uso e sul rapporto quanto meno impropri che gli utenti stanno sviluppando verso queste tecnologie:

https://www.fanpage.it/innovazione/tecnologia/su-google-sono-comparse-le-conversazioni-private-con-chatgpt-segreti-e-dati-sensibili-pubblicati-per-errore/

[Savgal]

@tomminno

Dal che consegue che se non possiedi adeguate conoscenze sull'ambito in questione non sarai in grado di formulare i quesiti corretti e verificare se l'IA ha dato risposte corrette.

Mi pare che si stia antropomorfizzando l'IA. Nella comunicazione il contesto, le conoscenze degli interlocutori, il linguaggio non verbale (tono della voce, posture, ecc.) sono fattori che contribuiscono alla comprensione del messaggio, che tuttavia ha sempre elementi di ambiguità. Vi è alla base una eccessiva semplifcazione di cosa sia la comunicazione. Un passaggio da un saggio sulla teoria della comunicazione: Si deve poi considerare che qualsiasi messaggio è interpretato dal ricevente in relazione allo schema interpretativo che egli sceglie. L’interpretazione avviene anche attraverso comparazioni, per cui l’informazione è interpretata attraverso delle analogie, somiglianze, differenze, ecc., che il soggetto avverte a confronto di altre informazioni. In altri termini, sia la memorizzazione di significati e referenti che il passaggio di certe informazioni dalla memoria all’uso effettivo sono gestite da operazioni di percezione selettiva, reperimento, selezione dello schema interpretativo e comparazione. Perché si abbia identità di co-signifcazione tra emittente e ricevente è quindi necessario che non solo i due soggetti abbiano in memoria le stesse informazioni su significato e referente, ma anche che le operazioni di reperimento, selezione dello schema interpretativo e comparazione avvengano in modo sostanzialmente identico. Nelle situazioni concrete le possibilità che tutto ciò avvenga è evidentemente minima.

 

[neroacustico]

lo dice chiaramente. definire ampiamente il prompt per aumentare la possibilità di ottenere una risposta in linea con la domanda, sempre di probabilità si tratta.

[briandinazareth]

59 minuti fa, Savgal ha scritto:

pare che si stia antropomorfizzando l'IA. Nella comunicazione il contesto, le conoscenze degli interlocutori, il linguaggio non verbale (tono della voce, posture, ecc.) sono fattori che contribuiscono alla comprensione del messaggio, che tuttavia ha sempre elementi di ambiguità. Vi è alla base una eccessiva semplifcazione di cosa sia la comunicazione.

 

È vero ma è una barriera che sta rapidamente cadendo, adesso le ai possono capire il tono della voce. Le espressioni del volto e la comunicazione corporea. 

 

La cosa più impressionante è la capacità di "capire" l'atmosfera di una situazione usando la cattura video

 

[briandinazareth]

26 minuti fa, neroacustico ha scritto:

dice chiaramente. definire ampiamente il prompt per aumentare la possibilità di ottenere una risposta in linea con la domanda, sempre di probabilità si tratta.

 

Questo è un errore riduzionista, le capacità interessanti delle ai sono emergenti.

 

Come l'esempio che facevo delle api. Sono i neuroni che costituiscono il cervello che permette di volare.

 

i neuroni funzionano in modo chimico e anche probabilistico, ma le capacità del volo è una caratteristica emergente che non può essere ridotta al mattone fondamentale (neurone)

[neroacustico]

4 minuti fa, briandinazareth ha scritto:

Questo è un errore riduzionista, le capacità interessanti delle ai sono emergenti.

Come l'esempio che facevo delle api. Sono i neuroni che costituiscono il cervello che permette di volare.

i neuroni funzionano in modo chimico e anche probabilistico, ma le capacità del volo è una caratteristica emergente che non può essere ridotta al mattone fondamentale (neurone)

che è un errore lo dici tu, ma quella è una affermazione del tizio della presentazione. E io mi trovo d'accordo con lui 

[neroacustico]

9 minuti fa, briandinazareth ha scritto:

adesso le ai possono capire il tono della voce

il tono della voce lo capiva già l'umanoide del film Elysium. Era un film ok, ma alexa siri google ormai ci sembrano giochini

[briandinazareth]

2 minuti fa, neroacustico ha scritto:

che è un errore lo dici tu,

 

No, è ormai un dato di fatto. 

Semplicemente perché ha smesso di comportarsi come un sistema puramente probabilistico e ha sviluppato capacità inattese, non programmate e, al momento, non conosciute nella loro genesi e funzionamento, neppure dai più grandi conoscitori e creatori di ai.

Ho riportato in questo thread lo studio di antropic su come funzionano gli llm che lo spiega bene, compreso il fatto che nex sappiamo molto poco

[neroacustico]

36 minuti fa, briandinazareth ha scritto:

nex sappiamo molto poco

esatto, questa è l'unica cosa certa. Al momento mi sembra un grande mixer che miscela "sapientemente" roba esistente sparsa ovunque, con costi elevatissimi. Quello che c'è dietro a livello industriale non te lo dice nessuno, a parte illazioni e fantasie necessarie quando si tratta con l'ignoto. 

 

Che poi tutto evolve alla velocità della luce è vero, vabbeh 

[keres]

57 minuti fa, briandinazareth ha scritto:

vero ma è una barriera che sta rapidamente cadendo, adesso le ai possono capire il tono della voce. Le espressioni del volto e la comunicazione corporea. 

La cosa più impressionante è la capacità di "capire" l'atmosfera di una situazione usando la cattura video

Tra un po faranno sesso 

[briandinazareth]

7 minuti fa, neroacustico ha scritto:

Quello che c'è dietro a livello industriale non te lo dice nessuno

 

Non c'è mistero in questo, è pieno di modelli opensource e tutti possono vedere il codice (che è pure molto poco) 

 

Il problema è più profondo ed è quello che citavo prima:

Anche conoscendo tutto il codice le caratteristiche emergenti vanno molto oltre l'atteso e non so capisce perché e come

[neroacustico]

21 minuti fa, briandinazareth ha scritto:

è pieno di modelli opensource

e poi ci sono i progetti delle big tech, con i loro obiettivi, e chi te li dice.

 

Comunque sempre e soltanto secondo me (imho non mi piace)

[LUIGI64]

1 ora fa, neroacustico ha scritto:

Comunque sempre e soltanto secondo me (imho non mi piace)

A me piace, tutto sommato

Un fantasmagorico giocattolo

Servirà pure come distrazione di massa e per arricchire i potenti

Tanto ormai siamo in piena tecnocrazia

Dipendenti da schermi, AI, Serie TV, Social, Smartphone, ecc.

Ci sarebbe molto da riflettere riguardo a questa deriva

Se avrò voglia, aprirò in thread dedicato ☺️

[neroacustico]

42 minuti fa, LUIGI64 ha scritto:

A me piace

sì sì, intendevo che a me non piace l'inglesismo imho rispetto al "secondo me" 

[neroacustico]

43 minuti fa, LUIGI64 ha scritto:

Se avrò voglia, aprirò in thread dedicato

ottima idea