Chat GPT, il nostro nuovo amico immaginario (e onnisciente)

[Membro_0022]

1 ora fa, LUIGI64 ha scritto:

IA divinizzata:

https://www.wired.it/article/intelligenza-artificiale-religione-setta/

"Una perfetta combinazione tra spiritualismo e ingegneria informatica, che trova la sua concretizzazione in Mena, l'intelligenza artificiale destinata a salvarci"

Ah, mena pure ? Meglio starne alla larga !

[Membro_0022]

2 ore fa, briandinazareth ha scritto:

al momento attuale, può imparare qualcosa, solo nella stessa conversazione e con moltissimi limiti (fatto appositamente)

Ah ecco, ma se glielo chiedo funziona come per l'accesso al web, che prima dice di non avere accesso a un sito e il momento dopo dice di averlo [ test "pubmed" ] ?

E manca ancora la risposta alla domanda più importante: 

Per prova fatta, so che strnzt ne può dire. Quindi, come faccio a sapere se la risposta che mi fornisce GPT su un argomento che NON conosco è una strnzt  o no ?

 

[Membro_0022]

2 ore fa, briandinazareth ha scritto:

al momento attuale, può imparare qualcosa, solo nella stessa conversazione

Ho provato a chiedere a "lui". Mi sembra che abbia un'opinione diversa.

-

IO: tu impari da queste conversazioni ?

-

GPT: Sì, come modello linguistico, imparo dalle conversazioni che ho con gli utenti. Attraverso queste conversazioni, acquisisco una migliore comprensione del linguaggio naturale e delle espressioni comuni utilizzate dalle persone. Inoltre, le conversazioni mi aiutano a migliorare la mia capacità di elaborare e fornire risposte pertinenti e utili agli utenti.

-

IO: se ti chiedo una cosa, mi dai una risposta sbagliata e io ti dico quella giusta, tu lo ricordi ?

-

GPT: Sì, come modello linguistico, sono in grado di apprendere dalle correzioni fornite dagli utenti. Se fornisco una risposta sbagliata e mi viene indicata la risposta corretta, posso utilizzare quella correzione per migliorare la mia comprensione e fornire risposte più accurate in futuro. Ciò avviene grazie all'uso di tecniche di apprendimento automatico che mi consentono di migliorare continuamente la mia capacità di elaborare e fornire risposte precise e pertinenti agli utenti.

-

IO: E quello che impari in una sessione di chat può essere usato in un'altra con un altro utente ?

-

GPT: Sì, come modello di apprendimento automatico, posso utilizzare ciò che ho imparato da una conversazione con un utente per migliorare le mie risposte a future conversazioni con altri utenti. Ciò è possibile grazie all'uso di algoritmi di apprendimento automatico che mi consentono di migliorare continuamente la mia capacità di elaborare e fornire risposte accurate e pertinenti. 

 

[briandinazareth]

4 minuti fa, lufranz ha scritto:

Per prova fatta, so che strnzt ne può dire. Quindi, come faccio a sapere se la risposta che mi fornisce GPT su un argomento che NON conosco è una strnzt  o no ?

 

è dalla prima pagina che si dicono alcune cose: 

non è un oracolo, (come non lo è una persona alla quale chiedi qualcosa)

è una versione appositamente limitatissima e non specializzata in nulla, esistono ia per molti scopi che funzionano ovviamente molto meglio, vedi cosa sta succedendo nella medicina. 

è uno strumento ed è necessario conoscerlo per saperlo usare, soprattutto in questa fase iniziale.

gpt può essere considerato alla stregua dell'aereo dei fratelli wright per il volo, un inizio che dimostra che si può fare. 

[Membro_0022]

Neanche questo siamo riusciti a chiarire: non "impara" tra sessioni diverse come dici tu, o "impara"  come sostiene lui ?

In sintesi: per ora è un giocattolo. L'elica gira ma non vola. Poi si vedrà.

 

 

[keres]

3 ore fa, briandinazareth ha scritto:

è una versione appositamente limitatissima e non specializzata in nulla

Quale sarebbe la ragione per cui e' appositamente limitata? Tanto per sapere, oltre a non lavorare per Lufranz.

[briandinazareth]

24 minuti fa, keres ha scritto:

Quale sarebbe la ragione per cui e' appositamente limitata? Tanto per sapere.

 

il primo limite è economico, l'infrastruttura sottostante è grossa e costosa, quindi si limita il consumo di risorse.

il secondo è che essendo un'applicazione generalista (parlo di chatgpt che puoi usare dal browser) le informazioni dalle quali ha attinto sono limitate e chiunque lo usi per scopi specifici infatti aggiunge le parti di apprendimento specifiche.

il terzo è legato all'impedire comportamenti strani da parte di chatgpt, ed è il motivo per cui anche se lo usi su bing vedi una limitazione delle interazioni. 
per comportamenti strani intendo che con malizia puoi fargli dire cose assurde, per esempio coinvolgendolo in un gioco di ruolo: gli hanno fatto "interpretare" trump e un po' di complottisti e lo fa spaventosamente bene.

[keres]

Va bè io aspetto che abbia consapevolezza di sé e poi ci faccia fuori tutti, ma confido in swarzenegger.

[briandinazareth]

 l'incredibile potenza di chatgpt e simili fa tremare alcune delle più grandi menti del nostro mondo (mentre come sempre gli ottusi non ne capiscono la portata). 

c'è una lettera aperta con firme di altissimo livello che chiede di mettere in pausa lo sviluppo, per almeno 6 mesi per introdurre le contromisure necessarie, a livello di ricerca sulla sicurezza, legislazione ecc. 

probabilmente è troppo tardi e probabilmente non si potrà fare, perché chiunque fermi lo sviluppo ora si troverà scavalcato domani. 

ma l'esigenza di prepararsi a questo sconvolgimento epocale è essenziale per l'umanità, e non accadrà tra anni, è già qui. 

 

[keres]

@briandinazareth Arnooold salvarci tu. 

 

[mozarteum]

Io aspetto il GPT MKII

[briandinazareth]

@keres

 

in realtà il rischio maggiore non è che la ia decida di estinguerci, anzi quello non avrebbe molto senso... 

il pericolo enorme è per come possa essere usato per fare disinformazione e condizionare le persone molto oltre quello che abbiamo già visto con i social. 

inoltre è fondamentale avere un modo per sapere se un contenuto è generato dalla ia o da un un essere umano. 

siamo totalmente impreparati, pochissimi politici hanno intuito la portata di questa rivoluzione. 

ed è una rivoluzione potenzialmente meravigliosa, potremmo espandere la nostra vita e la nostra intelligenza oltre ogni attuale immaginazione. 

ma senza controllo e in mano di chiunque, potrebbe facilmente convincere moltissime persone di cose assurde o pericolosissime, ad esempio...


 

[briandinazareth]

per chi volesse leggere la lettera:

https://futureoflife.org/open-letter/pause-giant-ai-experiments/

[keres]

31 minuti fa, briandinazareth ha scritto:

In realtà il rischio maggiore non è che la ia decida di estinguerci, anzi quello non avrebbe molto senso

Se ci saranno robot in grado di sopperire all'assenza umana credo che probabilmente non si farà molti problemi in tal senso. Aspettera' solo il momento giusto. 

[briandinazareth]

Adesso, keres ha scritto:

Se ci saranno robot in grado di sopperire all'assenza umana credo che probabilmente non si farà molti problemi in tal senso. Aspettera' solo il momento giusto. 

 

l'idea del dominio è una cosa che proiettiamo sulla ia ma appartiene solo agli uomini (e altri animali) e ha a che fare con questioni evolutive e non con l'intelligenza.

poi ovviamente una ia potrebbe essere usata per questo, ma non è un naturale sviluppo dell'intelligenza artificiale (per quello che ne sappiamo oggi, naturalmente)

nonostante questo i pericoli di non gestire questa rivoluzione potrebbero essere molto grandi per via della debolezza degli uomini di fronte al condizionamento e ad una novità così dirompente che può ingannare chiunque. prima gli sciocchi e i meno preparati, ma non illudiamoci, nessuno è esente.

una cosa fondamentale secondo me è la possibilità di sapere sempre e facilmente cosa è stato creato da una ia e cosa è reale (penso ai video, ad esempio)