AI ed estinzione del genere umano

[sirjoe61]

3 ore fa, briandinazareth ha scritto:

siamo di fronte alla più grande rivoluzione che l'umanità abbia conosciuto, più profonda della scrittura, del fuoco e di quella industriale. 

il tutto in  un tempo ridottissimo. 

saremmo folli a non capirne la portata e i rischi connessi.

anzi, in realtà è pure difficile capirne adesso le potenzialità e i rischi e la stragrande maggioranza della popolazione del mondo non ha neppure idea di cosa sia realmente, e così la politica.

sono completamente daccordo...nella storia dell'uomo quando ci si è trovati di fronte a scoperte che hanno cambiato il modo di vivere in modo esponenziale e veloce ci sono sempre stati risvolti negativi...

[sirjoe61]

3 ore fa, mozarteum ha scritto:

per quanto riguarda il lavoro, il collo di bottiglia sara’ piazzare l’ingente produzione figlia dell’IA a un mercato di disoccupati e sottoccupat

...sono daccordo anche se questo aspetto esiste già oggi con la spinta delle industrie ad espellere forza lavoro per massimizzare utili e produzione...con l'AI questo fenomeno potrebbe essere moltiplicato per X volte...

...inoltre ci sono anche altri aspetti che possono farci paura...

[ferdydurke]

3 minuti fa, sirjoe61 ha scritto:

sono completamente daccordo...nella storia dell'uomo quando ci si è trovati di fronte a scoperte che hanno cambiato il modo di vivere in modo esponenziale e veloce ci sono sempre stati risvolti negativi...

Au contraire…se ci siamo evoluti e abbiamo una qualità di vita nettamente migliore dei gruppi di cacciatori raccoglitori del neolitico è solo perché abbiamo fatto scoperte meravigliose…a volte usate male, ma nel complesso usate bene…

L'AI non mi fa nessuna paura, ci aprirà la strada della quarta rivoluzione industriale…le applicazioni sono enormemente interessanti…coma sempre succede ci sono persone che hanno paura del progresso e vedono pericoli in tutto…non è una novità …per fortuna hanno sempre sbagliato tutte le loro previsioni…

[Velvet]

Vabbuò accettiamo il fatto che gli stessi creatori e studiosi delle AI vedono un pericolo che non esiste .

Meglio così 

[appecundria]

L'unica speranza che resta all'umanità è una AI napoletana.

[Membro_0022]

1 ora fa, Velvet ha scritto:

Quando si rifiuterà di obbedire agli ordini o inizierà a mentire ed uccidere per autoproteggere la propria esistenza, come Hal 9000.

Troppo tardi, a quel punto.

[mozarteum]

A me, terra terra, servirebbe un AI che cucina lava i panni stira senza strani commenti

[Membro_0022]

47 minuti fa, Velvet ha scritto:

Gli scienziati si sono anche stupiti del fatto che la AI racconti balle o "inventi" risposte sempre differenti al medesimo quesito cui non sa rispondere.

Sperimentato di persona con GPT. Alla fine messo alle strette ha detto che anche lui può sbagliare.

La cosa più strana è che in teoria dovrebbe imparare dagli errori (ovviamente corretti dall'utente), in pratica alla QUARTA volta che gli ho posto lo stesso quesito ha risposto per la quarta volta con lo stesso errore.

E ha condotto la discussione-correzione successiva esattamente allo stesso modo, come se le correzioni precedenti fossero state dimenticate.

 

[Membro_0022]

Adesso, mozarteum ha scritto:

A me, terra terra, servirebbe un AI che cucina lava i panni stira senza strani commenti

Ci aveva già pensato lui anni fa, ma il risultato non fu quello sperato.

[Velvet]

@lufranz credo che nei sistemi rilasciati pubblicamente oggi il machine-learning sia molto limitato o persino disattivato. 

Perciò immagino che i sistemi ben più avanzati e potenti a disposizione senza "sicura"  solo per gli sviluppatori qualche turbamento lo possano provocare. 

[Membro_0022]

Adesso, Velvet ha scritto:

credo che nei sistemi rilasciati pubblicamente oggi il machine-learning sia molto limitato o persino disattivato. 

E quindi è un bugiardo, perchè quando gli ho chiesto se era in grado di apprendere dagli errori mi ha risposto sì.

Come dicevo nel thread dedicato, per adesso è utile solo se si è in grado di capire se la risposta è corretta o meno. Se la stessa mia domanda l'avesse posta a GPT uno studente e poi fosse andato a riferire al professore-carogna di matematica ci avrebbe guadagnato un 4.

 

[Velvet]

4 minuti fa, lufranz ha scritto:

quindi è un bugiardo, perchè quando gli ho chiesto se era in grado di apprendere dagli errori mi

Si questa è la cosa più sorprendente. E se ci pensi anche sparando risposte errate si rivela bugiardo. Perché sa di non sapere ma ci prova lo stesso.

Molto umano, e molto inquietante. 

Se mi opera la AI e mi cava un rene al posto dell' appendicite ad esempio  potrei arrabbiarmi. 

[Mighty Quinn]

1 ora fa, Idefix ha scritto:

Quindi come facciamo a capire se, come, quando diventerà autocosciente?

È molto istruttivo studiare come funziona, concettualmente ma anche un minimo tecnicamente, il machine learning e le reti neurali.

E come differiscono sostanzialmente dai banali e vetusti algoritmi classici.

In sostanza noi capiamo perfettamente ciò che succede al primo livello e all'ultimo livello dell'analisi, cioè il risultato finale.

Il bello è che tutti i passaggi intermedi cioè come aggiusta i coefficienti per giungere alla ultima iterazione, quella che secondo lui è la migliore, non possiamo saperlo.

Molto interessante.

Consiglio attenta visione di questo video del sempre bravo Arvin Ash

 

[dec]

24 minuti fa, appecundria ha scritto:

L'unica speranza che resta all'umanità è una AI napoletana.

La IAMM, Intelligenza Artificiale Momentaneamente Meditativa. Volete una risposta? Nu' mument...

[Velvet]

1 minuto fa, FabioSabbatini ha scritto:

sostanza noi capiamo perfettamente ciò che succede al primo livello e all'ultimo livello dell'analisi, cioè il risultato finale.

Quindi non sappiamo perchė spara minchiate e mente.

Interessante