"Fermate l'Intelligenza artificiale!"

[Membro_0023]

Toh, finalmente qualcuno comincia a preoccuparsene.  

Era ora, aggiungo io. Peccato che sia troppo tardi. 

[claravox]

https://www.ansa.it/sito/notizie/mondo/2023/03/29/musk-lancia-lallarme-sullia-un-rischio-per-lumanita_e4e377de-71f9-4d60-8167-a4517cb802e9.html

 

Musk lancia l'allarme sull'IA, un rischio per l'umanità

 

L'intelligenza artificiale pone "profondi rischi per la società e l'umanità" e per questo servirebbe una "pausa" di almeno sei mesi nell'"addestramento" dei sistemi più avanzati.

L'allarme è di Elon Musk e di altri 1.000 fra ricercatori e manager che, in una lettera aperta, chiedono uno stop o una moratoria dei governi per evitare il tanto temuto 'scenario Terminator' e consentire lo sviluppo di protocolli di sicurezza condivisi.

La missiva pubblicata dalla no profit Future of Life Institutevanta firme eccellenti e per questo viene presa molto seriamente.

A sottoscriverla infatti ci sono il co-fondatore di Apple Steve Wozniak ma anche quelli di Pinterest e Skype, così come i fondatori delle start up di intelligenza artificiale Stability AI e Charatcters.ai. Oltre ovviamente al miliardario visionario patron di Tesla che aspira a migliorare il cervello con Neuralink dopo aver, con la sua spinta all'innovazione, contribuito a trasformare radicalmente l'industria dello spazio con SpaceX e rivoluzionare quella dell'auto spianando la strada già più di un decennio fa alle vetture elettriche che si guidano da sole. Fanatico della tecnologia, Musk ha investito in società di intelligenza artificiale ed era anche nel consiglio di amministrazione di OpenAI, il colosso del settore su cui Microsoft ha scommesso miliardi di dollari. Investimenti, ha spiegato più volte, non per guadagnare ma per tenersi al passo con i tempi e quindi conoscere queste tecnologie.

Nel mirino dei big non c'è tutta l'intelligenza artificiale ma i sistemi più avanzati di GPT-4, la chatbot di OpenAI capace di raccontare barzellette e superare facilmente esami come quello per diventare avvocato. "I sistemi potenti di IA dovrebbero essere sviluppati solo quando si ha fiducia che i loro effetti saranno positivi e i loro rischi gestibili", si legge nella lettera in cui si parla di una "corsa fuori controllo allo sviluppo e al dispiegamento di potenti menti digitali che nessuno, neanche i loro creatori, possono capire, prevedere e controllare". Una corsa che, se non sarà fermata, rischia di far divenire realtà la fantascientifica 'Skynet' protagonista dei film di James Cameron e la sua decisione di distruggere l'umanità; oppure, più prosaicamente, di far finire in mani sbagliate questi potenti sistemi con ricadute possibilmente devastanti. Pechino - ha ad esempio avvertito il senatore Mike Gallagher a capo della commissione della camera sulla Cina - vede l'intelligenza artificiale come uno "strumento o un'arma per perfezionare la sua sorveglianza orwelliana tecno-totalitaria".

Proprio il timore di conseguenze catastrofiche ha spinto i grandi dell'hi-tech a chiedere una pausa di sei mesi da usare per lo "sviluppo congiunto e l'implementazione di protocolli condivisi" che assicurino la "sicurezza" dei sistemi "al di là di ogni ragionevole dubbio", prosegue la lettera, che invita i laboratori di IA a concentrarsi nel rendere più "accurati, trasparenti, credibili e leali" gli attuali sistemi invece di correre verso lo sviluppo di mezzi ancora più potenti. "La società ha fatto una pausa su altre tecnologie con effetti potenzialmente catastrofici - prosegue la lettera -. Possiamo farlo anche in questo caso. Godiamoci una lunga estate dell'IA, e non corriamo impreparati verso l'autunno".

A sottoscriverla infatti ci sono il co-fondatore di Apple Steve Wozniak ma anche quelli di Pinterest e Skype, così come i fondatori delle start up di intelligenza artificiale Stability AI e Charatcters.ai. Oltre ovviamente al miliardario visionario patron di Tesla che aspira a migliorare il cervello con Neuralink dopo aver, con la sua spinta all'innovazione, contribuito a trasformare radicalmente l'industria dello spazio con SpaceX e rivoluzionare quella dell'auto spianando la strada già più di un decennio fa alle vetture elettriche che si guidano da sole. Fanatico della tecnologia, Musk ha investito in società di intelligenza artificiale ed era anche nel consiglio di amministrazione di OpenAI, il colosso del settore su cui Microsoft ha scommesso miliardi di dollari. Investimenti, ha spiegato più volte, non per guadagnare ma per tenersi al passo con i tempi e quindi conoscere queste tecnologie.

Nel mirino dei big non c'è tutta l'intelligenza artificiale ma i sistemi più avanzati di GPT-4, la chatbot di OpenAI capace di raccontare barzellette e superare facilmente esami come quello per diventare avvocato. "I sistemi potenti di IA dovrebbero essere sviluppati solo quando si ha fiducia che i loro effetti saranno positivi e i loro rischi gestibili", si legge nella lettera in cui si parla di una "corsa fuori controllo allo sviluppo e al dispiegamento di potenti menti digitali che nessuno, neanche i loro creatori, possono capire, prevedere e controllare". Una corsa che, se non sarà fermata, rischia di far divenire realtà la fantascientifica 'Skynet' protagonista dei film di James Cameron e la sua decisione di distruggere l'umanità; oppure, più prosaicamente, di far finire in mani sbagliate questi potenti sistemi con ricadute possibilmente devastanti. Pechino - ha ad esempio avvertito il senatore Mike Gallagher a capo della commissione della camera sulla Cina - vede l'intelligenza artificiale come uno "strumento o un'arma per perfezionare la sua sorveglianza orwelliana tecno-totalitaria".

Proprio il timore di conseguenze catastrofiche ha spinto i grandi dell'hi-tech a chiedere una pausa di sei mesi da usare per lo "sviluppo congiunto e l'implementazione di protocolli condivisi" che assicurino la "sicurezza" dei sistemi "al di là di ogni ragionevole dubbio", prosegue la lettera, che invita i laboratori di IA a concentrarsi nel rendere più "accurati, trasparenti, credibili e leali" gli attuali sistemi invece di correre verso lo sviluppo di mezzi ancora più potenti. "La società ha fatto una pausa su altre tecnologie con effetti potenzialmente catastrofici - prosegue la lettera -. Possiamo farlo anche in questo caso. Godiamoci una lunga estate dell'IA, e non corriamo impreparati verso l'autunno".

 

 

 

[domenico80]

è preoccupante e fa ricordare una storia alla terminator  ......... forse ci siamo arrivati

ma non vedo chi possa fermarne lo sviluppo

un esempio :

un tema di esame ing informatica , terzo anno , uno studente impiega 20 minuti a svolgerlo , la I.A. meno di 1 minuto

buon x mio figlio che ha incassato un agile 30 

[stefanino]

sono un "modernista conservatore"

non e' una contraddizione, queste due anime le abbiamo tutti, in me sono molto bilanciate.

Queste discussioni , comprese le esternazioni apocalittiche, mi ricordano molto i dibattiti e le discussioni che si facevano 40 anni fa quando nasceva l'automazione industriale.

 

 

[domenico80]

@stefanino

è un discorso un pò diverso

Gli sviluppi dell'I.A. possono lasciar più che perplessi . sbalorditi ed assai preoccupati

Un altro esempio , di giochini , i nostri :

il firmware x 5 relè di attenuazione del volume di un pre in 28 secondi

[Idefix]

E' un problema non tecnico/informatico.

Credo si posso tecnicamente scrivere le "leggi della robotica" correttamente e forse a prova di errori.

Io temo che esisterà sempre un essere umano (ovviamente mente brillantissima) che aggirerà le leggi anche fosse solo per "vedere l'effetto che fa".

[mozarteum]

Pero’ un parlamento con robot efficienti non sarebbe male.

[stefanino]

1 minuto fa, domenico80 ha scritto:

 

Gli sviluppi dell'I.A. possono lasciar più che perplessi . sbalorditi ed assai preoccupati

40 anni fa avevo 26 anni

stessi commenti, stesse previsioni a tinte fosche

oggi se non ci fosse l'automazione avremmo le pezze al cūlus

sai quanti sbrogliatori di PCB e Progettisti ho visto fare "cos'e pazzi" per NON usare SW per sbroglio e progettazione?

Centinaia , le stesse centinaia che oggi (ormai mezzi pensionati) se gli parli di progettare qualcosa cominciano a elencarti i SW di cui sono licenziatari.

.

 

.

 

[domenico80]

@stefanino

intendo che la mano dell'uomo è soggetto di .......... pregevoli ........ errori , in ambito

l'automazione industriale è un firmware scritto

cosa possa com binare una I.A. non controllata o finita nelle mani di qualche strambo io lo ritengo preoccupante , parlo in ambito militare , chiaro , non di fregare la segreteria del Politecnico

 

[Velvet]

17 minuti fa, stefanino ha scritto:

Queste discussioni , comprese le esternazioni apocalittiche, mi ricordano molto i dibattiti e le discussioni che si facevano 40 anni fa quando nasceva l'automazione industriale.

Se tu ti fermi un attimo a riflettere su cos'è la AI, su cosa è in grado di fare (in positivo, ma anche in negativo) e sulle implicazioni che può avere nella società da qui a breve capisci come siano due cose (la AI e l'automazione industriale) distanti galassie. Ma tante.

Se molti addetti ai lavori stanno dicendo "ragazzi, fermi un attimo...qui prima di tutto sarebbe il caso di mettere dei paletti" non mi sembra il caso di prenderla come una burlonata.

 

L'unica cosa cui è paragonabile per impatto potenziale IMHO è la scoperta della scissione atomica. Lì, dopo un periodo iniziale di corsa ed euforia (complice la guerra) si sono messi ben presto dei paletti che difficilmente possono essere oltrepassati. Paletti che forse rientrano più nella sfera morale/umana che in quella scientifica.

 

 

[Velvet]

Facciamo un esempio tera-tera senza scomodare grandi cose:

 

Tizio sta sulle balle a Sempronio per motivi suoi.

Sempronio con 4 stringhe mirate fa produrre alla AI (quella che già oggi si chiama deep-fake AI) dal nulla un video dalla risultanza perfetta e credibilissima in cui Tizio molesta dei bambini ai giardinetti, e poi inizia a farlo girare in rete.

 

Fine.

[domenico80]

infatti

finirà che ci vorrà un contrololo militare con sanzioni e derive militari

ma chi può farlo oggi se non il solito ?

che , buono quello

[Membro_0023]

14 minuti fa, mozarteum ha scritto:

Pero’ un parlamento con robot efficienti non sarebbe male

Finirebbero per non fare nulla, senza vincitori né vinti. Come in War Games (il film) e nel giochino Tris

[stefanino]

5 minuti fa, Velvet ha scritto:

capisci come siano due cose (la AI e l'automazione industriale) distanti galassie. Ma tante.

come avrai inteso quello che mi disturba un peletto non e' il parlarne e descriverne pregi e difetti ma i toni apocalittici usati 

forse sei piu giovane di me ma io ricordo benissimo quando neli anni 80 si parlava di

automazione = disoccupazione al 60%

automazione= nessun controllo nella sicurezza (automazione dei sistemi di trasporto)

Qando sento toni da fine del mondo penso sempre, saro' malizioso, a che interessi ci siano dietro.

[Velvet]

9 minuti fa, stefanino ha scritto:

ma i toni apocalittici usati 

Non ci ho fatto molto caso onestamente.

Però è innegabile siamo di fronte ad una rivoluzione che internet a confronto è come la scoperta della penna a sfera. Utile e rivoluzionaria ma non fondamentale.

Come usare questa rivoluzione (perchè è anche innegabile vada usata) va deciso in anticipo e non con il solito lassismo da trial-and-error che ha caratterizzato l'era digitale.

Perchè lasciare uno strumento dalle potenzialità dirompenti (nel bene e nel male) alla mercé di tutti senza regole e senza controllo porterà a conseguenze difficilmente prevedibili.

Non parliamo di una macchinetta che la programmi ed emula le azioni umane ripetitivamente h24.

Parliamo di sistemi in grado di "creare" autonomamente sulla base di un bagaglio con un orizzonte potenzialmente infinito .

Spero la differenza sia chiara.

Non dico che le AI debbano essere protette da valigette con codici in stile testate atomiche, ma non è nemmeno immaginabile siano accessibili senza protezioni o senza lacci che ne impediscano un utilizzo distorto. 

[extermination]

Beata ignoranza!!!

[stefanino]

8 minuti fa, Velvet ha scritto:

Sempronio con 4 stringhe fa produrre alla AI (quella che già oggi si chiama deep-fake AI) un video dalla risultanza perfetta e credibilissima in cui Tizio molesta dei bambini ai giardinetti, e poi inizia a farlo girare in rete.

sugli artefatti ho campato (fornendo strumenti per tanarli) per 30 anni

Credimi le autorita preposte non hanno l'anello al naso e hanno strumenti di analisi che vanno oltre l'immaginabile

Fai quel deep fake e aspetta a vedere se vengono a prendere lui o te.

 

 

[Velvet]

La fai un po' facile temo. Quello che era ieri è passato remoto.