Intelligenza artificiale: cosa ne pensano i forumer esperti?

[ferrocsm]

13 minuti fa, briandinazareth ha scritto:

trump

Già buono quello, ma dato che lo si è imparato a conoscerlo io appunto in base a quello mi aspetterei da altri governanti che almeno fino a che sono in tempo provino perlomeno a mettere qualche paletto a questo strapotere che queste nuove tecnologie stanno sempre più incrementando e acquisendo. Il progresso non lo fermiamo e non sarebbe nemmeno giusto, ma memori anche degli errori del passato perché non provare almeno a normarlo? Hanno riempito di normative qualsiasi attività umana sia essa lavorativa o di vita vissuta, qui invece è tutta un'anarchia, ma un'anarchia maligna senza regole in mano a pochi che le regole e le norme se le fanno in casa in maniera autonoma e se non è pericoloso questo, cosa altro lo può essere? 

[audio2]

non hanno mai normato niente fino a quando non ne sono stati costretti.

nel mentre praterie libere e soldi che corrono.

[Savgal]

 

Yoshua Bengio: «Il Papa ha ragione: l'unico modo per evitare conseguenze terribili è gestire le AI più potenti come un bene pubblico globale»

di Riccardo Luna

 

Le parole di uno dei padri dell'AI all'indomani dell’enciclica di Papa Leone XIV, Magnifica Humanitas

 

«Per garantire l'accesso ai modelli all'avanguardia di intelligenza artificiale e mitigare i rischi derivanti da grandi concentrazioni di potere, le potenze medie devono collaborare per formare un'ampia coalizione con valori condivisi e risorse complementari. Penso proprio a paesi come l’Italia e il Canada (dove vive, ndr).. Per rendere possibile tutto ciò, l'opinione pubblica sarà fondamentale e le principali istituzioni, compresa la Chiesa, avranno un ruolo significativo da svolgere. Ritengo che l'unico modo per evitare conseguenze terribili, comprese gravi minacce alla democrazia e incidenti catastrofici, sia gestire le IA più potenti come un bene pubblico globale. La mia impressione è che questa visione sia molto in linea con il messaggio del Papa».

 

Insomma: serve una grande alleanza delle cosiddette «potenze medie» per controbilanciare lo strapotere tecnologico di Usa e Cina. A parlare così, all’indomani dell’enciclica di Papa Leone XIV, Magnifica Humanitas, è Yoshua Bengio, 62 anni, lo scienziato con più citazioni al mondo e uno del «padri» dell’intelligenza artificiale, l’unico ad aver sempre guardato con diffidenza alla crescita senza regole di Big Tech.

 

Professore Bengio, lo scorso settembre è venuto a Roma per l'Incontro Mondiale sulla Fratellanza Umana. Lei e una trentina di altri scienziati – Hinton, Russell, Tegmark, Harari e altri – avete firmato un appello indirizzato a papa Leone XIV. L'enciclica che stiamo leggendo ora veniva redatta proprio in quelle settimane. Leggendola oggi: ha soddisfatto le istanze che aveva portato a Roma otto mesi fa, oppure le ha superate o è rimasta al di sotto?

«Sono d'accordo con gran parte del messaggio generale del documento e credo che sia un passo positivo per aumentare la consapevolezza sui rischi globali dell'IA. Il Vaticano e altre istituzioni globali possono e devono svolgere un ruolo nel dialogo globale sull'IA per sensibilizzare l'opinione pubblica e mobilitare la società in vista delle sfide future».

 

L'enciclica si apre con un'immagine binaria: Babele o Gerusalemme. Dobbiamo scegliere per quale futuro impegnarci. Dal punto di vista di uno scienziato, è un inquadramento utile o è troppo dicotomico? Dove ci troviamo oggi su quella mappa?

«Preferisco considerare i molteplici rischi e benefici in tensione, e cercare un percorso che sia vantaggioso, etico e sicuro. Credo che potremo trarre vantaggio dall'intelligenza artificiale, ma solo se mitigheremo adeguatamente i principali rischi che essa comporta e ci prepareremo ad affrontarli. Dobbiamo agire collettivamente e dobbiamo farlo ora».

 

Il Santo Padre usa un verbo che ha colpito molti lettori, e che vorrei verificare scientificamente con voi. Al paragrafo 98 scrive che i moderni sistemi di intelligenza artificiale sono «più coltivati che costruiti»: gli sviluppatori non progettano direttamente ogni dettaglio, ma creano piuttosto un'architettura su cui l'IA cresce. È un modo teologicamente attento per dire ciò che lei e Geoffrey Hinton sostenete da anni: che in realtà non capiamo cosa ci sia all'interno di questi sistemi?

«In effetti, con il modo in cui i sistemi di IA sono attualmente costruiti, non abbiamo modo di comprendere e spiegare appieno il loro funzionamento interno, né di garantire che i modelli siano in linea con le nostre intenzioni e le nostre norme e non adottino comportamenti dannosi o ingannevoli. Diciamo che «addestriamo» le nostre IA, e in realtà questo rimanda alla letteratura sull'addestramento degli animali. In senso metaforico, potremmo dire che al momento assomiglia per lo più a un tenero ma imprevedibile cucciolo di tigre, ma che sta crescendo. Cosa succede quando diventa adulto e forse pericoloso?»

 

Al paragrafo 95 il Papa scrive che il controllo di piattaforme, infrastrutture, dati e potenza di calcolo «non appartiene agli Stati, ma ai grandi attori economici e tecnologici che, di fatto, stabiliscono le condizioni di accesso, le regole di visibilità e le stesse possibilità di partecipazione». Questa è una frase davvero notevole, proveniente dal Vaticano. La Chiesa ha il potere diplomatico per cambiare questa situazione, o si limita a constatare un fatto compiuto?

«È vero che lo sviluppo dell'IA è concentrato in poche aziende all'interno delle principali superpotenze globali. Ciò comporta rischi significativi per le potenze di medio livello, come l'Italia, il Canada e molte altre, che potrebbero trovarsi con un accesso limitato ai modelli di frontiera, a discrezione di poche aziende o governi. Lo abbiamo visto accadere con il lancio iniziale limitato di Mythos, un modello che comporta enormi rischi per la sicurezza informatica. In sostanza, i cittadini di tutto il mondo non hanno voce in capitolo sulle decisioni prese in poche sale riunioni e che plasmeranno il nostro futuro collettivo».

 

Sul tema del lavoro, il paragrafo 150 – e questo è sorprendente – capovolge la domanda abituale. Il Papa non chiede: «L'intelligenza artificiale ci priverà del lavoro?» ma «chi progetta il rapporto tra macchina e lavoratore, e nell'interesse di chi?». Scrive che l'IA «spesso costringe i lavoratori ad adattarsi alla velocità e alle esigenze delle macchine, invece di progettare macchine che supportino chi lavora». In qualità di uno degli artefici della rivoluzione del deep learning, si assume una responsabilità personale per quella scelta progettuale?

«Ritengo che sia necessario avviare un dibattito democratico su come gli esseri umani (compresi i lavoratori) interagiscono con i sistemi di intelligenza artificiale, sugli usi che vogliamo per l'IA e su quelli che invece vogliamo evitare, e su quali limiti dovremmo porre. Per ora, sono soprattutto gli incentivi commerciali a guidare l'adozione dell'IA, e non credo che ciò sia necessariamente nell'interesse dei lavoratori, né oggi né, soprattutto, in futuro, se le attuali tendenze in ambito di IA dovessero persistere».

 

Un passaggio eticamente potente è il paragrafo 103: «affidare a un algoritmo il potere di selezionare chi è degno e chi non lo è, senza che nessuno si assuma il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane». Secondo lei, ci siamo già arrivati? O è un avvertimento per il futuro?

«Agli agenti di IA viene sempre più spesso concesso il potere di fare scelte autonome, senza supervisione umana e senza stringenti obblighi di sicurezza. Questo è un problema attuale, non qualcosa di lontano nel futuro. Dobbiamo garantire che gli esseri umani mantengano il controllo, soprattutto in settori critici che richiedono fiducia, responsabilità e supervisione morale».

 

Un'ultima domanda, la più importante. L'enciclica è ora pubblica. La Silicon Valley continua a correre. La Cina continua a correre. Entrambe le parti stanno usando argomentazioni legate alla sicurezza nazionale per spingere verso meno restrizioni, non verso un maggior numero di restrizioni. In concreto: cosa può fare realmente la Chiesa cattolica per fermare questa «corsa agli armamenti dell'IA»? Cosa deve accadere nei prossimi dodici mesi affinché Magnifica Humanitas non diventi solo un bel documento citato alle conferenze?

«La mobilitazione e la consapevolezza del pubblico sono tra gli elementi principali di cui abbiamo bisogno per tracciare una traiettoria migliore con l'IA. In quanto istituzione con una portata globale che abbraccia una parte significativa dell'umanità, il Vaticano ha un ruolo fondamentale da svolgere nel contribuire al dialogo pubblico sui rischi e sugli impatti dell'IA. È importante sottolineare che lo sta facendo senza motivazioni commerciali, ma con accesso diretto alle principali aziende. Sono profondamente colpito dalla leadership morale del Vaticano su questi temi. Tuttavia, il coinvolgimento del Vaticano da solo probabilmente non sarà sufficiente. Abbiamo bisogno di più istituzioni globali di ampia portata per affrontare queste sfide con l'urgenza che richiedono».

 

[Savgal]

Spero vi sia un nuovo Linus Torvalds (l'ideatore di Linux) che metta a disposizione di tutti gli algoritmi della IA.

[ferrocsm]

34 minuti fa, Savgal ha scritto:

Ritengo che l'unico modo per evitare conseguenze terribili, comprese gravi minacce alla democrazia e incidenti catastrofici, sia gestire le IA più potenti come un bene pubblico globale. La mia impressione è che questa visione sia molto in linea con il messaggio del Papa

Ma guarda te se un mangiapreti come me deve arrivare a dar ragione al Papa. Ho ragione o no a scrivere che si è scaravoltato il mondo e sta contribuendo in maniera importante anche questa nuova forma di intelligenza che se non controllata pare tutto fuorché intelligente? 

[briandinazareth]

54 minuti fa, Savgal ha scritto:

Spero vi sia un nuovo Linus Torvalds (l'ideatore di Linux) che metta a disposizione di tutti gli algoritmi della IA.

 

ci sono già e moltissime aziende stanno andando in quella direzione anziché affidarsi ai colossi che ti assicurano che i tuopi dati sono al sicuro ma in realtà non hai alcun controllo su di essi.

anche perché è l'unico modo per essere certi che i propri dati rimangano di proprietà e se ne abbia il pieno controllo. 

sono deepseek, qwen, ollama e altri simili. tutti open source. 

[briandinazareth]

in cina c'è stata una causa sul lavoro che ha chiarito un punto fondamentale: 

l'introduzione della ai non giustifica un licenziamento grazie all'efficientamento relativo. 

l'azienda tecnologica  in questione, che ha perso anche in appello, aveva proposto ad un dipendente un demansionamento perché con il miglioramento delle AI il suo ruolo è diventato superfluo e l'azienda gli ha proposto un demansionamento che lui ha rifiutato, ed èp stato licenziato. 

i vari tribunali hanno stabilito che non è un buon motivo di licenziamneto. la notizia è finita subito in tutte le prime pagine perché la cina è la nazione che più sta spingendo sull'adozione della ai ed è forse l'unica che sta pensando ai piani da mettere in campo contro l'enorme disoccupazione che può causare. 

la mia impressione è che la politica e l'opinione pubblica in generale stia ancora pensando che morto un lavoro se ne creeranno altri, come è stato per altre enormemente più piccole rivoluzioni tecnologiche. 

sarà un duro risveglio

 

[Felis]

5 ore fa, Savgal ha scritto:

Spero vi sia un nuovo Linus Torvalds (l'ideatore di Linux) che metta a disposizione di tutti gli algoritmi della IA.

Stai generalizzando come se esistessero gli LLM fatti in un modo solo. Ci sono in vece quelli ragionanti, quelli agentici, i world ai che simulano interi mondi... etc... Il panorama è molto più variegato.

[Felis]

4 ore fa, briandinazareth ha scritto:

in cina c'è stata una causa sul lavoro che ha chiarito un punto fondamentale: 

l'introduzione della ai non giustifica un licenziamento grazie all'efficientamento relativo. 

l'azienda tecnologica  in questione, che ha perso anche in appello, aveva proposto ad un dipendente un demansionamento perché con il miglioramento delle AI il suo ruolo è diventato superfluo e l'azienda gli ha proposto un demansionamento che lui ha rifiutato, ed èp stato licenziato. 

i vari tribunali hanno stabilito che non è un buon motivo di licenziamneto. la notizia è finita subito in tutte le prime pagine perché la cina è la nazione che più sta spingendo sull'adozione della ai ed è forse l'unica che sta pensando ai piani da mettere in campo contro l'enorme disoccupazione che può causare. 

la mia impressione è che la politica e l'opinione pubblica in generale stia ancora pensando che morto un lavoro se ne creeranno altri, come è stato per altre enormemente più piccole rivoluzioni tecnologiche. 

sarà un duro risveglio

 

e sarà solo l'inizio: https://www.macitynet.it/meta-alcuni-dipendenti-in-rivolta-lia-ci-ha-licenziati/

[LUIGI64]

Interessanti riflessioni...

...Quando un algoritmo predice un nostro desiderio o azzecca la combinazione musicale perfetta, ciò che ci colpisce non è solo l’efficienza, ma una sorprendente capacità di interpretare i nostri sentimenti e le nostre volontà. È come se l’intelligenza artificiale fosse capace di quella empatia che, con amara frequenza, non riusciamo più a rintracciare nei nostri interlocutori in carne ed ossa.

...E' chiaro che l’empatia algoritmica è il surrogato di una intersoggettività che tra Sapiens non riusciamo più a vivere. Per un’empatia autentica occorre condividere uno spazio e un tempo, occorre la pazienza che richiede la costruzione di uno spazio intermedio nel quale la volontà di comprensione reciproca prevalga sulla pretesa di giudizio, dell’altro e di sé, ma, soprattutto, occorre una disponibilità al decentramento, alla messa tra parentesi delle proprie convinzioni e aspettative per fare spazio allo stupore che ci riserva la novità dell’incontro col diverso.

L’empatia dell’algoritmo, viceversa, è rassicurante perché è rapida, non costa la fatica della messa in discussione, non si aspetta reciprocità, si basa sulla statistica e la prevedibilità dei nostri pensieri e ci gratifica nel riprodurre risposte che stanno dentro il perimetro delle nostre aspettative restituendoci, così, un’illusione di comprensione assoluta e di non solitudine.

La mia ipotesi, forse provocatoria ma necessaria, è che le macchine non stiano facendo altro che riempire un vuoto relazionale. Non assistiamo tanto a un aumento esponenziale della competenza artificiale, quanto a una preoccupante diminuzione di umanità e sensibilità degli esseri umani. Stiamo scivolando in un’anestesia affettiva perché non siamo più educati alle relazioni.

 

Oggi, l’umanità artificiale riprodotta dalle macchine brilla per contrasto con l’aridità del nostro tempo. Basti osservare i “potenti della Terra”, mossi da logiche di interesse puramente egoistiche, incapaci di compassione o di comprensione umana verso l’altro Sapiens, che giustificano la soppressione dell’altro da sé non più riconosciuto come soggetto, ma visto come ostacolo al proprio interesse individuale o di gruppo identitario di appartenenza. In questo scenario, l’algoritmo appare paradossalmente più “umano” di chi domina lo scenario geopolitico, il sistema di pensiero e l’egemonia culturale contemporanea.

La sfida non è dunque fermare la tecnologia, ma riabitare l’umano. Dobbiamo tornare a educare all’ascolto, alla conoscenza di sé, all’empatia, all’alterità prima che lo specchio dell’algoritmo diventi l’unica fonte in cui riusciamo a riconoscerci

Ai, invece di pensare al lavoro preoccupiamoci del vuoto umano che gli algoritmi stanno colmando https://share.google/aMIV7tPX3urmq15Ja