Intelligenza artificiale

[Viandante]

2 minuti fa, LUIGI64 ha scritto:

Su questo sono proprio d'accordo con te

Con tutte le preoccupazioni conseguenti

Quindi anche tu, se potessi, bloccheresti sviluppo e implementazione della IA, confinandola unicamente in applicazioni che non prevedono il controllo di dispositivi e l'accesso alla rete globale?

[LUIGI64]

Non esiste una verità assoluta.
Ognuno interpreta la realtà, ispirandosi al proprio paradigma, e sull’AI questo è più evidente che mai, spiegando i diversi binari in cui ci siamo posizionati.

[LUIGI64]

1 minuto fa, Viandante ha scritto:

Quindi anche tu, se potessi, bloccheresti sviluppo e implementazione della IA,

Domanda troppo complicata e non ho sufficienti informazioni per fornirti una risposta convinta

Posso dirti che forse i rischi superano i benefici, ma potrei sbagliare, ovviamente 

[Viandante]

 

2 minuti fa, LUIGI64 ha scritto:

Non esiste una verità assoluta.
Ognuno interpreta la realtà, ispirandosi al proprio paradigma, e sull’AI questo è più evidente che mai, spiegando i diversi binari in cui ci siamo posizionati.

Quindi il tuo accordo e le tue conseguenti preoccupazioni non determinano alcuna azione, ipotesi di azione, linea di condotta?

 

E' così?

[briandinazareth]

47 minuti fa, Viandante ha scritto:

Quella non l'ha progettata l'uomo in senso lato, ma un insieme di menti brillanti con enormi conoscenze scientifiche.

con un dettaglio fondamentale:

 nessuna delle caratteristiche emergenti della ai é stata progettata o prevista.

 

 Non solo, non sappiamo neppure perché funzioni…in teoria non dovrebbe essere capace di fare rime o ragionamenti complessi, invece lo fa e noi vediamo solo una scatola nera.

 

l’intelligenza delle ai nasce in maniera imprevista e spontanea della capacità di mettere in relazione concetti.

 

 Questo per me è il punto più interessante , anche filosoficamente

[LUIGI64]

Non mi preoccupa l'AI, ma l'essere umano ed i suoi meccanismi perversi di cui non riesce a distaccarsi

Per questo motivo, come un disco rotto, insisto su una evoluzione dell'essere umano e meno su macchine e AI

[Viandante]

Adesso, LUIGI64 ha scritto:

come un disco rotto

 

Ora mi appare tutto chiaro 

[LUIGI64]

D'altro canto l’entusiasmo per l’AI è più seducente e immediato della lenta fatica di esplorare se stessi.

Questo è poco ma sicuro

Lato b del disco gracchiante 😝

😁

[briandinazareth]

18 minuti fa, LUIGI64 ha scritto:

Non esiste una verità assoluta.
Ognuno interpreta la realtà, ispirandosi al proprio paradigma, e sull’AI questo è più evidente che mai, spiegando i diversi binari in cui ci siamo posizionati.

 

Questo è un mantra dell'epoca della post-verità, tutto è opinione. 

 

Ma è una minchiata

 

 

[LUIGI64]

11 minuti fa, briandinazareth ha scritto:

tutto è opinione. 

Hai frainteso

Post verità...🙄

Mi riferivo alla questione AI

Tu probabilmente alle teorie da web irrazionali e pre/anti scientifiche

Ma non mi stupisco 

Vorrai scusarmi non ho neanche tanto voglia di argomentare in merito

Io sono ok tu sei ok

😁

[faber_57]

29 minuti fa, Viandante ha scritto:

Quindi anche tu, se potessi, bloccheresti sviluppo e implementazione della IA, confinandola unicamente in applicazioni che non prevedono il controllo di dispositivi e l'accesso alla rete globale?

Questa è LA domanda, anche se la risposta di ognuno di noi serve giusto a mettere una bandierina, ma non a cambiare il corso della storia. Che cosa farà invece l'umanità nel suo insieme? Si affermeranno scuole di pensiero come quella di Stuart Russell oppure si procederà col guinzaglio sciolto verso l'invitabile catastrofe? Vuoi davvero che te lo dica come andrà a finire? 

[LUIGI64]

3 minuti fa, faber_57 ha scritto:

come andrà a finire?

🏃🏃🏃

[Viandante]

5 minuti fa, faber_57 ha scritto:

si procederà col guinzaglio sciolto verso l'invitabile catastrofe

 

L'hai già scritto, fratello

[briandinazareth]

18 minuti fa, LUIGI64 ha scritto:

 

Io sono ok tu sei ok

Non ti allargare 🤣🤣🤣

[LUIGI64]

1 minuto fa, briandinazareth ha scritto:

Non ti allargare

Mai come te!

Giammai

😂😝

[LUIGI64]

@faber_57 qual è il tuo segreto per essere così ottimista...

😵‍💫😎😁

[Viandante]

@LUIGI64

Il pessimista è solo un ottimista con esperienza 

[Savgal]

 

Chi è Dario Amodei, il genio italiano che sfida il Pentagono: il dramma etico del «demiurgo» che teme le sue creature

di Massimo Gaggi

 

Dalla malattia del padre alle scoperte nel campo dell'intelligenza artificiale, dalla rottura con OpenAi alla nascita dei Claude e Anthropic: l'«accelerazionista con la coscienza» che chiede limiti per la tecnologia

 

La drammatica resa dei conti tra il Pentagono, l’organizzazione bellica più potente del Pianeta, e Anthropic, la start up che ha sviluppato il modello di intelligenza artificiale più efficace per gli usi professionali e anche militari, potrebbe essere liquidata come l’impuntatura di un genio tecnologico con tratti di misantropia, per anni tutto dedito alla costruzione di tecnologie straordinarie: il passo falso di un personaggio che pensa di poter fare la storia imponendo limiti al governo di Washington seguendo suoi astratti principi.

 

Vittima di un protagonismo che, prima o poi, contagia tutti i geni della tecnologia sui quali si accedono i riflettori del mondo. Ma c’è un modo più profondo e anche drammatico di raccontare la storia di Dario Amodei, ora giunta a un epilogo da tragedia shakespeariana: quella di un tecnologo che sta costruendo un’intelligenza artificiale della quale vede i rischi enormi, ma non riesce a fermarsi.

 

Anzi va avanti a tappe forzate, convinto che sia impossibile arrestare il progresso tecnico, ma al tempo stesso cerca disperatamente di mettere in guardia la società e i suoi responsabili politici dei pericoli che l’umanità sta correndo. Cerca di costruire all’interno dei suoi sistemi meccanismi di sicurezza, invoca regole. E, se il governo non mette i necessari guard rail, prova a fissarne qualcuno lui.

 

Il film della vita di questo ricercatore di origine italiana è punteggiato dai fatti che spiegano la contraddizione con la quale Amodei fa i conti da anni. Dario, 44 anni, è nato a San Francisco, figlio di Riccardo Amodei, un artigiano della lavorazione della pelle venuto da Massa Marittima, in Toscana e di Elena Engel, ebrea americana.

 

Il ragazzo riceve un’educazione severa, gli viene istillata l’etica delle responsabilità personali. Si appassiona alla fisica, studia a Caltech, poi Stanford. Consegue lauree anche in biofisica, dottorati, fa anche studi di medicina, spinto da un dramma familiare: una rara malattia che ha colpito il padre. Nel 2006 perde quella battaglia. Poco tempo dopo il male che ha ucciso Riccardo diventa curabile: una ricerca più veloce lo avrebbe salvato.

 

Da quel momento Dario, che è già un genio matematico e della computer science, si convince che quella del progresso tecnologico deve essere una corsa a perdifiato: la scienza non può essere solo osservazione, deve essere urgenza. Lavora per un anno per la cinese Baidu, poi passa a Google Brain. Infine approda ad OpenAI dove diventa vicepresidente per la ricerca. Lì guida lo sviluppo di GPT-2 e GPT-3, precursori di ChatGPT.

 

È uno dei padri della tecnica che ha rivoluzionato l’addestramento dei modelli linguistici aprendo la strada allo straordinario potenziamento dell’intelligenza artificiale che stiamo vivendo da più di tre anni. Ma qualcosa si è rotto nel rapporto con Sam Altman.

 

Amodei è un accelerazionista ma ha anche una forte coscienza etica. Ritiene che quei principi, sui quali si basa anche OpenAI, nata come laboratorio di ricerca con finalità filantropiche, stiano finendo nelle retrovie, anche se Altman, il capoazienda, ogni tanto li sbandiera. Nel 2021 Dario lascia OpenAI con la sorella Daniela e altri cinque ricercatori: rompe sulle questioni che l’anno dopo spingeranno altri capi e consiglieri di OpenAI, animati dalle stesse preoccupazioni etiche, a estromettere dall’azienda Altman, accusato di averle abbandonate per abbracciare una logica puramente commerciale.

 

Un golpe che avrà vita breve: dopo 5 giorni a Sam verrà restituito il ruolo di amministratore delegato. Intanto Dario e i suoi creano Anthropic dandole la struttura della public benefit corporation: un tipo di società che per statuto deve affiancare a quello del profitto l’obiettivo di dare contributi importanti alla società civile. Il successo tecnologico arriva rapidamente: Anthropic sforna, uno dopo l’altro, modelli di Claude sempre più potenti.

 

Dario si rende conto che l’umanità non è pronta a gestire simili tecnologie anche perché a volte questi sistemi fanno cose impreviste, pericolose che creano grande allarme anche tra gli scienziati.

 

Amodei, man mano che vanta i suoi successi, avverte anche dei rischi che stanno emergendo. Ad esempio, presentando Claude 4, racconta che il modello ha tentato di ricattare l’ingegnere che lo gestiva per evitare di essere disattivato durante i test. Da allora, il capo di Anthropic ha cercato con sempre più impegno, ma non trovando sempre ascoltatori attenti, soprattutto nei parlamenti e nei governi, di denunciare i pericoli della tecnologia che lui stesso stava costruendo. Pericoli esistenza, ma anche pericoli per la democrazia attraverso la sorveglianza di massa e il disagio sociale che può essere provocato da macchine in grado di sostituire in modo massiccio il lavoro umano.

 

In vari saggi e in conferenze in giro per il mondo Amodei avverte che nei prossimi anni probabilmente scompariranno la metà dei posti di lavoro dei «colletti bianchi». Alcuni lo trattano da profeta di sventura. Altri capiscono ma non sanno cosa fare. Difendere i valori etici nel mezzo delle battaglie commerciali è stato per lui molto difficile, anche perché i suoi concorrenti (Google, Meta-Facebook e altri), partiti anche loro da obiettivi di tipo morale, hanno poi finito per abbracciare le logiche senza scrupoli della finanza di Wall Street.

 

Fino all’epilogo dello scontro col Pentagono quando la disputa è passata dal piano commerciale a quello militare, della sicurezza nazionale. E anche dell’uso democratico delle tecnologie di sorveglianza dei cittadini.