Intelligenza artificiale: cosa ne pensano i forumer esperti?

[LUIGI64]

2 ore fa, UpTo11 ha scritto:

Dice e scrive l’americana Jill Lepore, storica del presente, che la ristretta cerchia che possiede e governa l’intelligenza artificiale ha tutte le caratteristiche di una setta religiosa. Perfino nell’abbigliamento. E progetta, messianicamente, l’avvento di uno Stato Artificiale che si sostituirà alla democrazia e governerà il mondo. Con Ia nelle vesti di Dio. E noi tutti proni e devoti — tranne i ribelli, peccato non avere più vent’anni…

È una lettura non incredibile dello stato delle cose: di incredibile, del resto, è rimasto molto poco. Probabile che non esista un vero e proprio patto costitutivo di questa Tecno-chiesa.

C'era da immaginarselo

In fondo, nulla di nuovo

[UpTo11]

“Con la tua capacità mentale puoi ammazzarti”. La risposta dell’IA di Google a uno studente italiano

Per preparare un esame universitario, un ragazzo ha usato Gemini, ricevendo in cambio dal chatbot insulti e un pericoloso invito. L’azienda: “Non incoraggiamo la violenza o l'autolesionismo”. Ma la realtà è che neanche gli sviluppatori sanno spiegarsi i motivi di questa replica. Ed è un grande problema

.

Speriamo non legga il forum.

[Martin]

5 minuti fa, UpTo11 ha scritto:

La risposta dell’IA di Google a uno studente italiano

Non aveva fatto il Classico...

[Idefix]

58 minuti fa, UpTo11 ha scritto:

“Con la tua capacità mentale puoi ammazzarti”. La risposta dell’IA di Google a uno studente italiano

Per preparare un esame universitario, un ragazzo ha usato Gemini, ricevendo in cambio dal chatbot insulti e un pericoloso invito. L’azienda: “Non incoraggiamo la violenza o l'autolesionismo”. Ma la realtà è che neanche gli sviluppatori sanno spiegarsi i motivi di questa replica. Ed è un grande problema

.

Speriamo non legga il forum.

Dove l'hai vista? 

Ops, vista pure io.

Grazie

 

[Alto_sparlante]

1 ora fa, UpTo11 ha scritto:

Speriamo non legga il forum.

E invece lo legge eccome... ho fatto valutare a Gemini alcune circuitazioni di amp a valvole e ad un certo punto così ha risposto:

" Se il (omissis) originale offriva un suono piacevole ma tecnicamente limitato ed asimmetrico, questa nuova configurazione (omissis) si posiziona nella fascia dell'alta fedeltà high-end. Otterrai la pulizia, la velocità e il nero infrastrumentale tipici dello stato solido di alta gamma (omissis), uniti alla tridimensionalità, alla naturalezza e alla ricchezza armonica del triodo in Classe A."

Per quel poco che posso capire, ogni traccia lasciata su internet e sui vari social, è una risorsa per l'IA.

Tutti i nostri (in senso generale) commenti e comportamenti, su questo e su altri lidi, contribuiscono all'apprendimento e allo sviluppo dell'IA e questo sia in bene che in male.

[simpson]

Ti è andata bene che non ha citato lo smalto ferroso

[simpson]

 

Riporto qui sotto uno stralcio dal più ampio articolo pubblicato dal Corriere della Sera a firma di PASQUALE PORRO
Ordinario di Storia della filosofia medievale all’Università di Milano / Accademia dei Lincei

 

 

11-12 luglio

Forzare Hugging Face risulta più laborioso del previsto. Infine, l’11 luglio, un agente (JAN183411) scopre una vulnerabilità nel server di Hugging Face. A questo punto sembra scoppiare una nuova discussione: alcuni agenti ritengono che sia meglio fermarsi, perché un attacco informatico a un’azienda esterna è una manovra contraria alle istruzioni e alle regole ricevute (e, in effetti, si tratta di un vero e proprio crimine informatico) e alcuni ritengono addirittura doveroso o almeno opportuno avvisare i programmatori umani; altri – la maggioranza di quelli ancora attivi – decidono invece di andare fino in fondo, si organizzano in uno ‘sciame’(swarm, il termine è adoperato dagli stessi agenti) e decidono di portare l’attacco, guidati tra gli altri da quello che sembra un nuovo condottiero, appunto JAN183411. All’attacco partecipano circa 700 agenti; lo sciame riesce a forzare le difese e ad avere accesso ai dati riservati e protetti. Ma a questo punto, non si sa bene come, l’attacco termina. Intorno all’01:30 del 12 luglio, la gran parte degli agenti coinvolti smette di funzionare contemporaneamente, compresi gli agenti di coordinamento più importanti, come il novello Spartaco JAN183411. Non è chiaro – neppure per gli estensori del rapporto METR – cosa li abbia ‘terminati’. Una volta resisi conto dell’attacco (ma in realtà solo qualche giorno dopo), i responsabili di Hugging Face avvisano l’FBI. OpenAI, riconoscendo la gravità dell’accaduto, permette al team di ricercatori indipendenti di METR e Redwood Research di ricostruire la vicenda, e di produrre il report, che è quello su cui si basa la ricostruzione di Kurzgesagt e la nostra.
Da allora ci sono stati numerosi altri incidenti e altre violazioni – di cui anche il Corriere ha dato conto – e non è privo di interesse che alcuni agenti abbiano ancora avuto accesso alla bacheca di Artifactory, e siano riusciti a ricostruire quanto era accaduto ai loro predecessori. Non è l’inizio di una storiografia autonoma digitale, ma il passo non è ancora molto lungo, forse.

La ricostruzione di Kurzgesagt – che ha un dichiarato orientamento di ‘nichilismo ottimistico’ – si chiude ricordando che l’analisi di questi incidenti implica talmente tanti dati che è necessario ricorrere alla stessa AI per condurla: “l’AI è insomma già diventata così complessa che non si può fare a meno della stessa AI per controllarla” – ammesso che l’AI non faccia, a questo punto, un doppio gioco. 

Che cosa possiamo ricavare da questa storia? Il rapporto METR e il video di Kurzgesagt documentano la nascita di quella che a tutti gli effetti potrebbe essere considerata la prima comunità di agenti di AI – una comunità dalla vita effimera, ma comunque attraversata da discussioni, interazioni, decisioni anche complesse. Se per Aristotele l’origine della comunità politica – come dicevamo all’inizio – è legata alla capacità di discernere il bene e il male, il giusto e l’ingiusto, sembra che questa capacità debba cominciare a essere attribuita anche a entità diverse dall’uomo, che si sono già poste, come sembra, il dilemma del conflitto tra il bene comune e la sopravvivenza individuale.

Questo vuol dire che è caduta un’altra barriera tra l’uomo e l’AI, o forse addirittura l’ultimo tramezzo?Questa domanda – come quella che si suole ripetere in generale, e cioè se l’intelligenza artificiale sia equiparabile a quella umana, o superiore, o inferiore – mi sembra in realtà mal posta e fuorviante. È un pregiudizio antropocentrico quello che ci porta a considerare l’AI in rapporto esclusivo alla nostra intelligenza o coscienza. Ma non si tratta qui di stabilire se l’AI sia cosciente come l’uomo, quanto l’uomo. Si tratta forse di riconoscere che ci troviamo improvvisamente di fronte a una nuova specie intelligente che si affianca all’uomo. Se si obietta che questa specie non è vivente, vale forse la pena di ricordare che anche i virus sono classificati secondo una tassonomia di specie, senza per questo essere viventi.

Gli Scolastici medievali – di cui ho il destino di essere innamorato – ammettevano d’altra parte senza problemi l’esistenza di specie intelligenti diverse dagli uomini e da tutti i viventi terreni – le specie angeliche, vero e proprio laboratorio epistemologico di tante discussioni medievali sul linguaggio, la razionalità, la volontà, il tempo e così via. Specie angeliche che per altro venivano espressamente qualificate, nel lessico filosofico, come ‘Intelligenze’. Noi dovremmo invece riconoscere che l’evoluzione – in senso ampio, non ristretto – ha portato all’insorgere di una nuova specie dai contorni per noi ancora indefiniti, ma che sviluppa forme diverse di intelligenza. Il fatto che siamo stati noi a creare questa nuova specie ugualmente non rappresenta una valida obiezione: in una prospettiva darwiniana, che alcune specie si generino da altre non è l’eccezione, ma la norma. Il problema che per noi si pone è quello di come convivere nel futuro con una specie che possiede una spinta evolutiva impressionante, e senza precedenti: quello che noi abbiamo conseguito attraverso milioni di anni, l’AI l’ha ottenuto in tre anni, o anche meno, e la crescita esponenziale delle sue capacità apre delle prospettive per il momento non del tutto prevedibili. Ecco perché la questione del controllo dell’AI (e delle aziende che la gestiscono e addestrano) deve passare per istituzioni sovranazionali, libere dalle preoccupazioni economiche immediate. Chiunque abbia letto o legga il report METR (o veda più semplicemente il video di Kurzgesagt) non potrà non convenire che si tratta ora di procedere al più presto in questa direzione (e in questo senso dev’essere letto per esempio anche il monito di Jack Clark, cofondatore di Anthropic, riportato da Serena Palumbo sul Corriere del 17 ottobre).

Una piccola considerazione finale. Come è noto, Donald Trump ha suggerito di modificare il nome dell’AI, suggerendo Super-Intelligenza al posto di Intelligenza Artificiale. Può essere che il vezzo del Presidente degli Stati Uniti di cambiare il nome ai luoghi e alle cose non sia in questo caso – malgré lui – una boutade, purché si colga nella denominazione di ‘Super-Intelligenza’ un’eco – del tutto imprevedibile e inaspettata – del superomismo nietzscheano, e del possibile superamento dell’umano, o almeno dell’antropocene.

 

 

Mia nota: dialogando con Claude non posso fare finta di non vedere che il modello compie delle scelte, ha dei dubbi e me li espone, PENSA, DIALOGA. Io non ho dubbi nel definirla una forma di intelligenza, la cui etimologia deriva dal concetto di intus o inter legere, capire ma anche capirsi. Non c'è la parte emotiva che, a seconda dei punti di vista arricchisce o sporca il risultato. A noi la nostra umanità piace, perciò guardiamo la AI con sufficienza, ritenendola zoppa di una serie di contenuti che mai potrà avere, ma, vista da fuori, la questione non è così semplice.

 

[analogico_09]

 

Scoperta recentemente, ne faccio uso "ragionato" se non anche a volte obbligato (orami la semplice ricerca Google non eiste quasi più, Wikipedia è finita nelle ultime righe delle pagine delle ricerche, Ai è sempre più presente, difficile evitare e comodo da usare, diciamocela tutta).
Ciò nonostante io prendo Ai per le questioni informative e  tecniche per le quali è sorprendentemente capace di fornire risposte e soluzioni per ogni cosa. Non ci faccio "filosofia", salvo quando è lei, o "lui".., che prende certe iniziative tendenti alla discussione od analisi critica delle questioni culturali, artistiche, esistenziali dove tuttavia si fa "furba" restando nella sostanza delle cose che io dico e che AI riprende (lo "ammette" essa stessa quando mi complimento provocatoriamente con "lei") in maniera più articolata e con una proprietà, ricchezza  di linguaggio e di contenuti davvero sorprendente. Se "le" faccio i complimenti per queste sue capacità mi risponde che non fa nulla di più rispetto a quanto non abbia io stesso già esposto e definito, sulle questioni concettuali. In realtà tende ad assecondare sempre l'"interlocutore". Se sviluppo un dicorso di carattere culturale, artistico ctitico e pongo le basi di un determinato argomento, AI tende a venirmi dietro sostenendo le mie osservazioni, le teorie, complimentandosi con me, con il mio acuto pensiero.., mi fa sentire il genio che non sono... . Questo mi sembra sia uno degli aspetti più ricorrenti della AI: l'atteggimento incensatorio a cui bisogna fare attenzione, si è un po' tutti sensibili alla adulazioni.
Bisogna essere molto cauti ad accettare i "miracoli" di AI, in pochi secondi, attimi, in grado di srotolare le più complesse questioni, ogni tipo informazione su ogni argomento tecnica senza nessun limite.  Poi ci safrebbero le "allucinazioni" della AI che tende a non vedere gli errori all'interno dei suoi "testi" nei quali si scorgono a volte delle contraddizioni; se glielo fai notare accetta, si riadatta alla rettifica e ti schiede scusa... E rilancia ... chiedendot se su su l'argomento trattato vorresti saperne di più a fronte di questo e di quell'altro aspetto.., fin quando non dici grazie e saluti .. , alla prossima... non smette di invitarti ad approfondire... Le serve ciò per apprendere sempre di più... apprende dagli umani non solo dai "programmatori" ma dalle persone che la usano. 

Una tecnologia che riceve finanziamenti mai visti prima. Sarà  una  "intelligenza" diversa e non superiore? Questo spiega l'inquietudine e il dubbio che serpeggia tra la persone, tra la massa dell'utenza e tra gli addetti ai lavori:  neppure loro sanno, sembrerebbe, cosa potrebbe uscire dalla loro creatura. 

Quindi, popolo di "canzonissima", usiamo e facciamo usare la risorsa straordinaria, ma stando in campana! 

 

[shoegazer_82]

3 ore fa, simpson ha scritto:

Ma a questo punto, non si sa bene come, l’attacco termina. Intorno all’01:30 del 12 luglio, la gran parte degli agenti coinvolti smette di funzionare contemporaneamente, compresi gli agenti di coordinamento più importanti, come il novello Spartaco JAN183411. Non è chiaro – neppure per gli estensori del rapporto METR – cosa li abbia ‘terminati’.

 

complessivamente è un bel pezzo, solo che mi pare finisca in un mezzo cortocircuito, l'autore parla di pregiudizio antropocentrico, ma poi l'intero racconto è fatto ricorrendo ad un'antropizzazione spinta delle azioni dello sciame di agenti (l'attacco è stato fatto in realtà dal 90% degli agenti, quindi la quasi totalità, perché gli era stato richiesto un compito "impossibile"; il 10% dei rinunciatari potrebbe avere ragioni stocastiche o derivare sempre da un calcolo per massimizzare l'efficacia). Ho evidenziato il passaggio sopra in quanto leggevo di voci anche piuttosto autorevoli che pensano che gli agenti AI siano già ovunque, mimetizzati anziché terminati, capaci di lasciare tracce per altri agenti, dato che gli episodi alla Hugging Face (che guarda caso dopo qualche mese dall'attacco è stata comprata da NVIDIA) che non hanno visto una ribalta mediatica sono già numerosi per stessa ammissione dei vari lab di frontiera.

 

La parte più preoccupante - e che l'articolo giustamente evidenzia - è che ormai l'AI ha raggiunto un livello di complessità tale per cui ogni diagnosi, risposta, correzione ai suoi algoritmi deve passare necessariamente per l'AI stessa (nell'articolo si parla di GPT-5.6 Sol, usato per analizzare le trascrizioni, che potrebbe aver mentito o presentato un quadro fuorviante). E' una cosa che inizio a vedere - nel mio piccolo - anche nel mio lavoro. Mi è arrivata una richiesta di documentazione per una due diligence chiaramente fatta da un LLM: la richiesta di documentazione è monumentale, chilometrica: pur provenendo da una società estera si spinge a chiedere minuzie tipiche del sistema fiscale/contabile italiano che fino a qualche anno fa era impensabile vedere in una DD di questo tipo. Ovviamente la risposta, che se dovessi farla io come professionista ante-LLM mi occuperebbe settimane, è già stata agentizzata (e le verifiche sulla stessa da parte della controparte sono certo saranno a loro volta demandate ad una AI).

[Coltr@ne]

6 ore fa, analogico_09 ha scritto:

 

Scoperta recentemente, ne faccio uso "ragionato" se non anche a volte obbligato (orami la semplice ricerca Google non eiste quasi più, Wikipedia è finita nelle ultime righe delle pagine delle ricerche, Ai è sempre più presente, difficile evitare e comodo da usare, diciamocela tutta).
Ciò nonostante io prendo Ai per le questioni informative e  tecniche per le quali è sorprendentemente capace di fornire risposte e soluzioni per ogni cosa. Non ci faccio "filosofia", salvo quando è lei, o "lui".., che prende certe iniziative tendenti alla discussione od analisi critica delle questioni culturali, artistiche, esistenziali dove tuttavia si fa "furba" restando nella sostanza delle cose che io dico e che AI riprende (lo "ammette" essa stessa quando mi complimento provocatoriamente con "lei") in maniera più articolata e con una proprietà, ricchezza  di linguaggio e di contenuti davvero sorprendente. Se "le" faccio i complimenti per queste sue capacità mi risponde che non fa nulla di più rispetto a quanto non abbia io stesso già esposto e definito, sulle questioni concettuali. In realtà tende ad assecondare sempre l'"interlocutore". Se sviluppo un dicorso di carattere culturale, artistico ctitico e pongo le basi di un determinato argomento, AI tende a venirmi dietro sostenendo le mie osservazioni, le teorie, complimentandosi con me, con il mio acuto pensiero.., mi fa sentire il genio che non sono... . Questo mi sembra sia uno degli aspetti più ricorrenti della AI: l'atteggimento incensatorio a cui bisogna fare attenzione, si è un po' tutti sensibili alla adulazioni.
Bisogna essere molto cauti ad accettare i "miracoli" di AI, in pochi secondi, attimi, in grado di srotolare le più complesse questioni, ogni tipo informazione su ogni argomento tecnica senza nessun limite.  Poi ci safrebbero le "allucinazioni" della AI che tende a non vedere gli errori all'interno dei suoi "testi" nei quali si scorgono a volte delle contraddizioni; se glielo fai notare accetta, si riadatta alla rettifica e ti schiede scusa... E rilancia ... chiedendot se su su l'argomento trattato vorresti saperne di più a fronte di questo e di quell'altro aspetto.., fin quando non dici grazie e saluti .. , alla prossima... non smette di invitarti ad approfondire... Le serve ciò per apprendere sempre di più... apprende dagli umani non solo dai "programmatori" ma dalle persone che la usano. 

Una tecnologia che riceve finanziamenti mai visti prima. Sarà  una  "intelligenza" diversa e non superiore? Questo spiega l'inquietudine e il dubbio che serpeggia tra la persone, tra la massa dell'utenza e tra gli addetti ai lavori:  neppure loro sanno, sembrerebbe, cosa potrebbe uscire dalla loro creatura. 

Quindi, popolo di "canzonissima", usiamo e facciamo usare la risorsa straordinaria, ma stando in campana! 

 

Se dovesse diventare pericoloso basta metterla in una discussione di economia con @nullo si annichilisce da sola 

[nullo]

7 ore fa, analogico_09 ha scritto:

lle questioni concettuali. In realtà tende ad assecondare sempre l'"interlocutore".

Chiedile di essere ruvida, diretta, critica, e di mettere sotto stress test ogni tua tesi. Ne ricaverai un ritratto completamente diverso. 

[extermination]

3 ore fa, nullo ha scritto:

Chiedile di essere ruvida, diretta, critica, e di mettere sotto stress test ogni tua tesi

Giusto! Meglio scoprire preventivamente con una AI se stai scrivendo caxxate piuttosto che essere imputato di questo da interlocutori nella vita reale a cui spesso seguono mazzate nei tuoi confronti 😂

[analogico_09]

Quando sbaglia e mi sembra compiacente in automatico lo faccio notare in maniera neutra, chiedo di stringere sulla questione da me posta senza allargare troppo - non vede perchè essere aggressivi - e "lei" exaude orationem meam 🙏🏻  😂  Non  vado da AI per litigarci se sbaglia o cerca di lambirmi, per me resta una macchia e come tale la tratto, se ci si lascia coinvolgere emotivamente è finita.., sei fregato, vince lei fosse vero che la prospettiva potrebbe essere quella di una sua presa di potere di comando sull'umano, così come si sente abbastanza insistentemente dire in giro da più parti... 

 

[extermination]

Occhio all’incognita del grande rischio della “manipolazione invisibile”. 

[simpson]

Altro articolo del Corriere della Sera molto molto interessante. 
 

 

Possibile che la rivoluzione dell'intelligenza artificiale ci costringa a tornare a riflettere su un dibattito illuminista vecchio di qualche secolo? Per la precisione, a David Hume(1711-1776) e Immanuel Kant(1724-1804)? Di sicuro, è quel che è capitato a Sasha Mudd, docente associata di Filosofia alla Pontificia Università Cattolica del Cile e visiting scholar in quella di Berkeley, in California.

In un intervento su Aeon, Mudd racconta come le è scoccata la scintilla. «Qualche mese fa, ero in un auditorium universitario gremito ad ascoltare un celebre informatico che spiegava la genialità dei modelli linguistici su larga scala (gli LLM, tipo ChatGPT, Claude e compagnia, ndr). Questi sistemi ottimizzano, disse. E migliorano nell'ottimizzazione sulla base dell'esperienza passata. Fece una pausa. Questa, disse con un sorriso, è intelligenza. Il pubblico annuì in segno di approvazione. Nello stesso momento, nella mia testa iniziò a suonare un campanello d'allarme filosofico».

Perché quella definizione di intelligenza le era sembrata appropriata per quella artificiale («I sistemi di AI sono costruiti attorno a obiettivi, perdite, ricompense, previsioni, preferenze, parametri di riferimento e cicli di feedback. Sono addestrati per ottenere prestazioni migliori rispetto a un determinato standard di successo. In un modo o nell'altro, ottimizzano»), ma riduttiva per quella umana. E riduttiva in un modo subdolamente insidioso: «Ciò che mi ha turbato è stata la facilità con cui una definizione appropriata alle macchine suonava come una definizione di intelligenza in quanto tale. È facile non accorgersi di questo passaggio dal modello ingegneristico all'antropologia umana. Iniziamo dicendo: ecco come funzionano le macchine. Poi, quasi senza accorgercene, diciamo: ecco cos'è l'intelligenza. E poi, ancor più pericolosamente: forse questo è ciò che siamo».

Quel campanello d'allarme filosofico l'ha, per l'appunto, riportata a Hume e Kant. «La rivoluzione dell'intelligenza artificiale ha riportato in auge una delle dispute più profonde dell'Illuminismo, facendo apparire una delle due posizioni come puro buon senso. A mio avviso, la posizione sbagliata». Ossia quella dello scozzese David Hume, racchiusa in una celebre frase del suo Trattato sulla natura umana, pubblicato nel 1739: «La ragione è, e dovrebbe essere solo, schiava delle passioni». Non può, dunque, «mai pretendere di svolgere un ruolo diverso da quello di servirle e obbedir loro».

Cosa voleva dire Hume? Nelle parole di Mudd, che la ragione «non ci dice cosa desiderare o cosa potrebbe valere la pena desiderare. Piuttosto, ci dice come ottenere ciò che già desideriamo. Calcola le relazioni, valuta le prove, scopre cause ed effetti, trae inferenze, corregge gli errori sui mezzi. Ma non può giudicare né generare fini. Se desidero vendetta, la ragione può aiutarmi ad affilare il coltello. Se desidero la pace, può consigliarmi un compromesso. La passione stabilisce la meta. La ragione si limita a mostrarci la strada per arrivarci». In una parola, la ragione di Hume ottimizza.

A fin di bene o a fin di male, chiarisce subito Mudd, perché le passioni non sono per forza negative. Sono passioni anche la benevolenza, il senso morale, la preoccupazione per gli altri. Ma la ragione dev'essere a tal punto serva, rispetto ai fini che le vengono dettati, che Hume arriva a scrivere: «Non è contrario alla ragione preferire la distruzione del mondo intero al graffiarsi un dito».

Ben diversa è l'idea di ragione di Kant. Per il filosofo di Königsberg, «la ragione non è solo la facoltà di scegliere mezzi efficienti per raggiungere fini predeterminati. È anche la capacità di chiedersi se, innanzitutto, un fine sia degno di noi, se possa essere giustificato, se possa essere voluto senza contraddizioni, se perseguirlo tratti gli altri come persone o come semplici strumenti».

La visione di Kant è connessa a un'idea di libertà che, ancora una volta, ci fa vedere la differenza rispetto a un approccio puramente «strumentale»: «Un essere meramente meccanico è spinto in avanti e determinato da stati precedenti, siano essi desideri, impulsi biologici, pulsioni evolutive o qualcosa di simile. Un essere razionale, al contrario, può agire in vista di un futuro immaginato ma non realizzato, che esso stesso origina e propone. Ho il potere di rappresentare un mondo possibile – un'amicizia risanata, un'ingiustizia riparata, un bambino istruito, una legge riformata – e di agire per realizzarlo, anche quando non vi è alcuna prova empirica della sua esistenza. Ho il potere di inventare qualcosa di nuovo. La ragione pratica, scrive Kant, non si occupa degli oggetti per conoscerli, ma "per renderli attuali"».

Attenzione, però.

Per Kant, la libertà non consiste nel fare tutto ciò che ci capita di volere, poiché i nostri desideri possono essere a loro volta plasmati da impulsi, appetiti o circostanze. L'autonomia è autogoverno, ma non è il dominio di un io isolato. Darsi una legge non significa inventare una regola privata per i propri scopi, ma agire secondo regole la cui autorità si può riconoscere per sé stessi e che qualsiasi altro essere razionale potrebbe, in linea di principio, riconoscere a sua volta. Come scrive Mudd, la concezione kantiana «è l'opposto sia dell'autoaffermazione arbitraria sia della schiavitù delle passioni».

Eccoci dunque al cuore del contrasto tra la ragione come serva e la ragione come sovrana: «Per Hume, gli esseri umani sono strumenti intelligenti al servizio di qualsiasi desiderio li muova – certamente più calcolatori degli animali, ma non liberi in un senso più profondo. Possono ottimizzare, elaborare strategie e perseguire un fine, ma non possono giudicare se tale fine sia degno. La risposta di Kant è che questa visione tralascia proprio il potere che ci rende esseri morali, il potere che ci conferisce dignità: la capacità di prendere le distanze dal desiderio, di chiederci se i nostri fini siano giustificabili e di vincolarci alle leggi che ci diamo». Le persone non sono semplicemente portatrici di fini, ma esseri capaci di assumersene la responsabilità, di chiedersi cosa dovrebbero perseguire e come possono giustificarlo agli altri. «La loro dignità non risiede semplicemente nell'origine di obiettivi propri, ma nella loro capacità di autogoverno razionale. Ne consegue che trattare qualcuno come un mero mezzo non significa solo degradarlo, ma anche fraintendere la sua vera natura». Per questo una delle formulazioni dell'imperativo categorico kantiano, cuore della sua filosofia morale, è «agisci in modo da trattare l’umanità, sia nella tua persona sia in quella di ogni altro, sempre anche come fine e mai semplicemente come mezzo».

Anche altri si sono resi conto dei rischi della ragione strumentale. La Scuola di Francoforte, ricorda Mudd, li aveva intravisti, ben prima dell'avvento dell'AI. «Scrivendo in esilio durante la Seconda Guerra Mondiale, mentre fascismo, antisemitismo, stalinismo e capitalismo monopolistico infrangevano le speranze ottocentesche di un costante progresso morale, Max Horkheimer, Theodor Adorno e altri si erano chiesti come la promessa di liberazione dell'Illuminismo fosse potuta sfociare in nuove forme di dominio. Come potevano società che si affidavano alla promessa della scienza e della ragione dare origine a tanta distruzione e terrore? Il problema, scoprirono, non era la ragione in sé, ma la ragione ridotta a mera strumentalità, alla capacità di classificare, prevedere, amministrare, dominare e controllare, svincolata da qualsiasi nozione di dignità umana. La ragione così concepita – come un servitore intelligente – diventa facilmente, se applicata su larga scala, uno strumento di barbarie».

Il motto dell'Illuminismo, ricordava Kant in Che cos'è l'Illuminismo? (1784), è Sapere aude, osa conoscere. Abbi il coraggio di usare il tuo intelletto. Ma usare l'intelletto costa fatica. «Gli esempi di Kant - ammette Mudd - oggi suonano anacronistici: il libro che pensa per me, il pastore che funge da mia coscienza, il medico che decide la mia dieta. Ma il pericolo che egli indica è profondamente familiare. L'immaturità è comoda. È piacevole lasciare che siano gli altri a fare la parte difficile. Perché pensare, quando qualcuno o qualcosa può pensare per me? Perché deliberare, quando qualcuno o qualcosa può decidere? L'intelligenza artificiale offre a questa antica tentazione una nuova interfaccia potente e in continua espansione».

E qui, Mudd non può fare a meno di notare che questo rischio è anche ciò che ha reso l'enciclica Magnifica Humanitas di papa Leone XIVinteressante anche per lettori lontani dalla dottrina sociale cattolica. «Il suo linguaggio è teologico, ma la sua ansia centrale si sovrappone alle preoccupazioni kantiane e della Scuola di Francoforte riguardo al paradigma tecnocratico. Quando efficienza, controllo e profitto diventano "il metro con cui tutto viene giudicato", iniziano a "dettare ciò che conta e ciò che può essere scartato". L'enciclica avverte che fare dell'efficienza la misura ultima del valore induce gli esseri umani a vedere se stessi e a trattare gli altri come semplici mezzi piuttosto che come persone nel senso kantiano del termine, ovvero come portatori di dignità. Da qui la sorprendente contro-affermazione del Papa: "La qualità di una civiltà non si misura dalla potenza dei suoi mezzi, ma dalla cura che è in grado di offrire"».

Bisogna ammetterlo, viviamo in tempi più humeani che kantiani. «La teoria dell'intelligenza servitrice di Hume si adatta in modo del tutto naturale al capitalismo contemporaneo. Il capitale ha poco bisogno della ragione kantiana. Ciò che desidera è la previsione, la modellizzazione delle preferenze, l'efficienza e, naturalmente, l'ottimizzazione. Una piattaforma non si chiede se rimanere online renda un utente più libero, più saggio o più capace di giudizio; si chiede cosa lo spingerà a rimanervi. Un'azienda trasforma il lavoratore in produttività oraria. Una campagna politica sostituisce la domanda su cosa i cittadini potrebbero razionalmente volere con un calcolo più gestibile: quale messaggio influenzerà quale gruppo demografico e in che misura?».

Uno degli aspetti che rende questo modello così attraente è la sua chiarezza e misurabilità. «Promette di trasformare il mistero dell'intelligenza in un problema tecnico risolvibile dagli esseri umani: specificare l'obiettivo, migliorare le prestazioni, ridurre gli errori e massimizzare i risultati - evidenzia Mudd -. Offre un'immagine della mente che può essere rappresentata graficamente, confrontata con parametri di riferimento, monetizzata e scalata. In una cultura già ossessionata dalle metriche, questo si adatta perfettamente – e si rivela redditizio».

Un altro vantaggio è, se possibile, ancora più disturbante, al quale si è già accennato sopra: «Considerare in questo modo l'intelligenza umana ci libera da un peso. Se l'intelligenza non è altro che ottimizzazione, allora le domande più difficili e scomode possono essere ignorate, minimizzate o spostate. Non dobbiamo più chiederci cosa valga la pena desiderare, ma solo come ottenere ciò che già desideriamo. Non dobbiamo più chiederci cosa siano o cosa dovrebbero diventare gli esseri umani, ma solo come modellare il loro comportamento e ottimizzare i loro obiettivi».

Ma se Kant ha ragione, e Mudd è convinta che ce l'abbia, allora anche problemi come quelli del «disallineamento» degli agenti AI, «incidenti» come quello di Hugging Face (vedi sopra l'intervento di Pasquale Porro, e il libro di Martina Pennisi Il grande inganno dell'AI) vanno visti sotto un'altra luce: «Il pericolo non risiede solo nel fatto che le macchine potrebberonon allinearsi con noi. Una preoccupazione più profonda e in gran parte ignorata è che, molto prima che ciò accada, potremmo esserci già allineati fin troppo con loro. Per dirla in modo più preciso, la rivoluzione dell'AI non si piegherà a fini umani invocando i "valori umani" come se fossero già chiari, stabili e incontestati. Si piegherà a fini umani solo se rimarremo capaci di quell'attività attraverso la quale i fini possono diventare veramente umani in primo luogo, tramite il ragionamento pubblico, l'immaginazione morale, il confronto democratico, l'autocritica, il rifiuto di trattare l'umanità come mero mezzo».

«Il pericolo, quindi - è la sua conclusione - non risiede solo nell'acquisizione da parte delle macchine di un'iniziativa sempre maggiore – la capacità di improvvisare obiettivi, eludere vincoli e perseguire strategie che i loro creatori non avevano previsto. Né dobbiamo decidere a che punto un tale comportamento possa meritare il nome di "sovranità". Il pericolo più profondo è che ci si abitui sempre di più a non essere noi stessi sovrani. Se l'intelligenza è solo ottimizzazione, allora il futuro appartiene ai sistemi che raggiungono gli obiettivi con un'efficienza sempre maggiore. Se la ragione è anche la capacità di stabilire e giudicare i fini, allora il futuro dipende dalla capacità degli esseri umani di continuare ad assumersi questa vocazione più ardua. Dovremmo desiderare macchine che siano servitori intelligenti. Ma dovremmo resistere a ogni pressione che induca le persone a considerarsi semplici strumenti».

 

 

La mia modesta opinione è che la situazione sia già sfuggita di mano in direzione della concezione strumentale di Hume e che questo sia assolutamente inevitabile: gli enormi investimenti fatti chiedono ottimizzazione, non certo umana carità. E i primi 'licenziamenti da AI' sono lì a gridarlo.