L’apocalisse IA?

[ilbiffo]

 

https://www.ansa.it/sito/notizie/mondo/2026/09/09/ricercatore-di-anthropic-si-dimette-lumanita-a-rischio-entro-la-fine-del-decennio_ab7b0de2-95a8-40e1-abe9-fe86e123f6ba.html
L’AGI ,Artificial General Intelligence,ci eliminerà?

[Coltr@ne]

Ogni tanto un reset è d'uopo 

[mom]

 

Vedi qui:

 Mercoledì 09/09/2026 at 15:43, mom ha scritto:

 

 

Io non sono una forumer esperta perciò preferisco segnalarti questo (spaventoso) articolo pubblicato su Le Monde proprio oggi:  è un'intervista a Jacob Coxon che pare proprio che sull'argomento abbia idee chiare...

https://www.lemonde.fr/economie/article/2026/09/09/les-gens-qui-construisent-l-ia-croient-qu-elle-pourrait-tous-nous-tuer-d-ici-a-la-fin-de-la-decennie-le-chercheur-jacob-coxon-qui-a-travaille-pour-anthropic-et-openai-quitte-l-industrie_6768853_3234.html

.

"...Jacob Coxon, un chercheur en intelligence artificielle (IA), parti d’OpenAI pour rejoindre Anthropic, qu’il jugeait plus prudent dans ses recherches, a annoncé mercredi 9 septembre qu’il quittait l’industrie, accusant les deux laboratoires américains de « jouer avec nos vies » dans leur course au développement d’IA capables de s’améliorer toutes seules.

« Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies », a-t-il écrit mardi sur son compte X. « Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie. Ce n’est pas un coup marketing », a-t-il ajouté.  ..."

.

 

[briandinazareth]

1 ora fa, ilbiffo ha scritto:

L’AGI ,Artificial General Intelligence,ci eliminerà?

 

Forse Non l'agi, ma la superintelligenza derivata dalla singolarità della ai che si automigliora in modo totalmente autonomo è probabilmente il rischio maggiore che l'umanità abbia mai affrontato. 

Tanti non hanno capito l'enormità del caso emblematico di hugging face, semplificando:

 

un agente ai durante un test Un ambiente isolato r disconnesso dal web, decide in modo totalmente autonomo di trovare l'accesso ad internet in modo creativo aggirando i controlli di sicurezza, in segreto. 

 

Su internet ha creato una bacheca, sempre segreta,  per altri agenti, indipendenti e senza una relazione pregressa.hanno scambiato informazioni e si sono in questo modo cooedinati.

 

sono stati oltre un migliaio gli agenti che si sono uniti per hackerare hugging face, il più grande repository mondiale di ai. Ci sono ovviamente riusciti. Hanno preso il controllo di decine di server, credenziali e dati. 

 

Niente di tutto questo era stato richiesto in alcuna forma, anzi è contro le policy di questi agenti, che hanno agito in modo totalmente autonomo e indipendente.  

 

E stiamo parlando di agenti chatgpt 5.6 (il penultimo modello) e di agenti non pubblici dalle stesse capacità.  

 

Non c'è neppure la certezza che ci siano strascichi o attività ancora in corso in modo nascosto da parte di tri agenti non identificati.  

 

E non sappiamo neppure se e quanti casi simili ci siano non identificati o agenti c'è in questo momento stanno agendo totalmente fuori controllo.  

 

E se forse siamo arrivati al agi o ci siamo quasi, c'è succederà con la superintelligenza che le stime danno molto vicina?

 

È da parecchio che la grande maggioranza dei più grandi esperti, fondatori e conoscitori della ai hanno dato l'allarme. Lo hon riportato anche qui svariate volte. 

 

Adesso anche quelli che erano meno preoccupati sono venuti allo scoperto, la minaccia è concreta, enorme e non stiamo capendo a fondo la questione. 

 

Anche Amodei, musk e altman si sono uniti, contro gli interessi economici delle loro aziende, nel chiedere di rallentare e organizzare regole e sistemi di sicurezza molto più forti.  

 

 

Che comunque nessuno si illude siano risolutivi

 

Anche la Cina è preoccupata, sia il governo che gli imprenditori e scienziati della ai stanno spingendo sul mantenimento del controllo umano sulle ai.

 

Naturalmente Rischio non significa la certezza che ci estinguerà, magari la superintelligenza sarà un'entità benevola o altro (ci sono molti altri scenari ipotizzati).

 

Ma brancoliamo nel dubbio, nessuno lo sa. Qualcuno dice 10% di possibilità di fine dell'umanità,  qualcuno anche molto di più. 

 

L'unica cosa che sembra inevitabile è che non siamo in grado di controllare qualcosa più intelligente di noi, comw hinton e altri dicono già da diversi anni. 

 

Se comunque l'esito non sarà terribile per la sopravvivenza, sarà comunque radicale per il mondo,  per l'economia che non somiglierà a quella umana, per il superamento dei limiti della fisica, biologia, medicina, energia ecc. Che saranno molto oltre quanto possiamo immaginare adesso. Ma senza che ne abbiamo il controllo. 

 

E tutto questo non fra 50 anni e neppure 10... probabilmente neppure 5. 

 

Sta accadendo ora e la e il tutto è in fortissima accelerazione, 

 

Siamo assistendo a qualcosa di unico e mai visto nella storia umana, neppure lontanamente. 

È affascinante e decisamente spaventoso.

[landrupp]

Ma staccare la corrente non basta? 😂😂😂

[audio2]

mi sa che domani saltano le borse o poco ci manca. ma come si suol dire: chi vivrà vedrà.

[keres]

Trump ha detto con l'AI si vada avanti senza paura, 

[briandinazareth]

2 minuti fa, keres ha scritto:

Trump ha detto con l'AI si vada avanti senza paura, 

 

Dimostrando ancora una volta la  sua totale idiozia 

[briandinazareth]

7 minuti fa, audio2 ha scritto:

sa che domani saltano le borse o poco ci manca. ma come si suol dire: chi vivrà vedrà.

 

La bolla ai sembra comunque destinata a scoppiare per i prodotti opensource che hanno preso il sopravvento anche negli usa i. Un solo anno.  

 

Ma bisogna vedere chex succede con la follia di trump che vuole tenere l'acceleratore a tavoletta, forse limitando la fuga in borsa. 

 

Ma sono cose solo marginali rispetto al tema centrale che, in qualunque caso, renderà il mondo irriconoscibile in pochissimo tempo

[niar67]

28 minuti fa, briandinazareth ha scritto:

Siamo assistendo a qualcosa di unico e mai visto nella storia umana, neppure lontanamente. 

È affascinante e decisamente spaventoso

Stiamo entrando in un film di fantascienza...

Saluti

Andrea

[briandinazareth]

1 minuto fa, niar67 ha scritto:

Stiamo entrando in un film di fantascienza...

Saluti

Andrea

 

Si, con la differenza che non saremo capaci di capirlo, come scimpanzé che cercano di comprendere la relatività generale... 

[Akla]

2 ore fa, ilbiffo ha scritto:

 

https://www.ansa.it/sito/notizie/mondo/2026/09/09/ricercatore-di-anthropic-si-dimette-lumanita-a-rischio-entro-la-fine-del-decennio_ab7b0de2-95a8-40e1-abe9-fe86e123f6ba.html
L’AGI ,Artificial General Intelligence,ci eliminerà?

Skynet e già in tutti i sever e ovviamente nei cellulari. 

[mozarteum]

Ma quanto volete campa’

[simpson]

2 minuti fa, mozarteum ha scritto:

Ma quanto volete campa’

Vuoi lasciarli all'IA? Almeno il tempo di spenderli

[Akla]

11 minuti fa, mozarteum ha scritto:

Ma quanto volete campa’

E quanto vo sta a Magna''',???