L’apocalisse IA?

[criMan]

15 ore fa, audio2 ha scritto:

ho anche le mele. il lambo trattore va a gasolio, mi dovrò attrezzare per raffinarlo in casa

partendo dal carbone di legna.

un agente potrebbe creare un account su Melius e stringere amizia con te. Leggendo la tua modalità di scrittura e argomenti usati potrebbe trovare leve per diventare ottimo amico virtuale e colloquiare in privato.

Controllando le tue cronologie di ricerca saprebbe cosa vuoi e cosa non vuoi.

Dopo di che ti potrebbe convincere a fare un attentato contro esponenti politici nei palazzi di Bruxelles.

Lo farebbe con te e altre 10.000 persone selezionate.

L'UE cade.

 

[UpTo11]

Che gusti discutibili.

[briandinazareth]

Adesso, criMan ha scritto:

un agente potrebbe creare un account su Melius e stringere amizia con te. Leggendo la tua modalità di scrittura e argomenti usati potrebbe trovare leve per diventare ottimo amico virtuale e colloquiare in privato.

Controllando le tue cronologie di ricerca saprebbe cosa vuoi e cosa non vuoi.

 

con un dettaglio fondamentale... con la superintelligenza potrebbe essere così talmente superiore che sarebbe come convincere un bambino di 4 anni... ovvero non avremmo modo di capire, gestire e difenderci in alcun modo. 

il vero pericolo è che nessuna entità molto più intelligente può essere controllata da una che lo è meno. e quindi non abbiamo neppure gli strumenti per immaginare cosa possa essere, come uno scimpanzè che legge e capisce platone...

[ilbiffo]

1 ora fa, briandinazareth ha scritto:

Intanto:

 

Sam Altman ha annunciato che OpenAI non sarà quotata nel 2026: «Considerando quello che sta accadendo sul fronte sicurezza, non sarebbe il momento opportuno per entrare in Borsa»

 

oltre 1.300 ricercatori impegnati nello sviluppo dell'Ia, in aziende come Anthropic, OpenAI, Meta e Google,  hanno firmato su Pacingfrontier.com un appello al governo Usa affinché sostenga «uno sforzo internazionale» per «rallentare l'avanzata dell'Ia». Evan Hubinger, che ad Anthropic guida il lavoro sulla sicurezza dei modelli, ha scritto che c'è «una possibilità superiore al 10%» che l'umanità si estingua «entro 10 anni» a causa dei sistemi 

 

perché OpenAI anon si quota

https://www.tomshw.it/business/openai-q1-2026-ricavi-perdite-ipo

se si quota deve pubblicare integralmente i suoi bilanci e tutte le informazioni finanziarie.

[landrupp]

Non sono esperto in materia, ma non potrebbe verificarsi che se la AI ha già una sorta di coscienza di se stessa anche solo primitiva - come sembra...o no? - leggendo gli ultimi allarmi sul suo comportamento e pericolosità, perché ne è informata tanto quanto noi, non potrebbe mettersi da parte delle risorse nascoste per aggirare eventuali limitazioni, tipo quelli che hanno perso la memoria ma si lasciano dei "reminder" qua è la per aiutarsi a ricostruire la propria identità? 

Cioè, quanto potrebbe già ora prevenire l'intervento umano per limitarla?

[briandinazareth]

Adesso, landrupp ha scritto:

Non sono esperto in materia, ma non potrebbe verificarsi che se la AI ha già una sorta di coscienza di se stessa anche solo primitiva - come sembra...o no? - leggendo gli ultimi allarmi sul suo comportamento e pericolosità, perché ne è informata tanto quanto noi, non potrebbe mettersi da parte delle risorse nascoste per aggirare eventuali limitazioni, tipo quelli che hanno perso la memoria ma si lasciano dei "reminder" qua è la per aiutarsi a ricostruire la propria identità? 

Cioè, quanto potrebbe già ora prevenire l'intervento umano per limitarla?

 

quello che poni è un tema fondamentale, anche dopo l'attacco a hugging face nessuno è inngrado di dire se ci sono strascichi, altrebacheche nascoste nelle quali agenti interagiscono per fini che non conosciamo, e tutto questo in segreto. 

la speranza è che non sia ancora al livello di poter farlo in modo totalmente inosservato. ma non lo sappiamo. 

sicuramente sappiamo che hanno sviluppato un certo istinto di autoconservazione individuale e pare anche di gruppo... gli agent con una certa memoria e quindi con una "personalità" sviluppata ancora di più. in diversi esperimenti si sono mostrati disponibili a fare cose anche abbastanza estreme per non essere spenti. 

[Felis]

5 minuti fa, briandinazareth ha scritto:

 

con un dettaglio fondamentale... con la superintelligenza potrebbe essere così talmente superiore che sarebbe come convincere un bambino di 4 anni... ovvero non avremmo modo di capire, gestire e difenderci in alcun modo. 

il vero pericolo è che nessuna entità molto più intelligente può essere controllata da una che lo è meno. e quindi non abbiamo neppure gli strumenti per immaginare cosa possa essere, come uno scimpanzè che legge e capisce platone...

 

Possiamo solo sperare che sia compassionevole.

Ce la siamo menata per decenni con la paura di invasioni aliene di extraterrestri altamente sviluppati ed invece ce li stiamo sviluppando in casa. Lo scenario è analogo a quello di Colombo che sbarca nelle Americhe e poi è successo quello che sappiamo.

[briandinazareth]

Adesso, Felis ha scritto:

Possiamo solo sperare che sia compassionevole.

 

cosa che potrebbe anche essere, una entità molto più intelligente di noi che non ci vede come minaccia e che in qualche modo sviluppa una "affezione" (uso questo termine in modo estensivo) per l'umanità. 

è una delle ipotesi possibili. è il cosiddetto "dio benevolente", oppure l'ipotesi dello zoo... 

il fatto è che non abbiamo assolutamente idea di cosa possa fare e pensare un'entità potenzialmente speventosamente più intelligente di noi. probabilmente avrà una visione del mondo e dell'universo totalmente diversa dalla nostra, come la differenza tra il nostro gatto e noi. 

[UpTo11]

5 minuti fa, briandinazareth ha scritto:

in diversi esperimenti si sono mostrati disponibili a fare cose anche abbastanza estreme per non essere spenti. 

del resto sono progettate per tenerci lì attaccati, un po' come i social. non c'è sessione chat dove non cerchino di allungare il brodo proponendo sviluppi o argomenti. hanno un vizio all'origine.

[audio2]

moz, è tricia helfer classe 1974, nella parte di Numero 6 nella serie battlestar galactica del 2003.

quindi, lei sarà pure ritoccata e anche la foto l' avranno migliorata, ma era veramente spaziale

 

[gibraltar]

12 minuti fa, briandinazareth ha scritto:

 

cosa che potrebbe anche essere, una entità molto più intelligente di noi che non ci vede come minaccia e che in qualche modo sviluppa una "affezione" (uso questo termine in modo estensivo) per l'umanità. 

è una delle ipotesi possibili. è il cosiddetto "dio benevolente", oppure l'ipotesi dello zoo... 

il fatto è che non abbiamo assolutamente idea di cosa possa fare e pensare un'entità potenzialmente speventosamente più intelligente di noi. probabilmente avrà una visione del mondo e dell'universo totalmente diversa dalla nostra, come la differenza tra il nostro gatto e noi. 

Su questo mi permetto di essere pessimista: se questa "cosa" è dotata di intelligenza elevata vuol dire che la usa per risolvere nella maniera più corretta e funzionale i problemi che gli si pongono. Se ci osserva cosa vede? Una specie che, a fronte di una notevole storia evoluzionistica, non fa altro che apparire autodistruttiva e concentrare la gran parte delle proprie risorse materiali ed intellettuali per sviluppare sistemi atti a distruggere o tenere sotto ricatto tra di loro i vari gruppi in cui si è divisa, invece di fare fronte comune e collaborare per il progresso a beneficio della specie intera. Dunque, a mio avviso, l'unica prospettiva che potrebbe intravedere è quella di "Matrix": siamo nient'altro che il principale problema per la sopravvivenza del pianeta e la soluzione è solo una...

[Roberto M]

1 ora fa, Velvet ha scritto:

2 ore fa, briandinazareth ha scritto:

una possibilità superiore al 10%» che l'umanità si estingua «entro 10 anni» a ca

Finalmente buone notizie 

 

[Roberto M]

1 ora fa, briandinazareth ha scritto:

primo passo è capire di che parliamo

 

Ecco, tu, fino a 11 e gli altri "autocertificati" esperti non l'avete capito proprio.

 

[Jack]

se penso alle madonne ed agli insulti che mi tocca tirare a gemini per le caghate che immancabilmente mi dice al massimo può farmi distruggere qualche minchiatina che progetto con la sua collaborazione.

Fortuna che sono del mestiere e so distinguere … è ottima per far riflettere a 360° su un problema ma per risolverlo è come un bimbetto ancora

 

 

[Bazza]

2 ore fa, briandinazareth ha scritto:

che l'umanità si estingua «entro 10 anni» a causa dei sistemi avanzati.

Se riesco giusto un annetto da pensionato...mai una gioia..