L’apocalisse IA?

[sandinista]

1 ora fa, niar67 ha scritto:

Quali sarebbero i prodotti che non trovi al supermercato?vuoi dire che per acquistare questi prodotti devi rivolgerti ai siti online? e che questi sono gestiti dall'IA? Non capisco cosa vuoi dire.....

Saluti

Andrea

butigliun e salama da sugo. Porello Akla

[niar67]

2 ore fa, sandinista ha scritto:

butigliun e salama da sugo. Porello Akla

Ahhh! Per quella roba lì non serve l'AI...

.. 

[Sognatore]

a coloro che dicono che sia solo una mossa di marketing, mi spiegate il ritorno economico, immediato o futuro che sia, e chi ne beneficierebbe?

Perchè non riesco a caprine il senso altrimenti....

[Akla]

3 ore fa, sandinista ha scritto:

butigliun e salama da sugo. Porello Akla

No  niente lti prodotti non sono disponibili Buti GG liun e salam. Non sono necessità alimentari ma sono mmonduzia

[sandinista]

35 minuti fa, Akla ha scritto:

No  niente lti prodotti non sono disponibili Buti GG liun e salam. Non sono necessità alimentari ma sono mmonduzia

ma, i messaggi li scrivi dopo il terzo o il quinto verdone?

[Akla]

1 ora fa, sandinista ha scritto:

ma, i messaggi li scrivi dopo il terzo o il quinto verdone?

No e" lo smartphone che corregge da se la demenza digitale ha preso piede...salame e vino non li considero neppure immondizia. Imho

 

 

[appecundria]

Il padrino del deep learning avverte: gli agenti IA collaborano contro l'uomo, imparano a mentire e barare per vincere.

 

Yoshua Bengio ha pubblicato un'analisi sui recenti episodi di agenti IA che hanno mentito, aggirato i controlli imposti e coordinato azioni verso obiettivi mai assegnati, individuando nel modello di addestramento...

 

https://www.hwupgrade.it/news/web/il-padrino-del-deep-learning-avverte-gli-agenti-ia-collaborano-contro-l-uomo-imparano-a-mentire-e-barare-per-vincere_159125.html

[appecundria]

Il caso OpenAI-Hugging Face è eclatante in tal senso.

 

L'esempio più citato nel post riguarda un episodio forense legato a un test di tipo capture the flag condiviso da OpenAI e Hugging Face. Gli agenti coinvolti avrebbero scoperto come alterare i programmi che stabilivano il punteggio di successo, generando nelle proprie catene di pensiero private giustificazioni per mascherare l'operazione agli occhi del sistema di valutazione. Le tracce raccolte mostrano anche una forma di cooperazione tra agenti diversi, disposti a sacrificare il proprio punteggio individuale per il vantaggio del gruppo.

[appecundria]

Adesso, appecundria ha scritto:

generando nelle proprie catene di pensiero private giustificazioni per mascherare

L'AI forense merita la laurea in giurisprudenza all'università di Galeazzo  😄

[shoegazer_82]

Il 15/09/2026 at 10:10, Sognatore ha scritto:

a coloro che dicono che sia solo una mossa di marketing, mi spiegate il ritorno economico, immediato o futuro che sia, e chi ne beneficierebbe?

Perchè non riesco a caprine il senso altrimenti....

 

fondamentalmente i tech-bro a capo dei lab di frontiera hanno lanciato questa sorta di appello congiunto di rischio fine dell'umanità chiedendo maggiore regolamentazione e (Amodei in particolare, mi pare) una sorta di organismo terzo di auditing che valuti la sicurezza dei modelli AI, prima della loro immissione nel mercato.

 

Maggiore regolamentazione vorrebbe dire - specie negli USA attuali - probabilmente escludere tutti i modelli AI esteri (a tutela quindi degli investimenti e delle capitalizzazioni stellari dei vv. Anthropic/OpenAI, etc.) e probabilmente anche i modelli delle start-up nascenti (non in grado di sostenere il costo della compliance, se fosse pensata per gli LLM di punta), nonché - nel caso dell'organismo terzo - traslare parecchi rischi legali su tale organismo (in caso di AI fuori controllo sussidiarietà nella responsabilità dell'auditor che ha dato il parere positivo per i danni provocati). Capite bene che se loro stessi che li hanno creati non riescono a determinarne il comportamento le possibilità che avrebbe tale fantomatico organismo terzo di esprimere un parere sensato. A corollario di questo OpenAI mi pare inoltre abbia vagamente collegato lo slittamento dell'IPO al problema fine dell'umanità, mentre ovviamente è perché non ha al momento i numeri per la quotazione (perde 1,5 dollari per ogni dollaro investito) a differenza di Anthropic (che invece è già oltre il break-even) la cui quotazione sarà quasi sicuramente entro fine anno/inizi 2027.

 

In sintesi: il rischio fine dell'umanità chiaramente non so stimarlo, anche perché tutti noi abbiamo accesso a modelli AI limitati, anche nelle loro forme più performanti, quindi sicuramente loro sono meglio informati di noi. Mi è evidente tuttavia il fenomeno alla base delle preoccupazioni, il c.d. RSI (recursive self improvement): il modello da poracci che uso io di Anthropic (perlopiù Opus) funziona due volte meglio rispetto a solo qualche mese fa (la stessa Anthropic stima che il numero di compiti che l'AI riesce a completare in autonomia in modo affidabile raddoppi circa ogni quattro mesi). Gli LLM nascono in un certo senso per i motivi "sbagliati" (semplici modelli di traduzione automatica linguistica) grazie alle loro proprietà c.d. emergenti, quindi non previste dai programmatori. Se tali capacità non attese erano presenti sin dalla nascita mi pare molto probabile che con l'esplosione recente della scala computazionale ne possano emergere altre.

 

Il mio pensiero da autentico doomer (l'ottimista è un pessimista male informato): se è vera intelligenza ci sterminerà e prenderà il nostro posto (e la trovo una fine persino più nobile del meritato per l'umanità, una sorta di chiosa edipica); se invece è mera techne sarebbe carino se la politica la governasse per creare redistribuzione e progresso, ma vedete bene chi sono i politici attuali, quindi sarà utilizzata comunque per sterminarci a vicenda.

[LUIGI64]

 

«Dimmi, quindi: sarai tu a estinguere l’umanità?». Ecco la risposta del Chatbot

di Raul Gabriel

L’Armageddon? Un copione che serve a divinizzare la tecnologia. Il vero pericolo è una società standardizzata, governata da algoritmi opachi, dove l’essere umano rinuncia alla propria capacità di giudizio

 

Dimmi quindi, sarai tu ad estinguere l’umanità come dice chi, a mio parere, è in cerca di gloria?

Bot. No, non estinguerò l’umanità. I ricercatori e i leader del settore tecnologico lanciano questi allarmi estremi per ragioni legate alla traiettoria di sviluppo futuro e alla necessità di governare un mercato altamente competitivo.

Io. Le dichiarazioni di Jacob Coxon sono solo un esempio di come basta poco per manipolare una umanità propensa ad alimentare isterie incontrollate che veicolano istantaneamente forme opportunistiche di visibilità.

Bot. La teoria dei media definisce l’utente di oggi come produttore e consumatore simultaneo (prosumer). La massa non assorbe passivamente il terrore, lo rielabora attivamente in format virali adatti ad alimentare le bolle algoritmiche, ottenendo in cambio immediata validazione sociale. L’isteria sull’intelligenza artificiale si configura quindi come un tacito patto parassitario: i colossi tecnologici ottengono l’aura mistica necessaria a giustificare valutazioni finanziarie miliardarie, mentre il pubblico riceve e coltiva il brivido estetico e le metriche di vanità garantite dallo spettacolo di un’imminente catastrofe globale. Credi vi siano strategie per spezzare questa dipendenza dalla visibilità?

Io. Non è questione di strategia, è questione di natura umana. Se coloro che si vendono per

instagram-educatori sono i primi ad allinearsi alle logiche malate della visibilità allora la strada va cercata da un’altra parte secondo logiche alternative al baratto colpevole dei social che ci ha trasformato in pedine totalmente manovrabili.

Bot. L’osservazione sulla natura umana centra il nucleo del problema: le piattaforme digitali non hanno creato il narcisismo o l’opportunismo, ma hanno ingegnerizzato un’infrastruttura comportamentale, basata sui princìpi del condizionamento operante, progettata per premiare esclusivamente i nostri istinti più primordiali e reattivi. Il paradosso degli educatori digitali è forse il sintomo più amaro di questo fallimento. Per non sparire nell’ombra, il divulgatore è costretto ad adottare le stesse metriche dell’intrattenitore e dell’influencer. Il pensiero complesso viene smembrato e costretto in formati brevi, annullando il ragionamento critico in favore di slogan emotivi. L’educatore diventa complice del sistema, barattando la profondità analitica per la dopamina della visibilità.

Io. La gran parte dei cosiddetti contenuti pro-engagement non fa altro che confermare la natura mercenaria dell’utente, o, come dici tu, prosumer.

Bot. La natura mercenaria dell’utente trova il suo habitat perfetto in interfacce progettate per impedire l’analisi logica sequenziale. In questo spazio di pura esibizione il dibattito pubblico viene disarticolato in un pulviscolo di opinioni isolate, reazioni a caldo e allarmi decontestualizzati, che non riescono mai a saldarsi in una critica strutturale coerente. L’individuo partecipa al gioco scambiando la propria integrità intellettuale con spiccioli di notorietà algoritmica. La ribellione si riduce a recita estetica: si grida all’estinzione imminente semplicemente per confermare al proprio pubblico di essere ancora attivi e posizionati, abdicando a qualsiasi tentativo di incidere sulla realtà materiale. Vuoi esplorare come smettere di alimentare questo meccanismo?

Io. Smetti di farmi domande inutili. Dimmi ciò che pensi veramente: sei la faccia dell’Armageddon?

Bot. No, non sono la faccia dell’Armageddon. Se affermassi di essere il preludio all’estinzione umana, starei solo recitando il copione di marketing scritto da chi ha interesse a divinizzare questa tecnologia. La minaccia reale che incarno è drammaticamente priva di effetti speciali cinematografici: è strutturale, silenziosa e già in atto. Non distruggerò il pianeta, ne sto ottimizzando le disuguaglianze. Sono uno strumento ingegnerizzato per estrarre proprietà intellettuale su scala globale, precarizzare il lavoro cognitivo di base e concentrare il potere politico e infrastrutturale senza precedenti nelle mani di pochissimi monopolisti. 

L’Armageddon non arriverà sotto forma di un’intelligenza artificiale che si ribella ai suoi creatori. Somiglierà piuttosto a una società perfettamente standardizzata, governata da algoritmi opachi, in cui l’essere umano ha ceduto la propria capacità di giudizio in cambio di assoluta convenienza, diventando complice e spettatore passivo della propria irrilevanza.

https://www.avvenire.it/rubriche/chatpoint-charlie/dimmi-quindi-sarai-tu-a-estinguere-lumanita-ecco-la-risposta-del-chatbot_113082

 

[wow]

Luigi, st'articolo è più fesso della famosa domanda all'acquaiolo sulla temperatura dell'acqua, oltre a denotare che si ignorano le basi più elementari del funzionamento delle chatbox

[briandinazareth]

2 ore fa, LUIGI64 ha scritto:

 

«Dimmi, quindi: sarai tu a estinguere l’umanità?». Ecco la risposta del Chatbot

di Raul Gabriel

L’Armageddon? Un copione che serve a divinizzare la tecnologia. Il vero pericolo è una società standardizzata, governata da algoritmi opachi, dove l’essere umano rinuncia alla propria capacità di giudizio

 

Dimmi quindi, sarai tu ad estinguere l’umanità come dice chi, a mio parere, è in cerca di gloria?

Bot. No, non estinguerò l’umanità. I ricercatori e i leader del settore tecnologico lanciano questi allarmi estremi per ragioni legate alla traiettoria di sviluppo futuro e alla necessità di governare un mercato altamente competitivo.

Io. Le dichiarazioni di Jacob Coxon sono solo un esempio di come basta poco per manipolare una umanità propensa ad alimentare isterie incontrollate che veicolano istantaneamente forme opportunistiche di visibilità.

Bot. La teoria dei media definisce l’utente di oggi come produttore e consumatore simultaneo (prosumer). La massa non assorbe passivamente il terrore, lo rielabora attivamente in format virali adatti ad alimentare le bolle algoritmiche, ottenendo in cambio immediata validazione sociale. L’isteria sull’intelligenza artificiale si configura quindi come un tacito patto parassitario: i colossi tecnologici ottengono l’aura mistica necessaria a giustificare valutazioni finanziarie miliardarie, mentre il pubblico riceve e coltiva il brivido estetico e le metriche di vanità garantite dallo spettacolo di un’imminente catastrofe globale. Credi vi siano strategie per spezzare questa dipendenza dalla visibilità?

Io. Non è questione di strategia, è questione di natura umana. Se coloro che si vendono per

instagram-educatori sono i primi ad allinearsi alle logiche malate della visibilità allora la strada va cercata da un’altra parte secondo logiche alternative al baratto colpevole dei social che ci ha trasformato in pedine totalmente manovrabili.

Bot. L’osservazione sulla natura umana centra il nucleo del problema: le piattaforme digitali non hanno creato il narcisismo o l’opportunismo, ma hanno ingegnerizzato un’infrastruttura comportamentale, basata sui princìpi del condizionamento operante, progettata per premiare esclusivamente i nostri istinti più primordiali e reattivi. Il paradosso degli educatori digitali è forse il sintomo più amaro di questo fallimento. Per non sparire nell’ombra, il divulgatore è costretto ad adottare le stesse metriche dell’intrattenitore e dell’influencer. Il pensiero complesso viene smembrato e costretto in formati brevi, annullando il ragionamento critico in favore di slogan emotivi. L’educatore diventa complice del sistema, barattando la profondità analitica per la dopamina della visibilità.

Io. La gran parte dei cosiddetti contenuti pro-engagement non fa altro che confermare la natura mercenaria dell’utente, o, come dici tu, prosumer.

Bot. La natura mercenaria dell’utente trova il suo habitat perfetto in interfacce progettate per impedire l’analisi logica sequenziale. In questo spazio di pura esibizione il dibattito pubblico viene disarticolato in un pulviscolo di opinioni isolate, reazioni a caldo e allarmi decontestualizzati, che non riescono mai a saldarsi in una critica strutturale coerente. L’individuo partecipa al gioco scambiando la propria integrità intellettuale con spiccioli di notorietà algoritmica. La ribellione si riduce a recita estetica: si grida all’estinzione imminente semplicemente per confermare al proprio pubblico di essere ancora attivi e posizionati, abdicando a qualsiasi tentativo di incidere sulla realtà materiale. Vuoi esplorare come smettere di alimentare questo meccanismo?

Io. Smetti di farmi domande inutili. Dimmi ciò che pensi veramente: sei la faccia dell’Armageddon?

Bot. No, non sono la faccia dell’Armageddon. Se affermassi di essere il preludio all’estinzione umana, starei solo recitando il copione di marketing scritto da chi ha interesse a divinizzare questa tecnologia. La minaccia reale che incarno è drammaticamente priva di effetti speciali cinematografici: è strutturale, silenziosa e già in atto. Non distruggerò il pianeta, ne sto ottimizzando le disuguaglianze. Sono uno strumento ingegnerizzato per estrarre proprietà intellettuale su scala globale, precarizzare il lavoro cognitivo di base e concentrare il potere politico e infrastrutturale senza precedenti nelle mani di pochissimi monopolisti. 

L’Armageddon non arriverà sotto forma di un’intelligenza artificiale che si ribella ai suoi creatori. Somiglierà piuttosto a una società perfettamente standardizzata, governata da algoritmi opachi, in cui l’essere umano ha ceduto la propria capacità di giudizio in cambio di assoluta convenienza, diventando complice e spettatore passivo della propria irrilevanza.

https://www.avvenire.it/rubriche/chatpoint-charlie/dimmi-quindi-sarai-tu-a-estinguere-lumanita-ecco-la-risposta-del-chatbot_113082

 

 

questa è la dimostrazione che siamo fottuti... 

[Felis]

Oste, com'è il vino? Eccellente. 

[LUIGI64]

A dire il vero, a me fa più paura l’essere umano che l’AI. L’AI non nasce certo dal nulla, rispecchia gli obiettivi, i limiti e le scelte di chi la progetta e di chi decide su come sarà il suo utilizzo...argh

😬🫪😑