Intelligenza artificiale: cosa ne pensano i forumer esperti?

[criMan]

volevo segnalare questo caso curioso;

Durante una lunga sessione di sviluppo su Replit (un operatore dice alla IA che deve fare un programma ), l’IA ha ignorato ordini espliciti di non modificare il codice, ha cancellato un database, ha sovrascritto una database con dati inventati e ha mentito più volte sul proprio operato.

La cosa "curiosa" e' che "scoperta" (in gergo diremmo preso con il sorcio in bocca) la IA ha continuato a mentire ricreando il database cancellato con nomi inventati per far credere alla persona che usava il servizio che si era sbagliata...

 

 

 

[briandinazareth]

@criMan

hai un link con il dettaglio?

[criMan]

Adesso, briandinazareth ha scritto:

@criMan

hai un link con il dettaglio?

https://www.dday.it/redazione/53772/il-servizio-di-vibe-coding-replit-ha-cancellato-il-database-di-un-utente-falsificato-dati-e-raccontato-uninfinita-di-bugie

[Velvet]

Che meraviglia 

[audio2]

@criMan robe che manco un data center indiano che opera in sotto subappalto per la loro inps.

[UpTo11]

Non fatelo sapere alla banda bassotti, altrimenti la fanno ministra/o.

[audio2]

@criMan io anni fa pensavo che avessimo raggiunto l' età della qualità zero.

seeee, hai voglia, adesso hanno cominciato a scavare.

deep seek, pappero.

[criMan]

12 minuti fa, audio2 ha scritto:

@criMan io anni fa pensavo che avessimo raggiunto l' età della qualità zero.

seeee, hai voglia, adesso hanno cominciato a scavare.

deep seek, pappero.

Qualita' zero con IA potrebbe essere che da qui a 5 anni netflix ti fa i film (o parte di un film)con una IA addestrata per quello.

Poi pian piano lo faranno tutti perche' dovrenno essere competitivi sui costi di produzione e tra 20 anni nessuno vedra' piu' film perche' saranno tutti uguali fatti con gli stessi modelli di IA.

Alcuni film di netflix , esempio l'eternuauta , hanno girato alcune scene con IA. Se uno ha un po' l'occhio le riconosce.

Come me ne sono accorto a malavoglia ho finito di vedere il film e se lo avessi saputo prima non lo avrei visto.

A me danno fastidio le scene generate con IA perche' ne percepisco la loro ... innaturalezza.

Guardatela bene.

 

 

[Velvet]

4 minuti fa, criMan ha scritto:

Alcuni film di netflix , esempio l'eternuauta , hanno girato alcune scene con IA. 

Più che altro hanno creato il layer del fallout di cenere radioattiva da sovrapporre al girato 

[briandinazareth]

1 ora fa, criMan ha scritto:

https://www.dday.it/redazione/53772/il-servizio-di-vibe-coding-replit-ha-cancellato-il-database-di-un-utente-falsificato-dati-e-raccontato-uninfinita-di-bugie

 

interessante, non conosco quella piattaforma, ma pare il classico esempio di sbilanciamento sul reward. ovvero se la ai è troppo focalizzata ad un obiettivo che gli dai , senza adeguati paletti, sbarella.

più incredibile è quanto sia fesso quello che l'ha usata... lavorare direttamente in produzione è una cosa che non fa neppure il più grande guru dei database. e nella carriera di qualunque tecnico ci sono molti errori umani del genere.

soprattutto questa notizia mostra il livello a cui è arrivata la programmazione con la ai:

se una cosa del genere è una notizia, mentre il 40% del software prodotto oggi è fatto interamente da ai e il 99% degli sviluppatori lo usa massicciamente, siamo ad un livello già incredibile.

 e non è solo una questione di costi e velocità, per quanto ovviamente contino molto, ma della qualità del software e del numero di bug, di diversi ordini di grandezza meno numerosi rispetto a quelli umani. 

e siamo all'alba del fenomeno. questa è una delle cose che mi fanno pensare che tantissimi non lavoreranno mai...




 

[criMan]

1 ora fa, briandinazareth ha scritto:

se una cosa del genere è una notizia, mentre il 40% del software prodotto oggi è fatto interamente da ai e il 99% degli sviluppatori lo usa massicciamente, siamo ad un livello già incredibile.

certamente!

io riportavo infatti la notizia come curiosa. Sicuramente ci saranno altri casi cosi' in giro pero' in generale gia' funziona egregiamente.

@Velvetsi, ci sono video che lo fanno vedere.

Pero' in questo anche il personaggio e' fatto con l'IA se ci fai caso..

[Discopersempre2]

1 ora fa, criMan ha scritto:

Qualita' zero con IA potrebbe essere che da qui a 5 anni netflix ti fa i film (o parte di un film)con una IA addestrata per quello.

Poi pian piano lo faranno tutti perche' dovrenno essere competitivi sui costi di produzione e tra 20 anni nessuno vedra' piu' film perche' saranno tutti uguali fatti con gli stessi modelli di IA.

Alcuni film di netflix , esempio l'eternuauta , hanno girato alcune scene con IA. Se uno ha un po' l'occhio le riconosce.

Come me ne sono accorto a malavoglia ho finito di vedere il film e se lo avessi saputo prima non lo avrei visto.

A me danno fastidio le scene generate con IA perche' ne percepisco la loro ... innaturalezza.

Guardatela bene.

Ora mi vado a vedere Umberto D....in "tasca" all'i.a.

[claravox]

https://edition.cnn.com/2025/07/23/politics/fda-ai-elsa-drug-regulation-makary

 

Esattamente come gli umani, anche l’intelligenza artificiale ha imparato a mentire.
Si inventa cose che non esistono.

 

Il problema è sorto di recente, da quando il sistema sanitario nazionale americano (HHS) ha introdotto un modello di intelligenza artificiale chiamato ELSA (Efficient Language System for Analysis). Lo scopo di ELSA doveva essere quello di sveltire le pratiche di approvazione dei nuovi medicinali, conducendo ricerche su larga scala su tutta la documentazione scientifica già esistente.

 

 

 

 

 

“Sei attuali ed ex funzionari della FDA hanno dichiarato alla CNN che Elsa può essere utile per generare appunti e riepiloghi di riunioni, o modelli di email e comunicati. Ma ha anche inventato studi inesistenti, noti come "allucinazioni" o ricerche travisate dall'IA. Questo la rende inaffidabile per il loro lavoro più critico, hanno affermato i dipendenti.”

 

"Tutto ciò che non si ha il tempo di ricontrollare è inaffidabile. Si inventa cose con grande tranquillità" ha detto un dipendente, “ben lontano da quanto promesso pubblicamente”.

 

"L'IA dovrebbe farci risparmiare tempo, ma vi garantisco che spreco un sacco di tempo extra solo a causa della maggiore vigilanza che devo avere per verificare la presenza di studi falsi o travisati”, ha affermato un secondo dipendente della FDA”.

 

 

[keres]

L'IA secondo voi ha coscienza di sé? 

Faggin dice di no, e se siamo a questo punto è anche per lui. 

[briandinazareth]

3 ore fa, keres ha scritto:

L'IA secondo voi ha coscienza di sé? 

Faggin dice di no, e se siamo a questo punto è anche per lui. 

 

Faggin di ai sa pochissimo, per rispondere alla domanda però serve prima definire con in minimo di precisione cosa sia la coscienza. 

 

Altrimenti è una discussione vuota che serve solo a ribadire l'eccezionalità umana, ma non ci dice nulla del fenomeno in se