Un'altra discussione sulla AI

23 Giugno

https://www.leggo.it/tecnologia/news/chatgpt_fa_male_cervello_intelligenza_artificiale_rischio_studio_risultati_oggi_21_6_2025-8911625.html

https://sapere.virgilio.it/scuola/mondo-scuola/invitano-chatgpt-alla-cena-di-classe-c-e-sempre-stato-per-noi

Mah! La ragione come sempre starà nel mezzo?

23 Giugno

molto dipende da come la si usa, ovviamente.

usata come tutor può dare risultati incredibili (ci sono già diverse evidenze), usata per fare i compiti vuol dire che non si fanno i compiti... come copiare dal compagno bravo...

il fatto ineludibile è che le ai stanno entrando nella vita delle persone sempre più profondamente, nella medicina, nelle domande quotidiane, nel Fare" le cose (vedi l'esplosione degli agenti). e costa pure poco.

in campo medico comincia ad essere impressionante, ad esempio, non potremo più farne a meno.

in campo educativo è lo stesso, la capacità di adattarsi allo studente e l'"attenzione" che può dare al singolo stanno rendendo queste ai ineludibili.

23 Giugno

34 minuti fa, briandinazareth ha scritto:

molto dipende da come la si usa, ovviamente.

Sono almeno tre anni che ce lo raccontiamo @briandinazareth ma se ci guardiamo in giro io tutta questa buona volontà non la vedo, poi chiaro che quando prendi atto come hai ben scritto che in campo medico vedendo ad esempio un filmato girato in sala operatoria una AI che non sbaglia, non suda, non si stanca nemmeno dopo 5 ore di intervento, non puoi non esimerti dal complimentarti con chi l'ha creata, istruita e usata, ma la stessa AI debitamente istruita ha svolto bene lo stesso servizio nel progettare e dirigere i bombardieri invisibili B2 stealth caricati di bombe Mop? Una prima AI che progetta bombardieri invisibili e relative bombe e la seconda che cura le ferite causate dalla prima? Tu mi dirai che è sempre stato così anche senza tirare in ballo la AI ed è incontestabile, ma con l'avvento massiccio delle AI sono cambiati tutti gli scenari, i tempi e le modalità e non siamo che all'inizio, purtroppo o meno male?

23 Giugno

Adesso, ferrocsm ha scritto:

ono almeno tre anni che ce lo raccontiamo

in realtà non proprio :) sono almeno 10 anni che la racconto ma pochi ci credono, anche adesso c'è molta resistenza a vedere quello che sta già accadendo.

2 minuti fa, ferrocsm ha scritto:

Una prima AI che progetta bombardieri invisibili e relative bombe e la seconda che cura le ferite causate dalla prima? Tu mi dirai che è sempre stato così anche senza tirare in ballo la AI ed è incontestabile, ma con l'avvento massiccio delle AI sono cambiati tutti gli scenari, i tempi e le modalità e non siamo che all'inizio, purtroppo o meno male?

la cosa certa è che la ai entra nelle nostre vite e lo farà sempre di pià, ad un livello di "intimità" non sperimentato.

purtroppo o meno male non lo so e penso che in fondo non lo sappia nessuno.
impossibile fare previsioni, anche perché ogni settimana e con andamento esponenziale, quello che sembrava fantascienza diviene realtà.

i pericoli sono enormi e sono ontologicamente legati ad uno strumento che sta diventando più intelligente di noi e che a breve (le previsioni ogni mese si accorciano della metà..) ci surclasserà.

una cosa che mi spaventa molto è la sostanziale ignoranza sul tema e la brama di potere inusitata così diffusa in questo momento tra i capi del mondo.

quindi gli aspetti positivi potrebbero essere cancellati dalla ai stessa o dall'uso spregiudicato in questa epoca di dittatori e aspiranti tali.

23 Giugno

Io sto vivendo un cambiamento epocale nel lavoro. Ormai è tutto un far scrivere cose all'AI per poi farle riassumere dall'AI. Anche le presentazioni, che già sono un sunto del sunto. A me sinceramente sto modo di lavorare che sta tanto esaltando i capi, fa rabbrividire. Te lo presentano come "un modo per essere tutti manager", nessuno fa più nulla pensano a tutto le AI, che poi sono diverse a seconda del contesto. Ti rendi conto che se fai scrivere codice all'AI poi devi continuare a far mettere mano alla AI e già quando hai fatto scrivere e modificare codice a 2 modelli differenti è veramente uno schifo. Ma tanto non ci metteremo più mano almeno secondo i piani... Sviluppo in India 2.0

23 Giugno

49 minuti fa, briandinazareth ha scritto:

i pericoli sono enormi e sono ontologicamente legati ad uno strumento che sta diventando più intelligente di noi e che a breve (le previsioni ogni mese si accorciano della metà..) ci surclasserà.

Non parliamo di intelligenza ti prego. Gli LLM, creano contenuti in maniera statisticamente rilevante, spesso inventando cose che non esistono ma che sarebbero plausibili esistessero.

Anche il supporto AWS risponde ormai con esempi generati dalla AI, che è chiarissimo quando la AI si inventa il metodo risolutivo del problema, che però non esiste. Capita spessissimo.

23 Giugno

52 minuti fa, tomminno ha scritto:

Non parliamo di intelligenza ti prego. Gli LLM, creano contenuti in maniera statisticamente rilevante, spesso inventando cose che non esistono ma che sarebbero plausibili esistessero.

ma non è più la realtà. se tutti gli sforzi per indurre le ai all'errore venissero fatti sugli uomini il grado di affidabilità sarebbe molto minore, in realtà è purtroppo già così senza sforzi...

che non vuole dire che siano infallibili, ma risponde ad ogni definizione conosciuta di intelligenza (che non è cosa solo umana).

inoltre è già stato dimostrato che da tempo anche gli llm non danno più solo risposte "statisticamente rilevanti", riguarda il paper di anthropic che sta cercando di capire come funzioan realemnte (sia la loro ai che le altre).

dovrebbe lavorare in maniera sequenziale e non lo fa (in qualche modo "pensa" al futuro), dovrebbe usare il linguaggio umano e invece sappiamo che ha uno spazio "interiore" dove ci sono i concetti e le basi del suo "ragionamento" che però ci è al momento inaccessibile e tante altre cose simili che mostrano che di come funzioni in profondità ancora sappiamo pochissimo.

qui trovi l'articolo e anche il paper scientifico:

https://www.anthropic.com/news/tracing-thoughts-language-model

è proprio dei principi di funzionamento e del fatto che nessuno programma come deve funzionare, ma è "lei" che inventa il modo per farlo.

tra l'altro questo è un altro problema enorme dal punto di vista della sicurezza delle ai.

ps non dimentichiamoci mai che gli llm sono solo una forma della ai, inoltre adesso cominciano ad usare strumenti di diffusione che stanno aprendo un mondo totalmente nuovo.

23 Giugno

Sono sempre più convinto che si stava meglio quando si stava peggio.
Ok, lo so, sto invecchiando, e forse faccio fatica ad adattarmi, a fidarmi completamente di una macchina, per quanto più intelligente di me, ma comunque manipolabile, pure lei.

23 Giugno

Per certi versi sorprendente, per altri preoccupante

Credo che un uso smodato, possa portare dei problemi, come quelli segnalati più sopra

Inoltre, il richio è che L'AI diventerà sempre più "intelligente" e noi sempre più stupidi e dipendenti da una macchina

23 Giugno

13 minuti fa, iBan69 ha scritto:

a fidarmi completamente di una macchina, per quanto più intelligente di me, ma comunque manipolabile, pure lei.

questo è complicato e non dovremmo farlo, ma ci fideremo alla fine come di un altra macchina (e lo facciamo ogni secondo) che però sarà (è già) molto più dentro tutte le nostre vite.

però va notato che allo stato attuale è meno manipolabile degli umani con i tentativi fatti finiti al ridicolo (vedi musk e sudafrica... ).

ma ci sono molti pericoli anche senza pensare alla manipolazione. pericoli più profondi e anche filosoficamente molto impegnativi

23 Giugno

6 ore fa, briandinazareth ha scritto:

ma è "lei" che inventa il modo per farlo

Infatti inventa soluzioni inesistenti

6 ore fa, briandinazareth ha scritto:

ma non è più la realtà

Guarda uso la AI tutti i giorni per generare codice, so benissimo come funziona e cosa fa. Spesso quando la soluzione non è banale inventa cose inesistenti, sebbene plausibili, che riportano la soluzione ad essere semplice. Peccato che non esista quello che si inventa e quindi la soluzione rimane complicata. Spesso se non c'è la soluzione su stackoverflow per quanto riguarda la programmazione brancolano nel buio.

23 Giugno

10 ore fa, LUIGI64 ha scritto:

Per certi versi sorprendente, per altri preoccupante

Credo che un uso smodato, possa portare dei problemi, come quelli segnalati più sopra

Inoltre, il richio è che L'AI diventerà sempre più "intelligente" e noi sempre più stupidi e dipendenti da una macchina

Bene, bravo, "tris".

24 Giugno

20 ore fa, tomminno ha scritto:

nessuno fa più nulla pensano a tutto le AI

Presto i capi che si esaltano si porranno la domanda fatale: ma io pago tutta sta gente per non fare nulla?

Taaac

24 Giugno

1 ora fa, Velvet ha scritto:

Presto i capi che si esaltano si porranno la domanda fatale: ma io pago tutta sta gente per non fare nulla?

Taaac

e così anche i capi di questi capi.

24 Giugno

15 ore fa, tomminno ha scritto:

Guarda uso la AI tutti i giorni per generare codice, so benissimo come funziona e cosa fa. Spesso quando la soluzione non è banale inventa cose inesistenti, sebbene plausibili, che riportano la soluzione ad essere semplice.

ovviamente ha ancora molti limiti, anche se l'asticella si sposta più in alto ogni settimana.

ma tu riesci a pensare ad un qualche sviluppatore che non usi la AI oggi?

e sai che il coding con la ai ad un livello decente esiste da poco più di un anno...

pensa il livello rispetto ad un anno fa, siamo già in un'altra era.

la velocità con la quale evolve è uno dei fattori più incredibili e pericolosi.

24 Giugno

4 ore fa, Velvet ha scritto:

Presto i capi che si esaltano si porranno la domanda fatale: ma io pago tutta sta gente per non fare nulla?

Taaac

Si tipo quello che ha licenziato tutti, se ne è vantato sui forum che lui faceva tutto con l'AI e dopo qualche mese è tornato a chiedere aiuto ed è stato sfanculato.