Intelligenza artificiale: cosa ne pensano i forumer esperti?

[ferrocsm]

24 minuti fa, robem ha scritto:

Non è un professore ferratissimo, ma un collega studente somaro e furbo. Te lo dice un professore ferratissimo. 

Ma la stessa intellligenza che hai usato tu quindi non andrebbe bene per calcolare i miei parametri elettrici che appunto servono a me ma sono del tutto inattendibili se sei tu a interrogarla che presumo di coppia nominale, spunto e massima ne sai tanto al lunedì e ancora meno al martedì? 

[briandinazareth]

1 minuto fa, Panurge ha scritto:

Chat Gpt inventa ( magari è cambiata) per non scontentarti, Gemini più stringata ma più affidabile mi sembra,  la stessa domanda di natura tecnica (ambito iva)  fatta ad una banca dati specialistica supportata da chat gpt e gemini pro generalista ha generato una risposta pertinente  da Gemini ed Incoerente da Chat gpt.

 

senza pensare che sia l'oracolo, ma neppure nessun essere umano lo è. occorre considerare come si vuole che funzioni e conoscere i limiti per non essere fregati.

innanzitutto è buona norma per ogni prompt, con qualunque ai, limitare la voglia di dare risposte in ogni caso, di compiacere l'interlocutore e, soprattutto, fare in modo che il sistema abbia sempre presente il grado di confidenza che ha in ogni fase del suo ragionamento. 

solo con questo si eliminano almeno il 90% delle allucinazioni o incoerenze. 

quasi nessuno lo fa, e questo anche in campi dove si suppone che certe cose siano il pane quotidiano. 

poi ci sono altre strategie più complesse e ancora più efficaci, come usare un consesso di agenti... (è pure divertente vedere la dinamica...)

[Roberto M]

Sono completamente d'accordo con @robem e @Panurge.

Per lavoro utilizzo contemporaneamente una AI professionale giuridica particolarmente costosa (circa 4000 euro l'anno, più iva) perchè ho 5 moduli (civile, penale, tributario, amministrativo, societario e lavoro) oltre a Chat GTP Plus e Claude Pro (generali, che però servono). 

Oltre a queste le banche dati specifiche (che sono complementari alla AI professionale suddetta), Juris Data e WK One fiscale.

Perchè servono, le massime generate dalle AI professionali sono un disastro. In compenso ti trovano sentenze di merito che non trovi neanche sulle banche dati più complete.

Le AI generiche vanno bene per correggere le bozze (trovano subito errori di battitura, riferimenti sbagliati, per dire si accorgono se metti una cifra sbagliata sul CF) e funzionano in generale come "assistenti di scrittura". Quelle giuridiche in più ti scovano le sentenze.

Però in mano ad un avvocato o a un giudice somaro possono essere un disastro completo, creano una falsa sicurezza e commettono spesso errori grossolani, sia le generiche che la professionale.

Ad esempio sulla base di un ricorso predisposto dettagliatamente in punto di fatto gli ho detto di capitolarmi le prove e sono venute fuori tutte inammissibili. Gli ho spiegato perchè e gli ho chiesto di riformularle (no prove generiche, su fatti circostanziati e collocati nello spazio e nel tempo ecc.), ti rispondono "hai perfettamente ragione" ecc. ecc. e te le riformulano.  

[Velvet]

L'importante è che ti diano ragione, sennò sarebbero come le mugliere

[Panurge]

Gemini mi dice "chiedi a quella zoccola di Chat Gpt che so che la frequenti"

[Roberto M]

34 minuti fa, Velvet ha scritto:

L'importante è che ti diano ragione, sennò sarebbero come le mugliere

 

Per evitare questo devi fargli sempre domande aperte. Tranne il caso in cui commettono errori, allora gli devi spiegare l'errore e come evitarlo in futuro. 

[ferrocsm]

12 minuti fa, Panurge ha scritto:

Gemini mi dice "chiedi a quella zoccola di Chat Gpt che so che la frequenti"

E smettila di rompere che stasera c'ho pure mal di testa artificiale. 

[briandinazareth]

l'errore fondamentale è la solita antropomorfizzazione degli llm, la maggior parte delle persone fanno le domande senza settare la modalità e il come deovno rispondere ecc. 

si fa la domanda aperta a chatgpt su una questione legale o medica pensando di parlare con un avvocato o con un medico. 

non solo, si trascura il fatto che, anche per risparmio di energia, gli llm tendono ad una certa pigrizia, ma se si vuole avere una maggiore accuratezza occore forzarlo a rivedere le risposte e a confrontarle con fonti solide, a fare il passaggio dell'avvocato del diavolo, ad alzare il livello di confidenza sotto il quale non deve dare una risposta ecc.



purtroppo anche molti prodotti commerciali e dedicati sono allestiti da persone con una conoscenza molto limitata degli llm, un po' di documenti, un llm generico con una ridottissima personalizzazione e via. 

non che siano inutili, ma sfruttano una minima parte delle possibilità. 

è comunque abbastanza normale, siamo agli albori e in pochi anni certi concetti non sono diventati ancora patrimonio comune.  anche nelle aziende più tecnologiche è molto complicato... 



ps se non sapete come fare un prompt efficace, potete chiedere alla ai stessa... sembra un loop ma è molto brava a costruirli partendo dalle esigenze.

[Discopersempre2]

Io se non mi facesse "specie" interagire con questa sorta di mega computerone, le chiederei di spiegarmi i grafici/postulati di @ilmisuratore😜.

 

[LUIGI64]

Leggi questo articolo: I nuovi "operai" del digitale: il lato oscuro degli addestratori di intelligenza artificiale https://www.focus.it/tecnologia/digital-life/addestratori-di-ia-i-lati-oscuri-di-un-lavoro-sempre-piu-diffuso

La tecnologia fa passi da gigante...ma noi suoniamo sempre la stessa musica...😑