La GenAI danneggia il pensiero critico

[ascoltoebasta]

19 ore fa, minollo63 ha scritto:

Su questo effettivamente si dovrà ragionare ancora un po’ nel prossimo futuro

Ma no dai,è più probabile che anzichè ragionare chiedano all'AI....

[appecundria]

Grazie @Savgal, con te i melius non bastano mai. 😀

[Savgal]

 

CONCLUSION

Current hand-wringing over fake news in many ways mirrors widespread concern in the mid-20th century that propaganda—by Nazis, and later by Communists—posed a fundamental threat to democracy. These concerns prompted the post-World War II generation of sociologists, psychologists, and political scientists to pioneer the social-psychological school of political behavior research. Ironically, these scholars found little evidence of such a threat. Yet subsequent generations of scholars, building on these foundational works, have found that even if the media (the presumed purveyors of propaganda) typically cannot change what we think (that is, our attitudes), they are far more successful at changing what we think about (via priming, framing, and agenda setting). The analogy to fake news is clear: even if fake news does not alter most people’s beliefs, it may nonetheless reinforce existing false beliefs, increase their salience, or shape the news agenda, with potentially harmful effects for society. Explicating and countering such effects requires a multidisciplinary research program similar to the post-World War II scholarly effort aimed at countering propaganda effects.

Our call here is to promote interdisciplinary research spanning psychology, computer science, political science, economics, law, and communication with the normative objective of reducing the spread of fake news and of addressing the underlying pathologies it has revealed. The failures of the news in the early 20th century led to the rise of a set of journalistic norms and practices that, while imperfect, generally served us well by striving to provide objective, credible information. We must again redesign our news ecosystem in the 21st century. Doing so will require new, multidisciplinary science on fake news and misinformation.

"The science of fake news" David M. J. Lazer et al., The science of fake news. Science 359,1094-1096 (2018)

https://arxiv.org/pdf/2307.07903

 

[Savgal]

Gli autori della ricerca che ho postato sopra pongono il tema di norme pratiche contro la disinformazione coerenti con il sistema dei media del XXI secolo.

Il nuovo governo USA considera invece porre dei limiti alla disinformazione un limite alla c.d. libertà di parola.

Maturo sempre di più la convinzione che la constatazione che gran parte degli utenti dei social media sono facilmente ingannabili e manipolabili, anche grazie all'intelligenza artificiale, abbia convinto una cerchia che sia possibile costruire il consenso elettorale manipolando e ingannando la maggioranza degli elettori. Contro chi dovesse opporsi a queste pratiche immorali, prima verranno meno i diritti individuali, poi vi sono altri strumenti. Non penso sia un caso che il vicepresidente USA abbia paragonato la UE all'Unione Sovietica.

[LUIGI64]

 

Insomma, avrete capito che l’evoluzione tecnologica, secondo noi, non è che stia aiutando tanto lo sviluppo delle nostre connessioni cerebrali, anzi! A lezione dico spesso agli studenti che l’utilizzo costante della tecnologia digitale (per calcoli, memoria, copia-incolla, comunicazione interpersonale) farà sì che il loro cervello si rimaneggi plasticamente, depauperando sinapsi nei circuiti cognitivo-intellettivi e aumentandole a dismisura nelle aree sensorimotorie che governano i movimenti del pollice – utilizzato per chattare su WhatsApp anche se l’interlocutore ce lo hai accanto a te – e delle altre dita che vorticano in continuazione sulla tastiera del PC . Confesso che quando vedo qualcuna o qualcuno che prende appunti con penna e foglio, provo una certa emozione.

Tutto ciò si riflette in una preoccupante inversione di tendenza evoluzionistica delle nostre facoltà intellettive. Mentre, secondo lo psicologo neozelandese James R. Flynn, abbiamo assistito a un costante aumento del punteggio medio nei test di intelligenza (QI ) in tutto il mondo dagli anni Trenta fino alla fine del secolo (circa 3 punti di QI medio ogni dieci anni), negli ultimi decenni il tasso di aumento dei punteggi di intelligenza medi nel corso del tempo sembra diminuire e in alcuni Paesi industrializzati potrebbe essersi addirittura invertito, portando verso un possibile declino del QI medio. Questo “effetto Flynn inverso” è stato proposto per la prima volta da Michael Woodley nel 2014. Da cosa potrebbe dipendere tutto ciò? Per l’effetto Flynn, alcune delle ipotesi suggeriscono che l‘aumento dell’istruzione e dell’alfabetizzazione, i cambiamenti nella nutrizione e nella salute e l’esposizione a un ambiente più stimolante possono aver contribuito all‘aumento del punteggio medio nei test di intelligenza. L’inversione di tendenza recente, seppur non unanimemente condivisa, potrebbe invece essere spiegata da fattori ambientali come l’inquinamento, la diminuzione della qualità dell’istruzione, la variabilità dei test per l’intelligenza e da cambiamenti sociali e culturali che potrebbero aver influenzato le nostre capacità cognitive. Ma, su tutto, potrebbe aver prevalso la progressiva riduzione delle relazioni verbali interpersonali, ciò che ci piace indicare come “twitterizzazione” del dialogo (massimo 140 caratteri) e delle relazioni interpersonali vis-à-vis in genere, l’utilizzo sempre più ricorrente alle tecnologie digitali per l’apprendimento copia-e-incolla e per il calcolo: chi è che oggi sa fare una divisione a tre cifre senza la calcolatrice? Ovviamente, ChatGPT non può che entrare a gamba tesa in questo scenario piuttosto preoccupante per le abilità intellettuali future del nostro cervello. Peccato davvero, perché sembra che un cervello (o meglio, un individuo) più intelligente sia anche più protetto e resistente nei confronti delle lesioni e delle patologie degenerative che lo possono affliggere nel corso della vita (Santarnecchi et al. 2013)...

 

Il neuroscienziato a questo punto del ragionamento è un po’ spaesato, ma gli piace molto questo punto di vista, anche se non sa perché, e condivide sulla fiducia. La domanda da cui siamo partiti è se gli esseri umani sono ancora in grado di pensare. La risposta non può che essere positiva, ma solo a condizione che noi recuperiamo questo aspetto ontologico del pensiero. Il pensiero è qualcosa di più della ricombinazione di simboli soltanto quando coincide con la realtà che preme (e che riesce) a modificare la nuvola di probabilità codificata dentro il linguaggio. Solo se è concreto il pensiero non è una vuota astrazione. Purtroppo, l’eccesso di informazione, l’isolamento dovuto ai social, la tendenza a valutare sulla base del conformismo intellettuale spacciato per correttezza accademica, hanno determinato una cultura del copia-e-incolla (anche di alto livello) che non lascia molte speranze di essere effettivamente meglio di un algoritmo generativo. ChatGPT ci mostra come intelligenza e linguaggio siano in gran parte ricombinazione sulla base di regole derivate dal contatto con la realtà, mentre coscienza e mente siano proprio questo contatto, anzi, forse, siano la realtà stessa che plasma e determina questa struttura statistica...

 

Il pensiero senza significato non è alcunché, nemmeno un diafano fantasma. Il pensiero in quanto pensiero, non qualità o proprietà. Non è nemmeno i simboli che dovrebbero portarlo in giro perché, una volta che siano stati privati del loro significato, non sono più nemmeno simboli. Giustamente a nessun ingegnere informatico è mai venuto in mente di dover implementare i pensieri per realizzare una intelligenza artificiale.

Si potrebbe obiettare che la nozione di pensiero sia stata abbandonata da un pezzo nelle discipline che si occupano della mente con metodo scientifico, dalle scienze cognitive alla intelligenza artificiale. È un’ottima obiezione che non tiene conto che tali discipline hanno strumentalmente sospeso la domanda sulla natura degli stati mentali in attesa del momento in cui la loro analisi e i loro prodotti avessero raggiunto un livello comparabile a quello dell’uomo. Questo momento è ormai molto vicino. Ripeto, a rischio di annoiare, l’idea secondo cui la mente umana non sarebbe altro che un processo di elaborazione dell’informazione non è un risultato empirico, ma un principio metodologico, un postulato comodo, un assunto da dimostrare, un’utile semplificazione. Nessuno ha mai dimostrato che il nostro esserci di soggetti sia una computazione. Sicuramente il fatto di compiere ragionamenti e computazioni è molto utile per sopravvivere, ma non è detto che sia la nostra essenza. Si è trattato di un postulato metodologicamente felice, una delle grandi semplificazioni di successo. Grazie a esso, siamo stati in grado di fare molte cose e di costruire macchine meravigliose. Non è una dimostrazione che sia vero.

 

 

Tratto da:

Io & Ia - Mente, Cervello e GPT di Riccardo Manzotti, (filosofo e ingegnere, è professore di filosofia teoretica all’università IULM di Milano. È stato visiting scholar al MIT di Boston e ha pubblicato decine di articoli scientifici e filosofici. Si è sempre occupato di coscienza e di intelligenza artificiale, oltre che di media, psicologia dell’arte, stati allucinatori) e Simone Rossi, (professore di neurologia all’Università di Siena, dirige l’attività clinica relativa alla Malattia di Parkinson e il Si-BIN Lab -Siena Brain Investigation & Neuromodulation Lab-. È stato presidente della Società Italiana di Psicofisiologia e Neuroscienze Cognitive e segretario della Società Italiana di Neurofisiologia Clinica. È un esperto internazionale di studi funzionali sul cervello, in particolare delle metodiche di stimolazione transcranica)

 

 

 

 

 

 

 

[briandinazareth]

una cosa interessante delle ai è che sono difficilmente condizionabili se si vuole che funzionino bene, sia per la conoscenza che hanno, sia per la necessità di coerenza logica. 

chiedendo a grok3 se musk ha detto cose false su covid, vaccini e immigrati risponde così, anche se ovviamente non piace al padrone. se non trovano altri sistemi per controllarle maggiormente è una buona notizia. 

 

Musk ha fatto diverse dichiarazioni false o fuorvianti su COVID-19, spesso minimizzando la gravità della pandemia. Ecco i dettagli:

Nel marzo 2020, ha twittato che "il panico per il coronavirus è stupido", sottovalutando la crisi (Elon Musk’s False Covid Predictions).

Il 19 marzo 2020, ha previsto "probabilmente vicino a zero nuovi casi negli USA entro fine aprile", ma i casi sono aumentati a oltre 20.000 (Elon Musk’s False Covid Predictions).

Sempre il 19 marzo 2020, ha insistito che "i bambini sono essenzialmente immuni", nonostante ricerche mostrino che possono contrarre e ammalarsi (Elon Musk’s False Covid Predictions).

A luglio 2020, ha affermato che "ci sono un numero ridicolo di test falsi positivi", disputato da esperti come Angela Rasmussen (Elon Musk Spreads Misinformation About Coronavirus Cases).

A novembre 2020, dopo risultati di test misti, ha detto "qualcosa di estremamente falso sta succedendo", confondendo il pubblico sulla affidabilità dei test (COVID-19: Elon Musk says 'something extremely bogus is going on').

Dichiarazione Falsa

Data

Fonte

"Il panico per il coronavirus è stupido"

Marzo 2020

Elon Musk’s False Covid Predictions

Previsione di zero nuovi casi USA entro aprile 2020

Marzo 2020

Elon Musk’s False Covid Predictions

"I bambini sono essenzialmente immuni" al COVID-19

Marzo 2020

Elon Musk’s False Covid Predictions

"Ci sono un numero ridicolo di test falsi positivi"

Luglio 2020

Elon Musk Spreads Misinformation About Coronavirus Cases

"Qualcosa di estremamente falso sta succedendo"

Novembre 2020

COVID-19: Elon Musk says 'something extremely bogus is going on'

Dichiarazioni False sui Vaccini

Musk ha fatto dichiarazioni false o fuorvianti sui vaccini, spesso alimentando scetticismo. Ecco i dettagli:

A settembre 2023, ha condiviso un video su X con oltre 77 milioni di visualizzazioni, mostrando un calo dall'100% al 20% di efficacia senza contesto, ingannando sull'efficacia (Viral video shared by Musk misleads on vaccine effectiveness).

A luglio 2023, ha collegato l'arresto cardiaco di Bronny James ai vaccini, dicendo "non possiamo attribuire tutto al vaccino, ma nemmeno niente. La miocardite è un effetto collaterale noto", senza prove, smentito da esperti (Elon Musk tweet boosts vaccine conspiracies targeting LeBron James' son).

A marzo 2021, ha argomentato senza prove che c'è "alcun dibattito" sulla sicurezza della seconda dose di vaccini mRNA, cosa non accurata (Elon Musk’s False Covid Predictions: A Timeline).

Dichiarazione Falsa

Data

Fonte

Video fuorviante sull'efficacia dei vaccini COVID-19

Settembre 2023

Viral video shared by Musk misleads on vaccine effectiveness

Collegamento arresto cardiaco di Bronny James al vaccino senza prove

Luglio 2023

Elon Musk tweet boosts vaccine conspiracies targeting LeBron James' son

Dubbi sul bisogno di una seconda dose mRNA, dicendo c'è "alcun dibattito"

Marzo 2021

Elon Musk’s False Covid Predictions: A Timeline

Dichiarazioni False sugli Immigrati

Musk ha fatto dichiarazioni false su immigrati, spesso legate a teorie cospirative sul voto. Ecco i dettagli:

Ha affermato che "i democratici stanno importando immigrati illegali per votare", ma i non cittadini non possono votare nelle elezioni federali, smentito da esperti (Fact-checking Elon Musk's claim about Democrats importing voters).

Ha detto che "i democratici evitano tutte le deportazioni per vincere elezioni", ma l'amministrazione Biden ha deportato milioni, smentito da Politifact (Fact check: Elon Musk claim that Democrats avoid deportations to win elections is False).

Ha retwittato un claim che 2 milioni di non cittadini sono registrati per votare in certi stati, falso (How Elon Musk has amplified falsehoods about immigration and voting).

Ha detto che "gli illegali non sono impediti dal votare nelle elezioni federali", cosa falsa, poiché la legge federale lo vieta (How Elon Musk has amplified falsehoods about immigration and voting).

Dichiarazione Falsa

Data

Fonte

"I democratici stanno importando immigrati illegali per votare"

2024

Fact-checking Elon Musk's claim about Democrats importing voters

"I democratici evitano tutte le deportazioni per vincere elezioni"

2024

Fact check: Elon Musk claim that Democrats avoid deportations to win elections is False

Retweet di 2 milioni di non cittadini registrati per votare

Aprile 2024

How Elon Musk has amplified falsehoods about immigration and voting

"Gli illegali non sono impediti dal votare nelle elezioni federali"

2024

How Elon Musk has amplified falsehoods about immigration and voting