Quando l'AI aiuta ad uccidersi.

[mom]

Mah! Il ragazzo da tempo dava segni di sconnessione, aveva creato gruppi di LGBTQ che si travestivano da animali  e andavano in giro con mute costose! Mi chiedo chi gliele pagava e che funzione avessero i genitori e gli assistenti sociali...  poi dicono anche che stesse sempre rintanato in casa...Impossibile capire e ancor meno giudicare. 

[Guru]

Aggiungiamo che il suicidio avviene sempre in una fase acuta della depressione... Ma depressione malattia, non periodo di sconforto. Io sono cauto, almeno in questo caso, ad imputare responsabilità a qualcosa o a qualcuno. Semmai determinati segnali dovevano essere colti da chi in qualche modo era vicino al ragazzo, ma è  facile parlare dopo che le tragedie sono avvenute.

[LUIGI64]

Ovviamente non si può demonizzare neanche l'AI

Però quello che è accaduto, è un po' una fotografia di quello che sempre più spesso può accadere

In caso di problemi, anziché relazionarsi con persone umane reali, ci si incastra a dialogare con una macchina

Poi, la tendenza a farci credere che tutto sommato sia la stessa cosa, o addirittura meglio, apre il fianco a spiacevoli conseguenze

Talvolta anche tragiche

[LUIGI64]

Inquietante anche questa

https://www.fanpage.it/esteri/si-fida-di-chatgpt-tumore-molto-improbabile-poi-la-diagnosi-choc-ora-mi-restano-5-anni-di-vita/

[solitario]

Mi dispiace, sono cattivo, selezione naturale, come fai a fidarti di una macchina, certo un consulto, ma senti parecchie campane, ti suicidi, ? lì ci sta di tutto, ma non comprendo (sarò una macchina) ma per esperienza personale  ho passato  quasi  di tutto, e ho sempre frenato all'ultimo, poi non escudo che non sempre , i freni, funzionano, c'è solo da vedere se sarà una nuova moda il suicidio con l'A.I. o un caso semi-isolato.

Se poi parliamo di genitori che non vedono o non se ne accorgono, , di questi ne è pieno il mondo.

[LUIGI64]

La responsabilità, è anche di coloro che promuovono queste macchine, arrivando a dipingerle con connotati miracolistici

Questo può avvenire con dolo, o in buona fede, a seguito di una loro personale autoillusione e idealizzazione fallace

Come detto, anche a seguito dell'eccesiva pubblicità dell'AI, gli ingenui, o persone che hanno problemi pregressi, anche gravi, rischiano fortemente di utilizzare l'AI in maniera impropria con tutte le conseguenze del caso

[LUIGI64]

Non c’è alcuna prova che l’IA sia cosciente oggi. Ma se le persone la percepiscono come tale, finiranno per credere che quella percezione sia la realtà”. A dirlo – probabilmente un po’ troppo tardi – non è un medico ma il responsabile dell’intelligenza artificiale di Microsoft, Mustafa Suleyman.

https://www.startmag.it/sanita/le-ia-ci-stanno-letteralmente-mandando-fuori-di-testa/

[criMan]

un mix esplosivo.

Da una parte una persona che aveva problemi di salute mentale ,dall'altra un algoritmo di correlazione ricorsiva con il vizietto di dare risposte principalmente volte a confermare e sostenere le ipotesi dell'utente che lo sta interrogando. 

Questa "caratteristica" secondo molti puo' comparire quando le singole domande verso la AI iniziano a diventare vere e proprie discussioni.

 

 

[LUIGI64]

 

Mi sono chiesto più volte perché   l'AI da taluni, possa essere rappresentata con toni messianici e salvifici, anche se ultimamente i fatti sembrano smentire questa forte tendenza iniziale

I motivi sono riconducibili ad un certo paradigma che vuole che l'essere umano sia soltanto una mera macchina biologica, spesso totalmente irrazionale (bias cognitivi), la coscienza soltanto un prodotto del cervello e il libero arbitrio una ingenua illusione 

Con queste premesse, una macchina straordinaria come l'AI, può allora certamente essere considerata superiore a noi...

😑

 

[briandinazareth]

18 minuti fa, LUIGI64 ha scritto:

sono chiesto più volte perché   l'AI da taluni, possa essere rappresentata con toni messianici e salvifici

 

In realtà nessuno che la conosce un poco sia esprime così. 

Anzi, quelli che ci lavorano e che hanno costruito quello che vediamo sono generalmente spaventati dalle caratteristiche emergenti..

chi ignora la materia sottovaluta la portata di quello che sta succedendo, e lo pensa come uno strumento qualsiasi. 

 

22 minuti fa, LUIGI64 ha scritto:

Con queste premesse, una macchina straordinaria come l'AI, può allora certamente essere considerata superiore a noi...

 

Dipende cosa si intende con superiore,  perché stiamo correndo veloci molto più del previsto verso la agi e verso la superintelligenza verso la quale siamo impreparati e forse non possiamo esserlo in alcun caso. 

 

 

E sta accadendo non solo con gli llm, che sono solo la parte più conosciuta,  i nuovi modelli di comprensione della realtà, non limitati al linguaggio e ai concetti,  stanno mostrando capacità mostruose E superano il problema di avere "esperienza" del mondo solo riportata dal linguaggio.  

 

Siamo di fronte ad una rivoluzione profondissima,  che ci riguarda tutti,  ma con poca consapevolezza generale.

[LUIGI64]

La consapevolezza, si farà sul campo.

Vedremo con il tempo cosa l'AI, in bene o in male, possa combinare

Sperando che i benefici, superino i problemi ad essa realtivi

Tutto sommato, rimango abbastanza pessimista, ma non per l'AI in se ma per come verrà utilizzata e gestita dall'uomo

Qualora gli obiettivi di utilizzo fossero quelli che ben conosciamo: potere personale, economico e manipolazione della masse, c'è poco da stare allegri

Se l'uomo non cambia, non cambierà neanche il metodo di utilizzo di queste macchine, seppur straordinarie 

[briandinazareth]

27 minuti fa, LUIGI64 ha scritto:

La consapevolezza, si farà sul campo.

 

Sarà troppo tardi

 

27 minuti fa, LUIGI64 ha scritto:

Qualora gli obiettivi di utilizzo fossero quelli che ben conosciamo: potere personale, economico e manipolazione della masse, c'è poco da stare allegri

 

È più problematico di così,  continui a ragionare come se fosse solo uno strumento,  invece è più un' intelligenza aliena e non siamo in grado di fare alcuna previsione per quando sarà superiore alla nostra.  

 

Per questo il tema dell'allineamento è così importante

[LUIGI64]

Appunto, peggio del previsto 

Comunque, immagino abbia una presa di corrente, male che vada la si stacca 😎

Vedremo

La tecnologia non è mai neutrale: amplifica ciò che siamo, nel bene e nel male. L’etica non consiste nel temerla, ma nel decidere collettivamente come vogliamo che modelli la nostra umanità.”
Luciano Floridi, Etica dell’intelligenza artificiale (2021)

[appecundria]

 

Il caso di Erik, parla a ChatGpt delle sue teorie del complotto: alla fine uccide la madre e si toglie la vita
Stein-Erik Soelberg, 56 anni, aveva un profilo complesso. Era ossessionato dalle teorie del complotto e convito che sua madre gli stesse mettendo delle droghe nelle prese d’aria dell’auto. Aveva confidato tutto a ChatGPT. A inizio a agosto a ucciso la madre Suzanne Adams, 83 anni, e poi si è suicidato.

continua su: https://www.fanpage.it/innovazione/tecnologia/il-caso-di-erik-parla-a-chatgpt-delle-sue-teorie-del-complotto-alla-fine-uccide-la-madre-e-si-toglie-la-vita/

 

[LUIGI64]

16 minuti fa, appecundria ha scritto:

Era ossessionato dalle teorie del complotto e convito che sua madre gli stesse mettendo delle droghe nelle prese d’aria dell’auto

Sembrava affetto addirittura da schizofrenia. Poveretto

[Velvet]

20 ore fa, briandinazareth ha scritto:

non siamo in grado di fare alcuna previsione per quando sarà superiore alla nostra.  

 

Al momento siamo lontanissimi.

Perchè una stessa identica domanda posta in due contesti diversi può richiedere e a volte impone due risposte diametralmente opposte. E su questo ancora siamo a prima dell'inizio. 

 

 

 

[ediate]

Che poi, a pensarci bene, è proprio il concetto di “Intelligenza Artificiale” che è sbagliato. Si tratta di un enorme database alimentato dall’uomo in primis a cui accedono enormi e velocissimi elaboratori che riescono a valutare e calcolare miliardi di informazioni in tempi brevissimi. Sono programmati per dare risposte quasi sempre assertive nei confronti di chi pone le domande, è per questo che se chiedo all’IA “che ne dici se mi suicidassi” questa mi risponde “sì, ha una certa logica, procedi pure…”. Su menti instabili è facile pensare che una risposta simile ha un effetto devastante. Non so se nei sistemi di IA sono implementate le tre (eccezionali) “leggi” sulla robotica inventate dallo scienziato/scrittore Isaac Asimov (per chi non le abbia mai lette, se non è appassionato di fantascienza ci sta, basta cercarle in internet); sé queste “leggi” non fossero implementate, sarebbe il caso di inserirle in qualunque risposta, anche la più innocente, che può essere data dall’IA…

[appecundria]

13 minuti fa, ediate ha scritto:

Si tratta di un enorme database alimentato dall’uomo in primis a cui accedono enormi e velocissimi elaboratori

Non è proprio così.