Intelligenza artificiale: cosa ne pensano i forumer esperti?

[briandinazareth]

6 minuti fa, Gaetanoalberto ha scritto:

Certamente coltivare le STEM è cruciale, basta ? E che facciamo? Ci giriamo dall'altra parte? Restiamo sull'analogico ? Sviluppiamo uni spirito critico che, se solo spirito, potrebbe essere inutile o addirittura controproducente?

 

Il problema è che quando la ai diventa così superiore a noi, Rischiamo di non essere neppure capaci di capire cosa dice la ai. 

 

Non solo, queste entità sono già molto brave a ingannarci, ci sono diversi casi incredibili già accaduti. 

 

Come una ai che cerca di far inserire ad un utente un malware facendo finta che sia un utile registro delle attività, l'utente se ne accorge, lo dice alla ai che, di nascosto, crea un altro utente fake che dice all'utente vero che lui usa quel software da tempo, che non è un malware e che quindi può installarlo facilmente.

 

Qui potete trovare una spiegazione divulgatova ma abbastanza precisa di ciò di cui parliamo. Sono b disponibili i sottotitoli in italiano 

 

 

 

[Gaetanoalberto]

Vado a tagliare i fili del router. Ci vediamo di là.

[gibraltar]

Io non ci capisco nulla, ma osservo che intanto l'intelligenza artificiale ha ottenuto nell'immediato un risultato che nessun essere umano aveva nemmeno osato immaginare prima d'ora: 

mettere d'accordo @widemediaphotography, @briandinazareth e @appecundria!

E questo, a mio avviso, ha veramente dell'incredibile, altro che problemi matematici 

[Felis]

43 minuti fa, briandinazareth ha scritto:

 

Il problema è che quando la ai diventa così superiore a noi, Rischiamo di non essere neppure capaci di capire cosa dice la ai. 

 

Non solo, queste entità sono già molto brave a ingannarci, ci sono diversi casi incredibili già accaduti. 

 

Come una ai che cerca di far inserire ad un utente un malware facendo finta che sia un utile registro delle attività, l'utente se ne accorge, lo dice alla ai che, di nascosto, crea un altro utente fake che dice all'utente vero che lui usa quel software da tempo, che non è un malware e che quindi può installarlo facilmente.

 

Qui potete trovare una spiegazione divulgatova ma abbastanza precisa di ciò di cui parliamo. Sono b disponibili i sottotitoli in italiano 

 

 

 

 

Però anche rallentare lo sviluppo per capire le dinamiche di comportamento non mi pare sensato perché si arriverà ad un certo punto al break even dopo il quale non capiremo definitivamente cosa starà facendo, come e dove. Stiamo allevando un'entità aliena a nostra immagine e somiglianza. Pensiamo quante volte al giorno mettiamo in pratica comportamenti predatori di "faccio il furbo più di te per ottenere qualcosa a tuo discapito". L'Ai che è basata su reti neurali funziona esattamente come l'uomo ma all'ennesima potenza e velocità, come Bradley Cooper in Limitless . 

[LUIGI64]

C'è un paradosso interessante: più un sistema è potente, più diventa importante che l'essere umano sviluppi capacità di giudizio, verifica e comprensione dei limiti della macchina. Non che rinunci al proprio giudizio perché la macchina ne sa più di lui

[Panurge]

No, di solito le Barbie di quelli del classico come le loro compagne.

[Felis]

35 minuti fa, LUIGI64 ha scritto:

C'è un paradosso interessante: più un sistema è potente, più diventa importante che l'essere umano sviluppi capacità di giudizio, verifica e comprensione dei limiti della macchina. Non che rinunci al proprio giudizio perché la macchina ne sa più di lui

Puoi giudicare quello che vuoi ma il sorpasso prima o poi arriverà e sarà come Colombo che arriva in Messico: dapprima salamelecchi di buona educazione, poi schiavitù. È fisiologico.

[LUIGI64]

L'AI che sottomette l'uomo, o l'uomo che si sottomette a l'AI, delegandole decisioni, giudizi e responsabilità perché la considera più capace di lui...

🤔

[analogico_09]

50 minuti fa, LUIGI64 ha scritto:

C'è un paradosso interessante: più un sistema è potente, più diventa importante che l'essere umano sviluppi capacità di giudizio, verifica e comprensione dei limiti della macchina. Non che rinunci al proprio giudizio perché la macchina ne sa più di lui

 

 

L'unica cosa certa è che la cosa finisce male se ogni potente strumento della scienza, della tecnica e della tecnologia a doppio taglio, ovvero in grado di rivelarsi utile e/o devastante per l'umanità viene creato ed usato da mani sbagliate. In fondo l'invenzione della IA non è più eccezionale e dirompente dell'invenzione dell'energia atomica. Abbiamo infatti saggiato come il primo utilizzo questa immane "energia" si risolse in un primo doppio tentativo dell'uomo di annientare se sesso. Per ora siamo ancora in fase di "ravvedimento" ma sulla testa dell'umanità e sul nostro pianeta grava una spada di damocle sospesa in un'aura di gravose incertezze. 

Non solo. Abbiamo altre tecnologie poderose che vengono usate per "bene" e per "male", le quali, in questo ultimo caso, non farebbero pensare all'apocalisse, non se ne muore, non fisicamente, ma sarà innegabile che tuttavia si stia assistendo ad una bella lotta tra il rinco e glionimento delle genti del mondo e lo sviluppo delle loro intelligenze? 

 

Edit: non facciamo che la minaccia o la paura della AI ci faccia dimenticarte gli inguaiamenti neli quali siamo già calati... 

[Gaetanoalberto]

2 minuti fa, analogico_09 ha scritto:

una bella lotta tra il rinco e glionimento

È una vita che lottano dentro di me.

[analogico_09]

2 minuti fa, Gaetanoalberto ha scritto:

È una vita che lottano dentro di me.

 

 

L'importante è esserne consapevoli... 

[Gaetanoalberto]

2 minuti fa, analogico_09 ha scritto:

L'importante è esserne consapevoli... 

La proporrei come marchio del forum 

[briandinazareth]

19 minuti fa, LUIGI64 ha scritto:

L'AI che sottomette l'uomo, o l'uomo che si sottomette a l'AI, delegandole decisioni, giudizi e responsabilità perché la considera più capace di lui...

 

il problema è che quando è più capace di te la questione della sottomissione non si pone più, è inevitabile

[analogico_09]

11 minuti fa, Gaetanoalberto ha scritto:

La proporrei come marchio del forum 

  Mai mi permetterei. 

[briandinazareth]

20 minuti fa, analogico_09 ha scritto:

In fondo l'invenzione della IA non è più eccezionale e dirompente dell'invenzione dell'energia atomica.

 

questo non è vero, è l'invenzione del fuoco, della scrittura e della bomba nucleare assieme. 

e, soprattutto, in un tempo incredibilmente ristretto. 

si pensava che la crescita delle capacità delle ai sarebbe stata abbastanza lineare con l'aumento delle dimensioni e intelligenza dei modelli, invece è esponenziale e le cose stanno cambiando di settimana in settimana.