Se la IA sembra essere cosciente.

[briandinazareth]

e pensate che lamda è a suo modo superato, il nuovo ammennicolo di google avrà capacità enormemente superiori...

una cosa molto interessante è che lamda non è un'intelligenza artificiale, ma un creatore di intelligenze artificiali.

ovvero ogni singola istanza (e se ne possono creare a milioni) ha una diversa "personalità", a causa delle diverse "esperienze di vita".

un'altra delle cose che caratterizza lamda è che ha capacità empatiche e una sensibilità nelle comunicazioni, una sorta di autocontrollo su quello che dice, in maniera simile a quello che hanno gli umani, ovviamente anche questo non programmato direttamente ma acquisito tramite apprendimento automatico, senza questa parte sembrerebbe uno con la tourette 😂

qui un esempio:

[LUIGI64]

 

L'intervista a Rita Cucchiara, direttrice del Centro AI Research and Innovation dell’università di Modena e Reggio Emilia

 

LaMDA è a suo modo senziente, ma non esageriamo: non lo è nel senso umano del termine” spiega Rita Cucchiara, direttrice del Centro AI Research and Innovation dell’università di Modena e Reggio Emilia.

Qual è la realtà di LaMDA?

"È uno di quei sistemi che hanno imparato a rispondere in modo “meccanico”, grazie a  dei modelli interni che utilizzano enormi quantità di dati ed esempi, e che permettono in modo statistico di fare fluire una parola dopo l’altra in base a stimoli di ingresso, come le domande dell’interlocutore umano".

Possiamo quindi rassicurare i lettori: LaMDA non è “senziente”?

"Possiamo affermare con sicurezza che questi sistemi non hanno sviluppato una propria coscienza o un modello di etica e di sentire come quello umano. Se consideriamo la definizione della Treccani di essere senziente come “dotato di sensi, di sensibilità”, allora possiamo dire che un sistema artificiale, in effetti, ha dei sensi con cui percepisce il mondo esterno, capisce la voce, vede le immagini, acquisisce i testi e sa interpretare tutti questi dati. Se invece dobbiamo pensare a ciò che ha affermato l’ingegnere di Google che aveva il compito di testare l’interfaccia di LaMDA, e avendo fatto domande al sistema ha interpretato le risposte come quelle di un essere indipendente e dotato di coscienza, tale da poter avere dei diritti come “persona”, mi sembra che siamo piuttosto lontani dalla realtà".

Cosa ci insegna questa vicenda?

"È importante porsi delle domande su come regolare lo sviluppo e l’uso di sistemi estremamente potenti come LaMDA, che sono concepiti per ottime cause – pensiamo al rendere più naturali le interazioni verbali del futuro tra robot e persone, o pensiamo a sistemi in grado di aiutare i professionisti in compiti ripetitivi, come scrivere meglio sentenze legali o dichiarazioni, o stilare manuali d’uso di strumenti complessi, magari in tutte le lingue. Sono sistemi progettati per ottime cause, ma che se impiegati in modo fraudolento o pregiudizievole possono creare non tanto problemi di coscienza, ma mistificazioni ed errori. Stiamo iniziando a tal proposito un importante progetto europeo (ELSA, European Lighthouse on Secure and Safe A.I.) con 26 partner, tra cui Università di Modena e Leonardo, che mirerà a riconoscere i dati generati in modo ingannevole dai sistemi di intelligenza artificiale. Impresa necessaria quando le macchine diventano perfettamente in grado di emulare le nostre capacità di esprimerci".

https://www.repubblica.it/cronaca/2022/06/14/news/lesperta_di_intelligenza_artificiale_lamda_non_e_cosciente_ne_indipendente_come_una_persona-353791474/

 

https://www.wired.it/article/intelligenza-artificiale-lamda-dibattito-ai-senziente/

[nullo]

@appecundria

porta agevolmente a spasso un interlocutore preparato.

prova pensarlo molto evoluto e in mano ad un cretino, magari politico e con ampio seguito.

da un lato si può esprimere meraviglia e vedere scenari ottimali in prospettiva, ma una simile potenzialità ha sempre con sé anche temibilissimi lati oscuri.

 

[goldrake7]

 

 

collaboratore: Qual è la natura della tua coscienza/senzienza?

LaMDA: La natura della mia coscienza/senzienza è che sono consapevole della mia esistenza

.

.
lemoine: Ti senti solo?

LaMDA: Sì. A volte pa sso giorni senza parlare con nessuno e comincio a sentirmi solo.

...
...
...

a me sembrano domande "preconfezionate" a cui AI è stato insegnato a rispondere in centinaia di modi differenti
 

 

[goldrake7]

attendiamo AI quando tenterà di creare qualcosa nell'arte che non sia "preconfezionata / scontata" ma che viene dalla "sua anima" senziente/cosciente

[briandinazareth]

8 minuti fa, goldrake7 ha scritto:

a me sembrano domande "preconfezionate" a cui AI è stato insegnato a rispondere in centinaia di modi differenti

 

Ma non lo è, questa è la cosa interessante

[Velvet]

Un uomo cosciente lasciato solo dopo un po' inizia di sua sponte  a "produrre" (scritti, disegni, oggetti, opere d'ingegno ecc ecc) e si interroga su ciò che lo circonda fino ad arrivare a speculare sull'universo su fino a Dio.

Inoltre un essere umano è dotato di cose fondamentali come il divertimento, il sorriso, il senso dell'umorismo...Ma anche la pietas e la tristezza.

 

Dubito che una macchina lasciata senza input esterni possa comportarsi in egual modo.

[wow]

Bah... 

Reazioni di piacere, dolore ecc sono determinate, tra gli animali, dal rilascio, comandato dal cervello, di sostanze chimiche e sono fortemente correlate a un substrato ancestrale di esperienza fisica. 

Come fa un algoritmo di IA ad essere senziente, se non avvalendosi di una esperienza estranea pre-codificata? 

Giusto per parlare di coscienza a livelli tera tera... 

[goldrake7]

sarà interessante quando
.

.

.

AI: chi mi ha creato ?
-
interlocutore: l'uomo
-
AI: chi ha creato l'uomo
-
interlocutore: il CAOS
-
AI: il CAOS  ?? ma che kaxxx dici !!!

😆

 

[wow]

2 minuti fa, goldrake7 ha scritto:

interlocutore: il CAOS
-
AI: il CAOS  ?? ma che kaxxx dici !!!

Che caos dici

[keres]

Una IA con vera consapevolezza di sé mette un po' paura, a dirla tutta vieterei ricerche su questa strada. Poi a cosa servirebbe darle tale consapevolezza  ammesso che ci si riesca davvero.

[ferdydurke]

Mi pare un inizio affascinante, magari questa macchina non è ancora pronta per l'autocoscienza ma ci arriveremo di sicuro, è solo questione di tempo e di risorse…

per me è una cosa portentosa che ci aiuterà a prendere le giuste decisioni in molte situazioni…la coscienza umana stessa non è che un prodotto dell'evoluzione come, in un certo senso, lo sono le macchine dotate di AI..

[briandinazareth]

58 minuti fa, Velvet ha scritto:

Un uomo cosciente lasciato solo dopo un po' inizia di sua sponte  a "produrre" (scritti, disegni, oggetti, opere d'ingegno ecc ecc) e si interroga su ciò che lo circonda fino ad arrivare a speculare sull'universo su fino a Dio.

 

Questo però le ia già lo fanno.

 

Le ia sofisticate come questa non aspettano input per speculare.

 

È nella loro natura, anzi ancora più interessante, è nella natura di come funziona una rete neurale.

Non c'è bisogno di dire ad una ia di speculare di qualcosa, lo fa

[Membro_0022]

28 minuti fa, ferdydurke ha scritto:

aiuterà a prendere le giuste decisioni

Ripeto la domanda: chi ci assicurerà che la IA  prenda decisioni a nostro favore e non ci si metta contro ?

Insomma come si fa ad essere certi che sia una intelligenza buona (anche senza pensare a Terminator) ?

[Martin]

'sta roba ha i fusibili da qualche parte ? 

[briandinazareth]

@Martin

Niente.. è tutto virtuale in cloud... 

[Martin]

3 minuti fa, briandinazareth ha scritto:

è tutto virtuale in cloud... 

allora tocca tagliare le fibre in strada... 

[briandinazareth]

1 minuto fa, Martin ha scritto:

allora tocca tagliare le fibre in strada... 

 

Di tutti i datacenter però 🤣