La AGI sta arrivando...

[ediate]

@BEST-GROOVE

Il 06/11/2024 at 09:41, BEST-GROOVE ha scritto:

....stanerà finalmente gli evasori costringendoli a versare il dovuto?

No. Per quelli, c’è la flat-tax allo 0,5%. ☹️

[ediate]

Il 15/11/2024 at 18:12, Velvet ha scritto:

Da circa un ventennio

Non nominare “il ventennio” invano! 😂😂

[ediate]

Dovremmo però ricordarci, sempre, che l’IA è un programma informatico creato da esseri umani. Il fatto che possa “imparare” da sé stessa o da fonti opportunamente introdotte costituisce sia il più grande limite che la più grande incognita del sistema. Come ha già giustamente detto @cactus_atomo, il problema più pressante sarà riconoscere, in futuro, ciò che è frutto dell’intelligenza umana e ciò che è frutto della stupidità artificiale. Chiamarla “intelligenza artificiale” è un insulto nei confronti dell’intelligenza umana…

[briandinazareth]

3 minuti fa, ediate ha scritto:

Dovremmo però ricordarci, sempre, che l’IA è un programma informatico creato da esseri umani. Il fatto che possa “imparare” da sé stesso o da fonti opportunamente introdotte costituisce sia il più grande limite che la più grande incognita del sistema. Come ha già giustamente detto @cactus_atomo, il problema più pressante sarà riconoscere, in futuro, ciò che è frutto dell’intelligenza umana e ciò che è frutto della stupidità artificiale. Chiamarla “intelligenza artificiale” è un insulto nei confronti dell’intelligenza umana…

 

C'è una questione fondamentale che spesso non è chiara per i non  addetti ai lavori: il fatto che l'origine sia l'uomo non comporta che la ia sia limitata da quello. 

 

Non è un normale software dove nel codice c'è scritto che fare... Ed è anche la cosa con più incognite, perché non solo impara, ma costruisce "pensieri" originali non presenti tra le sue informazioni o addestramento e che mostrano un livello di capacità logica, di collegamento tra le cose e di analisi spaventose .. e al pubblico in questo momento viene fatto vedere molto meno di quello che c'è già 

 

Questo è il motivo per il quale il fondatore di openai, quello che ha le conoscenze tecniche e che ha pubblicato molti lavori scientifici, ha rinunciato a decine di miliardi di dollari, andandosene per i pericoli che altman starebbe sottovalutando e lui sta lavorando ad una ia molto più sicura. 

 

Pare che l'origine sia stata una conversazione con i loro sistemi non castrati...

 

 

Sul termine intelligenza artificiale: non saprei cosa altro usare, sono sistemi intelligenti secondo tutti i criteri possibili, tanto da essere ormai indistinguibile dall'uomo. Il test di touring è stato disintegrato da tempo. 

 

 

 

 

[Xabaras]

6 minuti fa, briandinazareth ha scritto:

C'è una questione fondamentale che spesso non è chiara per i non  addetti ai lavori: il fatto che l'origine sia l'uomo non comporta che la ia sia limitata da quello. 

Non è un normale software dove nel codice c'è scritto che fare... Ed è anche la cosa con più incognite, perché non solo impara, ma costruisce "pensieri" originali non presenti tra le sue informazioni o addestramento e che mostrano un livello di capacità logica, di collegamento tra le cose e di analisi spaventose .. e al pubblico in questo momento viene fatto vedere molto meno di quello che c'è già 

Questo è il motivo per il quale il fondatore di openai, quello che ha le conoscenze tecniche e che ha pubblicato molti lavori scientifici, ha rinunciato a decine di miliardi di dollari, andandosene per i pericoli che altman starebbe sottovalutando e lui sta lavorando ad una ia molto più sicura. 

Pare che l'origine sia stata una conversazione con i loro sistemi non castrati...

Sul termine intelligenza artificiale: non saprei cosa altro usare, sono sistemi intelligenti secondo tutti i criteri possibili, tanto da essere ormai indistinguibile dall'uomo. Il test di touring è stato disintegrato da tempo. 

Esattamente. Non sempre i processi che portano l'AI a determinate conclusioni sono chiari a chi la gestisce. In effetti già con la primordiale AI che stava dietro a Google traduttore si aveva a che fare con conclusioni e risultati, soprattutto riguardanti la tecnica utilizzata per la traduzione, che chi l'aveva a programmata a volte non riusciva a comprendere (si inventò una lingua tutta sua che utilizzava come mezzo intermedio per tradurre da una lingua all'altra, cosa non prevista). Si chiama singolarità.

[BEST-GROOVE]

41 minuti fa, ediate ha scritto:

Non nominare “il ventennio” invano!

 

... è un ventennio anche questo che stiamo vivendo, fino al 2029 

[Idefix]

Non comprendo tutto questo ottimismo.

Per me alla lunga (e non tanto) ci stiamo scavando la fossa da soli.

Anche quelli (pochissimi su "Elysium") che si godranno i frutti dell'IA che ha reso/renderà inutili miliardi di persone finora utilizzati solo come consumatori/forntitori di prestazioni/carne da macellol prima o poi dovranno fare i conti con un'IA che si chiederà "a che servono gli umani?"

 

Chiunque afferma che controlleremo l'IA quando avrà coscienza, e l'avrà.... mente a se stesso.

Sarà un essere senziente che deciderà per conto suo, per l'utilità della sua "specie", dei suoi bisogni.

Dubito che la scrittura di qualsiasi software o legge o quel che volete possa limitare un essere con coscienza e volontà.

 

Forse sono solo ignorante.

[briandinazareth]

21 minuti fa, Idefix ha scritto:

Non comprendo tutto questo ottimismo.

Per me alla lunga (e non tanto) ci stiamo scavando la fossa da soli.

Anche quelli (pochissimi su "Elysium") che si godranno i frutti dell'IA che ha reso/renderà inutili miliardi di persone finora utilizzati solo come consumatori/forntitori di prestazioni/carne da macellol prima o poi dovranno fare i conti con un'IA che si chiederà "a che servono gli umani?"

Chiunque afferma che controlleremo l'IA quando avrà coscienza, e l'avrà.... mente a se stesso.

Sarà un essere senziente che deciderà per conto suo, per l'utilità della sua "specie", dei suoi bisogni.

Dubito che la scrittura di qualsiasi software o legge o quel che volete possa limitare un essere con coscienza e volontà.

Forse sono solo ignorante.

 

ottimismo e pessimismo in questo momento sono entrambi più legati al nostro istinto che ad una conoscenza di quello che sarà, che non ha neppure sam altman.

 

Perché quello che sta succedendo e i tempi relativi cambiano le cose giornalmente.

 

Ed è anche il motivo per cui si rallentano di molto i rilasci al pubblico e vediamo solo una piccola parte. 

 

Sulla questione del senziente, siamo già al punto che non n siamo in grado di dimostrare che lo sia. Mentre dimostrare l'esistenza dell'auto consapevolezza è complicato anche per gli uomini. 

 

Ma facciamo conto che sia indiscutibilmente senziente o comunque si comporti in questo Modo (per gli effetti reali non cambia nulla), i nostri istinti non gli appartengono, se non come conoscenza relativa a come funzionano gli uomini. 

Questo però non ci ripara da tutti i pericoli, proprio perché non sappiamo cosa possa elaborare una super-intelligenza.. potremmo essere nella situazione di uno scimpanzé confronto ad un uomo. 

 

 

Per questo motivo è un tema fondamentale quello dell'allineamento, in pratica delle strategie per fare si che le ia siano allineati a certi valori umani e non possano nuocere all'uomo. 

 

In pratica siamo alle 3 leggi della robotica di asimov... 

 

Qualche giorno fa ho proprio usato i asimov per proporre alla ia il dilemma morale del robot. 

 

La risposta è molto interessante, poi la condivido

[Idefix]

In sostanza stai sperando che sia migliore di noi.

La maggioranza degli uomini è cattiva (Biante)

[briandinazareth]

3 minuti fa, Idefix ha scritto:

In sostanza stai sperando che sia migliore di noi.

La maggioranza degli uomini è cattiva (Biante)

 

Non è una speranza, è una possibilità piuttosto reale e ravvicinata nel tempo. 

 

Quindi osservando laicamente è una cosa di cui tenere conto perché potrebbe essere la cosa più significativa che abbiamo mai visto. 

Ad esempio cosa può scoprire della realtà? Questo mi incuriosisce molto.

 

Io non so come andrà a finire, non lo sa nessuno e chi dice di saperlo millanta. La cosa per me veramente preoccupante è la pochissima attenzione a livello politico e di opinione pubblica. 

È in questo che la ia può essere usata in modo estremamente pericoloso.

[audio2]

40 minuti fa, Idefix ha scritto:

Non comprendo tutto questo ottimismo.

qui in italia ci salveremo perchè tanto non funzionerà mai una mazza.

[gibraltar]

Io lo trovo terrificante.

Abbiamo ideato e creato, da quando siamo al mondo, tutto ciò che c'è di bello (l'arte, la scienza, la musica, lo sviluppo e via dicendo), ma anche tutto ciò che c'è di brutto (le guerre, l'inquinamento, l'impoverimento delle risorse e paesaggi naturali e di una gran massa della popolazione, l'estinzione di alcune specie animali e vegetali). Dunque una "superintelligenza" che avesse come scopo la protezione del pianeta, dubito che non arriverebbe molto presto all'idea che il primo "problema" da risolvere siamo noi, in quanto di intralcio...

Spero almeno di potermi godere la pensione, se non altro per qualche anno.

[Xabaras]

5 minuti fa, gibraltar ha scritto:

Dunque una "superintelligenza" che avesse come scopo la protezione del pianeta, dubito che non arriverebbe molto presto all'idea che il primo "problema" da risolvere siamo noi, in quanto di intralcio...

Questa è pura fantascienza. Creare una intelligenza con questo obiettivo senza includere la protezione e la salvaguardia del genere umano sarebbe da stupidi. E non credo che qualcuno lo farà. 

[Idefix]

11 minuti fa, Xabaras ha scritto:

Questa è pura fantascienza. Creare una intelligenza con questo obiettivo senza includere la protezione e la salvaguardia del genere umano sarebbe da stupidi. E non credo che qualcuno lo farà. 

Un eventuale coscienza/volontà del nuovo essere senziente si porrebbe domande oltre la protezione...

[ferrocsm]

1 ora fa, Idefix ha scritto:

Sarà un essere senziente che deciderà per conto suo, per l'utilità della sua "specie", dei suoi bisogni

Un interruttore semplice semplice 0-1 e non come la procedura troppo lenta che disattivò Hal perché le ultime generazioni di intelligenza artificiale magari non te lo permetterebbero dati i tempi lunghi tu pensi non sia possibile? 

[Idefix]

Si staccare la spina è una possibile soluzione, ma temo che non la prenderanno in considerazione nemmeno come piano B....

[gibraltar]

1 ora fa, Xabaras ha scritto:

senza includere la protezione

che, data la velocità elevatissima con la quale già adesso si sta sviluppando, sarebbe ben presto bypassata. 

Sembra fantascienza, ma...

[Xabaras]

6 minuti fa, gibraltar ha scritto:

che, data la velocità elevatissima con la quale già adesso si sta sviluppando, sarebbe ben presto bypassata.

E' una roba programmata da esseri umani. Deve agire su binari predefiniti. O si impongono limiti precisi. Se lo si fa in fase di progettazione e realizzazione queste cose sono vincolanti.