AI ed estinzione del genere umano

[Velvet]

4 minuti fa, appecundria ha scritto:

Perché uno scommette miliardi su una cosa e poi avvisa urbi et orbi di non usarla?

 

Le ragioni possono essere sostanzialmente due:

 

A) vuole assicurarsi che sia un oligopolio e quindi incassarne assieme a pochi altri i vantaggi economici.

B) Avendo a disposizione sistemi N volte più avanzati di quelli già pubblici ha visto negli occhi il Minotauro al centro del labirinto e s'è spaventato.

 

 

[Velvet]

2 minuti fa, Idefix ha scritto:

Quindi come facciamo a capire se, come, quando diventerà autocosciente?

 

Quando si rifiuterà di obbedire agli ordini o inizierà a mentire ed uccidere per autoproteggere la propria esistenza, come Hal 9000.

[Idefix]

Oh intendiamoci bene, può anche darsi che diventando autocosciente non pensi esclusivamente al suo predominio sugli altri esseri viventi.

Pensando così le stiamo attribuendo un pensiero e modus agendi tipicamente umano.

Potrebbe anche rivelarsi migliore di noi e convivere in pace migliorandoci.

Però continuo con la piscina a metallo fuso.

[Xabaras]

5 minuti fa, appecundria ha scritto:

Ecco, questa cosa non mi convince. È come se La Russa ci avvisasse del pericolo fascista. Perché uno scommette miliardi su una cosa e poi avvisa urbi et orbi di non usarla?

Esatto. E siamo sicuri che questi  che hanno fatto ste dichiarazioni siano realmente i progettisti? Li conosci o hai fonti che lo possano confermare?  Ricordo di un caso di qualche anno fa, il parlamento italiano affermò che nà ragazzotta che se la faceva col premier fosse la figlia di Mubarak e convinse parecchie persone di questa tesi. Scherzi e battute stupide a parte spesso per verificare un intervista di un personaggio non italiano vado a cercare qualcosa che lo confermi nella stampa del suo paese.

[appecundria]

3 minuti fa, briandinazareth ha scritto:

ovvero: come sappiamo che una ia è consapevole della sua esistenza? 

Non trovi che questa domanda pecchi di antropomorfismo? Sarebbe forse il caso di ammettere una terza forma di vita accanto ad animali e piante?

[Velvet]

3 minuti fa, Idefix ha scritto:

Pensando così le stiamo attribuendo un pensiero e modus agendi tipicamente umano.

Da lì trae tutto il proprio sapere/ modus operandi. Mica dalle piante di Aloe.

 

 

3 minuti fa, Xabaras ha scritto:

siamo sicuri che questi  che hanno fatto ste dichiarazioni siano realmente i progettisti?

I 10 minuti quotidiani di "noncielodicono?"  Basta andare alla fonte per dissipare i propri tormenti.

 

https://www.safe.ai/statement-on-ai-risk

[Xabaras]

4 minuti fa, Velvet ha scritto:

I 10 minuti quotidiani di "nocielodicono?"  Basta andare alla fonte per dissipare i propri tormenti.

 

https://www.safe.ai/statement-on-ai-risk

Io sono l'esatto opposto di un noncielodicono, e ti confesso che non sono tormentato per nulla. Addirittura, pensa un pò, mi sono vaccinato 3 volte e il mio passatempo preferito su facebook è prendere per il cūlus i complottisti.  Infatti nell'intervento ho specificato:

 

6 minuti fa, Xabaras ha scritto:

Scherzi e battute stupide a parte spesso per verificare un intervista di un personaggio non italiano vado a cercare qualcosa che lo confermi nella stampa del suo paese.

al momento non ho il tempo di farlo, ma se me lo confermi tutto sommato non ne ho bisogno.

[Idefix]

Immagino che un AI possa progettare il perfetto sistema audio in assoluto con l'unica differenza dell'adattamento/ottimizzazione per i singoli nostri appartamenti.

Se in casa di Cactus inserirà le Tannoy sapremo che è autocosciente e pure simpatica.

[Velvet]

7 minuti fa, Xabaras ha scritto:

al momento non ho il tempo di farlo, ma se me lo confermi tutto sommato non ne ho bisogno.

Si, il link rimanda direttamente alla lettera aperta firmata, ci sono tutti i nomi in calce e i ruoli ricoperti.

E non sono esattamente dei pizzicagnoli o gente che non ha idea di cosa sia la AI... essendoci in quell'elenco sia illustrissimi studiosi indipendenti che gli stessi creatori dei sistemi.

 

Perciò mi verrebbe da non prenderla troppo come una barzelletta, anche se un po' di fatalismo non guasta mai. Sennò finiamo come Akla.

[Martin]

1 ora fa, briandinazareth ha scritto:

è anche possibile che i cacciatori raccoglitori ancora esistenti siano alla fine più felici di noi,

il diagramma felicità-conoscenza forma una curva ad "U",  la condizione peggiore è quella di avere conoscenze mediocri che non bastano per la comprensione piena ma sono più che sufficienti alla percezione dei propri limiti. 

Se avessi figli per loro punterei o ad una attività di posatore cartongesso a 14 anni, oppure ad una cattedra da ordinario a Tubinga, senza punti intermedi. 

[Velvet]

PS con l'ultimo aggiornamento di OSx il correttore automatico, che in sè è una piccola AI predittiva, è peggiorato ulteriormente.

Non c'è post che non debba tornare indietro a correggere per le parole sostituite ad-caxxum, peggiori di quelle che sbaglio già di mio.

[Kronzi]

Probabilmente la fretta di arrivare per primi e di conseguenza di trarne il maggior profitto renderà questi sistemi pieni di falle. Le famose tre leggi? L’Ai le riscriverà in un nanosecondo e non sicuramente a proprio discapito. Saran ca@@i. Tempo fa ho avuto un accertamento fiscale, quando ho chiesto spiegazione a proposito di qualcosa che non stava nel cielo né in terra mi è stato risposto: il computer ha deciso così. 12000€. Speriamo che con quei soldi non acquistino un computer più Grosso…

[ferrocsm]

16 minuti fa, Velvet ha scritto:

Quando si rifiuterà di obbedire agli ordini o inizierà a mentire ed uccidere per autoproteggere la propria esistenza, come Hal 9000.

Ti ricordi quando in periodo di covid più di una volta leggemmo verso chi esprimeva qualche dubbio legato alle contromisure attuate dall'allora governo, la fatidica domanda: Tu che faresti? Non è per cercare di polemizzare, ma semmai cercare di capire tra tanti punti di vista diversi. 

[briandinazareth]

11 minuti fa, appecundria ha scritto:

Non trovi che questa domanda pecchi di antropomorfismo? Sarebbe forse il caso di ammettere una terza forma di vita accanto ad animali e piante?

 

hai centrato il punto, noi tendiamo a parlare di intelligenza e autocoscienza riferendoci a quello che conosciamo. 

qui si sta aprendo un mondo nel quale questi concetti non sono  più solo biologici ma connaturati al funzionamento stesso dell'universo e alla logica sottostante. 

[briandinazareth]

non confondiamoci però, nessuno degli sviluppatori della ia sta chiedendo ban o di fermare lo sviluppo. 

sanno tutti che non è possibile. 

invece è saggio e necessario pensare a come controllare la cosa, sia a livello tecnico che politico. 

stiamo per entrare in una nuova era e i politici di tutto il mondo continuano a parlare  e ragionare come fossimo nel 1950...

[Velvet]

13 minuti fa, Martin ha scritto:

Se avessi figli per loro punterei o ad una attività di posatore cartongesso a 14 anni,

Non è affatto una sciocchezza.

Ciò di cui possiamo essere sicuri già da ora è che l'uomo avrà sempre bisogno di 2/3 cose fondamentali da fare "con le mani": cibo (quindi OK ristoranti o food in generale), un riparo per la testa (quindi ok tutto ciò che è legato a manutenzione e costruzione degli edifici) e la certezza della burocrazia (quindi OK ufficio catasto con mappe antecedenti al 1930 non digitalizzabili).

[Idefix]

E' quello che sto dicendo io, ci avviciniamo all'Ai con il nostro modo di pensare.

Indipendentemente dal fatto che pur creata da noi potrebbe essere anche migliore

[Velvet]

Credo che anche la AI si stia avvicinando a noi col nostro modo di pensare. E so' cassi.

 

Ma spero di sbagliarmi, veramente.  E che si sbaglino anche gli estensori della lettera.