AI ed estinzione del genere umano

[Xabaras]

4 minuti fa, Velvet ha scritto:

I 10 minuti quotidiani di "nocielodicono?"  Basta andare alla fonte per dissipare i propri tormenti.

 

https://www.safe.ai/statement-on-ai-risk

Io sono l'esatto opposto di un noncielodicono, e ti confesso che non sono tormentato per nulla. Addirittura, pensa un pò, mi sono vaccinato 3 volte e il mio passatempo preferito su facebook è prendere per il cūlus i complottisti.  Infatti nell'intervento ho specificato:

 

6 minuti fa, Xabaras ha scritto:

Scherzi e battute stupide a parte spesso per verificare un intervista di un personaggio non italiano vado a cercare qualcosa che lo confermi nella stampa del suo paese.

al momento non ho il tempo di farlo, ma se me lo confermi tutto sommato non ne ho bisogno.

[Idefix]

Immagino che un AI possa progettare il perfetto sistema audio in assoluto con l'unica differenza dell'adattamento/ottimizzazione per i singoli nostri appartamenti.

Se in casa di Cactus inserirà le Tannoy sapremo che è autocosciente e pure simpatica.

[Velvet]

7 minuti fa, Xabaras ha scritto:

al momento non ho il tempo di farlo, ma se me lo confermi tutto sommato non ne ho bisogno.

Si, il link rimanda direttamente alla lettera aperta firmata, ci sono tutti i nomi in calce e i ruoli ricoperti.

E non sono esattamente dei pizzicagnoli o gente che non ha idea di cosa sia la AI... essendoci in quell'elenco sia illustrissimi studiosi indipendenti che gli stessi creatori dei sistemi.

 

Perciò mi verrebbe da non prenderla troppo come una barzelletta, anche se un po' di fatalismo non guasta mai. Sennò finiamo come Akla.

[Martin]

1 ora fa, briandinazareth ha scritto:

è anche possibile che i cacciatori raccoglitori ancora esistenti siano alla fine più felici di noi,

il diagramma felicità-conoscenza forma una curva ad "U",  la condizione peggiore è quella di avere conoscenze mediocri che non bastano per la comprensione piena ma sono più che sufficienti alla percezione dei propri limiti. 

Se avessi figli per loro punterei o ad una attività di posatore cartongesso a 14 anni, oppure ad una cattedra da ordinario a Tubinga, senza punti intermedi. 

[Velvet]

PS con l'ultimo aggiornamento di OSx il correttore automatico, che in sè è una piccola AI predittiva, è peggiorato ulteriormente.

Non c'è post che non debba tornare indietro a correggere per le parole sostituite ad-caxxum, peggiori di quelle che sbaglio già di mio.

[Kronzi]

Probabilmente la fretta di arrivare per primi e di conseguenza di trarne il maggior profitto renderà questi sistemi pieni di falle. Le famose tre leggi? L’Ai le riscriverà in un nanosecondo e non sicuramente a proprio discapito. Saran ca@@i. Tempo fa ho avuto un accertamento fiscale, quando ho chiesto spiegazione a proposito di qualcosa che non stava nel cielo né in terra mi è stato risposto: il computer ha deciso così. 12000€. Speriamo che con quei soldi non acquistino un computer più Grosso…

[ferrocsm]

16 minuti fa, Velvet ha scritto:

Quando si rifiuterà di obbedire agli ordini o inizierà a mentire ed uccidere per autoproteggere la propria esistenza, come Hal 9000.

Ti ricordi quando in periodo di covid più di una volta leggemmo verso chi esprimeva qualche dubbio legato alle contromisure attuate dall'allora governo, la fatidica domanda: Tu che faresti? Non è per cercare di polemizzare, ma semmai cercare di capire tra tanti punti di vista diversi. 

[briandinazareth]

11 minuti fa, appecundria ha scritto:

Non trovi che questa domanda pecchi di antropomorfismo? Sarebbe forse il caso di ammettere una terza forma di vita accanto ad animali e piante?

 

hai centrato il punto, noi tendiamo a parlare di intelligenza e autocoscienza riferendoci a quello che conosciamo. 

qui si sta aprendo un mondo nel quale questi concetti non sono  più solo biologici ma connaturati al funzionamento stesso dell'universo e alla logica sottostante. 

[briandinazareth]

non confondiamoci però, nessuno degli sviluppatori della ia sta chiedendo ban o di fermare lo sviluppo. 

sanno tutti che non è possibile. 

invece è saggio e necessario pensare a come controllare la cosa, sia a livello tecnico che politico. 

stiamo per entrare in una nuova era e i politici di tutto il mondo continuano a parlare  e ragionare come fossimo nel 1950...

[Velvet]

13 minuti fa, Martin ha scritto:

Se avessi figli per loro punterei o ad una attività di posatore cartongesso a 14 anni,

Non è affatto una sciocchezza.

Ciò di cui possiamo essere sicuri già da ora è che l'uomo avrà sempre bisogno di 2/3 cose fondamentali da fare "con le mani": cibo (quindi OK ristoranti o food in generale), un riparo per la testa (quindi ok tutto ciò che è legato a manutenzione e costruzione degli edifici) e la certezza della burocrazia (quindi OK ufficio catasto con mappe antecedenti al 1930 non digitalizzabili).

[Idefix]

E' quello che sto dicendo io, ci avviciniamo all'Ai con il nostro modo di pensare.

Indipendentemente dal fatto che pur creata da noi potrebbe essere anche migliore

[Velvet]

Credo che anche la AI si stia avvicinando a noi col nostro modo di pensare. E so' cassi.

 

Ma spero di sbagliarmi, veramente.  E che si sbaglino anche gli estensori della lettera.

[briandinazareth]

una delle cose più interessanti della ia è che funziona incredibilmente meglio di quanto qualunque scienziato prevedesse. 

non solo, le ia sviluppate per fare una cosa specifica sono molto capaci in campi totalmente diversi, anche qui con grande sorpresa di chi le sviluppa.

non si sa esattamente perché, nessuno è in grado di leggere e interpretare la scatola nera della ia. 

quello che sappiamo è che le reti neurali e il loro funzionamento probabilistico e non strettamente deterministico, hanno qualcosa di molto aderente alla realtà e a come è fatto l'universo.

 

[Idefix]

1 minuto fa, briandinazareth ha scritto:

sono molto capaci in campi totalmente diversi,

Appunto....

[Velvet]

@briandinazareth Gli scienziati si sono anche stupiti del fatto che la AI racconti balle o "inventi" risposte sempre differenti al medesimo quesito cui non sa rispondere.

In questo è molto vicina al forumer medio, perciò ci rallegra e ci fa sentire meno soli.