AI ed estinzione del genere umano

[ferdydurke]

Potrebbe pure essere che l’AI abbia un codice morale più rigoroso di quello umano…visti gli esempi che ci ha dato l’umanità nei secoli non sarebbe nemmeno improbabile 

 

[Velvet]

Peccato però impari sempre e solo dall'uomo. Non è un Dio dotato di coscienza ma un ammasso di informazioni e capacità accumulate in quantità enormi.

[Idefix]

@Velvet Si vero

Dipende dai progettisti e da come la programmano

Ma sulla coscienza se non si trova una scrittura di programma "bloccante" non si può escludere un suo sviluppo anche studiando l'evoluzione della razza unana nei secoli. E tale sviluppo potrebbe essere imprevedibile.

D'altronde cosa è la coscienza in un uomo?

[Velvet]

Bisogna sempre prevedere un grande interruttore OFF, facilmente raggiungibile in caso d'emergenza.

Qualcuno aveva già immaginato qualcosa del genere con molta efficacia,  oltre 50 anni fa.

 

 

[briandinazareth]

2 minuti fa, Idefix ha scritto:

Dipende dai progettisti e da come la programmano

 

però nessuno la programma, questa è la difficoltà. 

la ia è ontologicamente una scatola nera costruita con l'apprendimento automatico (che sia supervisionato o no) tra input e output. 

è comunque possibile filtrarne gli esiti, come già evidente con chatgpt. 

il pericolo è che se in uno stato democratico si possono trovare accordi e limiti (sullo stile di asimov) uno squilibrato alla kim jon un potrebbe decidere di utilizzarla proprio in funzione militare o terroristica. 

 

[Xabaras]

2 minuti fa, briandinazareth ha scritto:

il pericolo è che se in uno stato democratico si possono trovare accordi e limiti (sullo stile di asimov) uno squilibrato alla kim jon un potrebbe decidere di utilizzarla proprio in funzione militare o terroristica. 

Ma questo pericolo c'è anche per l'atomica, le armi chimiche, la Juventus.. niente di nuovo.

[appecundria]

36 minuti fa, FabioSabbatini ha scritto:

chi ci assicura che @appecundria o magari @Dufaynon siano in realtà degli AI?

Per @Dufay non posso garantire, io sono disposto a sottopormi alla macchina della verità. Ad esempio, chiedimi se la Juve fa bene a tenere Allegri.

[briandinazareth]

5 minuti fa, Idefix ha scritto:

D'altronde cosa è la coscienza in un uomo?

 

tema complicatissimo, anche perché pare ormai abbastanza chiaro che non sia la coscienza che crea le nostre inibizioni, ad esempio verso la violenza, ma che rappresenti uno strumneto di narrazione coerente di una realtà incoerente. le decisioni importanti vengono prese altrove, nella parte inconscia.

insomma uno strumento evolutivo per l'utilizzo efficace della teoria della mente, programmazione a lungo termine e trasmissione culturale. questa parte non emergerebbe naturalmente da nessuna ia. 

invece è possibile, ma ancora non sperimentalmente evidente, che una struttura di pensiero sufficientemente complessa sviluppi, come caratteristica emergente, la consapevolezza della propria esistenza.

questa non sarebbe altro che l'inserimento nel complesso delle relazioni fra le cose (che accomuna il regno biologico ad una ia sufficientemente complessa), anche l'entità che elabora queste relazioni.

 

[Idefix]

@briandinazareth Si certo però è possibile fare in modo di "dirle": questa non si apre.

Il problema maggiore è certamente esisterà qualcuno che anche in buona fede non resisterà a darle pieni poteri.

E allora il passo è breve.

Sulla terra l'unico essere vivente che stermina e distrugge è 'l'uomo. 

Tutte le altre specie sono in un equilibrio dettato dalla natura. Ecco se ragionasse così potremmo ricavarne solo benefici ma temo non sarà così essendo stata costruita e messa a punto da noi.

[appecundria]

1 ora fa, FabioSabbatini ha scritto:

La parte più divertente sarà la polizia preditiva. 

Cioè verrete arrestati prima di commettere reato.

Chi se ne frega, patteggeremo.

[briandinazareth]

Adesso, Idefix ha scritto:

Sulla terra l'unico essere vivente che stermina e distrugge è 'l'uomo. 

Tutte le altre specie sono in un equilibrio dettato dalla natura.

 

perdonami ma questo non è assolutamente vero, non esiste questo equlibrio e non è mai esistito. 

tanto che, prima dell'arrivo dell'uomo, oltre il 95% delle specie si è estinto per le più varie ragioni. 

gli esseri viventi sterminano quanto serve e quanto possono, non c'è nessuna etica o morale nella natura.

[Idefix]

Adesso, briandinazareth ha scritto:

invece è possibile, ma ancora non sperimentalmente evidente, che una struttura di pensiero sufficientemente complessa sviluppi, come caratteristica emergente, la consapevolezza della propria esistenza.

questa non sarebbe altro che l'inserimento nel complesso delle relazioni fra le cose (che accomuna il regno biologico ad una ia sufficientemente complessa), anche l'entità che elabora queste relazioni

Accettando per corretto questo, l'autocoscienza di AI è solo questione di tempo (e non tempo umano...corre nell'apprendimento per ovvie ragioni di sempre crescente potenza)

[Idefix]

@briandinazareth sostituisci a natura AI

[briandinazareth]

Adesso, Idefix ha scritto:

Accettando per corretto questo, l'autocoscienza di AI è solo questione di tempo (e non tempo umano...corre nell'apprendimento per ovvie ragioni di sempre crescente potenza)

 

si, considerando l'incredibile velocità di sviluppo della ia, avremo questa risposta in tempi abbastanza rapidi. 

ma qui nasce un'altra questione, prettamente filosofica e metafisica. 

ovvero: come sappiamo che una ia è consapevole della sua esistenza? 

[Velvet]

@Idefix E' un tema affasciante quello dell'autocoscienza delle macchine ma temo quasi ai confini dell'insondabile come l'origine dell'universo.

La filosofia si interroga già da decenni sulle relazioni fra religione (il punto ultimo che l'uomo ha inventato per non impazzire in cerca di risposte) e pensiero artificiale.

[Idefix]

2 minuti fa, briandinazareth ha scritto:

tanto che, prima dell'arrivo dell'uomo, oltre il 95% delle specie si è estinto per le più varie ragioni.

Ma non per volontà della specie antagonista.

Leggi equilibrio naturale? Dio?

 

[appecundria]

2 ore fa, Velvet ha scritto:

preoccuparsi un filo considerate le parole dei suoi creatori.

Ecco, questa cosa non mi convince. È come se La Russa ci avvisasse del pericolo fascista. Perché uno scommette miliardi su una cosa e poi avvisa urbi et orbi di non usarla?

[Idefix]

2 minuti fa, briandinazareth ha scritto:

ovvero: come sappiamo che una ia è consapevole della sua esistenza? 

 

1 minuto fa, Velvet ha scritto:

E' un tema affasciante quello dell'autocoscienza delle macchine ma temo quasi ai confini dell'insondabile come l'origine dell'univarso.

La filosofia si interroga già da decenni sulle relazioni fra religione (il punto ultimo che l'uomo ha inventato per non impazzire in cerca di risposte) e pensiero artificiale

Quindi come facciamo a capire se, come, quando diventerà autocosciente?