AI ed estinzione del genere umano

[Mighty Quinn]

Una cosa è sicura, l'AI sarà presente sempre più in tutti i forum....ad esempio, chi ci assicura che @appecundria o magari @Dufaynon siano in realtà degli AI?

Da cosa lo possiamo capire?

 

[Velvet]

@FabioSabbatini  Il primo dall'andamento dei consumi nazionali di Sartù 

[Xabaras]

Allora, è ovvio che qualcuno si lasci influenzare facilmente da certe dichiarazioni perchè non conosce bene l'argomento. Il principale pericolo dell' IA è rappresentato dal suo progettista. Punto. Perchè quando si crea una tecnologia la si può tranquillamente progettare in modo che i suoi ambiti siano precisi e impedirle di sconfinare oltre. Se non si agisce in questo modo per interesse personale o per qualsiasi altro scopo, ripeto, non bisogna distruggere l'IA ma il progettista.

[loureediano]

Ma siamo tutti vecchietti, di che vi preoccupate 

[31canzoni]

L'estinzione non sarà completa qualcuno si salverà perchè immune dal pericolo intelligenza

[Idefix]

Però alla fine tanto scemo non mi pare, fa quel caxxo vuole...

[ferdydurke]

Potrebbe pure essere che l’AI abbia un codice morale più rigoroso di quello umano…visti gli esempi che ci ha dato l’umanità nei secoli non sarebbe nemmeno improbabile 

 

[Velvet]

Peccato però impari sempre e solo dall'uomo. Non è un Dio dotato di coscienza ma un ammasso di informazioni e capacità accumulate in quantità enormi.

[Idefix]

@Velvet Si vero

Dipende dai progettisti e da come la programmano

Ma sulla coscienza se non si trova una scrittura di programma "bloccante" non si può escludere un suo sviluppo anche studiando l'evoluzione della razza unana nei secoli. E tale sviluppo potrebbe essere imprevedibile.

D'altronde cosa è la coscienza in un uomo?

[Velvet]

Bisogna sempre prevedere un grande interruttore OFF, facilmente raggiungibile in caso d'emergenza.

Qualcuno aveva già immaginato qualcosa del genere con molta efficacia,  oltre 50 anni fa.

 

 

[briandinazareth]

2 minuti fa, Idefix ha scritto:

Dipende dai progettisti e da come la programmano

 

però nessuno la programma, questa è la difficoltà. 

la ia è ontologicamente una scatola nera costruita con l'apprendimento automatico (che sia supervisionato o no) tra input e output. 

è comunque possibile filtrarne gli esiti, come già evidente con chatgpt. 

il pericolo è che se in uno stato democratico si possono trovare accordi e limiti (sullo stile di asimov) uno squilibrato alla kim jon un potrebbe decidere di utilizzarla proprio in funzione militare o terroristica. 

 

[Xabaras]

2 minuti fa, briandinazareth ha scritto:

il pericolo è che se in uno stato democratico si possono trovare accordi e limiti (sullo stile di asimov) uno squilibrato alla kim jon un potrebbe decidere di utilizzarla proprio in funzione militare o terroristica. 

Ma questo pericolo c'è anche per l'atomica, le armi chimiche, la Juventus.. niente di nuovo.

[appecundria]

36 minuti fa, FabioSabbatini ha scritto:

chi ci assicura che @appecundria o magari @Dufaynon siano in realtà degli AI?

Per @Dufay non posso garantire, io sono disposto a sottopormi alla macchina della verità. Ad esempio, chiedimi se la Juve fa bene a tenere Allegri.

[briandinazareth]

5 minuti fa, Idefix ha scritto:

D'altronde cosa è la coscienza in un uomo?

 

tema complicatissimo, anche perché pare ormai abbastanza chiaro che non sia la coscienza che crea le nostre inibizioni, ad esempio verso la violenza, ma che rappresenti uno strumneto di narrazione coerente di una realtà incoerente. le decisioni importanti vengono prese altrove, nella parte inconscia.

insomma uno strumento evolutivo per l'utilizzo efficace della teoria della mente, programmazione a lungo termine e trasmissione culturale. questa parte non emergerebbe naturalmente da nessuna ia. 

invece è possibile, ma ancora non sperimentalmente evidente, che una struttura di pensiero sufficientemente complessa sviluppi, come caratteristica emergente, la consapevolezza della propria esistenza.

questa non sarebbe altro che l'inserimento nel complesso delle relazioni fra le cose (che accomuna il regno biologico ad una ia sufficientemente complessa), anche l'entità che elabora queste relazioni.

 

[Idefix]

@briandinazareth Si certo però è possibile fare in modo di "dirle": questa non si apre.

Il problema maggiore è certamente esisterà qualcuno che anche in buona fede non resisterà a darle pieni poteri.

E allora il passo è breve.

Sulla terra l'unico essere vivente che stermina e distrugge è 'l'uomo. 

Tutte le altre specie sono in un equilibrio dettato dalla natura. Ecco se ragionasse così potremmo ricavarne solo benefici ma temo non sarà così essendo stata costruita e messa a punto da noi.