Simulare il cervello umano finalmente si può

[Mighty Quinn]

Be' 

Basta leggere qui

https://arxiv.org/abs/2512.09502

 

Il nuovo supercomputer in Giappone verrà usato per simulare gli 80 miliardi di neuroni del cervello umano 

Finora al massimo si potrebbero simulare la miseria di 18 miliardi (Leonardo supercomputer, in Italia)

La cosa è piuttosto interessante 

In passato vari tentativi di mettere in rete i pc per arrivare a questi livelli sono falliti miseramente e hanno consumato qualche miliardo di euro 

Come tipico quando si vende fuffa scientifica ai politici 

Chissà che roba viene fuori adesso 

Ci sono parecchie interessanti innovazioni 

Non vedo motivo per non riuscirci 

Ma 

C'è un piccolo ma 

Nemmeno noi conosciamo  bene il connettoma del nostro cervello, che ovviamente non potrà essere simulato, quindi la vedo dura che possa uscire fuori qualcosa di sensato, di, diciamo, intelligente 

Comunque vale la pena di provare...forse 

Magari simuliamo un cervello umano con connessioni a casaccio, ci sarà da divertirsi...forse 

 

 

 

[Idefix]

Per alcuni ex ministro dell'Interno è facilissimo....

[PL-L1000]

 

''Simulare il cervello umano finalmente si può''

Il più è scegliere quello a cui ispirarsi...

 

[dec]

@Mighty Quinn

Magari mi sbaglio, vista la mia enciclopedica ignoranza, ma mi sembra come voler ricostruire Notre Dame conoscendo solo il numero complessivo dei mattoni, senza le istruzioni di montaggio.

Complicatuccio riuscirci.

[Mighty Quinn]

@dec ci vorrebbe uno che sa di computer science e almeno un po' anche di cosa è un cervello per dare un parere almeno un minimo ragionato 

I neural networks sono robetta ormai banale, vedi l' AI

Il problema principale è che il cervello ha neuroni specializzati che si occupano di certe cose e non di altre 

La novità qui è che si passa dal solito metodo del point to point communication a un nuovo metodo che chiamano collective communication (che roba sia in dettaglio non capisco bene)

Il sospetto che sia la solita sola da scienza megalomane e farlocca tipo quella che dice che ci sono 26 dimensioni, c' è.

Però prima di giungere a questa conclusione sarebbe carino capire un po' di più 

Ci sono anche interessanti implicazioni etiche: è etico creare una cosa che magari poi soffre?

Se soffre davvero potrebbe essere considerato un grande successo per certi versi, ma è etico?

Ma vedo che interessa più che altro cogliete loccasione per fare la battutina tanto spiritosa quanto telefonata

Non è il tuo caso che hai fatto un'analogia molto sensata

Vedremo se starà almeno in piedi sto mucchio di mattoni 

 

 

[Discopersempre2]

A me, tutto questo voler replicare quello che ci sia di umano, preoccupa molto.... poi sarò all' antica, ci sta'🙄.

[LeoCleo]

Appena torna dal Giappone, il nostro wikipardo ci spiegherà tutto nei dettagli: del resto il progetto è suo. Forse risponderà in ritardo perché deve prima lasciare due istruzioni alla NASA su come impostare il rientro di Artemis. 

[LUIGI64]

Forse qualcuno sosterrà che possano funzionare meglio di quelli umani, soprattutto ad aiutarci a vivere meglio, o prevenire conflitti e guerre...

😑

[Guru]

1 ora fa, LeoCleo ha scritto:

Appena torna dal Giappone, il nostro wikipardo ci spiegherà tutto nei dettagli: del resto il progetto è suo. Forse risponderà in ritardo perché deve prima lasciare due istruzioni alla NASA su come impostare il rientro di Artemis. 

Quando una persona ci dimostra, volente o nolente, quanto siamo ignoranti, Il problema non è suo.

[UpTo11]

11 ore fa, PL-L1000 ha scritto:

 

[UpTo11]

2 ore fa, Mighty Quinn ha scritto:

La novità qui è che si passa dal solito metodo del point to point communication a un nuovo metodo che chiamano collective communication (che roba sia in dettaglio non capisco bene)

Sono metodi per far comunicare processi diversi, per fargli scambiare dati, quindi informazioni.
Processo è il termine che indica (l'immagine in memoria di) un programma in esecuzione, pensa al browser dal quale leggi. La chiave dell'high performance computing è il calcolo parallelo. Per ridurre il tempo di calcolo si suddivide il lavoro tra tanti processi. Per farlo è necessario farli comunicare tra loro.

Un processo normalmente non ha contezza della presenza di altri processi in esecuzione, fondamentalmente è stagno, non ha la possibilità di comunicare con altri processi. Per poterlo fare deve o passare attraverso il sistema operativo, che mette a disposizione alcuni metodi (memoria condivisa, pipe, socket, ecc...), oppure utilizzare librerie ad hoc. In ambito HPC una delle più usate è MPI.

Point-to-point o collective sono 2 metodi diversi per scambiare dati tra processi. Nel primo la comunicazione è 1 a 1, un processo spedisce, un altro riceve. Nel collective è 1 a tutti (broadcast, scatter), tutti a 1 (gather, reduce) o tutti a tutti (allgather, allreduce). Qui "tutti" in realtà potrebbe anche indicare sottogruppi di tutti i processi, quindi si fanno comunicare tutti i processi appartenenti ad un sottogruppo.

Quale metodo sia meglio utilizzare dipende da cosa si vuole ottenere, dall'algoritmo. In linea di principio un programmatore potrebbe ottenere lo stesso risultato delle collective usando solo point-to-point, ma gli costerebbe un sacco di lavoro in più. Usare quelle messe a disposizione dalla libreria significa meno codice e tempo, meno possibilità di errori, ma soprattutto sfruttare le ottimizzazioni già presenti nella libreria. Quelle disponibili hanno la possibilità di scegliere in autonomia gli algoritmi più adatti in base alla quantità e topologia dei processi, e soprattutto in base all'hardware, in particolare la rete di interconnessione, perché le versioni commerciali sono sviluppate dai produttori di hardware.

Di per sé le collective non sono una novità, nel senso che nella libreria sono disponibili da sempre.

In questo lavoro, da quanto capisco, la novità consiste principalmente nel fatto che la fase di preparazione della rete neurale, o meglio della mappa locale (ad ogni processo) della rete di connessioni, non richiede comunicazione tra processi, quindi è molto più veloce. La comunicazione infatti ha sempre un overhead, quindi si cerca di ridurla al minimo indispensabile. Un ulteriore ottimizzazione è il fatto che tutto è contenuto nella memoria delle GPU, il che consente di sfruttarle al massimo. Portare dati dentro e fuori alla memoria della GPU è un fattore limitante. Hanno potuto farlo anche perché sono passati dalle V100 con 16GB alle A100 di Leonardo che ne hanno il quadruplo.

[Mighty Quinn]

@UpTo11

Grazie per la bellissima spiegazione e il tempo dedicato, molto utile.

[Plot]

Toh, un topic intelligente.

E chi lo avrebbe mai detto.

[eduardo]

@UpTo11 Sebbene abbia riletto due volte,  non ho capito niente.

Ma la colpa non e'  certo tua,  sono io che ho una formazione agli antipodi.

Ti do pero' con molto piacere un melius per il tuo impegno, per la fiducia che sento di poterti dare, e perche'  mi sei molto simpatico. 

[Mighty Quinn]

@UpTo11

Provo a chiedere, magari seguivi la cosa:

Perché il sistema di mettere in rete tanti computer ha fallito?

Un miliardo e mezzo di dollari e niente di concreto 

In teoria non si dovrebbe poter realizzare una neural network anche superiore a 80 miliardi?

Cosa non ha funzionato?

E perché adesso dovrebbe funzionare?

6 ore fa, UpTo11 ha scritto:

la fase di preparazione della rete neurale,

Per caso puoi elaborare un pochino di più?

In cosa consiste?

Grazie