Deepseek R1 In locale (thread tecnico)

[Roberto M]

Questo vuole essere un thread solo tecnico.

Ho installato e provato in meno di un'ora Deepseek sul mio Mac Intel, ed è molto veloce anche su una piattaforma non proprio al top (non usa la Nvidia ma una modesta Radeon 6900xt).

Quindi bypassando i cinesi e i loro server, installazione locale senza condivisione di dati sensibili e senza censura.

L'installazione è semplicissima, si scarica Ollada per Mac e dal terminale si fa partire la linea di comando che appare sul terminale, poi basta semplicemente copiare incollare la versione R1, che va da 1.5 (la più piccola) a 70 (la più grande). Io ho usato la 8.

Poi ho scaricato ChatbotAI e l'ho settato su Ollada API e ho cominciato ad usarlo.

Devo dire che funziona molto bene, in locale (quindi senza condividere i dati e le ricerche con i cinesi), gli ho fatto una domanda abbastanza tosta, da programmatori proprio (ovviamente fuori dalla mia portata), modificare uno script di un videogioco per far muovere quando parte l'animazione gli oggetti da xyz a xyz in maniera fluida e non instantanea e lui prima ha analizzato il linguaggio di programmazione di quel videogioco (gli ho passato il link) e poi ha pensato, analizzato il problema passo passo, formulato ipotesi di script spiegando perchè li faceva così, la "logica" seguita.

Alla fine ha fatto pure un resoconto dei Token, tutto molto veloce ed il computer non ha mai segnalato una temperatura superiore a 73 gradi, nonostante avessi altri due programmi energivori aperti.

Poi devo vedere se funziona.

 

 

[appecundria]

36 minuti fa, Roberto M ha scritto:

senza condivisione di dati sensibili e senza censura.

È stato sufficiente dirtelo soltanto 49 volte 😅

[Peuceta]

@Roberto M E tu pensi che quello che penserà o scriverà la tua bestiolina non sia frutto dell'intelligenza umana????

Probabilmente sarà più veloce nel caso ci sia una possibilità di risolvere il problema.

In ogni caso facci sapere

[appecundria]

Quando "ragiona ad alta voce" è divertentissima.

[Roberto M]

1 minuto fa, appecundria ha scritto:

"ragiona ad alta voce" è divertentissima

Fa proprio così !

thinking e comincia con uhm.

[Roberto M]

9 minuti fa, Peuceta ha scritto:

E tu pensi che quello che penserà o scriverà la tua bestiolina non sia frutto dell'intelligenza umana????

Probabilmente sarà più veloce nel caso ci sia una possibilità di risolvere il problema.

In ogni caso facci sapere

La cosa incredibile è che scrive i programmi nel loro linguaggio partendo da un prompt testuale !!

Se dovesse riuscire a fare pure i template e le azioni automatiche dei programmi in uso come Photoshop, Word, Excell, Wordpress sarebbe pazzesco.

 

[Roberto M]

Purtroppo la versione più potente, la V3, credo che sia fuori portata della maggior parte dei nostri computer ed inoltre installarla non è per niente semplice, li ci vuole un informatico che te la installa.

 

[UpTo11]

1 ora fa, Roberto M ha scritto:

li ci vuole un informatico che te la installa.

Accetto offerte.

[Roberto M]

@UpTo11

Una curiosità, che hardware ci vuole per mettere il V3 ?

In rete ho letto notizie contrastanti, c’è chi parla addirittura di Nvidia A100, ovviamente fuori portata, poi non ho capito che significa versione “distilled” meno famelica di potenza.

Per arrivare alle versioni 32 o addirittura 70 che della R1 che hardware ci vuole ?

 

[simpson]

10 ore fa, Roberto M ha scritto:

Questo vuole essere un thread solo tecnico.

Ho installato e provato in meno di un'ora Deepseek sul mio Mac Intel, …… gli ho fatto una domanda abbastanza tosta, da programmatore ……. modificare uno script di un videogioco per far muovere quando parte l'animazione gli oggetti da xyz a xyz in maniera fluida e non instantanea ……

Ah, capito, tu non hai fatto un c, ha fatto tutto Riccardo 😁

[UpTo11]

Pagare moneta, vedere cammello.

[UpTo11]

Non ho idea delle risorse necessarie, dovrei guardarci.

Se uno non le ha può affittarle.

 

[Panurge]

Le risorse che affitti costano sempre meno di quelle che spos..  volevo dire compri.

[Roberto M]

Qualcuno mi spiega con parole semplici che cosa è la "distillazione" di DeepSeek ?

[UpTo11]

1 ora fa, Roberto M ha scritto:

Qualcuno mi spiega con parole semplici che cosa è la "distillazione" di DeepSeek ?

Grappa cinese.

.

Chiedi all'AI, chi meglio di lei.