DwarfStar

[Mario Alexandro Santini]

Ciao,

spero vada tutto bene nonostante il caldo!

Non so se conoscete già questo progetto di Salvatore Sanfilippo (antirez):


https://github.com/antirez/ds4


Si chiama DwarfStar ed è un software che permette di eseguire un modello
LLM in locale anche senza avere tutta la RAM necessaria. Sfrutta la
possibilità di usare gli SSD.

Sta raccogliendo molto interesse nel settore.


Mario

[Tiziano Lattisi]

Sanfilippo (papà di Redis) è probabilmente il miglior dev in Italia (anche un discreto scrittore).
Ha una visione dei tempi moderni veramente notevole, e più di una volta ha anticipato letture del nostro mondo che poi si sono rivelate più che corrette.

Ds4 è un progetto molto interessante sono tanti aspetti aggiuntivi come la quantizzazione spinta a 2 bit e un uso sofisticato della KV cache.

Detto questo le macchine di riferimento che utilizza hanno i 128GB di memoria condivisa (in modo da poter dare 100GB alla GPU), come i MacBook Pro di fascia altissima, quindi scordiamoci 32GB di ram e un SSD, serve comunque un portafoglio capiente… :-D

Se invece vogliamo il PRO invece del FLASH (parlo sempre di deepseek, dwarfstar è un nome che è stato dato successivamente, all’inizio il progetto si chiamava semplicemente DS4 e richiamava appunto deepseek) andiamo di Mac Studio con 512GB.

Detto questo, fatevi un piacere e seguite Sanfilippo. E sotto l’ombrellone leggete Whope, che per essere stato scritto nel 2022 fa spavento…

Ciao!
T

> --
> Hai ricevuto questo messaggio perché sei iscritto al gruppo "Socraten" di Google Gruppi.
> Per annullare l'iscrizione a questo gruppo e non ricevere più le sue email, invia un'email a socraten+u...@googlegroups.com.
> Per visualizzare questa discussione, visita https://groups.google.com/d/msgid/socraten/70893c53-d426-433d-87c3-c2028fb78c92%40gmail.com.

[Mario Alexandro Santini]

On 6/19/26 09:20, 'Tiziano Lattisi' via Socraten wrote:

Detto questo le macchine di riferimento che utilizza hanno i 128GB di memoria condivisa (in modo da poter dare 100GB alla GPU), come i MacBook Pro di fascia altissima, quindi scordiamoci 32GB di ram e un SSD, serve comunque un portafoglio capiente… :-D

Ciao Tiziano,

già, avrei dovuto specificarlo. Il suo approccio è comunque interessante perché permette di avere prestazioni interessanti su una piattaforma più modesta di quanto sarebbe necessario.

Certo per chi volesse un agente AI tutto in casa, il costo sarebbe elevato.

Aggiungo che quasi tutto il codice del progetto, se non tutto, è stato scritto da AI. Sanfilippo ha abracciato completamente l'automazione dello sviluppo. Sostiene che lo sviluppatore deve dedicarsi a scrivere specifiche e valutare l'operato degli LLM. Certo ci sono punti in cui scrivere codice sarà ancora necessario, ma per la maggior parte no.

Detto questo, fatevi un piacere e seguite Sanfilippo. E sotto l’ombrellone leggete Whope, che per essere stato scritto nel 2022 fa spavento…

Lo seguo da un po'. Ha criticato l'interpretazione del pappagallo stocastico quando c'erano ancora ricercatori che ne erano convinti.

Segue l'evoluzione dei LLM da parecchio tempo, come dimostra il suo romanzo di fantascienza.

Wohpe l'ho letto un anno e mezzo fa e mi aveva impressionato per le previsioni e per la descrizione dei modelli. Fra l'altro, nel libro parlava anche di un enciclica papale sull'AI...

Uscito nel 2022!!

Lo ribadisco.

Ciao!
T 

Ciao,

Mario

[Marco Ciampa]

... che poi è inutile fare tante domande quando sappiamo che la risposta
definitiva è 42...

> Per visualizzare questa discussione, visita https://groups.google.com/d/msgid/socraten/A1422DB1-56C5-4C30-A2D3-06B349E47E20%40icloud.com.

--

Amike,
Marco Ciampa

[Tiziano Lattisi]

Ciao,

come scorre la vostra estate?

Voglio condividervi un breve video (50 secondi…) relativo ad un mio piccolo progetto estivo:

https://youtu.be/fMOvnEyTKd8

Si tratta di un harness (agenti+tools) che impara dai propri errori ed evolve. Nel video:

1. Parte da un harness minimale, con un solo agente con istruzione base (“Il tuo compito è di rispondere a user”) e senza tool

2. Alla domanda “Che ore sono?” non è (ovviamente) in grado di rispondere

3. L’utente si lamenta, e la pressione triggera il processo evolutivo

4. Come prima cosa l’AI prende il runrecord relativo alla risposta che ha disatteso le aspettative dell’utente, e gli associa una expectation (aka. Il rispondere correttamente con l’ora corrente)

5. Quindi costruisce un nuovo harness con istruzioni specifiche per l’utilizzo di un tool chiamato get_current_time, che ancora non esiste (ne crea un mock)

6. Chiede a Codex di implementare la funzione mockata

7. Compila il nuovo tool e lo integra nell’harness

8. A questo punto passa ai test: come prima cosa riesegue il runrecord sull’harness nuovo e verifica che l’expectation venga soddisfatta, sia come risposta finale che come profilo di esecuzione (in questo caso che il tool venga invocato e che la risposta sia della forma attesa)

9. Se ci sono altri test, relativi a passi evolutivi precedenti, li esegue per essere sicuro di non inserire regressioni

10. Se tutto passa promuove l’harness candidato

11. L’utente richiede “Che ore sono?” E ora l’AI invoca il tool e risponde

È tutto basato sulle funzioni di https://axiastudio.github.io/aioc/ spiegate qui:

https://axiastudio.github.io/aioc/tutorials/build-a-self-harness-workflow/

Ciao!

T

[Mario Alexandro Santini]

On 7/9/26 07:46, 'Tiziano Lattisi' via Socraten wrote:
> Ciao,
> come scorre la vostra estate?
>

Ciao Tiziano,

per ora è piuttosto calda. :)

Sembra un progetto interessante, quasi da una serata in cui ci spieghi
con una piccola demo... :D

Un bel progetto, complimenti davvero!


>
> Ciao!
> T


Mario

[Guido Brugnara]

Il 09/07/26 07:46, 'Tiziano Lattisi' via Socraten ha scritto:

Ciao,

come scorre la vostra estate?

Altalenante tra Cursor, rullo o pennello :-)

In entrambi i casi serve un po' di esperienza per far bene, ma l'estate è lunga;-)

Voglio condividervi un breve video (50 secondi…) relativo ad un mio piccolo progetto estivo:

https://youtu.be/fMOvnEyTKd8

Non nascondo la difficoltà che ho nel comprendere le miriadi di tool che proliferano attorno ai vari motori AI.

AIOC se ho ben capito separa i controlli di sicurezza dall'esecuzione trattando le risposte dell'AI come proposte da validare.

Spero di rivederti presto, se non ad una presentazione di AIOC ... almeno a mangiare una pizza.

ciao
Guido

--
Hai ricevuto questo messaggio perché sei iscritto al gruppo "Socraten" di Google Gruppi.
Per annullare l'iscrizione a questo gruppo e non ricevere più le sue email, invia un'email a socraten+u...@googlegroups.com.

Per visualizzare questa discussione, visita https://groups.google.com/d/msgid/socraten/EFCE38EA-260F-4704-B335-911C42637882%40icloud.com.

[Tiziano Lattisi]

> On 9 Jul 2026, at 21:09, Mario Alexandro Santini <alexm...@gmail.com> wrote:
>
>
> On 7/9/26 07:46, 'Tiziano Lattisi' via Socraten wrote:
>> Ciao,
>> come scorre la vostra estate?
>>
> Ciao Tiziano,
>
> per ora è piuttosto calda. :)

Taci guarda, tra l’altro nell’ufficio nuovo non ho l’aria condizionata...

>
>>
>> https://axiastudio.github.io/aioc/tutorials/build-a-self-harness-workflow/
>>
> Sembra un progetto interessante, quasi da una serata in cui ci spieghi con una piccola demo... :D
>
> Un bel progetto, complimenti davvero!

Grazie. Volentieri, se individuiamo un argomento che può essere di interesse ai più. E anche un posto fresco. :-D

Ciao!
T

[Tiziano Lattisi]

On 10 Jul 2026, at 06:56, 'Guido Brugnara' via Socraten <socr...@googlegroups.com> wrote:

Il 09/07/26 07:46, 'Tiziano Lattisi' via Socraten ha scritto:

Ciao,

come scorre la vostra estate?

Altalenante tra Cursor, rullo o pennello :-)

In entrambi i casi serve un po' di esperienza per far bene, ma l'estate è lunga;-)

Ho provato solo una volta a imbiancare una parete, e il risultato è stato disastroso in maniera imbarazzante. Decisamente sottovalutato il problema (o sopravvalutato me come soluzione).

Voglio condividervi un breve video (50 secondi…) relativo ad un mio piccolo progetto estivo:

https://youtu.be/fMOvnEyTKd8

Non nascondo la difficoltà che ho nel comprendere le miriadi di tool che proliferano attorno ai vari motori AI.

AIOC se ho ben capito separa i controlli di sicurezza dall'esecuzione trattando le risposte dell'AI come proposte da validare.

Spero di rivederti presto, se non ad una presentazione di AIOC ... almeno a mangiare una pizza.

ciao
Guido

Sì, hai compreso correttamente. In generale AIOC riporta più controllo nell’app anziché concentrarlo nell’harness, e uno degli aspetti sono le policy. In genere tutti gli harness hanno meccanismi autorizzativi ad esempio per l’esecuzione dei tool, quindi sbloccare un’esecuzione è un override grazie ad un permesso. In AIOC invece devono essere definite delle policy, che sono componenti lato app che devono girare e passare. Una policy “può” essere la verifica di un permesso concesso, ma è solo uno dei casi.

Questo a livello di audit ha una ricaduta significativa, perché non ci si limita a registrare che qualcuno ha dato un permesso, ma si può sapere esattamente quali erano le condizioni che non hanno (non) permesso di superare la policy.

Per pizza in compagnia sapere che sono sempre il primo! Se troviamo un argomento carino per fare una presentazione e discutere potrebbe essere simpatico.

In generale il self-harness è un tema affascinante. Non perché sia una cosa realmente sensata da fare, ma perché permette di esplorare varie dimensioni di ragionamento (biologia, etica…).

A presto!

T

[Guido Brugnara]

Il 10/07/26 09:15, 'Tiziano Lattisi' via Socraten ha scritto:

On 10 Jul 2026, at 06:56, 'Guido Brugnara' via Socraten <socr...@googlegroups.com> wrote:

Il 09/07/26 07:46, 'Tiziano Lattisi' via Socraten ha scritto:

Ciao,

come scorre la vostra estate?

Altalenante tra Cursor, rullo o pennello :-)

In entrambi i casi serve un po' di esperienza per far bene, ma l'estate è lunga;-)

Ho provato solo una volta a imbiancare una parete, e il risultato è stato disastroso in maniera imbarazzante. Decisamente sottovalutato il problema (o sopravvalutato me come soluzione).

==cut===

Con Cursor risparmio tempo ma non mi imbianca casa. L'imbianchino era costoso ... più di un informatico ... ergo il fai da te mi è sembrata la soluzione migliore.

Impara l'arte e mettila da parte ... potrebbe tornare utile anche in seguito ;-)

ciao ciao
Guido

[Tiziano Lattisi]

“Cursor non mi imbianca la casa” è una frase su cui riflettere.

--
Hai ricevuto questo messaggio perché sei iscritto al gruppo "Socraten" di Google Gruppi.
Per annullare l'iscrizione a questo gruppo e non ricevere più le sue email, invia un'email a socraten+u...@googlegroups.com.

Per visualizzare questa discussione, visita https://groups.google.com/d/msgid/socraten/9edff598-19fa-476b-be03-4db7b8a9acfe%40leader.it.

[Mario Alexandro Santini]

On 7/10/26 09:06, 'Tiziano Lattisi' via Socraten wrote:
> Grazie. Volentieri, se individuiamo un argomento che può essere di interesse ai più. E anche un posto fresco. :-D

So che giovedì prossimo c'è un incontro XPUG, ma potremmo organizzare un
ritrovo per la settimana successiva, a partire da lunedì 20 luglio.


Per ora possiamo pensare aperitivo + pizza o anche solo pizza.

Per il luogo, dipende dagli aderenti.

Sul ristorante si accettano suggerimenti.

Come orari proporrei dalle 18.30?


> Ciao!
> T
>

Mario

[Tiziano Lattisi]

Nella settimana di lunedì 20 luglio ci sono sempre, ad eccezione proprio di lunedì.

T

>
> On 10 Jul 2026, at 21:16, Mario Alexandro Santini <alexm...@gmail.com> wrote:
>
> 

> --
> Hai ricevuto questo messaggio perché sei iscritto al gruppo "Socraten" di Google Gruppi.
> Per annullare l'iscrizione a questo gruppo e non ricevere più le sue email, invia un'email a socraten+u...@googlegroups.com.

> Per visualizzare questa discussione, visita https://groups.google.com/d/msgid/socraten/e7973f87-f707-4c15-b31f-3a5065793b25%40gmail.com.

[Tiziano Lattisi]

Se vi interessa si potrebbe fare due chiacchiere su questo progetto:

Tocca l’argomento di questo post.

Anzi, di fatto è l’evoluzione in un progetto che serve proprio per ragionare sui temi dell’evoluzione automatica dell’AI.

Fatemi sapere se può interessare ad un paio di persone, che preparo qualcosa.

Buona domenica!

T

On 10 Jul 2026, at 10:31, 'Tiziano Lattisi' via Socraten <socr...@googlegroups.com> wrote:

“Cursor non mi imbianca la casa” è una frase su cui riflettere.

Per visualizzare questa discussione, visita https://groups.google.com/d/msgid/socraten/0044C5E4-20BA-49D6-8734-E993480AE74A%40icloud.com.

[Guido Brugnara]

La curiosità non mi manca, assai meno la capacità nel comprendere.

Se può essere di tuo interesse potresti proporre la talk congiuntamente con XPUG Trento che solitamente ha una platea di 15-20 persone di cui alcuni dei nostri ;-).

   https://www.linkedin.com/company/xpugtn/

Solitamente dopo le talk una metà cena assieme nelle vicinanze.

ciao
Guido

Il 12/07/26 12:08, 'Tiziano Lattisi' via Socraten ha scritto:

Per visualizzare questa discussione, visita https://groups.google.com/d/msgid/socraten/099E6649-2A6B-496E-9A75-F966646A6409%40icloud.com.

[Tiziano Lattisi]

Secondo me c’è molto da discutere in ambito AI al di fuori degli aspetti prettamente tecnici o da nerd.

La mia ricerca non è orientata a “produrre” qualcosa di utile e usabile, ma a esplorare in concreto cosa significherebbe dare all’AI anche le redini della propria evoluzione, e discuterne.

On 12 Jul 2026, at 15:02, 'Guido Brugnara' via Socraten <socr...@googlegroups.com> wrote:



La curiosità non mi manca, assai meno la capacità nel comprendere.

Se può essere di tuo interesse potresti proporre la talk congiuntamente con XPUG Trento che solitamente ha una platea di 15-20 persone di cui alcuni dei nostri ;-).

   https://www.linkedin.com/company/xpugtn/

Solitamente dopo le talk una metà cena assieme nelle vicinanze.

ciao
Guido

Il 12/07/26 12:08, 'Tiziano Lattisi' via Socraten ha scritto:

Se vi interessa si potrebbe fare due chiacchiere su questo progetto:

Per visualizzare questa discussione, visita https://groups.google.com/d/msgid/socraten/19413cd4-a805-4187-a15d-62021106b497%40leader.it.