Mozilla ha rilasciato Llamafile 0.10, aggiornando il suo progetto dedicato alla distribuzione e all’esecuzione semplificata di modelli linguistici di grandi dimensioni.
Llamafile è pensato per offrire un’esperienza cross‑platform, con un singolo file eseguibile che racchiude tutto il necessario per avviare un LLM su sistemi diversi e con hardware eterogeneo. L’obiettivo è rendere l’intelligenza artificiale più accessibile, sia per sviluppatori che per utenti finali.
La nuova versione introduce un sistema di build completamente rinnovato, nuove modalità di utilizzo e un’integrazione più profonda con progetti chiave come Whisper.cpp (per il riconoscimento vocale) e Stable Diffusion (per la generazione di immagini), entrambi ora inclusi come sub‑moduli. Il supporto ai sistemi BSD è stato migliorato, ampliando ulteriormente la compatibilità.
Llamafile 0.10 aggiunge una modalità ibrida che combina interfaccia testuale e server, una modalità CLI per domande singole, un sistema di logging più dettagliato e una gestione degli argomenti più robusta. È stato introdotto anche l’argomento --image per specificare immagini, aprendo la strada a interazioni multimodali.
Sul fronte GPU, il supporto Metal su macOS è ora funzionante out‑of‑the‑box, mentre quello per NVIDIA CUDA è stato ripristinato, rendendo Llamafile più efficiente su sistemi con accelerazione hardware.
Dopo mesi di silenzio, questo aggiornamento conferma che Mozilla non ha abbandonato il progetto, ma lo sta evolvendo con attenzione. Llamafile si propone come uno strumento versatile per chi vuole sperimentare con LLM senza dipendere da ambienti cloud o configurazioni complesse.
