RAMDeck: il nuovo hub per potenziare la RAM di più dispositivi in crowdfunding

RAMDeck, un hub a basso consumo energetico, è attualmente in crowdfunding su Indiegogo con un’offerta early-bird a 109 dollari. La campagna, che ha un obiettivo di finanziamento di 10.000 dollari, terminerà l’8 novembre 2026. Questo dispositivo innovativo è progettato per aggregare la memoria RAM presente in PC Windows, Mac, Linux e telefoni Android all’interno di una rete domestica, consentendo di eseguire modelli di intelligenza artificiale che sarebbero troppo grandi per un singolo dispositivo.

Il progetto si inserisce in un contesto di forte aumento dei prezzi della memoria DDR5, che ha visto i costi salire a livelli cinque volte superiori rispetto a metà 2025. A differenza di altri sistemi, RAMDeck non fonde la memoria a livello hardware: i pesi di un modello vengono distribuiti tra i vari dispositivi, ognuno dei quali mantiene la propria porzione di RAM locale e trasferisce solo i risultati intermedi via rete durante la generazione dei token.

L’infrastruttura software di RAMDeck si basa sull’RPC di llama.cpp. Un nodo agente avvia il server ggml RPC su ogni dispositivo partecipante, mentre il coordinamento avviene tramite il protocollo standard di llama.cpp. Un elemento chiave del progetto è l’orchestrazione fornita da TradeMAV, che include la scoperta automatica dei nodi, il posizionamento dei layer privilegiando GPU più veloci rispetto alla RAM di sistema più lenta, la gestione dei guasti e una dashboard con un’API compatibile con OpenAI.

Le specifiche hardware del hub non sono state rese pubbliche, e non sono stati forniti dettagli su processore, memoria, porte e consumo energetico. Tuttavia, la documentazione suggerisce che gli utenti esperti di script da terminale possono seguire una soluzione fai-da-te gratuita. Esistono già alternative software operative per il pooling e l’orchestrazione su dispositivi eterogenei, mentre sul mercato commerciale sono disponibili soluzioni di clustering ad alte prestazioni che utilizzano interconnessioni come Thunderbolt 5 con RDMA.

TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità, raccomandando l’acquisto di GPU con maggiore VRAM per chi cerca prestazioni elevate. I benchmark pubblicati mostrano che le configurazioni più veloci utilizzano un mini PC con RTX 3060 e modelli mixture-of-experts, raggiungendo circa 39 token al secondo per Qwen3-Coder 30B su una coppia di Beelink mini PC e Mac mini M4. Al contrario, i modelli più densi presentano prestazioni significativamente inferiori: un modello 27B ha ottenuto solo 1,92 token al secondo su quattro dispositivi, mentre un modello 120B su cinque macchine ha impiegato circa sette minuti per l’inizializzazione, raggiungendo poi 3,1 token al secondo.

In sintesi, l’engine sottostante di RAMDeck è un software gratuito già disponibile, mentre l’hub si propone di semplificare l’orchestrazione multi-dispositivo. Tuttavia, mancano dettagli hardware e le misurazioni pubblicate evidenziano limiti di prestazioni per i modelli densi. Gli utenti interessati possono provare le modalità RPC di llama.cpp o soluzioni open source simili senza costi, mentre chi preferisce la comodità può preordinare l’hub a 109 dollari, tenendo presente i rischi tipici delle campagne di crowdfunding, come ritardi o modifiche nel progetto.