RAMDeck: il nuovo hub per ottimizzare la RAM domestica in crowdfunding

Il mondo della tecnologia continua a evolversi rapidamente, e con esso anche le soluzioni per ottimizzare le risorse hardware. Un esempio recente è RAMDeck, un hub a basso consumo energetico attualmente in crowdfunding su Indiegogo, con un obiettivo di raccolta di 10.000 dollari e un prezzo early-bird di 109 dollari. La campagna si chiuderà l’8 novembre 2026.

RAMDeck si propone di aggregare la memoria RAM di dispositivi vari, tra cui PC Windows, Mac, Linux e telefoni Android, per eseguire modelli di intelligenza artificiale che richiedono più risorse di quelle disponibili su un singolo dispositivo. Questa iniziativa nasce in un contesto di aumento dei prezzi della DDR5, che ha visto un incremento di circa cinque volte rispetto a metà 2025.

È importante notare che RAMDeck non fonde la memoria a livello hardware. Invece, i pesi di un modello vengono distribuiti tra i vari dispositivi, ognuno dei quali mantiene una porzione della memoria locale e trasferisce solo i risultati intermedi tramite rete durante la generazione dei token.

Il software alla base di RAMDeck si basa sull’RPC di llama.cpp, dove un agente nodo avvia un server ggml RPC su ogni dispositivo partecipante. Il coordinamento avviene attraverso un protocollo standard, mentre TradeMAV si occupa dell’orchestrazione attorno a questo motore. Tra le funzionalità offerte ci sono la scoperta automatica dei nodi, il posizionamento dei layer privilegiando GPU veloci rispetto alla RAM di sistema, la gestione dei guasti e un’API compatibile con OpenAI.

Nonostante le promesse, le specifiche hardware del hub non sono state rese pubbliche, e chi ha familiarità con script da terminale può optare per una soluzione fai-da-te gratuita. Esistono già alternative software per il pooling e l’orchestrazione su dispositivi eterogenei, mentre sul mercato commerciale sono disponibili soluzioni di clustering ad alte prestazioni che sfruttano interconnessioni come Thunderbolt 5 con RDMA.

TradeMAV avverte che il pooling della memoria comporta un sacrificio in termini di velocità a favore della capacità. Per chi cerca prestazioni elevate, è consigliabile investire in GPU con maggiore VRAM. I benchmark mostrano che le configurazioni più veloci utilizzano una mini PC con RTX 3060, ottenendo risultati interessanti: 39 token/s per il modello Qwen3-Coder 30B su una coppia di Beelink mini PC e Mac mini M4, e 16 token/s per una variante 40B di Qwen3-Coder-Next. Un modello 7B ha raggiunto 43 token/s eseguendo esclusivamente sulla 3060.

Tuttavia, i modelli densi mostrano prestazioni più modeste. Ad esempio, un modello 27B ha ottenuto 1,92 token/s su quattro dispositivi, mentre un modello 120B su cinque macchine ha impiegato circa sette minuti per l’inizializzazione, raggiungendo poi 3,1 token/s. Questi risultati, sebbene evitino crash per esaurimento di memoria, risultano comunque lenti rispetto a configurazioni con GPU di elevata VRAM.

In conclusione, RAMDeck si propone di semplificare l’orchestrazione multi-dispositivo, ma presenta alcune limitazioni, come la mancanza di dettagli hardware e le prestazioni inferiori per i modelli densi. Per chi desidera sperimentare, è possibile provare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce la comodità, i 109 dollari per l’hub in preorder possono rappresentare un’opzione interessante, tenendo presente i rischi tipici delle campagne di crowdfunding, come ritardi o cambiamenti nei progetti.