In Breve
- Cos'è RAMDeck?
- RAMDeck è un hub in crowdfunding progettato per aggregare la RAM di più dispositivi per eseguire modelli di intelligenza artificiale.
- Qual è il prezzo di RAMDeck?
- Il prezzo early-bird di RAMDeck è di 109 dollari.
- Quando termina la campagna di crowdfunding di RAMDeck?
- La campagna termina l'8 novembre 2026.
RAMDeck è un innovativo hub a basso consumo energetico attualmente in crowdfunding su Indiegogo, con un prezzo early-bird di 109 dollari. La campagna, che ha come obiettivo 10.000 dollari, terminerà l’8 novembre 2026. L’idea alla base di questo progetto è quella di aggregare la memoria RAM di vari dispositivi, tra cui PC Windows, Mac, Linux e telefoni Android, per eseguire modelli di intelligenza artificiale che richiedono più risorse di quelle disponibili su un singolo dispositivo.
Questo progetto si inserisce in un contesto di crescente domanda di memoria RAM, accentuata dall’aumento dei prezzi della DDR5, che attualmente sono circa cinque volte superiori rispetto a metà 2025. A differenza di altre soluzioni, RAMDeck non fonde la memoria a livello hardware, ma suddivide i pesi di un modello tra i vari dispositivi, mantenendo ciascuno la propria porzione di memoria locale e trasferendo solo i risultati intermedi attraverso la rete durante la generazione dei token.
Il software alla base di RAMDeck si basa sul protocollo RPC di llama.cpp, con un agente nodo che avvia il server ggml RPC su ogni dispositivo partecipante. L’orchestrazione è gestita da TradeMAV, che offre funzionalità come la scoperta automatica dei nodi, il posizionamento dei layer privilegiando GPU veloci rispetto alla RAM di sistema, gestione dei guasti e un’API compatibile con OpenAI.
Attualmente, le specifiche hardware del hub non sono state rese pubbliche, inclusi dettagli su processore, memoria e porte. Tuttavia, la documentazione suggerisce che gli utenti esperti possono seguire una soluzione fai-da-te (DIY) gratuita. Esistono già alternative software operative per il pooling e l’orchestrazione su dispositivi eterogenei, mentre sul mercato sono disponibili soluzioni commerciali di clustering ad alte prestazioni che sfruttano interconnessioni come Thunderbolt 5 con RDMA.
TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità, raccomandando l’acquisto di GPU con maggiore VRAM per chi cerca prestazioni elevate. Nei benchmark pubblicati, le configurazioni più veloci utilizzano un mini PC con RTX 3060 e modelli mixture-of-experts che attivano circa 3 miliardi di parametri per token. Ad esempio, sono stati registrati 39 token/s per il modello Qwen3-Coder 30B su una coppia di mini PC Beelink e Mac mini M4, e 16 token/s per una variante 40B REAP di Qwen3-Coder-Next. Un modello 7B ha raggiunto 43 token/s eseguendo esclusivamente sulla 3060.
Al contrario, i modelli densi mostrano prestazioni più modeste: un modello 27B denso ha reso 1,92 token/s su quattro dispositivi, mentre il gpt-oss-120b ha segnato 1,37 token/s su un cluster di sei macchine. Un modello 120B su cinque macchine ha impiegato circa sette minuti per l’inizializzazione, raggiungendo poi 3,1 token/s. Questi risultati dimostrano che, sebbene il pooling della memoria eviti crash per esaurimento di memoria, le prestazioni rimangono inferiori rispetto a configurazioni con GPU di elevata VRAM.
In sintesi, l’hub RAMDeck punta a semplificare l’orchestrazione multi-dispositivo, pur mancando di dettagli hardware specifici. Il motore software sottostante è già disponibile gratuitamente, e per chi desidera sperimentare, è possibile utilizzare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce la comodità, l’hub può essere preordinato a 109 dollari, tenendo presente i rischi tipici delle campagne di crowdfunding, come ritardi o cambiamenti nei piani di produzione.
redazione
Redazione Diarioeconomico.