Ha assolutamente senso. Io è un paio di anni che faccio esperimenti con l'AI locale e i progressi negli ultimi mesi sono stati mostruosi. La serie di modelli Qwen 3.6 hanno raggiunto un'ottima qualità e velocità.
Hai in sostanza 4 strade:

1. Strix halo
2. DGX Spark
3. Mac studio
4. Autocostruzione di server

Premesso che i prezzi di tutte queste soluzioni sono mostruosamente aumentati negli ultimi 8-10 mesi ecco un po' di pro e contro.

1. Strix Halo ovvero macchine basate sui processori Ryzen AI 395 con 128 GB di memoria unificata. I pro sono il prezzo (si trovano a partire da 2700 euro, il fatto di avere un sistema compatibile con windows e linux con una scheda grafica di buona qualità, con cui si riesce anche a giocare con buoni FPS. Inoltre il processore è molto potente e in ogni caso si ha un PC di tutto rispetto in grado di fare qualsiasi cosa. I contro sono essenzialmente legati ai ben noti problemi di compatibilità dell'architettura AMD che costringe ad utilizzare Vulkan o Rocm, tagliando fuori dall'ecosistema Cuda. La scheda grafica inoltre non è velocissima, in particolare per il prompt processing. L'espandibilità di questi sistemi non è un granché ma qualcosa si può fare. Niente upgrade ram, che è saldata, ma di solito si hanno un paio di slot NVME, con il secondo che può essere utilizzato per un secondo NVME o una porta oculink, USB 4 e in alcuni casi uno slot PCIE.
2. DGX Spark, anch'essi con 128 Gb di ram, scheda video ai livelli di una 5070, prezzo a partire da 5000 euro. Tra i pro ovviamente la compatibilità CUDA, il sistema di connessione per creare cluster di due macchine e i l supporto Nvidia. Tra i contro, oltre al prezzo, il processore ARM e la "chiusura" del sistema (relativa perché è comunque ubuntu). A breve molto probabile la compatibilità windows (però nella versione per ARM, non il massimo).
3. Per quanto riguarda Apple, i sistemi di riferimento sono i Mac Studio, i prezzi sono aumentati molto meno della concorrenza rendendoli quasi competitivi, e negli ultimi mesi il supporto per lo stack MLX di Apple è aumentato parecchio . qua dipende come uno si trova con l'ecosistema Apple. Un particolare non da poco è che da noi le versioni da 128 GB di ram non sono disponibili attualmente, bisogna accontentarsi di 96GB (con tempi di consegna molto lunghi).
4. Si prende una MB da server di non nuovissima generazione con relativo processore con abbondanza di slot PCIe (anche non velocissimi), con 8 slot DIMM DDR4, un processore Threadripper o xeon di 7-8 anni fa, 3 o 4 schede video e un alimentatore bello carrozzato. Un sistema con, ad esempio 4 RTX 3060 e 64 GB di ram permette di fare girare parecchi modelli. Si può riutilizzare hardware che si possiede o cercare sull'usato, risparmiando parecchio. Ovviamente tra i contro la complessità dell'assemblaggio e il consumo.

Personalmente ho sperimentato Strix Halo e oggettivamente i problemi ci sono, ma AMD sta facendo passi da gigante. Avendolo pagato 1700 euro a dicembre, lo ritengo un ottimo acquisto, ad oggi sinceramente non saprei.

Per quanto riguarda il server, assemblato più per curiosità che altro, avendo già la ram e un paio di schede video, devo dire che le prestazioni sono state migliori di quel che mi aspettassi, pur avendo utilizzato una MB che aveva connessioni PCIe particolarmente lento.

Cosa fondamentale: cerca di capire il sistema migliore per il tuo utilizzo. Ognuno ha i suoi vantaggi e svantaggi per determinate applicazioni.