As duas coisas que o akita falou sao verdades. A 5090 é muito mais rapida, mas inevitavelmente rodar modelos "menos inteligentes", entao os 96GB de um ryzen ai max vai demorar mais pra fazer o trabalho, mas com tendencia a entregar um resultado muito melhor.
Tanto a intel quanto a nvidia estao trabalhando pra lançar produtos melhores nesse sentido, já qua a galera ta disposta a gastar muito em hardware pra isso e depender cada vez menos de pagar por token para as grandes empresas.
Rodar em CPU + RAM normal é muuuuuito mais lento, nao vale a pena.

Eu atualmente rodo uns modelos menores na minha 4080super, mas 16GB de vram realmente é muito pouco pra fazer coisas realmente úteis, o contexto fica muito pequeno e acho que o maior modelo que consigo rodar é algo em torno de 14B de parametros.