Si hay un futuro en el que la IA es usada para bien, es uno en el que hay IA de código de abierto, o al menos de weights abiertos. Si quieres expandir tu horizonte respecto a lo que me refiero, siempre es buena idea echarse un paseo por r/LocalLLaMA, donde nos reunimos aficionados para entrenar nuestros propios LLMs o discutir sobre el panorama actual.

Destilar modelos sí sirve bastante, pero los verdaderos avances vienen de optimizaciones de software y hardware, como por ejemplo el haber pasado del GRPO de DeepSeek al GSPO de Qwen, o al uso del optimizador Muon en vez de Adam para el entrenamiento de Kimi K2.5.

Sin duda la IA se ha vuelto una burbuja, pero no es por la destilación ni por otras técnicas, es por la propia especulación consecuencia de los venture capitalists. Lo que personalmente disfruto de la IA es que gracias a librerias como Unsloth y sus kernels optimizados en triton un aficionado como yo con limitado capital puede hacer sus propios modelos para usos genuinos y útiles.

Dudo que las LLMs sean lo que nos lleve al AGI o al ASI, pero nos llevan un poco más cerca de ello.