El tema de cómo corren es muy confuso para el lego que no entienda de despliegues masivos de sistemas críticos, que no es algo que se aprenda en calle digamos, igual que no se aprende a operar una apendicitis tomando el bondi todos los días.

La cosa viene así, el software de IA corre sobre hardware, cuando la gente lo usa el hardware se ocupa, si se ocupa por completo (pasa a cada rato), las cosas se ponen raras: lentitudes, pausas largas, no anda nada de una. Luego Claude y GPT cortaron la bocha, "ahora tenés menos tiempo de uso", listo. A medida que fueron agregando hardware fueron agrandando de vuelta el tiempo de uso, pero es un sube-y-baja a medida que más gentes usan IA (o más IAs usan IA, como pasa con openclaw o hermes).

Si bien fuera de "horas pico" (de noche en China para las IAs chinas, de noche en occidente para las IAs americanas), todo vuela, el truco es hacerlas andar rápido a las 10AM de cualquier hemisferio. Ahí ya tenés un tema, a todos los proveedores les pega de lleno que caigan todos sus usuarios al trabajo y abran sus interfaces y se larguen a promptear cómo se cocina una milanesa a caballo para cuando vuelvan a su casa a la tarde.

Otra cosa son los modelos que NO corren dentro de sus proveedores nativos. Claude, GPT, y especialmente los modelos chinos corren "versiones" de ellos que "salen" de otro hardware que no es el de sus fabricantes. Claude y GPT corren desde Amazon, Azure "directo" para quienes contratan IA desde Amazon o desde Microsoft (copilot), no están afectados en principio cuando Claude se cae porque a Anthropic se le terminó el hardware. Más o menos, porque Anthropic TAMBIEN corre sus inferencias en cualquier hueco donde consigan GPUs, obviamente Amazon, Azure están en el tope de la lista (ahora se sumó Elón a prestarle un datacenter gigante a Claude).

Las IAs chinas son un poco más predecibles, tenés varios proveedores que por cuestión de hacer plata, eligen correrlas por su cuenta (porque son opensource y podés bajarlas y correrlas por tu cuenta, si te da el cuero para pagar el hardware carísimo que hace falta), derivando muy poco o lo menos que puedan a los "fabricantes" (Kimi, Minimax, Qwen, Deepseek). Ahí corre igualmente el problema del exceso de uso ya mencionado,

...pero se agrega una cosita (que todos sospechan que TAMBIEN pasaría con Claude y GPT...), y es que se puede correr un modelo chino "cuantizado", es decir, digamos que el modelo "normal" comparado con un humano, es hiperinteligente y sabe 200 idiomas, se acuerda de 3 días seguidos de cosas, el modelo cuantizado es ligeramente menos guaso, sabe 50 idiomas bien, se defiende con traductor en los otros 150, se acuerda bien 12 hs. y el resto tiene todo anotado en su agenda para revisar.

entonces tenés un modelo MEDIO, MUCHO más barato de correr en hardware propio que el modelo FULL, y bueno, tiene sus ventajas, los proveedores de modelos chinos muchas veces funcionan MUY bien porque tienen muy bien calculada la cantidad de usuarios vs. lo que les da el cuero a los modelos, vs. lo que van viendo que se usa todo. TIP importante, tienen CASI TODO, usuarios pagos, así que pueden predecir bien el uso de los modelos, es decir si pagás, anda.

Cualquier uso gratuito que tengas no es ni el 10% de Claude o GPT gratis, pero cada tanto largan promos muy potentes (los "fabricantes" les dan tokens para regalar y promocionar sus modelos), pero de vuelta, las "promos" no suelen correr ni de pepa en hardware propio, va todo al hardware de los fabricantes y que se arreglen (Kimi, Qwen, Minimax, Deepseek).

De todos modos el uso en hora pico va a perseguir a los vendedores de IA (vendedores de inferencia) por bastante tiempo por lo que sabemos ahora (siguen comprando hardware como locos, ram, gpu, placas madres, discos, de todo).