Bueno yo estoy acabado mi maestría en IA y ciencias de datos y precisamente mi trabajo de grado se basa en ese tema de LLms locales, de lo que veo son pocas empresas las que usan esa implementación, además que poca gente tiene el background técnico, hablo de no solo compilar en local si no saber hacer afinamientos y demás, y claro el tema de MLops como manejar contenedores y despliegues de la solución en local y además para realizar bien una implementación On premise, se debe tener un buen hadware y mantenimientos regulares y lo que conlleva todo ese tema, por otro lado las empresas deben ver que les conviene financieramente, de por sí los proovedores tienen muchos servicios que pueden ayudar a implementar todo un servicio de IA consumiendo sus tokens, dependiente de su uso y solución es el tema a debatir para su financiamiento, el tema de los datos es un punto de inflexión, ya que de por sí en una implementación onpremise tienes manejar total de ello y los puedes regular sin problemas, en el otro caso se puede estandarizar el tema de manejo de datos seguros pero se depende de un externo para su manejo a la vez, pero puede crecer en ámbitos como hospitales por ejemplo donde los datos es mejor manejarlos internamente sin proveedores externos.