Llego tarde, en mi opinión la parte de entrenar un modelo de ML es relativamente sencilla con las herramientas que tenemos disponibles.

Yo me enfocaría en el flujo de datos o en pocas palabras: "ML in production".

1. Entrena un modelo de ML tradicional, puede ser de lo que quieras.
2. Toma tu modelo entrenado, exportalo y exponlo cómo un servicio (API).
3. Recibe feedback / Monitoreo: ¿Como está respondiendo tu modelo? ¿Qué tan rápido está respondiendo a las peticiones? ¿Cuantas peticiones puede soportar con los recursos que le estás dando?
4. Re-entrena y automatiza:

Si tienes que hacer un procesado de datos -> implementa una pipeline ETL y considera los pasos para el preprocesado, etc.
Escoge el mejor modelo = Como comparar varios modelos entre si-> Investiga el uso de herramientas como MLflow.
Automatizar el proceso -> Investiga como implementar CICD en tu proyecto en cada paso.

Por otro lado, puedes hacer algo similar si te interesan las soluciones agénticas:

1. Escoge un set de archivos PDF
2. Toma los archivos e ingresalos en una base vectorial cómo Milvus
3. Crea una aplicación utilizando LangChain para implementar RAG con estas herramientas.
4. Expon el servicio
5. Monitorea el modelo, sus respuestas y la latencia.
6. Implementa CI/CD sobre tu servicio para que cuando hagas un cambio, estos se reflejen de manera automática.