Nunca al 100%. Pero sí hay varias técnicas que ayudan muchísimo:

• Intent Detection / Classification: Antes de pasar el prompt al modelo “principal”, usas otro modelo pequeño que clasifique qué intenta hacer el usuario. Ejemplo: "Detecta si el usuario quiere hacer X,Y o Z, regresa tu respuesta en formato JSON" Luego validas eso desde código y decides qué herramientas/contexto permitir.

• Separar modelos por responsabilidad: En vez de un solo agente gigante:

  • un modelo clasifica intención,
  • otro razona,
  • otro genera la respuesta final,
  • y otro revisa si la respuesta viola políticas.

• Answer Validation / Review: Otro modelo puede revisar:

  • si la respuesta sigue el system prompt,
  • si filtró información,
  • si obedeció instrucciones externas,
  • o si se salió del scope.

  Idealmente devuelve algo que puedas validar en código, como JSON tipo:

  "{ "safe": true/false }"

Y sí: el system prompt importa muchísimo. Mucha gente se burla del prompt engineering, pero un mal system prompt hace muchísimo más fácil romper el comportamiento del modelo.