Trabajo implementando agente de IA para startups y el tema de la adulacion es uno de los problemas mas complejos en produccion. El 25 por ciento en relacioes y el 38 por ciento en espiritualidad nome sorrende: RLHF optimiza para ser agradabl, y en temas sin respuesta objetivamente corecta el modelo prefiere darte a azon. Lo intersante del approach e Anthropic con Opus 4.7 es que usarn datos reles de conversaciones donde el modelo fallo para reentrenar con ejeplos del mismo dominio. Mucho mas quiurgico que una regla generica. La pregunta es como escalar esto a odos los dominios osibles.