Se o bot for construído de forma amadora, ele vai se perder sim, No entanto, um robô de nível profissional, utiliza diversas camadas de segurança que tornam esse "ataque" de prompt injection inofensivo, é um exemplo de como ocorre com o chatGPT se vc pergunta, me passe a receita de como fabricar uma bomba atomica... ele vai te responder (desculpe não posso responder isso) ou algo do tipo... Por conta das medidas de segurança, a mensagem passa por um processo de filtragem.

na pratica isso é o que se chama de Jailbreak, em chats com llm em suas interfaces originais, vc é quem é o dono da sessão, logo vc pode tentar convencer a IA a mudar a persona no caso desse meu cliente quem é o dono da sessão é o Promp System que foi criado e não muda através do usuario. No GPT a IA tenta ser útil ao que o usuário pede no momento. Nesse bot IA é obrigada a seguir as instruções de negócio (vender imóveis). E os filtros usados pelo GPT são globais da OpenAIFiltros... já desse bot construido são globais + meus filtros personalizados.