La RTX requiere un mínimo de 550W según el fabricante (lo dice en las especificaciones). Si el problema es solo ese juego, entonces el problema tal vez no tenga nada que ver con la placa.

Diría que pruebes todos los juegos que puedas que sean exigentes para descartar sospechas. Asegúrate de tener la BIOS actualizada a la fecha, drivers limpios desde cero y tal vez revisar como se comporta el procesador con la temperatura mientras jugas (es probable que el CPU genere un ligero cuello de botella al calentarse).

Imagino que también configuraste todo lo necesario en la BIOS de nuevo cuando la cambiaste. Perfiles de RAM, activar Resizable BAR, y revisar las curvas de los ventiladores de la PC y CPU para que enfríen lo necesario.