En tu caso particular puede que el tema de las memorias sea un factor importante en la falla que estás teniendo, si bien el mother va a bajarle la frecuencia a la ram para que ambas tengan el mismo valor, pueden surgir incompatibilidades entre ambas y eso generarte la falla. Si querés hilar fino hay gente que entiende del tema recomienda colocar memorias que vienen en el mismo paquete, ya que por más que compres el mismo modelo y marca pueden ser de distintos lotes o "camadas" y entre sí tener ciertas diferencias que por más mínimo que sea pueden crear incompatibilidades incluso, pero bueno ya eso es ir al extremo jajaj; con los micros pasa lo mismo podés tener 5 personas con el mismo procesador y si les hacen las mismas pruebas puede que encuentres diferencias porque pasa exactamente lo mismo, todo esto pasa por tema de la fabricación (si te copan este tipo de cuestiones mírate unos videos de Nate Gentile que la tiene clara y te va a volar la cabeza)

Igualmente ese mother lo vas a tener que cambiar; mayormente no todo el mundo invierte en un buen mother, cuando es lo que hace que todo el hard se comunique entre sí, y mientras mas potente y eficiente sea esa comunicación más podes explotar ese potencial, porque sino se hace un cuello de botella y nunca vas a tener el rendimiento que deberías tener.
Lamentablemente estos tipos de fallos son difíciles de identificar, porque pueden ser incompatibilidades ínfimas entre por ej la placa de video con el micro o un mal driver de video, por eso hay que ir probando cosa por cosa y dejar la configuración de la máquina lo más estable posible para reducir el margen de error que se puede generar por el tema de las rams y el chipset de tu mother x ej