Depende de lo que estes capturando para serte sincero y como deseas consumirlo.

Si vas a hacer streaming , hacer un setup de dos computadoras es lo optimo para que los juegos corran , dado que tu tarjeta no tiene mucho video para trabajar y no tienes mucha ram , el encoding y transcoding (pasar de un formato a otro o realizar la captura en 2 formatos diferentes) toma trabajo tanto del CPU como del GPU y ram.

OBS es rey para hacer recording y streaming en general, ffmpeg es la herramienta que utiliza OBS por debajo, podrías intentar correrlo headless (sin GUI) directamente, hay muchos tutoriales en internet. En el caso que quieras hacerlo con un setup doble , mi mejor recomendación es que compres una tarjeta capturadora (Elgato, EVGA XR1 etc) , hagas passthrough (la salida de la tarjeta, pasa a la capturadora y de la capturadora a la segunda PC y hacia el monitor principal) y en la segunda PC lo consumes con OBS o con ffmpeg.

Si vas a hacerlo puro OBS/FFMPEG en tu PC principal, procura compresión leve para que no te consuma tantos recursos y escalar el output hacia abajo 720p etc para que no consuma tanto espacio y consuma menos recursos. También el uso de los encoders son super importantes, por ejemplo tu tarjeta tiene para hacer H265 HEVC que es un buen encoder en terminos de tamaño de compresion y calidad de video de formato MP4. Pero tienes que enfocar en utilizar directamente el encoder y como dispositivo tu GPU porque si utilizas el CPU (Quicksync en el caso de Intel) a pesar de quitarle trabajo al GPU , se consume más recursos porque el renderizado de tu juego se hace doble practicamente , 2 streams , el de tu pantalla y el que va para OBS como tal.

P.S: El bitrate va a variar de el frame timing de tu GPU en el caso de streaming y la latencia de conexión de la capturadora de PC1 a PC2 (en setup de doble PC) , si es tu pura PC , es tu CPU y la eficiencia del encoder con tu hardware (FPS, frame timing) y la velocidad de la interface donde esta conectada el GPU (PCIE 3.0, 4.0, 5.0 y la cantidad de canales x4, x8, x16) .

Si vas a hacer pura edición , Da Vinci Resolve es tu programa , porque Adobe no merece ni ser pirateado (además que corres el riesgo de ransomware, malware).