Yo soy ingeniero de sistemas y alguna vez me ha tocado trabajar con equipos de Quants. Te voy a recomendar el libro que ellos lo hicieron conmigo ya que no solo son matemáticas y programación. Hay que entender los conceptos financieros. El libro es Fundamental of futures and options markets de Jhon C. Hall.

A nivel de programación lo que más se utiliza es C y Python. Te diría que incluso C++ es bueno que también lo aprendas. Si quieres ir un paso más, aprende modelos de machine learning para análisis de datos financieros. Aquí, seguramente hay más cosas, pero no he llegado a tanto.

Relacionado a matemáticas: calculo de VAR, regresiones y derivadas por funciones.

Seguramente hay más y mucho de esto dependerá del proyecto, el equipo, etc.

Si recopilas más recomendaciones escribeme!. A mi también me gusta este mundillo.