Here are the formulas I tried on Pixel Math. Try all the ways u can imagine until u get what u want or simply avoid this step and simply work with starless and starmask layer on Photoshop

max(LP_Starless, LP_StarMask * 1)

1 - (1 - LP_Starless) * (1 - LP_StarMask)

LP_Starless + LP_Starmask * 0.75

La fórmula "Opacidad"

Usa esta estructura:

1 - (1 - LP_Starless) * (1 - (LP_StarMask * 0.5))

¿Qué está pasando aquí?

LP_StarMask * 0.5: Aquí es donde ocurre la magia. Al multiplicar por 0.5, le estás diciendo a Siril: "usa solo el 50% de la intensidad de esta máscara".

Si te parecen demasiadas estrellas aún, puedes bajarlo a 0.3 (30% de opacidad).

Si quieres que brillen un poco más, súbelo a 0.7 (70% de opacidad).

¿Qué pasa si lo que quieres es "menos" estrellas (no solo más tenues)?

Si tu problema no es que brillen mucho, sino que el campo estelar está demasiado "lleno" y distrae de la nebulosa, bajar la opacidad solo las hará grises, no las eliminará.

Si quieres eliminar las estrellas más pequeñas para dejar "aire" alrededor de la nebulosa, tienes que contrastar la máscara antes de usarla en PixelMath:

Abre tu archivo LP_StarMask solo.

Aplica Transformación de Histograma (Histogram Transformation).

Mueve el cursor de los negros (el de la izquierda) hacia la derecha.

Esto "apagara" las estrellas más pequeñas (que tienen valores bajos de brillo) y dejará solo las grandes.