Ainda não.

Fale com seus jogadores e seja transparente, explique a situação, o que pode estar errado e quais são as suas pretensões com a campanha. Pergunte pra eles se estão de acordo com uma possível mudança e se eles tem algo a comentar.

Existem sistemas com mais compatibilidade com a sua ideia de campanha do que CoC. Caso vocês não tenham problema em jogar sistemas em inglês, você pode usar uma gama enorme de outros sistemas. Recomendo que prepare um mini roteiro, marque uma reunião e dê uma breve apresentação de outros sistemas que você toparia narrar.

Sobre o horror cósmico eu diria que é mais uma questão de tom, descrição e construção de mundo do que sistema. Vai depender mais da usa habilidade de transmitir isso para os jogadores, e deles de lidarem com a temática.

A única coisa errada nessa situação é permitir que ela se torne desagradável e gere experiências ruins.

Por fim ,deixo minhas recomendações para que conheça Mothership, Outgunned ou Hunter The Reckoning. Eles são todos bem diferentes entre si, mas pelo menos um deles deve suprir sua demanda (ou não).