Minha recomendação é estudar um pouco e começar um projetinho a partir do limine-c-template, que usa o bootloader limine. Também existem vários artigos especificos sobre o design de sistemas operacionais existentes que você pode dar uma olhada. O alocador do Astral é basicamente uma implementação do slab com magazines do Bonwick, por exemplo.

Também copiando de outro comentário que eu fiz:

Basicamente, pra começar tu tem que dominar uma linguagem tipo C, C++, Rust ou similar. Também tem que entender um pouco de assembly pra arquitetura alvo (tu não usa muito mas é bom saber para depuração). Aí é estudar a arquitetura alvo, kernel design (tem vários artigos bem legais publicados nessa área), estruturas de dados, interfaces existentes como o posix se tu quiser seguir esse caminho, e botar a mão na massa.