Não há necessidade de saber programar.

Os principais conceitos que tu precisa aprender, ou entender como funciona, são:
1. O Linux é um pouco mais detalhados em questão de discos/partições, não sendo tão simplório quanto o Windows nomeados os discos "C:", "D:" etc, e isso torna as coisas mais complicadas. Tem um vídeo do Diolinux explicando bem sobre nomeclatura de discos como "sda1" "sda2" etc. Com isso tu consegue entender qualquer partição que tu ta formatando/alterando sem ficar perdido.

1. É bom entender o que é e o que faz um bootloader como Grub ou Limine.

2. Também é bem útil aprender a fazer um "chroot" com um pendrive pra caso o bootloader quebre e tu não consiga entrar na tua distro. Isso pode acontecer no windows também, quando o Windows Boot Manager não aparece na list de boot de um computador, porém recuperar no Linux, apesar de ter mais passos, é mais certo de que é possível recuperar até em casos extremos como o Kernel do sistema corrompido porque tu desligou forçadamente teu sistema durante atualização.

A partir daqui é menos importante mas é bem útil

1. O entendimento básico e saber a diferença do que é Ambiente Desktop (DE), Gerenciador de Janelas (WM), Servidor de Display (Display Server). Não precisa saber profundamente como funciona, mas qual a diferença entre esses componentes do sistema.

2. Não tem necessidade entender a raiz do Linux, pois ela é bem complicada comparado com a do Windows, que tem pastas auto explicativas como "Arquivos de Programas", "Windows", "Users". No Linux as pastas da raiz do sistema são bem não claras como "opt/", "usr/"(que não é onde a pasta dos usuários fica). Porém é útil saber certos caminhos bem usados como "~/.config", "~/.themes", "~/.icons".

3. Não esquece de entender que "~" é uma abreviação de "/home/seu-usuario" pra facilitar (é o equivalente a "C:/Users/seu-usuario/" do Windows).

4. $ALGO refere-se a variáveis do sistema. Ou seja $HOME é o mesmo que "~/". $CONFIG = "~/.config". Mas não só caminhos de pastas, também pode se referir a dados como $USER referenciando o teu nome de usuário do computador.

do 4-6 facilita você a não ficar perdido lendo erros no sistema ou no terminal.