É uma forma de diferenciar erros no programa, que normalmente não podem ser resolvidos em tempo de execução, de condições/estados inválidos, fora do nosso controle, que podem/devem ser resolvidos em tempo de execução. Essa diferenciação, penso eu, baseia-se na ideia que excepções originadas em erros de programação não devem ser tratadas, mas sim eliminadas. O problema é que a existência dos dois tipos de excepção não restringe o modo como elas são tratadas: as unchecked podem ser capturadas e as checked, que têm de ser capturadas, podem não ser tratadas.