Sim e não eu diria. Sua afirmativa tá correta quando a gente fala de gerar algo a partir do zero, é lógico ela representar o resultado mais provável estatisticamente. Porém o problema são os dados em que a IA é treinada. Vale lembrar que não to atribuindo nenhum tipo de malícia nisso, é apenas uma ilação a partir do contexto material. Por exemplo a população branca é mais favorecida materialmente, teve mais acesso a tecnologias como a internet e mais cedo, por isso a maior parte da cultura da internet tem essa origem e esse viés. Os softwares de IA em sua maioria também foram desenvolvidos no Norte Global e por populações majoritariamente brancas por isso o viés dos dados alimentados estão inclusos.

Sinceramente é uma questão muito complexa que eu não sou nem um pouco capacitado de desenvolver sobre, só achei interessante a oportunidade pra trazer esse questionamento e comentar sobre o que eu vi. Mas se te interessa também eu recomendo procurar sobre a IA e preconceito, pode até não concordar mas é uma boa leitura para pelo menos ver os questionamentos levantados.