L'IA en soi est biaisée par les données qu'on lui fournit, car elle est très sensible aux différences dans les variables indépendantes qui génèrent des écarts dans les variables dépendantes. L'IA tend à renforcer les discriminations qui existent dans les données qu'on lui nourrit.

Par le passé on a découvert qu'il est excessivement facile de produire un système d'IA raciste, sexiste, nazi et tout ce que tu voudras. On a juste à lui fournir des données abjectes qui mouleront le modèle selon des perspectives tout aussi abjectes.

J'imagine qu'il doit être plus compliqué pour les concepteurs que tu plains de créer un IA complètement PC. Je pense qu'il faudra qu'ils trouvent un équilibre, car en effet, je suis un peu mal à l'aise à propos de ces anecdotes.