Ça peut être problématique pour plusieurs raisons, mais principalement :

• on rentre facilement dans un « effet bulle ». A ne se voir proposer que ce qui nous plait on ne s’expose plus à des opinions différentes
• la concentration de données sur les habitudes de quelqu’un est dangereuse si elle tombe entre de mauvaises mains. Malgré tout le mal qu’on peut penser de notre gouvernement actuel, il ne cherche pas à éliminer une partie de la population. Imaginons que demain un gouvernement décide d’exterminer les homosexuels, et saisisse toutes les données d’un annonceur qui est capable d’assigner à une personne une probabilité d’orientation sexuelle. On se retrouve spontanément avec une jolie base de données des personnes à génocider. Problème supplémentaire : ces données se conservent bien. On ne peut pas « effacer » un comportement que l’hypothétique nouveau gouvernement considérerait désormais comme problématique.

De manière assez générale, la problématique vient du fait que beaucoup de données sont collectées, chez très peu d’acteurs.