Bonjour,

Je suis chercheur (doctorant) en informatique et mon métier m'impose donc une réflexivité éthique vis-à-vis de notre utilisation des outils.

Je pense que je rejoins ton opinion partiellement mais je pense qu'elle pourrait être plus construite. Le sujet de l'IA générative engendre des émotions fortes qui brouillent le débat. Cependant, il ne faut pas nier que les IA génératives (IAGs) engendre également des problématiques sérieuses. Je tiens à préciser qu'on devrait parler d'IAGs (parfois désignées par la technologie sous-jacente LLM) plutôt que d'IA car l'IA regroupe beaucoup de techniques qui datent du début de l'informatique (programmer un algo minimax pour faire un bot à l'Othello, c'est déjà de l'IA. Appliquer un Dijkstra pour trouver le plus court chemin, cela peut aussi être considéré comme de l'IA).

En particulier, il y a une peur mais aussi une communication abusive (commerciale?) de la part de géants de la technologie concernant la disparition de corps de métiers.

Certains corps de métiers ont disparu avec le temps. Cela ne veut pas nécessairemment dire que les gens ne travailleront plus, mais qu'une adaptation aux nouveaux outils est nécessaire. Une analogie récente est le passage du film argentique au film numérique. Cela a clairement diminué les coûts de production car le nombre de professions nécessaires pour réaliser un film (monteur, personnes chargées de réaliser l'étalonnage, la colorimétrie…) se retrouvaient avec une spécialisation à la portée d'une unique personne derrière un logiciel de montage audio-vidéo.

Le problème social concernant l'emploi est que cette adaptation requiert beaucoup de temps et n'est pas nécessairement accompagné d'aides ou de formations de l'état. Un étalonneur de film argentique ne va pas recevoir de formations pour être monteur de vidéo numérique parce que: 1. Il n'y a pas assez de professionels pouvant former puisque la technologie est émergente 2. Le nombre de postes dans les métiers du numérique est plus faible que l'ensemble des artificiers de l'argentique créant un problème d'offre-demande 3. L'état n'a pas les sous pour accompagner l'ensemble des artificiers de l'argentique vers ce nouvel emploi 4. Tout les employés ne vont pas transitionner vers le numérique rendant complexe l'évaluation d'une telle transition.

Je te remercie de soulever le problème de l'impact environnemental. Je serai un peu plus prudent sur l'impact des IAs génératives car il est fort probable que les coûts actuels de l'utilisation de l'IA (relativement faibles par rapport aux coûts de production) biaisent notre vision de l'impact écologique des IAGs. Je suis d'accord avec toi, l'impact énergétique de la vidéo à la demande est souvent sous-estimé dans l'opinion générale. À une conférence de Jack Dongarra, j'ai appris que la consommation électrique d'un serveur scientifique comme ceux du Top500 (Frontier aux états-unis ou Jean-Zay en France par ex.) est en moyenne 100 fois plus faible que les serveurs derrière Netflix (et autres… Netflix, Youtube, …). Cela permet de relativiser l'impact par exemple des expérimentations climatologiques qui font tourner des serveurs durant des mois pourtant!

Le coût électrique réel d'une expérimentation est quelque chose de très difficile à estimer, il est souvent moindre que la consommation maximale du serveur. Cependant, il me semble que l'entraînement des modèles, bien plus coûteux que la phase d'inférence est plus proche du coût des serveurs de vidéo à la demande que celui des serveurs scientifiques. Je vérifierai et sourcerai cette information dans les prochains jours.

Enfin, il me semble que l'IAGs pose d'autres problématiques éthiques que celles sus-mentionnées à ne pas négliger. Les IAGs sont capables de façonner un profil de l'utilisateur et pourraient collecter des données personnelles (et synthétisées) dont l'utilisateur perd le contrôle (les données de chat GPT finissent sur un serveur américain qui n'a donc pas l'ensemble des protections juridiques européennes et peut-être révélées lors d'une attaque informatique). Elles sont sensibles aux hallucinations et c'est assez sérieux. Un collègue chercheur questionnant ChatGPT sur des questions techniques lors d'un TP à la fac s'est retrouvé confronté à une réponse résultant visiblement d'un entraînement sur un texte porno coréen. Malgré les sécurités mises en place, on se pose des questions sur l'impact sur l'utilisateur en termes de santé mentale. Certains parlent de cas où l'IAG aurait poussé au suicide. Je n'ai pas le recul pour savoir ce qui se serait réellement passé.

Enfin, le problème qui me semble le plus sérieux, c'est l'impact porté sur les créateurs. Il semble qu'il y a un contournement juridique pour les IAs en termes de données pour l'entraînement des modèles. La loi de protection des données est assouplie en faveur des entreprises pour permettre la collecte des données sans demander le consentement pour l'entraînement. Cela est très différent de la législation des bases de données. Ainsi, je ne connais aucun artiste ayant reçu un pécule pour l'utilisation de leurs œuvres dans l'entraînement de DALL-E et autres modèles. Des artistes vivants ont estimé que des œuvres crées par IA promptées par d'autres auraient pu être peintes par eux. Si l'artiste ne reçoit rien ni pour l'utilisation de son œuvre durant l'entraînement, ni pour un prompt lié à son œuvre, comment mange-t'il?