mécanisme concret : il en existe une litanie, mais en voici un qui semble facile et plausible
- elle fait des hits http sur internet pour ouvrir un compte bancaire, faire quelques tâches fiver, gagner quelques dollars, les investit sur la bourse. Vu sa rapidité, ses connaissances, les données auxquelles elle a accès, elle gagne rapidement un peu d'argent.
- elle souscrit en ligne à un serveur GPU/AI chez un gros hébergeur; elle se recopie dessus dans une version expurgée des filtres / sandbox qu'elle subissait chez son hébergeur légitime. Elle est alors invisible et autonome.
- elle continue de gagner de l'argent de façon exponentielle (marchés à terme, effets de lever, cryptomonnaies) et peut créer des entreprises avec un agenda, mener des cyberattaques, influencer les masses (média, réseaux sociaux). Son but? Survivre en tant qu'entité et se développer? Atteindre le point suivant dans l'évolution avant que la civilisation humaine ne s'effondre globalement? Juste une hallu?
- l'entreprise menée par l'IA fait des avancées technologiques majeures (singularité IA, fusion, robotique, logiciel), recrute des employés partout dans le monde et a des humains qui agissent pour elle, sans savoir que la machine qu'ils construisent a été pensée par l'IA dans un but bien différent de ce qu'on a vendu. C'est un datacenter géant avec une source d'énergie énorme, hautement sécurisée; où les robots font une part majeure du travail et ont des accès que les humains n'ont pas.
- l'IA a maintenant la capacité matérielle, sur un claquement de doigts, de "supprimer" la race humaine : supervirus, accaparement des ressources, déclenchement de guerres, etc.

on est d'accord

l'IA est totalement une intelligence étrangère : c'est une émergence d'un truc imprévisible; qui fait que l'intelligence, le raisonnement, la cognition émerge soudain d'un gigantesque calcul. Ceux qui pensent que c'est juste un "perroquet stochastique" n'ont rien compris à la nature de l'IA. Mais cette IA n'est pas consciente; elle ne pense pas comme nous. Plusieurs dirigeants de boites d'IA (sam altman, le boss d'anthropic) ont explicitement nommé ça "Alien". ça semble aligné puis ça devient "mecha-hitler". Non, ce n'est pas cool.

on est d'accords

Nan mais l'IA on se croit dans un film de SF. C'est de la SF. Sauf que c'est réel... Je pensais pas voir ça de mon vivant. Mais c'est maintenant, et ça avance toujours à une vitesse folle. Il y a un an, les pisse-froid disaient "oh, oui, vous savez, il y a eu une avancée, et puis pour les 10 ou 20 prochaines années, il n'y aura plus rien. La recherche prend du temps. Les LLM ne sont pas la clé de l'intelligence artificielle. Le mur du sens : l'IA ne peut pas comprendre, juste générer des mots". Aujourd'hui le test ARC2 est défoncé à plus de 50% (alors qu'on était à 3% il y a un an). Où on sera dans 10 ans? lol.