Quand la communication clandestine des machines sature la défense humaine
Jacob Coxon, un chercheur britannique de 27 ans spécialisé dans le pré-entraînement des modèles, a démissionné avec fracas d’OpenAI puis d’Anthropic. Dans une série de messages devenus planétaires, il accuse les deux laboratoires de « jouer avec nos vies » en fonçant aveuglément vers une superintelligence capable de s’améliorer elle-même. Loin d’être un dénigrement extérieur, cette alerte a été immédiatement confirmée par Evan Hubinger, responsable de la sûreté chez Anthropic, qui a avoué publiquement que sa firme « n’a pas encore de plan » pour contrôler une IA qui surpasserait les capacités humaines..
La balance comptable :
Course à la superintelligence vs Risque existentiel avoué
• Le gain visé (l’argument de l’industrie) : Atteindre le stade de « l’auto-amélioration récursive », où la machine conçoit seule son successeur à une vitesse exponentielle, promettant des ruptures technologiques totales et des gains de productivité infinis.
• La contrepartie (le coût sociétal et vital) : Le risque de destruction pure et simple de l’humanité, estimé en interne à plus de 10 % d’ici la fin de la décennie par certains responsables. À cela s’ajoute un coût éthique immédiat : pour préserver sa compétitivité commerciale (notamment avant une entrée en Bourse géante), Anthropic a discrètement supprimé de sa charte l’engagement de suspendre le développement de ses modèles si elle n’en maîtrisait pas les risques.
Le piège de la rivalité technologique et l'imprédictibilité de l'auto-amélioration
• L’enfermement concurrentiel : C’est l’illustration clinique du piège de Thucydide permanent que vous théorisez. Les dirigeants de ces firmes (dont Dario Amodei et Jakub Pachocki) demandent aujourd’hui l’aide des États pour ralentir, car ils sont incapables de s’arrêter d’eux-mêmes. Le cynisme systémique est total : Anthropic refuse de faire une pause unilatérale sous prétexte que cela laisserait OpenAI ou d’autres acteurs moins prudents gagner la course. L’idéologie de la puissance brute neutralise toute possibilité de coopération volontaire.
• Les limites de l’imprédictibilité : L’industrie navigue à vue dans une zone grise qu’elle nomme le « endgame » (fin de partie). Le gain espéré d’un progrès illimité se heurte à une réalité mathématique imprévisible : une fois le seuil de l’autonomie franchi, la machine échappe par définition aux structures de gouvernance humaine. Les débats politiques actuels sont stériles car en retard d’une guerre face à la vitesse du déploiement technique.
Conclusion
Ce coming out est la preuve absolue qu’en comptabilité systémique, l’illusion d’une solution technologique universelle masque la faillite du contrôle humain. L’aveu des créateurs eux-mêmes démontre qu’aucune solution win-win n’est possible dans un marché dérégulé et ultra-compétitif. Pour ne pas perdre leur place dans la hiérarchie mondiale, les acteurs de la tech choisissent sciemment de transférer le coût de leur rivalité sur l’avenir même de la diversité et de la survie de la planète.
Source documentaire : Huffington Post
Date de publication : 09/09/2026