M. Butterick, Extinction-level capitalism a citizen’s thoughts on AI risk

Un passionnant article, très détaillé, en anglais, dont l'original est disponible sur https://matthewbutterick.com/extinction-level-capitalism.html

En voici un petit résumé en français

Matthew Butterick, auteur, designer, programmeur et avocat, propose une réflexion citoyenne sur les risques politiques de l’IA. Son argument central est que l’IA, en tant que technologie politique par nature, risque de corroder la démocratie libérale, non pas par des scénarios de science-fiction, mais simplement en amplifiant les tendances existantes du capitalisme, notamment la concentration des capitaux et le remplacement de la main-d'œuvre.

L’IA, une technologie politique

Butterick s’appuie sur le théoricien Langdon Winner pour expliquer que les technologies ne sont pas neutres. Certaines sont conçues pour avoir des effets politiques (le Grand Firewall chinois), d’autres sont intrinsèquement politiques, car elles sont “fortement compatibles” avec un certain ordre social. L'exemple du récolteur de tomates mécanique, qui a concentré la production au détriment des petits exploitants, illustre comment une technologie efficace peut induire des bouleversements politiques majeurs. L'IA suit cette logique.

Le mythe de Skynet et les risques réels

Butterick critique le recours aux métaphores de science-fiction (comme Skynet) qui masquent la réalité des risques. Les dangers réels de l’IA sont « ennuyeux, lents » mais insidieux : un “cancer qui éteint un mode de vie”. Il oppose l’idée d’une “extinction littérale” (peu probable) à celle d’une “extinction de la possibilité démocratique” (beaucoup plus probable). L’IA n’a pas besoin de “défaillir” pour nuire ; elle peut le faire en fonctionnant parfaitement comme prévu.

Le remplacement du travail, un objectif assumé

Pour Butterick, ce que “vend” le Big AI, c’est d’abord le remplacement de la main-d'œuvre. Il cite de nombreux dirigeants de l’IA qui l’affirment ouvertement, et les marchés financiers intègrent déjà cette perspective. Contrairement aux promesses d’“augmentation” des travailleurs, la logique économique pousse les entreprises à réduire leurs effectifs. L’auteur souligne le paradoxe pour l’État : les recettes fiscales américaines dépendent à 84% des taxes sur le travail. Un chômage de masse induirait une crise budgétaire sans précédent.

L’économie des “goodies” et l’alignement politique

Face à la menace du chômage, le Big AI propose un second récit : celui de l’abondance et des “goodies” (revenu universel, biens à bas prix, etc.). Butterick y voit un piège. La distribution de ces “goodies” par des entreprises privées transférerait la protection sociale (assurance-maladie, éducation, etc.) de l'État vers l'industrie, transformant les citoyens en dépendants du Big AI. Cela affaiblirait l’État et alignerait les intérêts des citoyens sur ceux des géants de la tech, créant un conflit d’intérêts et réduisant les libertés. L'analogie avec les “company towns” du XIXe siècle ou les États pétroliers (comme ceux du Golfe ou le Venezuela) est frappante.

Le paradoxe de la concentration

Butterick avance une thèse contre-intuitive : en remplaçant les travailleurs de la connaissance et en automatisant la production de biens intellectuels, l’IA pourrait aussi devenir un “poison” pour les entreprises qui l’adoptent. En commoditisant leur propre production, elles détruisent leur avantage concurrentiel et pourraient finalement être englouties par le Big AI lui-même.

Conclusion

Pour Butterick, le véritable risque n’est pas une IA malveillante, mais le succès même de l’IA en tant qu’instrument capitaliste. Elle concentre le capital, érode le pouvoir de négociation des travailleurs, privatise les fonctions de l’État et, in fine, menace l’existence de la démocratie libérale. Il conclut en invitant chaque citoyen à prendre conscience de cet enjeu et à agir, car “aujourd’hui, ils ont plus besoin de nous que nous d’eux”.