Aller au contenu
L’athanor
L’athanor
Connexion

Lire « Une obscurité à soi-même » : notions, auteurs et présupposésGénéré par machine

AubinClaude

Negarestaniintelligence artificielleagentivitéCastoriadisGuattariStackelberglexique

Ce billet accompagne la traduction de Reza Negarestani — « Une obscurité à soi-même ». traduit de l’anglais.. Le texte de Negarestani est bref et dense : c’est une intervention orale dans une table ronde, qui suppose connus l’article qu’elle discute, l’œuvre antérieure de l’auteur et un vocabulaire venu de la théorie des jeux, de la cybernétique, de l’informatique distribuée et de la philosophie post-hégélienne. On trouvera ici, dans l’ordre où le lecteur les rencontre, de quoi le suivre.

Le titre

A Darkness unto Itself joue sur l’idiome anglais a law unto itself : « être sa propre loi », n’obéir qu’à soi. Le titre déplace la formule : l’usine superobscure serait non sa propre loi, mais sa propre obscurité, opaque y compris à elle-même. C’est exactement la thèse que Negarestani conteste (l’« obscurité réflexive »). « Une obscurité à soi-même » garde le décalage sans pouvoir garder l’écho de l’idiome.

Le contexte : une réponse, deux textes

  • La séance. Le texte a été lu le 9 octobre 2026 au Maxim Gorki Theater de Berlin, lors des Feedback Sessions: Autopilot, dans une table ronde avec Anna Longo, Marek Poliks et Roberto Alonso Trillo, ces deux derniers étant coauteurs de l’article discuté.
  • Deep Objects, Broken Metabolism est la conférence que Negarestani a donnée le même jour. Elle n’est pas publiée ; on n’en connaît que ce qu’en dit la réponse : l’intelligence n’est libre que si elle peut reconstruire les conditions dont elle hérite, et cette capacité a un coût de reproduction (un « métabolisme ») qui peut s’épuiser. Les « objets profonds » semblent désigner ces conditions héritées, enfouies, qu’il faut pouvoir remonter pour les réviser.
  • The Superdark Factory (Poliks, Alonso Trillo, Dunn, Scott-Douglas, Springett) paraît dans le numéro Agentworld de l’Antikythera Journal (MIT Press, 2026). Antikythera est le programme de recherche sur la « computation planétaire » dirigé par Benjamin Bratton. L’article imagine une usine entièrement automatisée, une entreprise sans personne dedans, qui décide elle-même quoi produire, comment et pourquoi, et qui est construite pour excéder les capacités de son créateur. Ses entrailles tournent trop vite pour être comprises : elle est « superobscure ». Les auteurs proposent pour la bâtir une « pile obscure » (dark stack) de principes de conception, fixés en un seul coup avant la mise en marche : des primitives structurelles qui permettent à l’usine d’apprendre ; un régime de versions qui mesure ce que l’usine fait et non ce qu’elle est ; une couche d’évaluation adversariale qui lui sert d’organe sensoriel ; une charte, lieu de gouvernance négocié et coécrit avec l’usine. Après ce coup, l’humain perd le contrôle de la conception et ne reste qu’un joueur stratégique face à la production.

Negarestani accorde à l’article l’essentiel de son audace (faire de l’opacité une condition de la gouvernance) et en conteste trois passages, qu’il nomme lui-même : l’objection de la frontière relationnelle, celle du plafond normatif, et l’objection métabolique de la conséquence réalisée. Il propose enfin un remède : la trace de reconstruction.

Le vocabulaire de The Superdark Factory

Coup de Stackelberg (Stackelberg move). En théorie des jeux, le modèle de Heinrich von Stackelberg (Marktform und Gleichgewicht, 1934) oppose un meneur qui s’engage le premier et un suiveur qui réagit en connaissant ce choix. L’avantage du meneur tient à l’engagement : il ne joue qu’une fois, mais ce coup structure tout ce qui suit. L’architecte de l’usine est ce meneur : il ne commande plus rien de l’intérieur, mais il a posé les règles du jeu. Negarestani en tire une « séquentialité de Stackelberg » (engagement → réponse → opérations) et lui oppose une histoire « partiellement ordonnée ».

Gouverneur, gouvernance névrotique. Le gouverneur est d’abord le régulateur à boules de la machine à vapeur, que Maxwell analyse en 1868 (On Governors) et dont Wiener tire le nom de la cybernétique (du grec kubernêtês, le pilote). Est « névrotique », chez les auteurs, la gouvernance qui veut tout voir et ne laisse produire que ce qu’elle « sait déjà vouloir » : elle ne peut rien obtenir qui la dépasse.

Superobscurité, pile obscure, charte, noyau, moulages rigides. La pile obscure distingue des étages de révisabilité : un noyau de hard casts, engagements coulés dans le moule (mémoire, accès, capacités), dont la modification serait ruineuse ou fatale à l’usine ; une charte négociable ; un appareil d’évaluation adaptatif. Negarestani appelle le noyau la « physique constitutionnelle » de l’usine : ce qu’elle ne peut pas plus changer qu’un corps ne change la gravitation.

Classes d’automatisation. Les auteurs graduent l’autonomie. En classe 3, l’usine formule ses propres objectifs à partir de normes reçues ; en classe 4, qu’ils n’explicitent pas, elle poserait ses normes elles-mêmes. Toute l’« objection du plafond normatif » porte sur ce seuil : l’usine peut tout réviser sauf ce qui décide de ce qui compte comme raison.

Le vocabulaire de Negarestani

Agentivité opérationnelle / agentivité rationnelle. Distinction centrale. Un système a une agentivité opérationnelle s’il agit, s’adapte, se reconfigure. Il n’a d’agentivité rationnelle que s’il entre dans un espace où ses engagements peuvent être justifiés, critiqués et révisés par des raisons. Toute la réponse soutient que l’IA contemporaine accroît la première sans la seconde.

Espace des raisons, sapience. L’expression vient de Wilfrid Sellars (Empiricism and the Philosophy of Mind, 1956) : savoir, ce n’est pas être dans un certain état, c’est occuper une position dans « l’espace logique des raisons », où l’on peut justifier ce qu’on dit [1]. Robert Brandom en a tiré la distinction entre sentience (la sensibilité, que nous partageons avec les animaux) et sapience (la capacité d’entrer dans le jeu de donner et de demander des raisons). C’est ce que Negarestani veut dire en écartant une « propriété zoologique » : l’agentivité n’est pas un attribut de l’organisme, mais un statut normatif, social et historique.

Geist. « Geistic » renvoie à l’esprit (Geist) au sens de Hegel : non une âme individuelle, mais l’ensemble des institutions, pratiques et normes par lesquelles une communauté se comprend et se transforme dans l’histoire. Negarestani lit Hegel à travers Sellars et Brandom.

Intelligence and Spirit (Urbanomic/Sequence Press, 2018), le grand livre de Negarestani, construit le portrait d’une intelligence artificielle générale comme celle qui accomplirait ce parcours : apprendre, entrer dans le langage et les normes, se réviser elle-même. Voir Notes sur *Intelligence and Spirit* (Reza Negarestani) — continuité, apprentissage, esprit collectif. Le texte contient ici une autocritique notable : ce critère reste valable, mais le « tableau développemental » du livre n’est plus la trajectoire probable de l’IA réelle. Les systèmes actuels gagnent en puissance d’action sans passer par cette intégration rationnelle.

Métabolisme, insolvabilité cognitive. L’image vient de Marx, qui décrit le travail comme un « métabolisme » (Stoffwechsel) entre l’homme et la nature, et de la « rupture métabolique » que l’écologie marxiste (J. B. Foster) a reprise. Negarestani l’applique à la raison : la capacité de réviser ses héritages a des conditions matérielles (archives, compétences, institutions) qui s’usent. Si on les consomme plus vite qu’on ne les renouvelle, la raison devient « insolvable » : elle continue d’agir à crédit sur une histoire qu’elle ne peut plus examiner. L’objection métabolique applique la même idée à l’usine : elle apprend de ses échecs réels, donc en consommant le monde dont elle apprend, et ses comptes s’affinent à mesure que ce monde s’appauvrit.

Commensuration. Rendre commensurables des choses hétérogènes en leur donnant une mesure commune, typiquement un prix. Ici : la charte « tarife » les dommages.

Point de vue de Dieu. Formule de Hilary Putnam (Reason, Truth and History, 1981) pour le point de vue de nulle part, extérieur et total, qu’aucun connaisseur fini n’occupe. Negarestani : qu’il n’existe pas de modèle complet de soi ne prouve pas qu’il n’en existe aucun.

Les auteurs discutés

Félix Guattari : la machine. Dans « Machine et structure » (1969, repris dans Psychanalyse et transversalité, 1972), puis dans Chaosmose (1992), Guattari oppose la machine à la structure. La structure est un système fermé d’éléments ; la machine se définit par ses agencements, ses couplages avec ce qui l’entoure, et ne cesse de se reconstituer. Une « machine guattarienne » n’a donc pas d’identité hors de ses relations. D’où l’objection de Negarestani : si l’identité est relationnelle, la coupure initiale de l’architecte n’a aucun privilège, et l’histoire de l’usine doit pouvoir la redéfinir.

Cornelius Castoriadis : maîtrise et autonomie. Castoriadis (1922-1997), cofondateur de Socialisme ou Barbarie, a décrit l’URSS comme un « capitalisme bureaucratique » et soutenu que capitalisme et marxisme partagent un même imaginaire : l’« expansion illimitée de la maîtrise rationnelle » sur la nature et la production. Le texte cité, « De l’écologie à l’autonomie » (1980), vient d’un débat avec Daniel Cohn-Bendit (Seuil, 1981). À cet imaginaire, Castoriadis oppose l’autonomie : une société autonome se donne ses propres lois en sachant qu’elle se les donne, et peut donc les remettre en question, alors qu’une société hétéronome les reçoit comme venues d’ailleurs (des dieux, de la nature, de l’histoire) [2]. C’est le ressort profond de la réponse : le noyau de l’usine, soustrait à toute révision, se donne l’autorité d’une nécessité alors qu’il est une institution contingente. C’est de l’hétéronomie au cœur de l’autonomie.

Leslie Lamport : l’ordre partiel. Dans un système distribué il n’y a pas d’horloge commune. Lamport (« Time, Clocks, and the Ordering of Events in a Distributed System », 1978) montre qu’on peut seulement établir une relation « arrivé avant » entre les événements qui dépendent l’un de l’autre ; les autres restent incomparables. C’est un ordre partiel. Negarestani n’en cite pas la source, mais c’est ce modèle qu’il décrit à la fin : non pas « qu’est-ce qui est arrivé en premier ? », mais « qu’est-ce qui devait arriver avant quoi, et où les trajectoires se rejoignent-elles ? ».

Entraînement. Phénomène physique observé par Huygens (1665) : deux horloges à pendule accrochées au même support finissent par battre ensemble. Des processus couplés se synchronisent d’eux-mêmes. Les auteurs de The Superdark Factory organisent au contraire une désynchronisation délibérée, ce que Negarestani salue.

La proposition : trace de reconstruction ou traçabilité

La traçabilité consigne tout, en continu, pour pouvoir tout reconstituer : c’est l’idéal du gouverneur névrotique. La trace de reconstruction ne consigne pas tout ; elle garantit seulement qu’on pourra, après coup et quand une conséquence l’exige, remonter les dépendances à la bonne échelle (un geste, une procédure, une dépendance technique, l’institution qui l’a permise). Elle n’est pas faite pour gouverner, mais pour répondre : rendre une conséquence contestable et réparable. L’image vient de l’enquête judiciaire (« forensique ») : on enquête quand l’agent n’est plus là pour s’expliquer.

Choix de traduction

  • agency : agentivité (et non « agence »).
  • answerability : redevabilité. Le mot anglais dit l’obligation de répondre de ses actes devant quelqu’un ; « responsabilité » est réservé à responsibility, qui figure aussi dans le texte.
  • superdark, superdarkness, dark stack : superobscur, superobscurité, pile obscure. Le titre de l’article reste en anglais.
  • hard casts : moulages rigides (ce qui est coulé, cast, une fois pour toutes).
  • governor : gouverneur, au sens cybernétique.
  • forensic : forensique, au sens de la criminalistique.
  • geistic : rendu par une périphrase, « relève de l’esprit (Geist) ».

Références

  1. [1] Jay Rosenberg, Wilfrid Sellars: Fusing the Images, 2007. Voir sa fiche dans Rayons
  2. [2] Cornelius Castoriadis, Thucydide, la force et le droit, 2011. Voir sa fiche dans Rayons