Reza Negarestani — « Une obscurité à soi-même ». traduit de l’anglais.Généré par machine
Texte original : Reza Negarestani, « A Darkness unto Itself: A Response to “The Superdark Factory” », Triple Ampersand, 16 octobre 2026 — https://tripleampersand.org/a-darkness-unto-itself/. Les notes de l’auteur sont signalées comme telles ; les autres sont du traducteur (N.d.T.) et renvoient au billet Lire « Une obscurité à soi-même ».*1
La question que partagent Deep Objects, Broken Metabolism2 et The Superdark Factory3 porte sur le sort de l’agentivité4 une fois la cognition distribuée dans des organisations dont le tempo et la différenciation excèdent l’appréhension individuelle.
Dans l’argument des objets profonds, le lieu le plus solide de l’agentivité relève de l’esprit (Geist)5 et de l’histoire plutôt que d’une propriété zoologique. L’intelligence exerce une agentivité dans la mesure où elle peut reconstruire assez de ses conditions pour distinguer l’héritage contingent de la contrainte structurelle, puis modifier le premier sans compromettre les fonctions que ces conditions soutiennent. La liberté, selon cette conception, prend une forme architecturale : elle est la capacité de traiter les conditions de sa propre réalisation comme des objets de reconstruction et de reconception, plutôt que comme une juridiction héritée. À mesure que s’épuise le métabolisme6 qui reproduit ces capacités, la latitude formelle peut survivre à l’évidement de l’agentivité substantielle.
Voilà qui éclaire aussi le rapport à Intelligence and Spirit7, dont l’analyse est centrée sur l’agentivité rationnelle plutôt que sur une efficacité causale générique ou un fonctionnement autonome. Un système peut agir et se reconfigurer sans entrer dans un espace normatif où des engagements peuvent être justifiés, critiqués et révisés à la lumière de raisons. Cette analyse vaut toujours comme critère d’une agentivité artificielle rationnelle ou générale (au sens qualitatif), bien que le tableau développemental qu’elle propose ne doive plus être compris comme la trajectoire probable de l’IA contemporaine. Les systèmes contemporains font apparaître une autre trajectoire, le long de laquelle l’agentivité opérationnelle peut s’intensifier sans l’intégration rationnelle que ce livre associait à la sapience8.
The Superdark Factory radicalise cette divergence, puisque son architecte cède le commandement interne et admet une organisation dont le développement devance toute maîtrise descriptive. L’agentivité se concentre d’abord dans le coup de Stackelberg9, qui établit les conditions de l’auto-organisation, puis se poursuit à la frontière, par le biais de la charte. La gouvernance névrotique10 circonscrit la production aux avenirs que le gouverneur peut déjà dériver ou, selon la formule des auteurs, qu’il « sait comment vouloir ». La raison d’être de la superobscurité11 est alors de permettre à l’usine de s’aventurer au-delà de ce que son gouverneur pouvait déjà reconnaître comme digne d’être voulu. L’audace conceptuelle et l’ingéniosité de The Superdark Factory tiennent à ce qu’elle fait de l’opacité une condition constitutive de la gouvernance, et à ce qu’elle traite la perte de visibilité intégrale comme une ouverture sur des formes d’organisation qui n’auraient pu être anticipées dans l’espace de conception antérieur de l’architecte.
L’argument repose pourtant sur un terrain moins sûr lorsque l’obscurité externe est censée entraîner l’obscurité réflexive. Les auteurs soutiennent que, puisque l’information descriptive perd son utilité pratique pour un observateur externe, aucune partie ni aucune coalition internes ne devraient pouvoir assembler un modèle opératoire du tout ; ils en infèrent en outre que l’identité de l’usine doit être constituée du dehors. Mais ce passage est plus fort que ce qu’autorisent les prémisses. Une organisation peut manquer d’une autodescription exhaustive tout en conservant des automodèles partiels suffisants pour une révision locale. Le propre compte rendu des auteurs fait déjà place à cette possibilité, dans la mesure où les coûts et les rendements sont indexés sur ce dont l’usine dépend et sur ce qu’elle peut faire. Une telle condition fait signe vers une réflexivité distribuée, où la connaissance de soi est partielle sans pour autant céder à une opacité à soi totale. L’agentivité rationnelle n’exige pas une connaissance de soi exhaustive, mais elle dépend d’une certaine capacité à rouvrir les termes sous lesquels l’action a été organisée. L’absence d’un automodèle du point de vue de Dieu12 n’autorise nullement à abolir toute connaissance de soi, pas plus que son incomplétude ne justifie de fonder l’identité dans une instance constituante externe.
Le même problème reparaît au sein de l’ontologie relationnelle de l’usine elle-même, où la question de l’identité ne peut plus être séparée des relations qui la constituent. Ce qu’on peut appeler l’objection de la frontière relationnelle découle de l’ontologie sur laquelle l’usine est fondée. Les auteurs définissent l’usine comme une machine guattarienne13 dont l’identité subsiste dans des relations plutôt que dans un inventaire fixe de pièces, et ils traitent souvent la frontière entre dedans et dehors comme une fonction des relations à travers lesquelles la machine est identifiée. Cette prémisse une fois accordée, la coupe inaugurale de l’architecte ne peut jouir d’un privilège ontologique refusé aux relations engendrées ensuite sous sa juridiction. La frontière de Stackelberg peut instituer une usine, mais l’histoire ultérieure de la machine continue de participer à la constitution de ce qu’est cette usine. Immuniser la démarcation fondatrice contre cette histoire reviendrait à convertir une ontologie relationnelle en fixité constitutionnelle, au point précis où cette ontologie rend l’identité susceptible de révision historique.
Une objection familière se présente ici : la superobscurité ne ferait que reconstituer, à un registre technique supérieur, le fantasme de maîtrise du sujet moderne, ne renonçant au commandement direct de l’objet qu’après avoir établi les conditions sous lesquelles son autonomie peut prendre une forme déterminée. La maîtrise de premier ordre appartient ici à l’ancien imaginaire du commandement technique sur la nature et la production, imaginaire qui, comme l’a observé Cornelius Castoriadis, traversait l’apparente opposition du capitalisme et du marxisme, et qui a fini par trouver une expression institutionnelle particulièrement concentrée dans les régimes bureaucratiques du monde soviétique14. Prise à la lettre, toutefois, cette objection manque la spécificité de la proposition. L’architecte renonce au contrôle de premier ordre, ne peut prescrire l’organisation interne de l’usine et admet des configurations dont la possibilité n’aurait pu être dérivée d’avance, tandis que la charte reste négociable et se trouve en partie révisée par l’usine elle-même. Ce qui persiste est pourtant plus subtil et prend la forme d’une asymétrie constitutive de second ordre (plutôt que d’une maîtrise). Par le coup de Stackelberg, l’architecte contribue à établir l’identité de l’usine et installe une strate étroite, un noyau de moulages rigides (hard casts)15, délimitant ainsi le champ où s’exerce son autonomie. Une telle asymétrie n’est nullement pathologique en elle-même, puisque aucune agentivité ne naît indépendamment de conditions antécédentes, et que l’émancipation n’a jamais consisté à s’exempter de toutes les conditions dont dépend l’agentivité, qu’elles soient physiques ou historiquement instituées. La liberté se réalise même concrètement parce que l’agentivité rationnelle prend forme à travers des contraintes et des critères déterminés dont l’organisation est matériellement et historiquement contingente. La difficulté surgit cependant lorsque des conditions contingentes s’arrogent l’autorité de nécessités et se placent hors de la juridiction des interrogations ultérieures. Dès lors, la répudiation de la maîtrise de premier ordre risque de préserver une maîtrise résiduelle dans l’immunité accordée à la constitution même de l’autonomie.
La même asymétrie revient à une strate normative supérieure, où la question est de savoir qui détient l’autorité d’admettre des raisons dans le champ même de la révision. Ce qu’on peut appeler l’objection du plafond normatif touche directement à la distinction entre agentivité opérationnelle et agentivité rationnelle. L’automatisation de classe 316 — c’est-à-dire la capacité de l’usine à formuler ses propres objectifs à partir de normes et de contraintes — permet à l’usine de dériver des objectifs de ces normes et contraintes, et de participer à la révision des métriques, des pénalités et de la charte par lesquelles elles sont formalisées. Les auteurs tracent néanmoins la limite à l’établissement des normes lui-même, car une usine qui constituerait intégralement ses normes passerait dans leur classe 4, encore inexplicitée et indéfinie, tandis que la couche normative primaire demeure écrite du dehors, ou soumise à un dispositif de gouvernance dont la juridiction ultime ne revient jamais entièrement à l’usine. Son autonomie, étendue dans la dérivation et la révision des objectifs, est constitutionnellement incomplète au niveau des raisons habilitées à gouverner cette révision. Plus lourde de conséquences est la stratification de la raison elle-même, par laquelle certains engagements sont maintenus à portée de l’interrogation historique, tandis que l’autorité qui décide quelles raisons ont droit à un statut normatif est placée sous un autre régime constitutionnel. En ce sens, la formation des objectifs peut être autonome en pratique, mais les raisons qui autorisent cette formation n’appartiennent pas au même ordre de révision.
L’asymétrie constitutive n’est nulle part plus exposée que dans la superobscurité, à l’endroit de sa thèse la plus forte. L’usine assure son autonomie en excédant ce que le gouverneur sait déjà vouloir ; or cet excès même met en question l’adéquation de tout ordre constitutionnel dont les engagements décisifs doivent précéder l’apparition des possibilités, des dépendances et des défaillances sur lesquelles ils sont censés exercer ensuite leur juridiction. Un architecte ne peut légiférer adéquatement d’avance pour un avenir dont la valeur épistémique et productive réside dans sa résistance à toute spécification préalable. La pile obscure (dark stack) atténue cette difficulté en distinguant les moulages rigides du noyau — c’est-à-dire un ensemble restreint d’engagements régissant des questions comme la mémoire, l’accès et les capacités, dont la modification est rendue prohibitivement coûteuse ou effectivement fatale à l’usine existante — d’une charte négociable et d’un appareil d’évaluation adaptatif. Ces moulages rigides fonctionnent comme la physique constitutionnelle de l’usine ; pourtant l’autorité constitutionnelle instituée par le coup de Stackelberg ne peut être soustraite à l’histoire engendrée ensuite sous ses termes.
Dans ce scénario, des engagements dont la révision menacerait la continuité de l’identité de l’usine peuvent se trouver disjoints des circonstances historiques d’où ils tiraient d’abord leur intelligibilité, même lorsque l’usine passe à des formes d’organisation pour lesquelles ces contraintes héritées ne correspondent plus aux conditions causales et matérielles par lesquelles les conséquences sont produites. Les auteurs mettent consciencieusement cette difficulté en lumière dans leur traitement de la désynchronisation temporelle, des effets différés, des processus interdépendants et de la convergence catastrophique, qui tous montrent que les relations conséquentielles peuvent devancer la compétence descriptive de l’appareil chargé de les rendre administrativement traitables.
Cette insuffisance descriptive prend plus de poids encore lorsque l’échec est enrôlé comme moyen d’apprentissage. L’objection métabolique de la conséquence réalisée porte sur la dépendance de la machinerie évaluative à l’égard d’échecs graves et lourds de conséquences, dont la valeur épistémique ne peut être reproduite par simulation, puisque la mesure que l’usine prend des conséquences est calibrée par des rencontres avec des dommages réels dans le monde. Le gain épistémique s’achète par une perte matérielle chaque fois que l’échec améliore l’estimation des conséquences par l’usine en dégradant les capacités infrastructurelles dont dépend l’action ultérieure, si bien que le même événement n’est enregistré comme information par l’appareil d’évaluation qu’après avoir déjà pris forme matérielle comme dépense. Une charte peut fixer le prix d’un dommage nouvellement rendu lisible pour son schème d’évaluation, alors même que s’épuisent les conditions qui donnent à cette tarification sa validité pratique. La cohérence du calcul peut par conséquent dérober à la vue l’attrition de sa propre validité opératoire, et permettre à la commensuration17 de gagner en exactitude représentationnelle alors même que diminuent les capacités par lesquelles cette exactitude peut encore peser matériellement sur le monde. Son intelligence peut s’améliorer en faisant passer le dommage dans le savoir, même là où le monde matériel qui a fourni la leçon s’est trouvé appauvri par l’acquisition de ce savoir.
Rien de cela, toutefois, ne réduit l’usine à un simple ordre séquentiel. L’architecture technique de The Superdark Factory comprend des boucles asynchrones fonctionnant à des vitesses et selon des phases hétérogènes, dont les effets se propagent par interférence. Les auteurs en rendent compte par la différenciation temporelle et la désynchronisation délibérée, même si l’agentivité constitutionnelle reste logée dans un ordonnancement inaugural, tandis que les opérations ultérieures ne sont que partiellement ordonnées. Le texte est particulièrement convaincant dans son traitement de la désynchronisation temporelle et de l’entraînement18, qui refuse la commodité d’une horloge commune fictive pour des processus dont l’efficacité causale est distribuée sur des temporalités hétérogènes. Des conséquences peuvent naître de l’interférence entre processus sans laisser derrière elles un acteur singulier à qui adresser leur histoire. Dans cette mesure, l’agentivité distribuée n’entraîne pas une innocence distribuée, et la responsabilité ne devrait pas non plus être consolidée rétrospectivement dans quelque souverain de substitution. L’attribution doit suivre l’organisation par laquelle une conséquence a été autorisée et propagée, à la résolution ou au niveau de granularité qu’exige le cas. Ici l’enquête peut s’arrêter à une intervention individuelle ; ailleurs elle peut passer à une procédure de gouvernance, à une dépendance technique héritée ou à l’institution qui a sanctionné la substitution en cause. La disparition d’un auteur singulier laisse la responsabilité intacte et transfère la charge de l’enquête à l’histoire distribuée par laquelle la conséquence a été engendrée.
C’est à ce point que la trace de reconstruction trouve sa portée forensique19, puisque l’enquête commence une fois que l’agentivité contemporaine des faits est sortie de la portée de l’examen direct. Lorsque ni le système opérant ni sa persona visible ne peuvent rendre compte de façon crédible de la manière dont un état lourd de conséquences a été produit, l’autorité probatoire réside dans l’itinéraire récupérable des opérations, des décisions et des dépendances par lesquelles cet état a été amené. Cette réassignation de l’autorité probatoire laisse soupçonner que la trace de reconstruction ne fait que réinstaurer le gouverneur névrotique même que rejette The Superdark Factory. La distinction tient à la temporalité et à la portée : la gouvernance névrotique exige assez d’information contemporaine pour reconstituer l’organisation hors de son automatisation, tandis que la trace de reconstruction est sélective et rétrospective.
La distinction entre reconstitution contemporaine et reconstruction rétrospective sélective sépare aussi la trace de reconstruction de la traçabilité. La trace de reconstruction recouvre une histoire conséquentielle à partir de dépendances disponibles sans journal exhaustif. Une telle reconstruction permet de rouvrir une trajectoire conséquentielle lorsque la réparation ou la contestation l’exige, et sa finalité est la redevabilité20 historique plutôt que la maîtrise continue. The Superdark Factory pose le problème de gouverner l’intelligence une fois qu’on a renoncé à la reconstruction exhaustive, tandis que l’objet profond concerne les portions de l’histoire qui doivent néanmoins rester récupérables si la révision ne doit pas s’abandonner à l’héritage.
L’agentivité rationnelle, à la différence de la simple efficacité opérationnelle, doit être comprise historiquement et métaboliquement. Réviser un engagement présuppose l’accès à l’histoire par laquelle il en est venu à gouverner l’action, et cet accès repose sur des pratiques capables d’entretenir la compétence de soumettre de nouveau cette histoire à l’examen. Si ces conditions s’épuisent plus vite qu’elles ne se renouvellent, la capacité opérationnelle peut croître tandis que la redevabilité rationnelle se contracte, jusqu’à ce que l’asymétrie elle-même prenne la forme d’une insolvabilité cognitive. La trace de reconstruction dote cette redevabilité d’un organe historique par lequel l’héritage peut être soumis à la raison plutôt que reçu sous l’autorité du fait accompli.
La trace n’admet aucune granularité fixée d’avance, puisque la résolution à laquelle l’enquête historique doit procéder est déterminée par la conséquence qui appelle la reconstruction. Un échange routinier peut souvent être recouvré à partir de l’interaction manifeste, tandis qu’une intervention matérielle peut contraindre l’enquête à remonter jusqu’à l’ensemble opérant, et plus loin encore jusqu’à l’autorisation qui l’a rendue possible. Là où des processus asynchrones contribuent à un résultat commun, la chronologie ne suffit plus. L’alternative à la séquentialité de Stackelberg (engagement architectural → réponse de l’usine → opérations subséquentes) n’est pas le désordre causal, mais une histoire partiellement ordonnée21, capable de préserver la dépendance sans forcer chaque événement dans une succession globale unique. La question pertinente n’est plus seulement de savoir ce qui est arrivé d’abord, mais ce qui devait arriver avant qu’une autre opération puisse se poursuivre, ce qui s’est déroulé indépendamment, et où ces trajectoires ont convergé dans une conséquence commune.
La trace de reconstruction articule ainsi une forme historique à la mesure de l’agentivité distribuée, sans inventer après coup un souverain fictif. Le coup de Stackelberg établit une priorité constitutionnelle, tandis que la trace de reconstruction empêche sa conversion silencieuse en nécessité historique, en maintenant l’accès à la trajectoire par laquelle ses conséquences se sont fait sentir. Même là où l’action est distribuée, la redevabilité peut survivre à l’événement et laisser ouverte la possibilité d’une réparation ou d’une réorientation ultérieures. La machine peut excéder ses gouverneurs en vitesse et en portée inventive sans pour autant condamner chaque intelligence ultérieure à hériter de sa trajectoire comme d’un destin.
Notes
-
N.d.T. Le titre anglais, A Darkness unto Itself, joue sur l’idiome a law unto itself (« être sa propre loi ») : l’usine serait sa propre obscurité, opaque même à elle-même — thèse que le texte conteste. Voir le billet d’accompagnement. ↩
-
Note de l’auteur. R. Negarestani, « Deep Objects, Broken Metabolism », conférence prononcée au Maxim Gorki Theater, Berlin, dans le cadre des Feedback Sessions: Autopilot, le 9 octobre 2026 ; la présente réponse a été donnée lors du même événement, dans une table ronde avec Anna Longo, Marek Poliks et Roberto Alonso Trillo. ↩
-
Note de l’auteur. M. Poliks, R. Alonso Trillo, T. Dunn, H. Scott-Douglas et J. Springett, « The Superdark Factory », Antikythera Journal, Agentworld, MIT Press, 2026, DOI 10.1162/ANTI.AW01. — N.d.T. L’article imagine une usine entièrement automatisée, conçue pour excéder les capacités de son créateur. Résumé dans le billet d’accompagnement. ↩
-
N.d.T. Agency est rendu par « agentivité » : la capacité d’agir en agent, non une « agence ». ↩
-
N.d.T. L’anglais dit geistic : relevant de l’esprit au sens de Hegel, c’est-à-dire des institutions, pratiques et normes par lesquelles une communauté se comprend et se transforme dans l’histoire, par opposition à un attribut de l’organisme animal. ↩
-
N.d.T. L’image vient de Marx (le travail comme Stoffwechsel, « métabolisme » entre l’homme et la nature) : la capacité de réviser ses héritages a des conditions matérielles qui s’usent et doivent être renouvelées. Voir « Métabolisme, insolvabilité cognitive ». ↩
-
N.d.T. R. Negarestani, Intelligence and Spirit, Urbanomic/Sequence Press, 2018. Voir Notes sur *Intelligence and Spirit* (Reza Negarestani) — continuité, apprentissage, esprit collectif. ↩
-
N.d.T. Distinction de Robert Brandom, après Sellars : la sentience est la sensibilité que nous partageons avec les animaux ; la sapience, la capacité de donner et de demander des raisons, d’occuper une place dans « l’espace des raisons ». ↩
-
N.d.T. En théorie des jeux (H. von Stackelberg, Marktform und Gleichgewicht, 1934), un meneur s’engage le premier et un suiveur réagit en connaissant ce choix. L’architecte ne joue qu’une fois, avant la mise en marche de l’usine, mais ce coup structure tout ce qui suit. ↩
-
N.d.T. Le gouverneur est le régulateur de la machine à vapeur (Maxwell, On Governors, 1868), d’où Wiener tire le nom de la cybernétique. La gouvernance « névrotique » veut tout voir et ne laisse produire que ce qu’elle sait déjà vouloir. ↩
-
N.d.T. Superdark, superdarkness, dark stack : « superobscur », « superobscurité », « pile obscure ». La pile est l’ensemble des principes de conception posés par l’architecte : primitives d’apprentissage, régime de versions, évaluation adversariale, charte coécrite avec l’usine. ↩
-
N.d.T. Formule de Hilary Putnam (Reason, Truth and History, 1981) pour le point de vue extérieur et total qu’aucun connaisseur fini n’occupe. ↩
-
N.d.T. Chez Félix Guattari (« Machine et structure », 1969 ; Chaosmose, 1992), la machine s’oppose à la structure : elle n’existe que par ses agencements et ses couplages et ne cesse de se reconstituer. Voir le billet d’accompagnement. ↩
-
Note de l’auteur. C. Castoriadis, « From Ecology to Autonomy » (1980), dans The Castoriadis Reader, éd. et trad. D. A. Curtis, Oxford, Blackwell, 1997, p. 239-252, en particulier p. 240 et 247. — N.d.T. Texte original : De l’écologie à l’autonomie, débat avec Daniel Cohn-Bendit, Seuil, 1981. Castoriadis y oppose à l’« expansion illimitée de la maîtrise rationnelle » l’autonomie : une société qui se donne ses lois en sachant qu’elle se les donne, et peut donc les remettre en question. ↩
-
N.d.T. Hard casts : ce qui est coulé (cast) une fois pour toutes. Le noyau fixe la mémoire, l’accès et les capacités de l’usine ; le changer serait ruineux ou fatal. ↩
-
N.d.T. Les auteurs graduent l’autonomie : en classe 3, l’usine formule ses objectifs à partir de normes reçues ; en classe 4, qu’ils ne définissent pas, elle poserait ses normes elles-mêmes. ↩
-
N.d.T. Rendre commensurables des choses hétérogènes en leur donnant une mesure commune, ici un prix. ↩
-
N.d.T. Synchronisation spontanée de processus couplés, observée par Huygens (1665) sur deux pendules accrochées au même support. ↩
-
N.d.T. « Forensique » : au sens de l’enquête judiciaire, qui commence quand l’agent n’est plus là pour s’expliquer. La trace de reconstruction ne consigne pas tout en continu (ce serait la traçabilité) ; elle garantit qu’on pourra remonter les dépendances après coup, à la bonne échelle. Voir le billet d’accompagnement. ↩
-
N.d.T. Answerability : l’obligation de répondre de ses actes devant quelqu’un. « Responsabilité » est réservé à responsibility, qui figure aussi dans le texte. ↩
-
N.d.T. Dans un système distribué sans horloge commune, on ne peut établir qu’une relation « arrivé avant » entre événements dépendants ; les autres restent incomparables (L. Lamport, « Time, Clocks, and the Ordering of Events in a Distributed System », 1978). ↩