Règles, contraintes, programmes

Jean-Pierre BALPE

Je risquerai ici une hypothèse qui n’est d’ailleurs pas très originale puisqu’elle provient en partie des théories du structuralisme génétique de Goldmann mais sur laquelle je m’appuierai cependant : la littérature repose sur une structure à quatre pôles, un auteur, une langue, un lecteur, une forme. L’ensemble de ces quatre composantes est indispensable pour définir tout objet littéraire. Chacune d’entre elles est une variable non élémentaire dont les constituants sont sans cesse amenés à changer : la notion d’auteur est relative à celle de culture et à la sociologie des individus ; les langues ne sont pas homogènes, elles changent, s’influencent les unes les autres ; la conception du lecteur est variable suivant les cultures dans lesquelles il vit et les techniques qu’il emploie pour se livrer à la lecture ; les formes sont multiples, dépendantes des langues, des cultures, des époques, etc. Si l’on admet cette hypothèse, tout texte peut-être défini comme le résultat d’une stratégie de production menée à l’intérieur du système, c’est à dire de l’ensemble de variables liées, ainsi définies. Il ne peut donc y avoir de définition fixe et définitive de la littérature, pas plus d’ailleurs que du texte. Par conséquent, les formes non plus ne sont jamais seules, elles ne sont que des composantes d’une stratégie d’ensemble qui fait la littérature. Or cette stratégie comprend des éléments qui rattachent la littérature à des ensembles sociétaux et culturels. Quoi qu’il en soit, il n’y a jamais littérature sans forme. Celles-ci peuvent être peu apparentes comme dans le roman contemporain ou au contraire extrêmement exigeantes comme dans le sonnet français, elles sont cependant toujours présentes et déterminantes. Elles peuvent malgré tout reposer aussi sur des conceptions très différentes qui, en retour, renvoient à des idéologies particulières du texte, donc de ses lectures, donc de son inscription culturelle, etc. S’interroger sur une telle conception des formes n’est donc en rien aborder une problématique marginale mais au contraire essayer de voir ce qu’elles révèlent des conceptions même des textes. Les quatre expressions - règle, contrainte, texte à programme et texte programmé - appliquées à des formes littéraires différentes me semblent ainsi pouvoir caractériser quatre usages culturels concurrents du littéraire notamment si l’on remarque que, parmi ces quatre, seul le premier relève d’une ancienneté traditionnelle, les trois autres dépendant pour leur part plutôt de la « modernité », du moins historique. Il ne me semble donc pas inutile, au risque de tomber dans le travers définitionnel, d’essayer d’y voir un peu plus clair dans ce domaine.

Confusions

L’article suivant, tiré de l’article Oulipo de l’Encyclopaedia Universalis, me paraît, sur ce plan, exemplaire de la confusion, pour ne pas dire du chaos qui traduit un certain nombre d’ambiguïtés fort répandues obscurcissant de nombreux discours critiques :

« L’Oulipo a publié ses travaux dans le numéro 17 des Dossiers du Collège de pataphysique, intitulé « Exercices de littérature potentielle » et sous-titré « Patalégomènes à toute poétique future qui voudra bien se présenter en tant que telle ». Selon Queneau, il s’agit de « préparations et de recherches quant aux possibilités poétiques autres que celles qui existent actuellement ». Toute poétique obéit à des règles et à des contraintes : l’alexandrin a douze pieds, le sonnet quatorze vers et des rimes précises ; la tragédie classique est soumise à la règle des trois unités ; les grands rhétoriqueurs multipliaient les contraintes. Or toutes ces contraintes sont arbitraires. De plus, une fois qu’elles sont adoptées, elles n’entravent pas la création artistique, comme le prouvent Corneille ou Racine, ou bien Marot. Il existe même des sonnets surréalistes. Le projet de l’Oulipo est donc de découvrir des structures nouvelles, c’est-à-dire des contraintes nouvelles. D’une part, ces structures nouvelles permettent de dégager une « littérature potentielle » du matériel déjà existant, c’est-à-dire qu’en superposant une nouvelle structure à une œuvre ancienne on obtient un produit nouveau, qui peut avoir une valeur littéraire en soi ou qui peut servir à analyser cette œuvre. D’autre part, cette structure nouvelle peut servir à créer une œuvre entièrement neuve, d’où une double « potentialité » de littérature dans la règle, la loi, la structure, proposée. »

Dans cet extrait, en effet, les termes « structure », « règles » et « contraintes » sont considérés comme interchangeables, quasi-synonymes, comme si le recours à l’un ou l’autre des termes ne révélait rien du système littéraire.

Structures

Passons rapidement sur le terme « structure » qui, au travers des théories structuralistes, me semble avoir reçu une acception claire et définitive considérant l’objet littéraire au travers des relations abstraites métatextuelles internes entre éléments linguistiques et sémiotiques qui le constituent. Si la contrainte, ou la règle, influe sur la structure, il me semble cependant que celles-ci ne sont en rien elles-mêmes des structures ou alors ce serait donner à ce terme une acception bien élémentaire : les règles du sonnet ne correspondent que pour une faible part aux structures à l’œuvre dans les chats de Baudelaire telles que Lévy-Strauss s’efforce de les dégager. Les structures des textes excédent, et de loin, les formalismes des règles et des contraintes. Si un texte peut, à l’analyse, révéler des structures plus ou moins prégnantes, il n’est jamais écrit à partir de ces structures. Celle-ci se révèlent à la lecture et même, pour une bonne part - d’où l’intérêt de l’analyse - restent inconscientes à l’auteur même du texte. Les structures appartiennent à un corpus ouvert de possibles et ne peuvent pas être codifiées. Apparaît ainsi une première frontière entre le volontaire et l’involontaire, le conscient et l’inconscient : un auteur crée des structures mais ne les utilise pas alors qu’il utilise des règles, des contraintes, établit des programmes de textes, ou programme des possibles de textes. Si elle est éventuellement une forme de lecture, une structure n’est jamais une forme d’écriture, du moins consciente.

Contraintes

Le terme « contrainte », quant à lui, définit pour une bonne part l’originalité des travaux de l’Oulipo. Dans ses deux ouvrages théoriques principaux - Ouvroir de littérature potentielle et Atlas de littérature potentielle -, ce terme est en effet employé pratiquement à chaque page même si, curieusement, il ne reçoit aucune définition claire - ou si du moins je n’en ai pas trouvé. Ce qui se rapproche en effet le plus d’une définition serait le texte suivant signé François le Lionnais, publié page 20 du premier ouvrage et repris page 53 du second, complété par Jacques Roubaud :

« Toute œuvre littéraire se construit à partir d’une inspiration (c’est du moins ce que son auteur laisse entendre) qui est tenue à s’accommoder tant bien que mal d’une série de contraintes et de procédures qui rentrent les unes dans les autres comme des poupées russes. Contraintes du vocabulaire et de la grammaire, contraintes des règles du roman... ou de la tragédie classique... contraintes de la versification générale, contraintes des formes fixes (comme dans le cas du sonnet), etc. »

A quoi Jacques Roubaud ajoute :

« et pose pour but à l’OULIPO la recherche des contraintes à l’œuvre dans certaines œuvres anciennes ou extérieures quoique contemporaines à l’OULIPO (plagiaires dans l’instant et par anticipation [...] Le statut de la contrainte est donc fondamental. On remarquera qu’il n’est pas posé a priori différent de celui des contraintes élaborées par la tradition... »

Définition somme toute peu éclairante : beaucoup trop généraliste chez le Lionnais qui pourrait dire tout aussi bien que la langue est contrainte, peu explicite chez Jacques Roubaud où le seul indice éclairant est la différenciation faite entre contraintes et contraintes élaborées par la tradition. Jacques Roubaud a en effet ici l’intuition de ce qui sépare la contrainte de la règle. Pour le reste, la contrainte ne se définit dans les travaux de l’OULIPO que par ses usages et ses exemples. Pour l’essentiel il s’agit de formes d’origines - ou non - mathématiques mais de toutes façons modélisables qui sont génératrices de textes et sur lesquelles s’appliquent quelques « règles », terme employé alors dans un sens très général qui se rapproche de celui employé dans l’expression « règle du jeu », pour lesquelles je renvoie aux ouvrages de ce groupe. L’essentiel étant qu’elles doivent appartenir à des formalismes faciles à concevoir et qu’elles sont ainsi des axiomes de textes, formule curieuse si l’on songe que les axiomes sont des « vérités d’évidence » et que l’on ne peut donc les comprendre que comme des données indiscutables qui doivent être acceptées comme telles : la contrainte n’a pas besoin de justification, c’est une donnée initiale qui fonde la cohérence du texte et doit donc être acceptée comme telle, comme donnée de départ, prémisse indiscutable. Leur justification repose sur deux idéologies externes au texte :
   la contrainte oblige l’auteur à dépasser ses habitus linguistiques
   la contrainte élimine la part de hasard corrélative aux activités humaines
   la contrainte justifie le texte qui est d’autant plus cohérent si il parle d’elle (premier principe de Roubaud) Le rôle de l’auteur dès lors est au moins autant d’imaginer des contraintes nouvelles - travail principal de l’ouvroir oulipien en tant que tel - que de produire des textes dont ils sont le résultat. La contrainte est alors un rapport individuel aux formes et traduit une relation individualiste à la littérature : « (...) une œuvre d’art n’est pas quelque chose qui a été travaillé ; c’est avant tout quelque chose qui a été conçu. » (Timothy BINKLEY, « Pièce Contre l’esthétique », dans Gérard GENETTE (ed), Esthétique et Poétique, Seuil, 1992, p. 42). Le statut de la littérature est du côté de l’invention des formes, l’auteur est au moins autant celui qui produit du métatextuel que du texte et la lecture est, bien entendu, elle aussi tirée de ce côté là : d’une certaine façon lire est soit apprécier l’inventivité de la contrainte et la virtuosité de l’auteur (avec notamment le défi que pose cette habileté justifiant la pratique d’imitations et d’ateliers), soit résoudre une énigme en découvrant la contrainte à l’œuvre sous le texte. Quoi qu’il en soit, le texte s’efface sous le métatexte, comme la culture sous la virtuosité. Il n’y a pas de grille de lecture commune et préétablie mais la nécessité, à chaque texte, de construire cette grille dans la lecture. La contrainte s’épuise dans l’écriture d’un texte, son usage ultérieur relève du jeu, de l’imitation, de l’atelier. Au fond, s’il y a axiome, cet axiome est que tout axiome formel est susceptible de produire du texte ou plus exactement UN texte. Je n’insisterai pas, Christelle Reggiani a déjà dit là-dessus bien des choses intéressantes.

Règles

La règle, elle, bien entendu, n’est pas du tout de cette nature. Elle est en effet avant tout culturelle. Si le sonnet est apparu en Sicile au XIII ème siècle personne n’en connaît l’inventeur, pas plus que celui du pantoum d’origine malaise ou de la ballade d’origine provençale, apparue au XIV ème siècle ni celui du ghazel qui nourrit toute la littérature d’Asie Centrale durant des siècles. Ces formes sont des formes ritualisées dont l’origine importe peu car ce qui importe c’est leur acception culturelle et leur durée. Contrairement à la contrainte dont la responsabilité incombe à celui qui l’invente, la responsabilité de la règle échappe à l’auteur qui ne peut que l’accepter - même s’il peut s’accorder quelques petites licences - comme elle est. Si la règle est bien un axiome, elle est un axiome historique, non individuel et ne permet pas ainsi à tout un chacun de travailler sa conception du littéraire. Au contraire, ce que dit la règle, c’est qu’il y a une convention collective du littéraire et qu’en dehors de cette convention il ne peut y avoir de texte acceptable. Pour cela la règle est inépuisable et peut donner le jour à une infinité de textes car elle ne s’épuise pas en eux. Ainsi une forme réglée donnée dépend souvent du type de texte à produire : le ghazal est un poème d’amour, la ballade se rapproche de la chanson et traite de sujets non nobles, le virelai accompagne une danse, l’ode traite de sujets graves, etc. Les règles fondent ainsi, dans leurs spécialisations, une grille supralinguistique commune à l’écrivain et à son lecteur, interdisant le recours à l’énigme, posant une transparence de la forme. Cet aspect fortement contextuel de la règle explique peut-être d’ailleurs la disparition de la plupart d’entre elles au profit d’un ensemble à la fois plus restreint et plus ouvert car elles sont incapables de résister à l’évolution des contextes culturels : toute forme réglée porte en elle sa propre fin, non dans l’épuisement de ses possibles formels mais, plus sérieusement dans l’inadéquation où elle se trouve fatalement devant l’apparition de nouvelles réalités socioculturelles. Quoi qu’il en soit, ce que produit la règle, c’est une forte limitation de l’inventivité auctoriale : l’auteur n’est pas celui qui invente mais celui qui est capable de couler sa subjectivité linguistique dans un moule historique et c’est cette capacité que, entre autres choses, le lecteur va apprécier dans sa lecture.

Textes à programmes

Règles et contraintes sont des techniques d’engrammation, c’est-à-dire qu’elles font partie des procédures qui s’imposent à l’écriture et avec lesquelles les auteurs doivent composer pour atteindre leurs buts : l’engrammation d’un texte consiste ainsi dans la négociation entre une volonté d’expression et les possibilités matérielles qui transposent cette volonté vers une lecture. Dans cette engrammation, les règles, faisant partie du patrimoine littéraire commun, cherchent à se faire oublier alors que la contrainte, création originale, s’affiche - d’où le premier principe de Roubaud. Textes à programme et textes programmés sont une autre façon encore de jouer des relations internes au système littéraire et, notamment, de ses modalités d’engrammation. Dans le texte classique, la lecture est, pour l’essentiel, laissée à l’appréciation du lecteur, l’engrammation du texte n’en prend pas en charge tous les aspects possibles. Le Coup de dé de Mallarmé, historiquement une des premières tentatives faite pour essayer d’aller au-delà, a, dans ce domaine, ouvert tout un champ qui n’est concerné ni par les règles ni par les contraintes. La recherche d’écriture étant dés lors d’essayer de rendre signifiant ce qui, jusque là, était réglé en déployant toutes les possibilités expressives de la mise en page et de la typographie : ce serait plutôt une anti-règle puisque ce qu’elle affirme c’est la possibilité individuelle de tout auteur d’inventer, non plus des procédures d’écriture comme dans la contrainte, mais, élargissant le terrain d’influence du littéraire, des procédures de lecture. D’une certaine façon il s’agit en effet d’une tentative d’engrammation de la lecture qui est, depuis, fortement exploitée par l’écriture, notamment poétique, contemporaine. Dans le texte à programme, la lecture est contrainte, réglée. Là encore les contraintes du programme s’épuisent dans un texte unique et ne peuvent, telles quelles, être reprises pour un autre. Les textes à programme, exploitant les possibilités techniques de la vidéo ou du numérique, sont une prolongation de cette recherche : ce qu’ils essaient d’engrammer, ce sont les temporalités et/ou les cheminements de la lecture. Un texte à programme - hypertextes, textes dynamiques, vidéotextes, etc. - est en effet un texte qui fait de la temporalité et du parcours de ses lectures un aspect de son écriture. L’interactivité, même rudimentaire, des hypertextes, impose ainsi au travers de la suspension temporelle entraînée par la nécessité du choix, une suspension du temps de la lecture vers un temps autre, celui de la décision ; un texte vidéo - et sur ce plan bien des textes dits numériques relèvent des mêmes procédés - dicte par son déroulement le rythme de sa lecture. Il n’y a plus de règle d’écriture, celles-ci se déplacent du terrain de l’écriture vers celui de la lecture. Ce que cherche l’écrivain c’est à être le maître absolu de son texte hors de toute convention préétablie discernable. Le texte est l’auteur et n’obéit qu’à lui seul. Il s’agit alors de restreindre le plus possible les marges de liberté de son lecteur même si, pour cela, le texte prétend lui laisser des choix ; la connivence sur laquelle ouvrait le jeu des contraintes disparaît, l’équilibre entre les pouvoirs de l’auteur et ceux du lecteur que, d’une certaine façon, réalisait le respect culturel des règles est détruit au profit d’une prédominance absolue de l’auteur qui se veut désormais seul maître à bord et, pour cela, cherche à maîtriser tous les possibles de l’engrammation.

Textes programmés

Les textes programmés, c’est-à-dire ceux qui ne viennent au jour, comme dans la littérature générative, que suite au déroulement d’un algorithme plus ou moins complexe, sont d’une autre nature encore. Ils peuvent - ou non - obéir à des règles ; ils peuvent - ou non - respecter des contraintes ; ils peuvent - ou non - se donner à lire (ou à voir ou à entendre, ce qui revient au même) suivant un programme d’exécution. Leur particularité n’est en effet pas là. Ce qui les caractérise c’est la mise en arrière plan de leur auteur qui abandonne une part de ses prérogatives à un algorithme d’écriture que, généralement, il a conçu lui-même. L’engrammation devient alors une méta-engrammation : ce que l’auteur s’efforce à programmer, ce sont des possibilités d’engrammation et, bien souvent, des niveaux successifs d’engrammation. Ce qu’il programme, ou s’efforce de programmer, c’est davantage une conception du littéraire que tel ou tel texte, ou que tel ou tel type de texte particulier. Les « règles » et « contraintes » qu’il affronte sont celles de la syntaxe d’une langue informatique et n’ont rien avec voir avec celles de la littérature. Pour les textes programmés, la question de la lecture devient alors secondaire. Au sens strict. C’est une question possible, supplémentaire mais non fondamentale, l’auteur peut se la poser ou non, elle devient la question annexe d’une scénarisation de l’écrit. Loin de prétendre tout contrôler, l’auteur d’un texte programmé abandonne en effet une grande part de ce qui jusque là apparaissait comme essentiel à sa fonction, la maîtrise du texte-résultat. Ce qu’il programme c’est quelque chose qui devrait être du texte mais dont il n’a jamais la certitude de ce qu’il sera. Dans ce cadre, le rapport à la lecture change du tout au tout : il n’y a plus ni codage des règles, ni connivence des contraintes, ni maîtrise du programme pilotant le texte ; la lecture est une part aveugle abandonnée au lecteur qui en fait ce qu’il veut puisque, d’une part, il n’est jamais sûr de relire le même texte, et d’autre part, il n’est jamais sûr que qui que ce soit d’autre ait lu le même texte que lui. A la limite, l’algorithme du texte EST le texte, mais c’est un texte illisible sur le plan littéraire, y compris pour son auteur. La lisibilité de l’algorithme du texte ne se manifeste en effet que dans l’infinité de ses productions de surface. L’algorithme du texte EST la littérature, le texte n’est qu’une manifestation de cette littérarité. Dès lors, le niveau de conception de l’algorithme conditionne les niveaux de cette littérarité : un algorithme peut-être conçu pour un type de texte donné - par exemple produire des proverbes ou des haïkus - ou pour produire toute sorte de types de textes, y compris des types de texte non encore attestés. La question de l’épuisement des formes ne s’y pose pas puisque, devenant producteur possible de formes, il se veut un travail au niveau du métalittéraire et n’affiche que l’immatérialité de la littérarité. Les textes qu’il produit n’ont pas alors de valeur en eux-mêmes (ils sont inépuisables et temporaires) mais sont bien davantage des témoignages de l’infini mouvement producteur de la littérature. En ce sens ils transcendent à la fois les possibles des contraintes et des règles. La littérature programmée a toujours affaire avec la métalittérature.

Bibliographie

Goldmann, Lucien. Épistémologie et philosphie politique :pour une théorie de la liberté, ed. Médiations, Gonthier. Goldmann, Lucien. Le Dieu caché, Tel/Gallimard. Oulipo. Atlas de littérature potentielle. Paris : Gallimard, 1981. Oulipo. La Littérature potentielle (Créations, Re-créations, Récréations). Paris, Gallimard, 1973. Reggiani, Christelle. Rhétoriques de la contrainte : Georges Perec - L’Oulipo. Paris : Editions InterUniversitaires, 1999. Wolff Mark, Oulipo, Machines, and Posthuman Literature, http://users.hartwick.edu/wolffm0/20FSCg.html