Les points clés à retenir sur les filigranes de Claude

• Les nouveaux filigranes apposés sur le contenu généré par IA via Claude dérangent certaines personnes.
• Les réactions révèlent les priorités de l'entreprise et la dépendance excessive des humains vis-à-vis des outils d'IA.
• Pour éviter d'éventuels filigranes, rédigez vous-même votre texte (désolé !).

La semaine dernière, Anthropic a annoncé qu’elle allait commencer à apposer des filigranes sur les textes générés par plusieurs de ses modèles de langage (LLM) via Claude afin de se conformer à l’article 50 de la loi européenne sur l’IA.

Cette loi exige des entreprises qu’elles fournissent des outils de transparence pour les contenus générés par l’IA. L'indignation du public face à ces filigranes s'est amplifiée aussi rapidement que les nombreux outils de suppression de filigranes qui fleurissent désormais sur GitHub.

Pour ceux qui n’ont pas apprécié cette nouvelle, la solution semble évidente : trouver un moyen d’éviter d’emporter les filigranes hors de Claude.

Mais, tout comme les nombreux plugins d’écriture visant à « réhumaniser » le texte qui encombrent désormais les boutiques d’applications, se tourner vers un énième outil de correction ne nous mènera probablement nulle part.

Une remise en question plus globale de nos attentes vis-à-vis des outils d’IA — et de l’importance de la provenance du contenu — pourrait au contraire s’avérer utile.

Après avoir dans un premier temps donné peu de détails sur le fonctionnement des filigranes et sur les personnes capables de les lire, Anthropic a publié vendredi dernier de nouvelles recommandations, précisant que les filigranes seraient associés au texte en fonction de choix lexicaux spécifiques.

Les grands modèles de langage (LLM) génèrent un mot à la fois, choisi de manière probabiliste en fonction du mot précédent.

Dans son explication, Anthropic a indiqué que des synonymes tels que « couvert » ou « gris », dans le contexte d’une phrase traitant de la météo, avaient en réalité la même signification.

Anthropic a expliqué que ces choix de mots « sans grande importance » laissent apparaître dans le texte généré un schéma indétectable pour les lecteurs, mais lisible pour ceux qui disposent de la clé. Le tatouage numérique modifie légèrement ce processus de sélection aléatoire des mots.

« Au lieu d’utiliser un générateur de nombres aléatoires arbitraire pour choisir le mot suivant, le tatouage numérique utilise la clé et quelques mots précédents pour déterminer quel mot le modèle doit choisir », a expliqué Anthropic.

« Les mots choisis par Claude restent aléatoires, mais il est désormais possible de vérifier la séquence de mots et de voir si elle correspond aux choix que ferait Claude s’il utilisait la clé. Si c’est le cas, on peut attribuer une probabilité que le texte ait été généré par Claude. »

Un technologue en particulier a exprimé plusieurs frustrations concernant cette approche. Dans un récent article de blog, John Gruber, co-créateur du langage de balisage Markdown, a contesté l’idée selon laquelle ces choix de mots seraient « sans grande importance » et que la clé de tatouage numérique n’« altérerait pas la sémantique » de la sortie de Claude. Il n’est pas le seul à partager cette crainte.

« Le choix précis des mots que nous utilisons lorsque nous écrivons a son importance », a écrit Gruber. « Je veux que tout LLM que j’utilise choisisse les mots les meilleurs et les plus précis à chaque étape de la prise de décision. »

En tant qu’auteur et éditeur, je suis d’accord pour dire que le choix précis des mots a son importance. Mais Claude est-il l’arbitre des « mots les meilleurs et les plus précis » ? C’est intrinsèquement subjectif, mais je ne suis pas sûr que la référence absolue doive être un LLM formé sur le langage humain moyen et souvent utilisé à cette fin. La solution ne serait-elle pas ici de faire soi-même ces choix de mots précis, plutôt que de les confier à un produit qui évolue hors de votre contrôle ?

Étant donné que j’ai choisi d’écrire pour gagner ma vie, je comprends à quel point il est inutile de dire à quelqu’un pour qui l’écriture est une véritable torture de simplement « se débrouiller ». La comparaison n’est pas parfaite, mais l’IA peut être un outil d’écriture pour les non-écrivains, tout comme Google Sheets est un outil (rudimentaire) de gestion de données pour les non-analystes.

Confier l’écriture à un outil d’IA ne me convient pas, mais je le dis de manière neutre. Je ne pense pas que l’utilisation (ou la non-utilisation) de l’IA relève d’une question de supériorité morale. C’est un argument sans issue qui détourne l’attention des débats plus importants.

Le titre du blog de Gruber — « La falsification du texte par le “filigrane” d’Anthropic dans Claude est une perversion de l’écriture » — repose sur plusieurs hypothèses, qui mériteraient toutes d’être examinées de plus près :

• que la génération de texte par Claude puisse être considérée comme de « l’écriture » (un débat de longue date) ;
• que la « perversion » réside dans le filigrane, et non dans l’externalisation de l’écriture (un processus, et non simplement un produit fini) à une machine ;
• et que ce sont les filigranes — et non le pré-entraînement, les mises à jour ou modifications du modèle, ni l’évolution des normes de sécurité — qui constituent le premier facteur majeur faussant ce que Claude génère.

Mais c’est cette phrase de Gruber qui m’a le plus marqué :

« L’idée que quoi que ce soit d’autre que mes besoins puisse entrer en ligne de compte dans la génération d’un texte pour moi est manifestement choquante. »

Claude est, et a toujours été, un produit appartenant à une entreprise technologique. Il n’a jamais été optimisé uniquement pour l’utilisateur. L’IA en tant qu’outil destiné aux consommateurs telle que nous la connaissons aujourd’hui est peut-être sans précédent, mais le fait qu’une entreprise technologique agisse en tant que telle dans le cadre du capitalisme (et, de plus en plus, de la politique mondiale) ne l’est pas.

Nous nous devons mieux que d’ignorer le sophisme qui sous-tend cette attente. Nous ne pouvons pas nous permettre de croire que Claude, ou tout autre produit technologique de ce type, est avant tout l’assistant personnel d’un individu, quelle que soit l’efficacité avec laquelle il vous a été vendu.

Peu importe le temps que vous avez passé à fournir à Claude des données sur vos préférences en matière de textes générés par l’IA, sa loyauté (et celle d’Anthropic) ne vous a jamais été destinée. Le fait qu’Anthropic choisisse de s’adapter, même de manière aléatoire, à des réglementations tels que la loi européenne sur l’IA ne fait que le rappeler une fois de plus.

Les laboratoires d’IA sont des entreprises comme les autres, avec leurs propres caprices et leurs propres projets — ce n’est certainement ni la première ni la dernière fois qu’une entreprise modifie un produit à votre insu. Plutôt que d’espérer une cohérence irréaliste ou d’être considéré comme une priorité, le meilleur choix est d’investir dans les textes sur lesquels vous souhaitez voir figurer votre nom.

L’objectif de la réglementation n’est pas toujours d’améliorer la qualité des produits, mais de prendre en compte ce que l’entreprise à l’origine de ce produit n’a pas pris en compte (ou a pris en compte, mais sans agir suffisamment). C’est précisément l’objectif de l’article 5 de la loi européenne sur l’IA.

« Il est inacceptable qu’un outil sacrifie ne serait-ce qu’un iota de clarté, de cohérence, de sens, de qualité, etc. dans le but d’intégrer des indices cachés dans le texte pour suggérer sa provenance », a écrit Gruber sur son blog.

En tant que produits, les outils d’IA sont certes incités par le marché à fournir des réponses de la plus haute qualité.

Mais la provenance, bien qu’il s’agisse d’une science profondément imparfaite, revêt une importance cruciale pour une bonne raison. Au-delà des débats sur le droit d’auteur, la confiance mondiale dans l’information a atteint un nouveau creux cette année alors que de plus en plus de lecteurs se tournent vers les chatbots pour s'informer.

La désinformation influence les élections, et les interactions humaines avec les chatbots, en particulier chez les enfants, minent la capacité à déterminer d’où proviennent les informations et à savoir si elles sont fiables ou non.

Les filigranes d'Anthropic sont encore imparfaits. Même si elles finiront par être lisibles par des détecteurs automatiques, nous ne disposons pas encore d’un outil accessible (comme le SynthID Detector de Google, sur lequel reposent les filigranes d’Anthropic) permettant au grand public de les lire, et les détecteurs basés sur l’IA sont eux-mêmes notoirement peu fiables.

On ne sait pas encore dans quelle mesure ces nouveaux filigranes seront utiles pour la chaîne de l’information, le respect de l’intégrité académique et les questions connexes. Mais la traçabilité est un domaine dans lequel il vaut la peine d’investir — et si cela affecte votre expérience d’un outil d’IA, cela pourrait être une bonne raison de réévaluer votre utilisation de celui-ci.

Cela dit, certains arguments concernant la controverse autour des filigranes d’Anthropic sont légitimes. Comme l’a écrit sur LinkedIn Sara Simeone, fondatrice de NoCodeLab.ai :

« Ces laboratoires ont récupéré notre contenu pendant des années pour s’enrichir, sans notre consentement. Puis ils ont mis au point l’un des modèles économiques les plus ingénieux qui soient : nous les payons pour des versions recyclées de ce que nous avons déjà produit. Désormais, nous ne nous contentons pas de payer. Nous devons également « leur attribuer notre propre propriété intellectuelle ». »

Il y a un certain parfum d’hypocrisie à apposer un filigrane sur le produit issu du piratage (puis de la destruction) de livres, surtout après avoir réglé un litige avec un groupe d’auteurs à ce sujet (OpenAI a fait disparaître son trésor équivalent de données sur les livres).

Cela ne tient même pas compte des tonnes et des tonnes de contenu numérique que les entreprises d’IA ont récupérées sur Internet, sans rémunérer les créateurs, pour alimenter leurs modèles toujours plus performants et avides de données.

Se pose ensuite la question de savoir où s'arrête le tatouage numérique, comme l'a souligné John McCarthy, rédacteur en chef de la rubrique Opinion chez The Drum :

« Je travaille même sur un outil qui m’aidera à trier et à répondre aux propositions. Faut-il y apposer un filigrane aussi ? Nous utilisons l’IA pour générer des légendes sur nos vidéos et transcrire nos interviews. Faut-il y apposer un filigrane ? Techniquement, nous enregistrons ces contenus sur des appareils électroniques. Est-ce de l’IA ? J’utilise un filtre IA léger lors de mes appels Zoom pour atténuer ma laideur. Vaut-il mieux y apposer un filigrane aussi ? »

Il a raison de souligner que tous les travaux liés à l’édition réalisés à l’aide d’un outil d’IA ne devraient pas nécessairement porter la mention « généré par l’IA ». Anthropic n'a pas encore précisé comment elle comptait aborder ces différences, et a admis dans son premier communiqué que les filigranes pourraient ou non s’appliquer aux modifications à petite échelle effectuées avec Claude.

Mais ces deux publications révèlent une réaction plus profonde à l’égard d’Anthropic, et des laboratoires d’IA en général : le fait de rendre l’économie dépendante d’outils qui automatisent votre travail, pour ensuite y apposer un traceur d’une manière susceptible de le mettre en péril, est perçu comme une trahison. Mais on ne peut pas se sentir trahi par une entreprise qui n’a jamais eu aucune obligation envers vous dès le départ.