Washington, le 11 août /QNA/ La société Anthropic a annoncé le lancement d’un outil permettant de détecter les récits générés par Intelligence Artificielle (IA), précisant que ses nouveaux modèles Claude intégreront directement dans les textes produits une marque invisible, constituant l’outil en question.
L’entreprise a expliqué que cette marque ne modifie ni le sens ni la lisibilité du texte, mais qu’elle demeure présente lors de la copie ou du collage. Il s’agit d’un motif ou d’un texte discret intégré dans les images ou documents numériques afin d’aider à prouver la propriété et à prévenir la reproduction ou le vol des œuvres. Cette initiative s’inscrit dans les engagements d’Anthropic visant à renforcer la transparence conformément à la législation européenne sur l’IA.
Les modèles Claude lancés ce mois‑ci ou ultérieurement prendront en charge cette fonctionnalité dès leur mise en service. Anthropic a indiqué qu’elle travaille à l’ajout de cette propriété aux modèles plus anciens. Les marques seront appliquées à tout contenu généré par Claude dans le monde entier, y compris via les fournisseurs de services cloud, et l’entreprise prévoit de fournir à des tiers des outils pour détecter ces marques.
La mise en place de filigranes sur les contenus générés par IA constitue une étape importante et un tournant pour l’industrie de l’édition, confrontée aux difficultés liées à la prolifération de textes produits par Intelligence Artificielle. Le mois dernier, un agent littéraire a retiré son soutien au roman policier "Call Me", "I’ll Hide the Body" après des soupçons d’utilisation d’IA par l’auteur. Quatorze maisons d’édition ont soumis des offres pour les Droits de publication, et un accord a été conclu avant que l’agent ne se rétracte. L’auteur, Jerry Valade, a nié avoir utilisé l’IA pour écrire son livre.
Plus tôt cette année, la maison Hachette a retiré le roman d’horreur "Shy Girl" de l’auteure Mia Ballard après des accusations similaires. L’auteur a nié avoir eu recours à l’IA, affirmant qu’un éditeur indépendant a inséré du contenu généré par IA sans son accord explicite.
Le nouveau filigrane de Claude pourrait offrir aux éditeurs, aux écoles et aux universités un outil supplémentaire pour enquêter sur de tels cas, rendant plus difficile la présentation de textes générés par IA comme des œuvres originales.
Anthropic a toutefois précisé qu’une révision intensive, une reformulation, une traduction ou un mélange des productions de Claude avec d’autres écrits peut rendre le filigrane indétectable. Ce dernier ne constitue donc pas une preuve absolue que Claude est l’auteur initial d’un texte, d’autant que la correction ou la traduction par une autre IA laisse également une marque.