Récemment, une partie de la population a commencé à douter de tout. Pourquoi ? Parce qu’il devient compliqué de savoir si un contenu a été créé ou non par l’IA. Générateurs d’images, de vidéos, de deepfakes, de textes… L’intelligence artificielle bouleverse la création et l’utilisation d’internet.
Dans la communauté littéraire, ChatGPT a eu beaucoup de succès, atteignant plus d’un million d’utilisateurs en seulement une semaine de lancement. Une fois l’excitation initiale retombée, de nombreuses personnes se sont retrouvées à se demander comment faire pour savoir si un texte a été rédigé ou non par ChatGPT.
Et bien oui, c’est possible. Vous pouvez utiliser plusieurs outils pour générer une preuve mesurable que le texte que vous visualisez a été créé par ChatGPT. Dans les prochaines minutes, nous verrons en détail comment fonctionne la détection de l’IA et nous vous présenterons 3 manières d’analyser un texte pour savoir s’ il a été écrit par ChatGPT.
Qu’est ce que ChatGPT ?
OpenAI, le groupe à l’origine de DALL-E 2, a développé ChatGPT, un puissant modèle de langage. Vous en avez peut-être entendu parler sur TikTok, Twitter ou, plus récemment, lorsque l’outil a été banni des écoles publiques de la ville de New York.
L’objectif de l’outil était d’associer l’IA à la communication conversationnelle (ce qu’il maîtrise parfaitement). Vous pouvez lui poser n’importe quelle question (en évitant toutefois tout ce qui est illégal) et il vous fournira une réponse adaptée. Quelques exemples de questions :
- Comment savoir ce que je veux faire comme métier ?
- Quels sont les plus grands défauts de l’homme et comment faire pour y remédier ?
- Quelle a été la vie de Napoléon Premier (sous forme d’histoire) ?
- Si tu pouvais parler avec Dieu, quelle question lui poserais-tu en premier ?
Vous pouvez aller un peu plus loin:
Comment fonctionnent les outils d'intelligence artificielle ?
Les outils d’intelligence artificielle fonctionnent tous à partir d’une tonne de données. Imaginez que vous lisiez des milliards d’articles pour apprendre à un système à repérer des schémas dans un texte (comme savoir quel mot vient après un autre, la syntaxe, etc.)
L’IA revient à disposer d’un cerveau informatique capable de réfléchir et d’apprendre. Ainsi vos options ne sont plus limitées. Supposons que vous souhaitiez apprendre à votre robot Joe à jouer à un jeu comme les dames. Vous lui montrerez d’abord comment déplacer les pièces sur le plateau avant de lui permettre de jouer contre d’autres programmes informatiques ou de vraies personnes. Comme on apprend de nouvelles choses en s’exerçant, Joe commence à comprendre de mieux en mieux comment jouer aux dames au fur et à mesure des parties qu’il joue.
Joe est « intelligent » en partie grâce à ce que l’on appelle un algorithme. Il s’agit d’un ensemble de directives qui indiquent à Joe comment aborder le jeu et faire des choix. Par exemple, le programme peut demander à Joe de rechercher des motifs spécifiques sur le plateau. Joe s’améliore en respectant ces règles et en prenant des décisions intelligentes au fur et à mesure qu’il joue des parties.
Le terme « Machine Learning » fait référence à l’un des nombreux types d’algorithmes utilisés par l’intelligence artificielle. Les algorithmes de Machine Learning sont bluffants. C’est ce qui permet à Joe, notre ami joueur de dames, de progresser tout seul sans avoir besoin d’instructions régulières. Pour aider Joe à apprendre, les algorithmes utilisent ce que l’on appelle des « données d’entraînement ». Les données d’entraînement constituent une vaste bibliothèque d’illustrations qui montrent à Joe à quoi ressemblent les coups de dames efficaces. La compréhension de Robby sur la façon de jouer aux dames s’améliore avec la quantité de données d’entraînement dont il dispose.
Comment fonctionne un détecteur de contenu ChatGPT ?
Des enseignants, des professionnels des ressources humaines et même des étudiants ont tenté de déterminer si ChatGPT était à l’origine de paragraphes de texte aléatoires. Le problème est que pour le moment ChatGPT n’ajoute pas de filigrane au contenu qu’il crée.
Mais comment vérifier l’authenticité d’un contenu une fois qu’il a été généré (par exemple, une rédaction de 1500 mots sur l’histoire de l’industrie du textile) ? Les outils de prévision IA examinent la probabilité que chaque mot apparaisse en fonction des mots qui précèdent le mot à deviner.
L’IA se contente de reconnaître et de reproduire des modèles préexistants de manière incroyablement efficace ; elle n’est pas vraiment intelligente, elle prédit.
Essayez de saisir “Salut, j’espère que tu vas bien. Je voulais savoir si _ » sur votre téléphone. L’outil prédit le mot suivant que vous allez saisir en se basant sur le texte situé à gauche (dans ce cas, les mots « Salut, j’espère que tu vas bien. Je voulais savoir si »).
L’IA s’appuiera sur toutes ses données d’entraînement pour découvrir des tendances dans l’utilisation des mots dans diverses situations. Par exemple, elle peut savoir que le mot « tu » suit fréquemment le terme « si ». La probabilité que chaque mot devienne le mot anticipé suivant est alors déterminée par l’algorithme à l’aide du contexte situé à gauche.
Dans le cas présent, le mot « tu » est celui qui aurait été le plus susceptible de venir à l’esprit compte tenu du contexte. Si vous procédez de la sorte à plusieurs reprises au cours d’un paragraphe, vous constaterez que les mots changent dans la mesure où les mots suivants sont prévisibles.
Étant donné que les personnes font naturellement preuve de beaucoup plus d’inventivité et de spontanéité dans leur style d’écriture que les robots, plus le contenu est prévisible, plus il est probable qu’il ait été écrit par un robot.
Comment détecter un texte rédigé par ChatGPT ?
- Utiliser Originality AI
Originality AI est conçu pour être utilisé à grande échelle, comme nous l’avons vu précédemment. Collez votre contenu et Originality se chargera de l’analyse. Par la suite vous verrez un pourcentage indiquant si votre texte a été plus ou moins écrit par l’IA. En réalité, il est impossible de prouver à 100% qu’un texte a été rédigé par l’IA. N’oubliez donc pas de procéder à des tests supplémentaires plutôt que de vous fier aveuglément à une IA. Plus vous analyserez de textes, plus l’outil sera précis pour déterminer les origines d’un contenu.
Cliquez ici pour vous inscrire sur Originality Ai et obtenez 25 crédits offerts (détection sur 2000 mots environ).
- Utiliser Content at Scale
Le détecteur IA de Content at Scale est un outil qui permet de détecter l’écriture ChatGPT. Dans le champ de saisie, collez le texte que vous souhaitez analyser, puis cliquez sur « Check for AI Content ». Selon le degré de prévisibilité et de complexité du texte, vous obtiendrez des résultats. Nous demandons à ChatGPT un paragraphe à titre d’exemple, que nous insérerons ensuite immédiatement dans l’outil :
Comme vous pouvez le voir, ce contenu a probablement été créé par ChatGPT. L’écriture était probable, les modèles étaient nombreux et le contenu a été facilement prédit. De plus, chaque ligne dont Content at Scale pense qu’elle a été écrite par ChatGPT est mise en évidence (texte orange à droite). Dans ce cas, il s’agissait de la totalité du contenu !
Pensez à Originality si vous voulez vérifier le contenu à la fois pour l’IA et le plagiat. Originality est bien mieux adapté à la détection d’IA pour de gros volumes de textes, tandis que Content At Scale est conçu pour évaluer des contenus courts (et il le fait très bien).
- Utiliser GLTR (moins efficace)
Bien qu’il ne soit pas formé sur les modèles linguistiques les plus récents (il ne sera donc pas aussi précis), vous pouvez également passer votre texte sur GLTR. C’est un outil gratuit qui propose un diagramme « heatmap » illustrant la prévisibilité. Voici quelques informations sur l’IA comparées à un document universitaire faisant autorité. Plus un terme est prévisible, plus il est foncé :
Y a-t-il un filigrane sur les contenus ChatGPT ?
Pas encore, mais il y a des rumeurs selon lesquelles OpenAI prévoit d’ajouter quelque chose sous peu. Un code secret, appelé jeton, exclusif au modèle GPT-3, serait inséré n’importe où dans le texte généré pour ajouter un filigrane. Le jeton pourrait être un mot, un signe de ponctuation ou même une partie d’un mot, et il fonctionnerait comme un élément constitutif du texte. En incluant ces jetons dans le texte, le résultat pourrait être utilisé pour déterminer si quelque chose a été créé par le modèle GPT-3 tout en restant cohérent et grammaticalement correct. Cette méthode est comparable à l’ajout d’un filigrane à une image numérique ; il est invisible à l’œil nu mais peut être utilisé pour déterminer l’origine de l’image.
Pour ce faire, le texte est examiné pour détecter la présence de jetons spéciaux. Si des jetons sont détectés alors GPT-3 a très probablement généré le texte. On ne sait pas encore si cet outil aura une interface publique. Les enseignants et les administrateurs académiques qui ont besoin d’évaluer le contenu pour s’assurer de son authenticité pourraient y avoir un accès exclusif.
À quoi s'attendre pour la suite ?
Nous ne le savons pas vraiment. ChatGPT est encore limité à bien des égards, pourtant il a un impact sur les capacités techniques de notre société. Pas de panique! Il ne va pas détruire l’école ou le monde du travail, mais provoquera inévitablement des perturbations.
N’oubliez jamais de considérer tout résultat avec du recul, car aucun outil ne peut affirmer avec certitude qu’un texte a été écrit par l’IA ou non. Faites preuve de discernement. Cet article a uniquement pour but de vous présenter des méthodes, à vous d’élaborer et de trouver la vôtre.
