ChatGPT d'OpenAI prend le monde d'assaut ces jours-ci.
Les modèles de langage qui alimentent le service sont si bons qu'il peut être difficile de détecter si quelque chose (qu'il s'agisse d'un message sur les réseaux sociaux ou d'un article de blog) est créé avec ChatGPT ou par un humain.
On s'est également inquiété desi Google peut détecter ChatGPTet discussions autoursi le contenu de l'IA, en général, est contraire aux directives de Google(ce n'est pas...).
Mais le texte provenant de ChatGPT peut-il être détecté ?
La reponse courte est oui.
Pour tester cela, chacun des détecteurs suivants ci-dessous a donné la même invite et le même texte.
Le texte généré par l'IA était :
« Il existe plusieurs façons de détecter si un modèle de langage comme ChatGPT a généré un texte. Une approche consisterait à utiliser des techniques d'apprentissage automatique pour entraîner un modèle à reconnaître le style et les modèles d'écriture spécifiques du modèle de langage. Cela pourrait inclure l'analyse de la structure, de la grammaire et du vocabulaire utilisés dans le texte. Une autre approche consisterait à comparer le texte à un grand ensemble de données de sorties ChatGPT connues et à rechercher des similitudes. De plus, on pourrait incorporer des informations telles que la présence de jetons ou de modèles spécifiques dans le texte connus pour être générés par le modèle de langage.
Nous avons exploré quelques outils différents et comment ils fonctionnent ci-dessous;
MISE À JOUR;Nous avons construit notre propreAI Detector, qui peut à la fois vérifier l'IA générale et ChatGPT. Essayez-le, c'est gratuit !
10 outils de détection ChatGPT
De plus en plus d'outils apparaissent.
Nous avons rassemblé 10 exemples d'outils et les avons essayés.
Ils sont tous gratuits, vous pouvez donc les tester sur votre propre texte si vous le souhaitez ;
1. SEO.ai
Le détecteur d'IA développé par SEO.ai utilise une fusion sophistiquée de quatre modèles de détection de pointe, chacun spécifiquement formé pour évaluer le texte en fonction de la prédiction, de l'entropie, de la corrélation et de la perplexité.
Le détecteur a un taux de réussite élevé dans l'identification du contenu généré par les algorithmes GPT, y compris les articles longs produits avec ChatGPT, GPT-3.5 et GPT-4.
URL :https://seo.ai/detector
2. Fuites de copie
Copyleaks AIdetector peut détecter le contenu généré par certains robots de texte AI, y compris ChatGPT.
Le détecteur de Copyleaks n'a pas réussi le test en raison du résultat. Il indique que le texte qui donne a été écrit par un humain - ce n'est pas le cas !.
URL :https://copyleaks.com/features/ai-content-detector
3. GPTZéro
GPTZero a été créé par l'étudiant de 22 ans, Edward Tian. Il détermine la météo ou non d'un texte créé par une IA en utilisant deux facteurs : « Perplexité » et « rafale ». La perplexité mesure la complexité du texte ; si GPTZero est perplexe devant le texte, alors il a une grande complexité et il est plus susceptible d'être écrit par un humain.
Le détecteur de GTPZero n'a pas réussi le test. Il indique qu'il est susceptible d'être écrit par l'homme.
URL :https://etedward-gptzero-main-zqgfwb.streamlit.app
4. Détecteur de sortie GPT-2
Le détecteur de sortie GPT-2 évalue sur une échelle de 0 à 100 si le texte est écrit par une IA.
Le détecteur de GPT-2 Output Detector a réussi le test. Il indique que le texte était susceptible d'être généré par l'IA.
URL :https://openai-openai-detector.hf.space
5. PoèmeDeCitations
Cet outil de détection de contenu ChatGPT vous aide à identifier si le contenu a été écrit par un humain ou par ChatGPT. Cette version gratuite, basée sur leurs algorithmes, indique uniquement si le texte est écrit par un humain ou non.
Le détecteur PoemOfQuotes n'a pas réussi le test car il pense qu'il a été écrit par un humain.
URL :https://www.poemofquotes.com/tools/chatgpt-content-detector.php
6. Correcteur
Corrector est un outil en ligne rapide et gratuit avec un maximum de 300 mots par passage.
Le détecteur correcteur a réussi le test car il pense qu'il s'agit d'un texte généré par l'IA.
URL :https://corrector.app/ai-content-detector/
7. Contenu à grande échelle
Content at Scale AI Content Detection est un outil qui permet aux utilisateurs de vérifier l'authenticité de leur contenu écrit. Il fournit une note sur 100 pour indiquer la qualité humaine du contenu et la probabilité qu'il soit détecté comme artificiel par Google.
Le détecteur de contenu à l'échelle a réussi le test car il pense qu'il est plus susceptible d'être écrit par l'IA que par l'homme.
URL :https://contentatscale.ai/ai-content-detector/
8. Roberta OpenAI Detector - Huggingface
Roberta OpenAI Detector est un classificateur qui peut être utilisé pour détecter le texte généré par les modèles GPT-2. Cela peut donner des résultats inexacts dans le cas d'une entrée générée par ChatGPT.
Roberta OpenAI Detector a également réussi le test car il pense qu'il s'agit de texte généré par l'IA.
URL :https://huggingface.co/spaces/Jaydott14/jaydott14-openai-detector1
9. Détecteur ChatGPT - Huggingface
ChatGPT Detector peut détecter si un morceau de texte est généré par ChatGPT, en utilisant des fonctionnalités linguistiques ou en utilisant des classificateurs basés sur PLM.
Le détecteur ChatGPT a également réussi le test car il pense qu'il est écrit par l'IA.
URL :https://huggingface.co/spaces/Hello-SimpleAI/chatgpt-detector-single
10. GLTR
GLTR est l'abréviation de "Giant Language model Test Room". GLTR est formé pour prédire le mot suivant en fonction d'un contexte d'entrée.
Le détecteur de GLTR indique qu'il est plus susceptible d'être écrit par l'IA que par l'homme.
URL :http://gltr.io/dist/index.html
11. Écrivain
Writer AI Content Detector est un outil gratuit développé par Writer.com. L'outil est conçu pour aider les utilisateurs à détecter le contenu écrit par l'IA généré par un outil d'écriture d'IA, tel que GPT-3 ou GPT-2. L'outil Web fournit un score de détection indiquant la probabilité que le contenu ait été créé par une IA.
Le détecteur de Writer n'a pas réussi le test car il pense qu'il s'agit de contenu généré par l'homme.
URL :https://writer.com/ai-content-detector/
Nous avons abordé ce sujet un peu plus tôt concernantsi Google pouvait détecter du texte provenant de ChatGPT.
Qui aurait besoin d'un détecteur ChatGPT ?
Alors, qui serait intéressé à disséquer si un LLM ou une personne rédige un texte ?
Vous pourriez d'abord considérer les écoles comme l'un des endroits où elles aimeraient savoir si un élève a utilisé son propre ensemble de compétences pour répondre ou non.
Et oui, l'interdiction de ChatGPT et le retour des ordinateurs au papier et au stylo ont déjà commencé. (lien)
Mais il existe de nombreux types de groupes différents qui pourraient souhaiter pouvoir détecter le contenu créé par ChatGPT ;
Plusieurs groupes de personnes et d'organisations pourraient bénéficier de la capacité de détecter si un modèle de langage comme ChatGPT a généré un texte.
- Dans ledomaine de la sécurité de l'information, les organisations et les individus pourraient utiliser cette détection pour identifier et contrer les tentatives de tromperie ou d'usurpation d'identité à l'aide de texte généré par l'IA.
- Danscommunication en ligne, les plates-formes pourraient utiliser cette détection pour empêcher la propagation de fausses informations ou de spam générés par l'IA.
- dansjournalisme et médias, les vérificateurs de faits et les éditeurs pourraient utiliser cette détection pour identifier et étiqueter le contenu généré par l'IA et s'assurer que les lecteurs connaissent sa source.
- Danséducation,les écoles et les universités pourraient utiliser cette détection pour s'assurer que les étudiants utilisent leurs compétences et leurs connaissances pour terminer les devoirs et les examens, plutôt que de se fier au contenu généré par l'IA.
La propre réponse de ChatGPT sur la façon dont ChatGPT pourrait être détecté ;
J'ai donc demandé à ChatGPT quelles étaient les différentes façons dont un texte pouvait être repéré comme provenant de ChatGPT.
La réponse;
Il existe plusieurs façons de détecter si un modèle de langage comme ChatGPT a généré un texte.Une approche consisterait à utiliser des techniques d'apprentissage automatique pour entraîner un modèle à reconnaître le style et les modèles d'écriture spécifiques du modèle de langage. Cela pourrait inclure l'analyse de la structure, de la grammaire et du vocabulaire utilisés dans le texte.
Une autre approche consisterait à comparer le texte à un grand ensemble de données de sorties ChatGPT connues et à rechercher des similitudes.
De plus, on pourrait incorporer des informations telles que la présence de jetons ou de modèles spécifiques dans le texte connus pour être générés par le modèle de langage. (citation)
En d'autres termes, l'apprentissage automatique peut consister à examiner un texte pour voir s'il peut reconnaître un modèle ou à examiner une analyse statistique pour déterminer la probabilité d'utilisation de mots.
Nous avons plongé un peu plus dans notre article surDétection Google et ChatGPT.
Comment rendre le texte ChatGPT indétectable
À mesure que la technologie progresse, la capacité de détecter le contenu généré par l'IA augmente également.
Cependant, il est important de noter que les créatifs trouveront toujours des moyens de contourner les outils de détection.
Par exemple, le contenu généré par l'IA peut être modifié pour apparaître plus humain, ce qui le rend plus difficile à détecter.
Vous pouvez même demander à ChatGPT d'écrire plus humain ou de le rendre moins susceptible d'être détecté par un détecteur ChatGPT.
Prenons un exemple et voyons si c'est possible.
J'ai pris le texte surligné ci-dessus, où ChatGPT répond comment il pourrait être détecté.
Cela correspond à 96 % de "faux" dans l'un des détecteurs, et donc clairement pas d'origine humaine.
Et j'ai invité ChatGPT et essayé;
- Réécrivez le texte suivant afin qu'il soit plus difficile à détecter comme provenant de ChatGPT par un détecteur ChatGPT
- Réécris le texte suivant. Écrivez comme un humain, plus de langue parlée, plus de sauts de ligne
- Paraphrasez ce qui suit, utilisez des mots aléatoires et des mots rares. Ecrire plus comme un humain
Et bien qu'une partie du texte soit maintenant devenue plus créative, le détecteur pouvait toujours l'identifier comme généré par l'IA.
J'ai donc fait un dernier essai avec la commande "Réécrivez la suite comme le ferait un humain de 24 ans ;"
Il a renvoyé ce qui suit;
Donc, une idée est d'utiliser des trucs informatiques sophistiqués pour apprendre à un ordinateur à comprendre comment le modèle de langage écrit, comme la façon dont il utilise les mots et la grammaire. Une autre façon consiste à vérifier le texte par rapport à un tas de choses que ChatGPT a déjà écrites et à voir si cela correspond. Et, nous pourrions également rechercher certains mots ou modèles que seul ChatGPT utilise.
Et maintenant, le score revient à indiquer que c'est fait par un humain (61%)
Il est donc clair que même ChatGPT peut produire du texte plus difficile à repérer. Mais cela semble difficile à reproduire et à rendre constant.
Mais lorsque le contenu généré par l'IA est combiné avec du contenu écrit par l'homme, il devient plus difficile à détecter.
Et c'est ce que nous vous recommandons de faire la plupart du temps.
Pas pour éviter la détection, mais pour s'assurer que le contenu sera de haute qualité avec une contribution et une direction humaines.
Néanmoins, les organisations et les individus doivent rester vigilants et continuer à développer de nouvelles méthodes de détection améliorées pour identifier le contenu généré par l'IA.
Google est-il intéressé à détecter si ChatGPT écrit un texte ?
Google est toujours à la recherche de moyens de présenter les meilleurs résultats de recherche à ses utilisateurs.
Pour ce faire, ils s'efforcent d'empêcher le contenu de spam d'apparaître dans les résultats de recherche. Contenu dupliqué, plagiat etplus tôt aussi, ce qu'ils appelaient du contenu généré automatiquement.
En effet, le contenu généré automatiquement plus tôt pourrait être perçu comme de mauvaise qualité et est parfois utilisé pour manipuler les classem*nts de recherche plutôt que d'aider les utilisateurs.
Google a essayé de détecter et de supprimer ce type de contenu des pages de résultats des moteurs de recherche (SERP) afin de maintenir l'intégrité de ses résultats de recherche.
Ils veulent se concentrer sur un contenu de haute qualité généré par l'homme pour offrir une meilleure expérience aux utilisateurs et maintenir la crédibilité du moteur de recherche.
Dansleurs lignes directrices, ils le décrivent ainsi ;
Le contenu spammé généré automatiquement (ou "généré automatiquement") est un contenu qui a été généré par programme sans produire quoi que ce soit d'original ou ajouter suffisamment de valeur ; au lieu de cela, il a été généré dans le but principal de manipuler les classem*nts de recherche et non d'aider les utilisateurs.
Cependant, avec l'essor des nouvelles technologies d'IA, il devient de plus en plus difficile de faire la différence entre le contenu généré par l'homme et l'IA.
C'est pourquoi la question de savoir si Google veut faire la différence entre les deux devient moins claire.
Mais Google a clairement déclaré qu'il n'était pas contre le contenu de l'IA, tant qu'il est utile pour les utilisateurs. Ils l'ont fait aussi récemment que12 janvier 2023 sur Twitter.
En savoir plus sur les raisons pour lesquelles lel'idée fausse que Google est contre le contenu de l'IA est toujours florissante.
