ChatGPT montre à quel point l'intelligence artificielle peut se montrer impressionnante et bluffante. Notamment dans son "raisonnement" et dans l'élaboration de textes. Pour autant on le sait, cela peut représenter un danger, notamment dans le milieu universitaire et l'apparition de la triche. Et c'est évidemment sans parler de son usage dans la création de jeu vidéo et dans bien d'autres domaines encore. À tel point que de nombreuses écoles telles que Sciences Po ont décidé d'en interdire l'usage. Mais comment surveiller ? Dans ce contexte, une nouvelle arme vient de sortir : DetectGPT

DetectGPT vs ChatGPT

Voilà un nouvel outil qui pourrait bien s'avérer essentiel à beaucoup de monde, dont notamment les professeurs aux lycées ou dans les universités : DetectGPT. Comme son nom l'indique, le but est de pouvoir analyser un texte et de détecter l'utilisation de l'intelligence artificielle. Le tout est développé l'université de Stanford. Pour l'instant accessible uniquement via une démo, les performances sont assez extraordinaires et les résultats bluffants dans la détection de l'IA. Toutefois il n'est pour l'heure possible d'analyser que de petits morceaux de textes. La méthode s'améliorera avec le temps.

La fluidité et les connaissances factuelles des modèles de langage de grande taille (LLM) augmentent le besoin de systèmes correspondants pour détecter si un morceau de texte a été écrit par une machine. Par exemple, les étudiants peuvent utiliser des LLMs pour compléter des devoirs écrits, laissant les professeurss incapables d'évaluer avec précision l'apprentissage des étudiants.

[...] Cette approche, que nous appelons DetectGPT, ne nécessite pas l'entraînement d'un classificateur séparé, la collecte d'un ensemble de données de passages réels ou générés, ou le filigrane explicite du texte généré.

Ca semble compliqué à comprendre mais pour faire simple, DetectGPT a l'avantage de ne pas avoir besoin d'être entrainé comme une IA pour analyser correctement les textes.