Tech- DetectGPT : tout savoir sur le traqueur de ChatGPT développé par l’université de Stanford

Beaucoup n’apprécient pas vraiment ChatGPT, notamment dans le domaine académique où l’on demande aux étudiants de ne pas l’utiliser. Mais l’université de Stanford pousse le vice encore plus loin.

Alors que la popularité de l’outil développé par OpenAI enfle de manière presque alarmante, l’université a développé DetectGPT, dont le but est pour ainsi dire de traquer en vue de les éliminer les papiers générés par le chatbot.

La chasse à ChatGPT est ouverte

Nous l’avons vu dernièrement, ChatGPT a la cote auprès des étudiants. L’IA s’est même montrée capable de réussir un examen d’entrée à la fac de droit américaine. À tel point que de nombreuses écoles comme Sciences Po ont décidé d’en bloquer l’utilisation par leurs élèves.

Et pour les établissements qui tolèrent encore l’outil d’OpenAI, l’université de Stanford a développé la première arme visant à combattre ses papiers, en tout cas pour l’instant dans les plus hautes sphères de l’éducation. Baptisé DetectGPT, celui-ci a pour objectif de juger si un texte a été généré de manière assistée par une machine ou une IA.

L’avantage de DetectGPT se trouve dans le fait qu’il n’a pas besoin d’être entraîné en analysant des textes et d’accumuler des connaissances autour des textes générés par l’IA ou des données pour accomplir son travail.

DetectGPT utilise Détection de fake news contre ChatGPT, c’est super efficace !

Pour tester son outil directement sur le terrain, l’université de Stanford a donc passé au crible diverses fake news avec DetectGPT. En la matière, CNET, qui a commencé à mettre en avant des articles rédigés par l’IA (en grande partie erronés), a été un terrain d’entraînement particulièrement propice à cet exercice.

Les résultats sont sans appel, et DetectGPT se montre nettement plus performant par rapport aux méthodes de détection d’articles écrits par une IA déjà existantes. Il s’agit en tout cas d’une première pierre à l’édifice visant à calmer les ardeurs d’un outil qui en inquiète plus d’un.

Rappelons en effet que, dans le cadre d’une expérience, un comité de scientifiques s’est fait berner par des études rédigées majoritairement par ChatGPT. Avec des outils tels que DetectGPT, la crainte de la prolifération de papiers universitaires ou autres écrits par l’IA s’estompe donc légèrement.

Source: clubic