Moins de six mois après avoir dévoilé un outil de détection d'IA potentiellement utile aux enseignants et autres professionnels pour identifier les travaux générés par une IA, OpenAI, le créateur de ChatGPT, a finalement retiré cette fonctionnalité. La fermeture de l'outil a été discrètement annoncée la semaine dernière, et la raison invoquée par l'entreprise est un "faible taux de précision", comme indiqué dans une mise à jour de l'article de blog original publié par OpenAI lors de l'annonce de cette fonctionnalité.
Dans cette mise à jour, l'entreprise a précisé : "Nous travaillons à intégrer les commentaires et nous recherchons actuellement des techniques de provenance plus efficaces pour le texte."
Dès le début, OpenAI avait mis en garde contre le risque que certains textes soient incorrectement attribués à l'IA. Selon The Register, le classificateur a éprouvé des difficultés principalement avec les textes de prose qui n'avaient pas été inclus dans l'ensemble de données d'entraînement. Même lorsque des textes générés par l'IA avaient été reformulés par des humains, le classificateur a commis des erreurs à plusieurs reprises.
Cette situation a suscité des préoccupations parmi les éducateurs, notamment l'inquiétude que l'outil facilite la triche pour les étudiants. Certaines écoles publiques de New York et de Seattle ont même interdit l'utilisation de ChatGPT par les étudiants et les enseignants sur leurs réseaux et appareils. En réponse à ChatGPT, certains éducateurs ont réagi rapidement en repensant leurs devoirs, mais il reste encore flou dans quelle mesure l'outil était largement utilisé par les étudiants et quel impact réel il pouvait avoir sur l'apprentissage.