OpenAI abandonne son outil de détection d'IA suite à un manque de précision

Dans un monde où l'intelligence artificielle (IA) se fait une place de plus en plus importante, la nécessité de pouvoir différencier le contenu généré par l'IA de celui créé par des humains est devenue une préoccupation majeure. C'est pourquoi, en janvier dernier, la puissance de l'IA OpenAI avait annoncé un outil prometteur : un détecteur capable de dire si un texte avait été généré par une IA. Cependant, cet outil a récemment été mis hors service, laissant les éducateurs et les chercheurs déconcertés.

Un outil prometteur arrêté prématurément

OpenAI a annoncé la semaine dernière avoir débranché son outil de détection d'IA, le AI Classifier, en raison de son faible taux d'exactitude. L'explication n'a pas été fournie dans une nouvelle annonce, mais ajoutée dans une note à l'article de blog qui avait annoncé l'outil pour la première fois. Le lien vers le classifier d'OpenAI n'est plus disponible.

"Nous travaillons à incorporer des retours d'information et nous recherchons actuellement des techniques de provenance plus efficaces pour le texte. Nous nous sommes engagés à développer et à déployer des mécanismes qui permettent aux utilisateurs de comprendre si un contenu audio ou visuel est généré par l'IA", a écrit OpenAI.

Le besoin de détecteurs d'IA

Avec la prolifération d'outils de plus en plus sophistiqués permettant l'utilisation de l'IA, la demande pour des détecteurs d'IA a explosé. Cela est particulièrement vrai dans le secteur de l'éducation, où depuis le lancement de ChatGPT en novembre, les éducateurs ont exprimé leur inquiétude quant à l'utilisation du chatbot par les étudiants pour rédiger des essais.

OpenAI avait annoncé le lancement de son AI Classifier en prétendant qu'il pouvait distinguer entre un texte écrit par un humain et un AI. Cependant, même à ce moment-là, OpenAI avait admis que le classificateur n'était pas entièrement fiable, ajoutant que les évaluations sur un "ensemble de défis" de textes en anglais avaient correctement identifié 26% du texte écrit par l'IA comme "probablement écrit par l'IA", tout en étiquetant incorrectement 9% du texte écrit par des humains comme étant écrit par l'IA.

"Nous reconnaissons que l'identification du texte écrit par l'IA a été un point de discussion important parmi les éducateurs, et il est tout aussi important de reconnaître les limites et les impacts des classificateurs de texte générés par l'IA dans la salle de classe", a déclaré OpenAI.

Qu'est-ce qui vient ensuite ?

La mise hors service du AI Classifier soulève la question de ce qui est à venir dans la détection de l'IA. Bien qu'OpenAI n'ait pas réussi à atteindre l'exactitude souhaitée avec cet outil, la société reste engagée à développer des techniques de provenance plus efficaces pour le texte. En attendant, le besoin de tels outils continue de croître. Seul l'avenir nous dira si d'autres sociétés d'IA seront en mesure de relever ce défi.