Les Outils de Détection IA Accusent Faussement les Étudiants Internationaux de Tricherie
L'utilisation croissante d'outils de détection basés sur l'intelligence artificielle (IA) pour repérer la triche académique suscite des préoccupations concernant leur fiabilité et leur partialité.
Biais envers les locuteurs non natifs
Une étude récente menée par Stanford a révélé que ces détecteurs étaient biaisés contre les locuteurs non natifs de l'anglais. Le professeur Taylor Hahn de l'Université Johns Hopkins a été parmi les premiers à signaler cette tendance lorsqu'un logiciel a faussement détecté qu'un de ses étudiants avait généré un devoir à l'aide de l'IA. Lorsque Hahn a interrogé l'étudiant, il est devenu évident que le logiciel s'était trompé.
“L'étudiant, immédiatement, sans préavis concernant l'IA, m'a montré des brouillons, des PDF avec des surlignages,” a déclaré Hahn.
Il est apparu que le logiciel avait tendance à faussement identifier l'écriture des étudiants internationaux comme étant générée par l'IA. Une explication possible à cela est que l'écriture des locuteurs non natifs tend souvent à être plus simple et prévisible, des caractéristiques que les détecteurs associent à l'IA.
Decrypt
Un problème systémique?
Weixin Liang, co-auteur de l'étude de Stanford, a déclaré:
"La conception de nombreux détecteurs GPT discrimine intrinsèquement les auteurs non natifs, en particulier ceux qui présentent une diversité linguistique et un choix de mots restreints."
La situation est particulièrement préoccupante pour les étudiants internationaux, car les accusations de tricherie peuvent avoir des conséquences graves, allant de la perte de bourses d'études à la menace d'expulsion et de révocation du visa.
Remise en question des détecteurs IA
La réaction face à ces découvertes a été variée. Certains, comme Turnitin, défendent la précision de leurs outils et insistent sur le fait qu'ils sont formés sur un large éventail d'écrivains. Cependant, d'autres institutions comme l'Université de Pittsburgh ont choisi de ne pas utiliser ces détecteurs en raison du risque de faux positifs.
Heewon Yang, une étudiante sud-coréenne à la New York University, a exprimé sa frustration face à ces outils:
"Si c'est l'IA qui détecte nos modèles linguistiques et décide automatiquement, je ne sais pas comment je peux l'empêcher."
Liang reste sceptique quant à la capacité des détecteurs à éviter les biais. Il souligne l'importance de la transparence et des évaluations tierces pour évaluer réellement la performance de ces outils.
Decrypt
Vers l'avenir
John Radziłowicz, directeur par intérim du soutien à l'enseignement à l'Université de Pittsburgh, a souligné qu'il est peut-être temps de changer de perspective. Plutôt que de se concentrer uniquement sur la prévention de la triche, il suggère d'examiner les avantages potentiels de l'IA pour l'éducation.
"Nous pensons que l'accent mis sur la triche et le plagiat est un peu exagéré," a déclaré Radziłowicz.
En fin de compte, la question demeure: les avantages de l'utilisation de la détection IA l'emportent-ils sur les risques? Seul le temps nous le dira.
