OpenAI met fin à son outil de détection d’IA : La difficulté de distinguer l’œuvre d’un humain de celle d’une IA
Le monde de l’intelligence artificielle est en perpétuelle évolution, et OpenAI en est un acteur majeur avec son chatbot, ChatGPT. Ce dernier, qui se voit attribuer de nouvelles fonctionnalités, a toutefois suscité des interrogations quant à sa capacité à distinguer les textes générés par une IA de ceux rédigés par un humain.
OpenAI avait lancé un “classificateur d’IA” il y a six mois, se vantant de sa capacité à différencier les textes provenant de divers fournisseurs d’IA de ceux écrits par des humains. Cependant, la société a récemment annoncé la fermeture de cet outil, soulignant qu’il n’était pas aussi performant qu’escompté.
1⃣ 📉 OpenAI a discrètement débranché son outil de détection d’IA, AI Classifier, en raison de son faible taux de précision. Lancé en janvier, l’outil était censé distinguer les textes écrits par un humain de ceux générés par une IA.https://t.co/P6MZG7Ub3u
— Alain GOUDEY (@AlainGoudey) July 27, 2023
La difficulté de la détection
Distinguer un texte généré par une IA de celui rédigé par un humain est un défi complexe. Même les experts d’OpenAI se sont retrouvés confrontés à cette problématique. Bien que l’outil n’ait pas réussi à remplir sa mission, la société suggère qu’il pourrait être utilisé différemment. Plutôt que de déterminer si un texte est le fruit de l’IA, il pourrait être employé pour prouver qu’un texte n’a pas été rédigé par un être humain.
Un usage potentiel
Malgré ses limitations, l’outil de détection pourrait trouver des applications intéressantes. Il pourrait être utilisé pour contrer les campagnes de désinformation automatisées, lutter contre la malhonnêteté académique ou encore pour vérifier si un chatbot est bien un humain ou une IA. OpenAI souligne ainsi que des “classificateurs efficaces peuvent atténuer les fausses affirmations selon lesquelles un texte généré par l’IA serait l’œuvre d’un humain.”
La quête d’une détection fiable : La tâche de distinguer l’œuvre d’un humain de celle d’une IA demeure un défi pour l’ensemble de l’industrie. Même OpenAI n’a jamais prétendu que son outil serait infaillible. Cette difficulté soulève des inquiétudes, car l’IA est déjà capable de produire des créations artistiques primées sans que l’on puisse les différencier d’œuvres humaines.
A ce jour, aucun outil de détection d’IA totalement fiable n’a été développé. Le chemin vers une telle précision reste à parcourir, et les chercheurs continuent d’explorer de nouvelles approches pour répondre à ce défi grandissant. En attendant, l’évolution de l’IA continue de fasciner le monde, mais soulève également des questions éthiques et pratiques.
Entrepreneur sur le web, Aujourd’hui, Internet représente un volet majeur pour les universités, les petites et les grosses entreprises. Notre but est de vous tenir au courant de toutes les informations sur le monde étudiant, startup, entreprise.
